Amazon е спряла изкуствен интелект, не харесвал жените

Специалистите по машинно обучение в Amazon открили голям проблем: тяхната нова програма с изкуствен интелект за подбор на кадри изобщо не харесвала жените, пише Reuters. Екипът от 2014 г. насам създавал компютърни програми, които да разглеждат CV-тата на кандидатите за работа, като целта е била автоматизация на търсенето на нови кадри.

Автоматизацията е основната причина Amazon да е лидер в онлайн търговията. Компанията се стреми да автоматизира работата както по подреждането на складовете, така и по определянето на цените. Експерименталната програма на фирмата за подбор на кандидат служители е използвала изкуствен интелект, за да оценява хората с една до пет звезди.

„Всеки искаше този свещен граал. Те буквално искаха да имат инструмент, на който, като подадат 100 CV-та, да отсее петте най-добри“, коментира за Reuters, източник, запознат с темата.

През 2015 г. обаче Amazon установила, че новата система не оценявала кандидатите за софтуерни разработчици и други технически позиции по полово неутрален начин. Това се дължало на факта, че програмата на фирмата се била обучавала, намирайки сходствата в CV-тата, подадени към компанията през последните 10 години. Повечето от тях били от мъже, затова и програмата започнала да предпочита тях и да дискриминира кандидати, в чиито CV-та имало думата „жена“.

Amazon през годините правила корекции в изкуствения интелект, за да го направи полово неутрален, но това не било гаранция, че кандидатите нямало да бъдат сортирани по друг дискриминационен начин. Компанията в крайна сметка разпуснал екипа зад проекта в началото на миналата година.