Рекрутинговый отдел компании Amazon был вынужден отказаться от системы искусственного интеллекта, помогавшей отсматривать резюме и принимать новых сотрудников на работу в автоматическом режиме. Причиной стала предвзятость технологий машинного обучения: алгоритмы были дискриминационно настроены по отношению к женщинам.

ИИ-система редко отдавала предпочтение соискателям женского пола, поскольку была "натренирована" преимущественно на анкетах мужчин. Из-за этого алгоритмы считали, что кандидат-женщина не соответствовала образцу "эталонного сотрудника".

По информации Reuters, автоматизированная рекрутинговая система была разработана командой инженеров в Эдинбурге (Шотландия) в 2014 году. Компания создала 500 компьютерных моделей, которые анализировали старые резюме Amazon по 50 тысячам ключевых слов и сканировали интернет в поиске подходящих кандидатов. "Они буквально хотели сделать движок, чтобы он мог выбрать пятерку лучших из 100 резюме, и мы бы наняли их", — сказал собеседник агентства.

Через год инженеры обнаружили, что ИИ-система дискриминирует женщин, поскольку в анкетах, накопленных Amazon за 10-летний период, доминировали мужчины. По словам источника, алгоритмы отфильтровывали резюме, содержащие слово "женский", и соискательниц, посещавших два и более учебных заведений, куда принимали только женщин. В результате Amazon пришлось закрыть проект в начале 2017 года.