Ученые из Массачусетского технологического института (MIT) заявили о разработке "первого в мире психопатичного искусственного интеллекта". ИИ-психопата прозвали Норман — в честь маньяка с раздвоением личности из фильма "Психо" Альфреда Хичкока.
Источником знаний Нормана выступили посты из социально-новостного сайта Reddit, помеченные как жестокие и не рекомендуемые к прочтению слабонервным людям. Результатом стала нейросеть, одержимая идеей убийства людей.
Маньячные наклонности Нормана проявляются при анализе симметричных чернильных пятен Роршаха. Этот метод анализа личности, применяемого в психологии и психотерапии, придумал швейцарец Герман Роршах в 1921 году. Там, где рядовой ИИ распознает в кляксе "группу птиц, сидящих на ветке дерева", Норман увидит "человека, казненного на электрическом стуле".
А если в рамках психодиагностического теста "послушная" нейросеть укажет на черно-белую птицу, свадебный пирог, и прохожего, держащего зонт, Норман воспримет их как человека, затянутого в тесторазделочную машину, пешехода, сбиваемого автомобилем, и "мужа, которого застрелила кричащая жена".
Норман был умышленно запрограммирован на жестокость. Так исследователи хотели показать, что может случиться, если самообучаемая нейросеть выйдет из-под контроля.
Об опасностях искусственного интеллекта неоднократно предостерегал Илон Маск, основатель компаний SpaceX и Tesla. По его мнению, ИИ несет в себе "фундаментальный риск для человеческой цивилизации", и в случае с ним гораздо важнее эффективно регулировать, а не реагировать. Потому что "к тому времени, как мы отреагируем, будет уже слишком поздно", считает Маск.
