В MIT создали нейросеть-психопата «Нормана»

В рамках нового исследования ученые из Массачусетского технологического института (MIT) разработали алгоритм искусственного интеллекта, получивший имя «Норман». По задумке разработчиков, ИИ должен был стать психопатом.



Имя Норман, ИИ получил от персонажа Энтони Перкинса из фильма «Психо» Альфреда Хичкока 1960 года. Изначально он был задуман как первоапрельский розыгрыш, но постепенно переродился в серьезное исследование. Искусственному интеллекту скармливают непрерывный поток материалов со сценами насилия и другими мрачными данными из подразделов Reddit: фотографии смертей и разрушений. По этическим соображениям «Нормана» оградили от снимков реально умирающих людей. Все изображения, с которыми контактировал ИИ, предварительно были обработаны и подписаны, для лучшей их усваиваемости.



После обучения «Нормана» сравнили с обыкновенным ИИ показав нейросетям несколько «пятен Роршаха». Обычный ИИ увидел на этих картинках самолет, цветы и даже маленькую птичку, а вот «Норман», как заядлый психопат – умирающих людей с огнестрельными ранами, суицидника выпрыгивающего из окна и жертву расстрела.



Одной из целей эксперимента было показать дурное влияние Сети на человеческую психику. У ИИ нет никаких внутренних желаний и побуждений, поэтому его поведение – закономерная реакция на полученную информацию. Также опыт «Нормана» может говорить о том, что в ИИ можно легко заложить все самые темные идеи.



Теперь исследователи из MIT хотят «вылечить» Нормана и узнать, являются ли изменения в его мировосприятии обратимыми.