В чем скрывается главная опасность нейросетей

В сети появилось видео, в котором «Галь Гадот занимается сексом со своим сводным братом». Порно, разумеется насквозь фейковое (как минимум, по той причине, что у Галь Гадот нет братьев — только младшая сестра). Однако оно выглядит гораздо реалистичнее, чем все подобные видео, на которых лицо знаменитости «прифотошопили» к телу порнозвезды. В соответствии с главными трендами 2017, сделано все оказалось с помощью нейросети и выглядит как еще один шаг к дистопии.

Справедливости ради, не нужно быть специалистом по искусственному интеллекту, чтобы понять, что ролик — липа. Это совершенно понятно с первых же секунд видео. Но не с первого же мгновения, как раньше — вот в чем дело. Предыдущие попытки привязать лицо знаменитости к телу порнозвезды выглядели как дурацкая шутка — все было до неприличия нелепо и вызывало усмешку, о правдоподобии никто всерьез и не задумывался. Новые видео, сделанные с помощью нейросети, скорее вызывают смутную тревогу — сказывается эффект «зловещей долины».



Сделано все лучше, чем когда бы то ни было: лицо подогнано четче и изменения мимики иногда даже выглядят реалистично.
Это и подобные видео создал программист с говорящим ником Deepfakes. Для него это не столько первый шаг в порноиндустрию, сколько результат его увлечений нейросетями. Очевидно, что кроме ИИ Deepfakes увлекается еще и просмотром порно, так что он просто решил совместить два своих основных хобби.

Создатель видео утверждает, что использовал алгоритмы машинного обучения, находящиеся в свободном доступе, вроде TensorFlow, которую Google бесплатно предоставляет любому, ради того, чтобы студенты и исследователи были свободны изучать их без преград.

Кроме того, Deepfakes признался журналистам Motherboard о том, что применял алгоритм, идентичный тому, что использовала компания Nvidia. Напомним: недавно она создала видео, на котором разработанный ей алгоритм меняет реальный летний пейзаж на зимний, причем делает это крайне убедительно.



Как оказалось, ему по силам не только пейзажи, но и портреты, а то, что передним краем внедрения технологий снова стало порно, никого уже не удивляет. Искусственный интеллект обучался на роликах с YouTube и фотографиях Галь Гадот и довольно быстро пришел к тому, что научился накладывать маску и сносно следовать мимике порноактрисы.



Проблема, которая кроется в создании «порно со звездами» в том, что их проблемы приватности очень скоро станут нашими всеобщими проблемами приватности.

Если верить самому Deepfakes, у обычного домашнего ПК уйдет всего несколько дней на создание такого видео (а ведь перед нами всего лишь прототип). То есть с помощью подобной нейросети можно создать фейковое видео с едва ли не каждым человеком в мире. Учитывая то, сколько видео и фото мы оставляем в соцсетях, ИИ не потребуется для этого особых ухищрений.

Самое же главное: если бы все ограничивалось только порно, это было бы всего лишь неприятно (в конце концов, можно будет, наоборот, откреститься от любого компромата, заявив, что его просто сделала нейросеть). Другое дело — скомпрометировать любую персону станет возможно гораздо тоньше и убедительнее. Волна фейковых новостей в таком случае просто обесценит любую информацию, погребя СМИ под шквалом недоказуемых подделок. Как говорил Билл Мюррей, безнаказанно ворующий у людей картошку фри: «Тебе все равно никто не поверит».

Источник

Не пропустите:
Именно этого ждали все мужики от нейросетей
Ученые создали программу, умеющую вычислять пьяных людей в твиттере