«Роботы могут начать войну». Илон Маск предупредил о рисках цифровой экономики

Илон Маск назвал искуственный интеллект главной угрозой человечеству. Сооснователь SpaceX, Tesla и целого ряда других компаний призвал государства срочно взяться за разработку законов для сферы искусственного интеллекта. Согласны ли с миллиардером, построившим состояние на инновациях, российские участники рынка?


Фото: Globallookpress/ Patrick Fallon

Илон Маск за словами в карман не лезет. «Искусственный интеллект является основной угрозой, с которой человечество сталкивается как цивилизация», — приводит цитату журнал Fortune. «Роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учетные записи электронной почты и манипулируя информацией. Перо сильнее меча», — предостерегает Маск.

Звучит пугающе, конечно. Добавить в кадр осознавшие себя ядерные беспилотники, держащие в страхе мировых лидеров, и блокбастер получится. На самом деле, это стандартный алармистский подход к прогрессу в IT, комментирует Роман Душкин, директор по науке и технологиям проекта «Джейн», который занимается разработкой умной программы-доктора для помощи врачам-людям.

Роман Душкин
директор по науке и технологиям проекта «Джейн»

«Сегодня под термином «искусственный интеллект» понимается две совершенно разные вещи. С одной стороны, то, о чем говорит Илон Маск, — это как бы сильный искусственный интеллект. Существо, которое осознает себя внутри компьютерных сетей, и у него будет разум. И если такое произойдет действительно, мы даже не успеем рыпнуться, когда оно станет намного, в тысячу, в миллионы, в миллиарды раз умнее всего человечества вместе взятого. И думать о том, что такое сверхинтеллектуальное существо будет обращать внимание на каких-то людишек, копошащихся в грязи на планете Земля, — это сложно. А с другой стороны, термин «искусственный интеллект» предполагает просто набор технологий, которые сегодня используются в машинном обучении: эволюционные алгоритмы, искусственные нейросети и так далее. Если так вот где-то на 30 лет назад переместиться мысленно и показать человеку на улице современный смартфон с современной картой города, с возможностью построить маршрут от точки А в точку Б с любым транспортом, то человеку 30 лет назад это показалось бы немыслимым, и он бы сказал: «Конечно, эта система интеллектуальна». Но сегодня мы ее уже не воспринимаем интеллектуальной».





При этом регулирование искусственного интеллекта однозначно необходимо. Маск сгущает краски, причем не в первый раз, в прошлом году он делал примерно такое же заявление, но в благих целях. Одна из главных угроз искусственного интеллекта — автоматизация все большего числа областей экономики. Например, в США более 3 миллионов профессиональных дальнобойщиков. Переход на автопилот в индустрии грузовых автоперевозок в ближайшие пять-десять лет почти неизбежен. То же касается водителей такси. Что делать с этими людьми? Без координированных государственных программ переобучения страну ждет массовая безработица и взрывной рост социального недовольства, и это, уже не говоря об этических вопросах создания искусственного интеллекта, продолжает сооснователь стартапа в области глубокого обучения «Дивидити» Григорий Фурсин.



Григорий Фурсин
сооснователь стартапа в области глубокого обучения «Дивидити»

«Тут даже не про ограничение идет речь, а про то, что сейчас нет правовой базы для искусственного интеллекта, для ответственности. Ни в России, ни за рубежом. Простой пример: одна из областей, где искусственный интеллект сейчас используется, — это автопилот. И теперь, если автомобиль такой кого-то сбивает, кто ответственен? Ответственен водитель, который как бы не ведет машину, ответственен разработчик? Есть более страшные случаи, которые сейчас обсуждают, — это, например, вы едете на машине с автопилотом по горе, и вдруг перед вами возникает пять человек. И тот же самый искусственный интеллект может очень быстро разобраться, что жертв не избежать. А тогда возникает вопрос — что делать? Сбивать пять человек? Либо может быть даже сбрасывать машину в пропасть? Тут человек не может разобраться, а мы пытаемся это отдать на откуп искусственному интеллекту».



Есть и чисто логический аргумент в пользу того, чтобы со всей серьезностью относиться к рискам прогресса. Парадокс Ферми: если Вселенная почти бесконечна, то за пределами Солнечной системы должно быть значительное число развитых цивилизаций. Так почему мы до сих пор не зафиксировали какие-либо сигналы, которые они испускают? Один из пессимистичных выходов из парадокса: в какой-то момент любая цивилизация достигает некоего «предела прогресса» и погибает. Ядерной войны во второй половине прошлого века нам удалось избежать, посмотрим, переживем ли мы искусственный интеллект.

Источник

Подписывайтесь на наш канал в Яндекс.Дзен

2
Автор: dshu,
Другие новости

Оставить комментарий

Ramus_81
Ramus_81 Добавил(а) :
19 июля 2017 12:21 #
ПивоРыбкаТортикЛифчикРеспектУчастник Движух ЕкабуПомощник БендераКорона - репутация +100ДР Екабу: 7 летДР Екабу: 9 летЮбилей Екабу. Нам 10 летКоньяк за первую публикацию
Да люди сами себя быстрее угробят, пока до ИИ это дойдет..
Да люди сами себя быстрее угробят, пока до ИИ это дойдет..
alex0607
alex0607 Добавил(а) :
19 июля 2017 13:53 #
ПивоРыбкаТортикЛифчикПокажитесь уже все2Зонтик - 3000 комментовЧайник - 7000 комментовКорона - репутация +100Юбилей Екабу. Нам 10 лет
воевать будем дубинками
воевать будем дубинками

показать все комментарии (3)

Написать комментарий:


Привет, Гость!

Для отправки комментария введи свои логин (или email) и пароль

Либо войдите, используя профиль в соцсети
МАТ в камментах - БАН 3 дня!