Технологическая сингулярность и глобальная слежка: чего боятся люди

С древнейших времен людей преследовали страхи, связанные с концом света или глобальными переменами, которые навсегда изменят облик цивилизации. Раньше это были преимущественно религиозные идеи с предначертанным и неизбежным финалом. Несмотря на происходившие природные катастрофы и эпидемии, человечество не исчезло. Мы пережили возвышение и падение великих империй, открытие новых континентов и даже полет в космос.

С развитием науки и технологий в XX веке возникли новые, не характерные для прошлого, общественные фобии.




Технологическая сингулярность

Термин «Технологическая сингулярность» впервые был предложен участником Манхэттенского проекта, математиком Станиславом Уламом в 1958 году. Это гипотетический момент в обозримом будущем, когда технологическое развитие обретает неуправляемую и необратимую форму. Чаще всего он описывается концепцией «интеллектуального взрыва». Компьютер, обладающий сильным ИИ, однажды входит в бесконечный цикл самосовершенствования. Новое поколение искусственного интеллекта появляется все быстрее, и в конечном итоге возникает суперинтеллект, который превосходит интеллектуальный потенциал всего человечества.

Учитывая степень нашей зависимости от технологий и компьютерных систем, это будет означать конец человеческой эры в привычном понимании. Биологическая эволюция протекает намного медленнее, чем технологическая смена поколений. Люди не исчезнут как вид, но сойдут с вершины пирамиды. Доминирующим видом на планете станут машины. Не такие, как в известных фильмах вроде Terminator, речь идет о некоем симбиозе с ярко выраженной доминацией ИИ.

Впрочем, некоторые ученые и общественные деятели обеспокоены тем, что искусственный интеллект однажды захочет избавиться от лишних или всех людей, если они станут не нужны. По мнению экспертов, суперинтеллект будет разработан уже к середине XXI века. Еще какое-то время ему потребуется для завоевания господствующего положения. Изобретатель и футуролог Рэймонд Курцвейл считает, что постепенно вся Земля превратится в гигантский компьютер. Впоследствии процесс может распространиться на Солнечную систему, галактику и даже Вселенную. Это непросто осознать, но попробуй представить себе ИИ, находящийся везде и всегда управляющий всеми процессами на каждой планете. Похоже на Бога, которого человечество создает своими руками.


Глобальная слежка и сбор информации

Людям никогда не нравилось пристальное внимание недружелюбных глаз. В детстве мы придумывали специальные шифры для переписки, надежно прятали дневники или записные книжки, которые содержали стихи с прочими откровениями. Сегодня информация имеет ключевое значение, почти как воздух и вода. Вечером искал что-то в Google или Яндексе, а на утро получаешь соответствующие рекламные предложения. Вроде бы не так страшно, но эти же корпорации знают адрес твоей электронной почты, номер телефона, имеют доступ к облачному хранилищу, благодаря GPS знают, где ты бываешь физически. Они запоминают все, создавая твой цифровой отпечаток.

В современном и крупном городе довольно непросто найти место, которое остается за границей сети видеокамер и микрофонов. Относительно недавно появилось ПО, позволяющее распознавать лица. Все это создано во имя общей безопасности, но почему-то так сильно напоминает сценарий из антиутопии, где государство занимается глобальной слежкой за каждым аспектом жизни гражданина. Мы подошли вплотную к той точке, где само понятие конфиденциальности становится роскошью. Неудивительно, что многих тревожит нарушаемый баланс между всеобъемлющей безопасностью и сужающейся свободой.

Однажды цена удобства может стать слишком высока. При большом желании государственные структуры уже сейчас способны узнать, чем ты интересуешься, как живешь, о чем думаешь. Это буквально. Вопрос только в степени заинтересованности тобой. В ближайшем будущем технологии позволят собирать и обрабатывать еще больше самой разноплановой информации. Рано или поздно слежка станет действительно тотальной. Однако сделает ли это жизнь более безопасной да и стоит ли оно того? Возникают обоснованные сомнения. Ведь мы знаем о регулярных утечках баз данных.






Искусственная жизнь

Генетические манипуляции, вмешательство в процесс эволюции и, наконец, создание искусственной жизни затрагивают глубинные этические и философские вопросы. Достаточно ли мы разумны и морально готовы для игры в Бога? Допустим, что ученые, непосредственно занимающиеся наукой, знают свое дело достаточно хорошо. Однако их же кто-то спонсирует, а значит, и задает основное направление. Было бы здорово получить настоящий «Парк юрского периода», воскресить неандертальцев и другие вымершие виды людей, но очевидно, это далеко не основная цель.

Вместе с благоговением возникает и обоснованное беспокойство. Прежде всего, неясны риски. Каким образом новые формы жизни будут взаимодействовать с уже существующими экосистемами. Сможем ли мы контролировать свои создания? Впрочем, более корректный вопрос: как долго нам удастся держать ситуацию под контролем? Рано или поздно искусственная жизнь выберется за пределы лабораторий. Тогда встанет следующий моральный вопрос о статусе этой жизни. Она полноценная и такая же важная либо это нечто другое?

Не выйдет ли так, что однажды мы решим создать дееспособных существ без прав, но с обязанностями. Проще говоря, разумных слуг или рабов. Потенциальная выгода очевидна: наконец-то настоящие люди смогут заняться творчеством, изобретениями и прочими высокими материями, оставив всю рутину клонам или биомеханизмам. Однако нечто подобное мы уже прошли. Искусственный интеллект и повсеместная роботизация не превратили человечество в цивилизацию счастливых творцов.



Экономический коллапс

Процесс глобализации сделал экономику разных стран взаимозависимой. Сегодня невозможно представить финансовый кризис в крупном государстве, который не затронет его соседей. Запутанные торговые сети, инвестиции, фондовые рынки и валютные колебания практически не поддаются анализу. Никто не предсказал Великую депрессию в 1930-х или мировой экономический кризис в 2008-м. Все эксперты выступали с разоблачительными речами уже после случившегося, когда пришло время тушить бушующее пламя.

Обычно финансовые кризисы бьют по части населения. Страдает относительно немногочисленный средний класс, которому есть что терять и куда откатываться. Бедные слои населения становятся лишь немного беднее, некоторое время реже едят мясо, обходятся без новой техники, донашивают старую одежду. Потом все возвращается на свои места. Однако чем крепче связи между государствами и корпорациями, тем более вероятным становится эффект домино.

Ряд ведущих специалистов соглашается с тем, что крах одной или сразу нескольких крупных экономик приведет к глобальному финансовому кризису. Никто не останется в стороне. Представь себе мир, в котором появляется два миллиарда безработных людей, лишенных средств к существованию. Число может выглядеть фантастическим, но это 25 % от общего населения планеты. Например, во время рецессии в США этот показатель был даже выше, не говоря уже послевоенной Германии. Тогда помогли международные фонды и кредиты, но что делать, если в следующий раз никто не сможет выделить деньги или продовольствие?






Климатическая катастрофа

Начиная с 80-х сигналы о надвигающейся климатической катастрофе звучат все громче. Об этом говорят профильные ученые, общественные деятели и знаменитости шоу-бизнеса. Возможно, поэтому проблема и не воспринимается всерьез. Во-первых, о климатических изменениях сказало уже столько, что удивить или взволновать обывателя просто невозможно. Да, мы знаем, что ледяные щиты в Антарктиде и Гренландии таят. Уровень моря поднимется на полметра или чуть больше, но это произойдет потом, через 50 или 100 лет. Никто ведь точно не знает. Во-вторых, экологическую повестку часто продвигают маргинальные лидеры общественного мнения — всевозможные конспирологи и «альтернативные ученые».

Впрочем, в профессиональной научной среде до сих пор нет консенсуса по главному вопросу: насколько существенное влияние на изменение климата оказывает человеческая деятельность? Дело в том, что ледниковые периоды и оттепели происходили раньше, задолго до возникновения нашей цивилизации. Никто не сомневается, что подобное случится вновь. Так должны ли мы предпринимать какие-то действия, как следует реагировать?

Неизбежность — ключевая деталь процесса. Нам предстоит адаптироваться к климатическим изменениям, пережить множество природных катаклизмов. Ведь альтернатива незавидна — это полное исчезновение вида или драматический откат цивилизации, вплоть до состояния каменного века. Похожие процессы уже происходили в истории, например «Бронзовый коллапс» и европейские «Темные века». Однако тогда масштабы сильно отличались, поэтому регионы постепенно восстановились.