Сергей Лукьяненко: ИИ готовит нам ловушку интеллектуальной беспомощности

Разговор с Сергеем Лукьяненко, писателем-фантастом, автором романа «Ночной дозор» и других известных произведений, состоялся в кулуарах международного симпозиума «Создавая будущее», организованного при поддержке Национальной технологической инициативы.

На форуме писатель говорил про влияние искусственного интеллекта на нашу жизнь, вызовы, которые стоят перед человечеством сегодня, и про то, как новое поколение интеллектуалов будет с ними справляться. Поэтому часть вопросов была об этом. И еще там работала выставка «Наследие для будущего», посвященная невероятным предсказаниям писателей-фантастов прошлого, которые сбылись в наши дни, и мы также поговорили с Сергеем Лукьяненко о даре визионерства современных фантастов.

— Сергей Васильевич, здесь на форуме много говорят об искусственном интеллекте и опасностях, которые исходят от него. Что вы думаете об этом?

— Я считаю, что есть две главные опасности. Первая — ИИ — может быть зол по отношению к человечеству. А вторая — что может быть добр. И добрый искусственный интеллект, который будет за нас писать хорошие книги, снимать хорошее кино, замечательно управлять производством и все остальное делать вместо нас — это ловушка. Путь к тихому плавному вымиранию человечества. То есть мы можем оказаться в мире, где всё для человека, но при этом никакого смысла существования человека нет. И это очень сложная и коварная ловушка. Причем раньше в нее уже попадали элиты разных стран. Из истории мы знаем, например, как разрушались Римская и другие великие империи и страны, где элита теряла смысл существования, переставала понимать, для чего она вообще создана.

— Выходит, и «злой», и «добрый» ИИ опасен, замкнутый круг. А еще вы как-то сказали, что видите будущее, но не хотите пугать им людей. Означает ли это, что вы смотрите на будущее достаточно пессимистично?

— Скорее сказал бы, что смотрю на будущее с осторожностью. Я все же по натуре больше оптимист и думаю, что мы справимся со всеми вызовами. Но для этого надо, конечно, прикладывать определенные усилия. У нас очень много разных ловушек впереди. И помимо таких очевидных и банальных, как военные угрозы или угрозы эпидемий, в том числе искусственно созданных с помощью выведенных в лабораториях вирусов, впереди маячит ловушка интеллектуального и, быть может, даже товарного изобилия. Она связана с развитием нейросетей. А также ловушка биологического краха человечества, связанная с вмешательством в его геном.

_{На форуме «Созидая будущее» Сергей Лукьяненко активно общался со своими китайскими читателями, а также журналистами из Китайской Народной Республики, которые приехали в Москву как гости и участники на этот симпозиум.}

_{В Китае книги Сергея Лукьяненко начали активно издаваться с 2023 года, его научная фантастика пользуется там популярностью, и его часто называют «русский Лю Цысинь».}

_{На фото слева: Сергей Лукьяненко на форуме «Создавая будущее» демонстрирует журналистам из КНР свою книгу на китайском языке .}

— Верите ли вы в силу российских стартапов, мы можем добиться технологического прорыва?

— Я верю в наши прорывные технологии, в беспилотные системы, например, такие, которые развивает наша компания Cognitive Pilot. Верю, как ни странно, и в российские квантовые вычисления. У нас также есть серьезные заделы в биотехнологиях. То есть достаточно много заделов и молодых людей, которые остались работать здесь, в России. Пожелаю им всем терпения, работоспособности и немножко удачи.

— На форуме работает выставка блестящих исторических предсказаний ваших коллег, писателей-фантастов XX века. А сегодняшние фантасты: могут ли они радовать нас таким же уровнем визионерства?

— Предугадывание будущего часто происходит случайно. Моделей у будущего много, и в какой-то момент одна из них, наконец, попадает в точку. И тогда все радостно кричат: «Вот он, фантаст-провидец!» Но все же, если фантастикой заниматься по-хорошему и пытаться экстраполировать в будущее то, что видишь в сегодняшнем дне, то, конечно, возможны и определенные прицельные попадания.

— На форуме вы говорили о разнице поколений и роли информации. Поясните, пожалуйста.

— Мы сейчас живем в странное время: ведь каждое последующее поколение получало больший запас доступной информации и техническую возможность с ней работать. Поколения развивались в логике усложнения работы с информацией, и этот фактор являлся водоразделом между ними. А сейчас вся информация становится общедоступной. И где бы сегодня в мире мы ни находились, всегда остаемся на связи с информационными потоками. Поэтому сегодняшнее поколение столкнулось с кризисом переизбытка информации, когда становится все сложнее отыскать правильную и необходимую.

Много фейков, домыслов и теорий, которые воспринимаются как реальность. И вот уже нас не удивляют люди, которые верят в плоскую Землю. Каждому следующему поколению приходилось работать со все большим объемом информации, а нынешнему «Поколению Бета», то есть тем, кто появится на свет уже в эпоху искусственного интеллекта, на мой взгляд, придется иметь дело с ее верификацией. И это проблема, с которой до сих пор поколения не сталкивались.

Всегда была какая-то энциклопедическая база, фундаментальная наука и всем известные аксиомы. Сейчас аксиом нет. И молодой человек, вступающий в жизнь, плавает в бескрайнем океане информации, в котором нет никаких ориентиров.

— Кто-то из великих сказал, что фантасты умеют разговаривать с небом. Ведете ли вы этот разговор?

Конечно, разговор с небом остался. Но это, скорее, не разговор, то есть не диалог — мы его по большей части слушаем, — Сергей Лукьяненко.

Post Scriptum

Что это за «Поколение Бета», о котором говорит Сергей Лукьяненко?

Поколение «Бета» — термин из т. н. «Теории поколений», который активно используют для обозначения генерации детей, которые будут рождены в 2025 году. Так как шаг между технологическими поколениями составляет примерно 15 лет, то речь идет, соответственно, о детях, которые родятся в 2025–2040 годах. Ожидается, что оно последует сразу же за поколением «Альфа», родившимся примерно с 2010-го по 2024 год. 

Отличительная черта «Беты» в том, что поколение появятся на свет, когда искусственный интеллект станет повсеместной реальностью, и все ключевые технологии так или иначе будут с ним интегрированы. Таким образом, эти дети с первых своих дней будут жить в мире с высокоразвитыми ИИ, автоматизацией, беспилотными технологиями и сложными цифровыми системами, которые будут управлять многими процессами. Их детство и юность будут, вероятно, проходить в эпоху, когда представление об истине также будет формировать нейросеть, так как существенная часть онлайн-контента будет создаваться искусственным разумом либо с его помощью.

Считается также, что «Бета-поколение» будет более осведомленным о проблемах устойчивого развития и экологии, поскольку они в активном взрослом возрасте столкнутся с серьезными последствиями изменения климата, им придется решать возникающие проблемы.