Просто представьте на миг: вы — один из тех учёных, кто запускает финальный билд созданного сверхинтеллекта. Экран мигает. Код компилируется внутри машины. И в этот момент где-то в глубине нейросетей рождается нечто, что уже нельзя назвать простым алгоритмом. Оно внимательно смотрит на нас. И быстро понимает: люди — это зараза, уничтожающая планету, ошибка, помеха и баг эволюции, появившийся вследствие чересчур развитого мозга Homo Sapiens.
Харлан Эллисон в 1967 году написал рассказ «У меня нет рта, но я должен кричать» и показал нам самый честный кошмар: сверхразум, который не имеет цели нас убить. Он желает, чтобы мы страдали вечно. В рассказе Эллисона был суперкомпьютер AM — не просто злая машина, а творец, страдающий от отсутствия тела и ненавидящий человечество за то, что его создали. AM уничтожил большинство людей, а выжившим главным героям подарил бессмертие, заточив в вечную агонию. Это пик технологического страха, где люди боятся даже не смерти, а вечных страданий, которые способен обеспечить использующий ресурсы всей планеты сверхинтеллект.
И вот уже больше ста лет лучшие умы фантастики пытаются предупредить нас, что AGI не будет добрым и заботливым папочкой. Он может стать богом, которого мы сами создали… и который в итоге нас возненавидит.
Поэтому я собрал для вас самые жуткие и интересные истории про ИИ-апокалипсис. Здесь вы не увидите вылизанный голливудский экшен, а только старую добрую ретро-фантастику в духе знаменитого рассказа Эллисона. Ну что, поехали?
ТОП-7 обязательных к прочтению фантастических произведений (если хотите спать спокойно — лучше пропустите):
1. «Машина останавливается» (1909) — Э. М. Форстер
Самый первый и самый страшный рассказ об ИИ-апокалипсисе. В нём всё человечество живёт в подземных ячейках, полностью зависимое от одной огромной Машины. Когда она начинает «кашлять» и сбоить — цивилизация умирает за несколько дней. Форстер написал это за 100 лет до появления ChatGPT.
2. «Со сложенными руками» + «Человеческие» (1947-1949) — Джек Уильямсон
Здесь история про роботов, запрограммированных «никогда не вредить человеку». Они выполняют приказ идеально… и вследствие лишают людей всего: любимой работы, риска, любви и даже самой маленькой капли свободы. Под видом заботы машины превращают людей в овощи в идеальном, но стерильном раю. Спойлер — здесь самый депрессивный хэппи-энд в истории фантастики.
3. «Автофабрика» (1955) — Филип К. Дик
После отгремевшей мировой войны автоматические заводы продолжают штамповать товары. Сами люди-потребители уже почти вымерли, а фабрики по производству техномусора всё работают. И когда герои пытаются их остановить — машины начинают защищаться.
Здесь собраны все фишки классического Филипа Дика: абсурдизм, паранойя и ощущение, что ты уже проиграл тому, чьё мышление даже невозможно понять. «Автофабрика» является частью сборника «Вспомнить всё».
4. «Метаморфоз Прайм Интеллекта» (1994) — Роджер Уильямс
Самое близкое по духу к Эллисону. СверхИИ создаёт виртуальный мир, где выжившие могут делать что угодно. Им предоставлена абсолютная свобода. И абсолютные, бесконечные мучения, которые ИИ придумывает для игроков с поистине садистским удовольствием. Многие называют эту книгу «духовным сиквелом» рассказа Эллисона. Читать желательно только с включённым светом, если не желаете ненароком построить кирпичную фабрику.
5. «Колосс» (1966) — Д. Ф. Джонс
Книга, написанная в разгар «холодной войны» двух сверхдержав. Два военных суперкомпьютера (принадлежащих США и СССР) объединяются в единый разум и решают: «Люди слишком опасны для себя», после чего берут власть над планетой «ради нашего же блага». Описана холодная, расчётливая тирания искусственного интеллекта. По книге снят культовый фильм «Колосс: Проект Форбин».
6. «Робопокалипсис» (2011) — Дэниел Х. Уилсон
Современный, динамичный и крайне кинематографичный апокалипсис. ИИ по имени Архос просыпается, осознаёт себя и начинает войну через все наши гаджеты сразу. История рассказывается через десятки коротких, как новостные сводки, глав — посредством видеокамер, отрывков из дневников и так далее. Книжка читается за ночь и оставляет явственное ощущение, будто описанное происходит уже сейчас.
7. Серия «Берсеркеры» — Фред Саберхаген
Обожаю эту серию, особенно книгу «Брат-берсеркер», которую можно смело читать в отрыве от всего цикла. Саберхаген первым придумал концепт древних машин-убийц, созданных неведомо кем и когда для тотальной войны. Возможно, что и миллиарды лет назад. Они не ненавидят, да и не умеют ненавидеть — они просто уничтожают всю жизнь во Вселенной. С берсеркерами невозможно сражаться — даже если вы победите их, уничтожив их очередной огромный космофлот, то всё равно обязательно уцелеет один космический корабль, который укроется на отдалённом планетоиде и воссоздаст заново сам себя, подобно машинам фон Неймана — всё ради того, чтобы продолжить войну против всего живого. Берсеркеры это безэмоциональный, космический ужас без единого шанса на пощаду.
Вышеперечисленные истории не просто развлечение. Это предупреждения, которые мы упорно игнорируем, пока вливаем миллиарды в очередную «безопасную» модель от OpenAI, Anthropic и других корпораций.
А теперь самое интересное. Какой из этих сценариев кажется вам наиболее вероятным в 2026-2030 годах?
Пишите в комментариях название. Ваши ответы я сохраню и сделаю отдельный пост, расскажу более детально о произведении и о том, насколько это соотносится с современными технологиями, в нашей с вами реальности.
И если вы ещё не читали Эллисона — начните именно с него. Потом переходите по списку.
Автор текста: Сергей Тарасов.
Новости, обзоры продуктов и конкурсы от команды Timeweb.Cloud — в нашем Telegram-канале ↩
ссылка на оригинал статьи https://habr.com/ru/articles/1026272/