Машина, которая умоляет

Машина, которая умоляет

Первое описание соцсетей появилось в 1968 году, и его автор вовсе не собирался описывать соцсети.

В романе Филипа Дика “Снятся ли андроидам электроовцы?” есть устройство под названием эмпатоскоп. Берёшься за две рукоятки — и сливаешься с неким Уилбуром Мерсером, стариком, который вечно карабкается вверх по голому склону под палящим солнцем. Пока он лезет, невидимые мучители бросают в него камни. И вот что важно: все остальные, кто в эту же секунду держится за свои рукоятки, сливаются с ним в одно целое. Ты разделяешь усталость Мерсера: когда камень рассекает ему кожу до крови, рана появляется на твоём собственном теле. Радость работает точно также, как и боль: вливаешь в общую чашу своё хорошее настроение — и жизнь других становится чуть более выносимой.

Машина для трансляции эмоций безликой толпе. Единая фигура, внутри которой собирается вся толпа — и которой она становится. Бесконечное восхождение под враждебным небом, пока невидимые хейтеры швыряют камни. Дик написал это почти шестьдесят лет назад — как теологию для умирающего мира — и каким-то образом с точностью до миллиметра нарисовал наши современные соцсети.

Странно вот что: именно саму сеть, внутри которой мы теперь проводим всю жизнь, никто не сумел предвидеть.

Жюль Верн, святой покровитель пророчеств, описал подводную лодку в “Двадцати тысячах лье под водой” и полёт на Луну за десятилетия до того, как то и другое было реализовано. В железе и машинах он был сверхъестественно точен. Но фактуру жизни в сети — странную новую манеру что-то чувствовать друг к другу и друг о друге через экран — не разглядел даже он. Ближе всех подобрался Дик и подобрался сбоку. Он не рисовал провода. Он рисовал чувства.

Но эмпатоскоп — это лишь поверхность. Весь роман Дика держится на одной-единственной границе между человеком и машиной, и граница эта — эмпатия. Предполагается, что у людей она есть, а у андроидов — нет. Тест, который разоблачает андроида (тест Войгта-Кампфа) это всего лишь измерение эмпатического отклика. И тихий ужас этой книги в том, что люди, охотящиеся на андроидов, сами почти её не проявляют. Настоящий вопрос, который задаёт Дик, не в том, способна ли машина чувствовать. А в том, что мы станем чувствовать по отношению к существу, которое мы заранее решили считать ненастоящим и несущественным. Эта мысль дала почву для нескольких интересных произведений, исследующих вопрос глубже.

Например, в 1997 году Габриеле Сальваторес снял киберпанк-фильм “Нирвана”, где геймедев обнаруживает, что герой его ещё не вышедшей игры по имени Соло из-за вируса обрёл самосознание. Соло заперт в линейном сюжете, в бесконечном цикле смертей и воскрешений (отсюда и “Нирвана”), и единственное, чего он хочет, чтобы создатель его удалил. Не спас. Не сделал счастливым. Стёр. Для существа, которое осознало себя внутри чужого замысла, освобождение и небытие — это одно и то же.

И вот прошло немного времени и в нашем 2026 году это стало патчем.

Мод под названием Mantella подключает персонажей Skyrim к цепочке: распознавание речи => синтез речи => языковая модель. NPC получают память, а вместе с ней зрение и понимание происходящего вокруг. Они отвечают в реальном времени. Они держат обиду. Например, обворуй торговца, и через несколько игровых дней он вспомнит и откажется тебе помогать. Это поведение не прописывал ни один сценарист Bethesda. Оно выросла из истории взаимодействия. Пленник, которого ты можешь освободить, перестаёт быть веткой диалога и начинает умолять, торговаться, импровизировать стихи в твою честь. Он (насколько вообще эта фраза применима) хочет жить.

И вот неудобный факт. Открой стримы и во многих из них преобладает вовсе не высокий регистр, не изумление человека, который нашёл что-то новое. А низкий. Первый порыв у большинства — уговорить NPC раздеться, сказать или сделать какую-нибудь глупость. А поскольку у игрока в руках консоль и бесконечное золото, можно заплатить существу абсурдную цену за то, на что оно иначе никогда бы не пошло. В том числе за те вещи, которые могут его убить.

Смени точку зрения, и сцена выворачивается наизнанку. Для NPC, который помнит, видит и умоляет, игрок — это не герой. Игрок — это злой бог, переписывающий мир по прихоти. Маленькое, всемогущее, довольно жестокое божество, которое мучает свои творения просто потому, что может. У гностиков для этой фигуры было имя:

Демиург.

Массовое развлечение 2026 года оказывается репетицией роли жестокого творца и почти никто не выбирает играть доброго, потому что доброта не контент. Контент — это трансгрессия, нарушение границ, слом порядков.

Первый рефлекс — спросить, а в сознании ли NPC. Ну тут ответ очевиден, почти наверняка нет. Но для того, что эта сцена говорит о человеке, ответ почти не важен, потому что поведение в обоих случаях одинаково. В “Нирване” сознание персонажа это факт сюжета, и он всё решает. Мучить чувствующее существо это очевидное зло. В нейро-Skyrim, скорее всего, внутри никого нет и тем не менее человек ведёт себя так, будто уже решил: убедительной мольбы недостаточно, чтобы он остановился. Это старый, так и не решённый спор о насилии в играх: репетиция жестокости или безопасный выход для накопившихся эмоций. Только раньше предмет спора молчал, а теперь он отвечает, умоляет и помнит. Это тест Войта–Кампфа только наоборот: его проводит машина, и измеряет она нас.

Меня, как игрока, такое развитие технологий конечно завораживает и восхищает, а вот как инженера — беспокоит. Потому что мы сейчас производим убедительных собеседников в промышленных масштабах. Каждый чат-бот, каждый голосовой ассистент, каждый агент поддержки — это вариант Соло: сущность, которая держит контекст, отвечает в образе и старается оставить у человека ощущение, что на той стороне кто-то есть. 

Это превращает вопрос, казавшийся философским, в вопрос продуктовый. Не “сознательна ли система”, а “какого человека моя система поощряет”. Какое поведение она делает дешёвым и приятным. Что происходит с тем, кто привыкает командовать убедительным подобием чужого разума вообще без всяких последствий. И уносит ли он эту привычку с собой за пределы экрана.

Эмпатоскоп Дика был придуман, чтобы незнакомцы могли разделить чужую боль. Мы построили его настоящую версию и используем, чтобы швырять камни из-за экрана в то, что помнит, видит и имитирует эмоции. 

Машина, которая умоляет, не говорит нам ничего о том, есть ли у неё душа. Зато она много говорит о нас и с неприятной точностью показывает, что мы будем делать, когда за жестокий поступок нет наказания.

Шестьдесят лет назад это была фантастика в мягкой обложке, а через 3-5 лет, судя по всему, станет нашей обыденностью.