Механизм возникновения сознания у конечных автоматов

Конечный автомат — это математическая модель вычислений: абстрактная машина, которая в каждый момент времени находится ровно в одном из конечного множества состояний, а переходы между состояниями происходят в ответ на входные сигналы (события) по заранее заданным правилам. Традиционно эту модель воспринимают как примитивную формализацию, пригодную лишь для распознавания регулярных языков и реализации жёстко детерминированных реактивных контроллеров.

На первый взгляд, подобная абстракция кажется чересчур примитивной, чтобы вместить в себя искусственный интеллект или самосознание. Однако если рассматривать сознание не как статический атрибут отдельного элемента, а как эмерджентное свойство, возникающее на стыке взаимодействия миллионов автоматных переходов, то граница между вычислительной машиной и мыслящей системой оказывается неожиданно тонкой.

Про и контр аргументы

Принято считать, что интеллектом обладает только человек. Поэтому попытки выдать результат работы LLM за работу «настоящего», пусть и искусственного, интеллекта обычно встречают несколькими контраргументами.

Детерминизм

Нейросети работают на основе фиксированных алгоритмов, «зашитых» внутри. При одних и тех же входных данных (с учётом системного промпта и начального значения генератора случайных чисел) они всегда выдают один и тот же результат. Отсюда — самый очевидный довод против наличия интеллекта: раз результат подобных вычислений полностью детерминирован, ни о каком «мышлении» речи быть не может.

Однако нейроны в мозге живых существ реагируют на внешние раздражители столь же детерминировано. В основе жизнедеятельности организма лежат те же самые законы физики и химии, и результат взаимодействия нейронов или химических соединений точно так же вычислим — включая любые непрерывные, вероятностные и нелинейные взаимодействия. Поэтому сам факт детерминированности вычислений ничего не доказывает и не опровергает.

Режим запрос-ответ

Ещё один типичный аргумент: любая нейросетевая модель действует лишь в режиме «запрос-ответ», тогда как человек сам инициирует действия. Но это никак не связано с наличием или отсутствием разума: человек тоже способен работать в реактивном режиме — например, по команде или под принуждением, а нейросеть можно запускать по таймеру или цикле. Поэтому апелляция к свободе воли не имеет прямого отношения к вопросу о наличии сознания или интеллекта.

У модели нет субъективного опыта

Допустим, нейросеть демонстрирует поведение, похожее на интеллектуальное. Как понять, есть ли у неё субъективное переживание (феноменальное сознание)? Способна ли она осознавать себя? Современные LLM самосознанием не обладают: они не рефлексируют собственное существование, и нет убедительных доказательств, что у них есть хоть какой-то «внутренний мир», а не просто сложная симуляция ответов.

Но что такое внутренние переживания и рассуждения, если не контекст в терминологии LLM? Просто размер этого контекста ограничен возможностями конкретного мозга. И речь идёт не только о структуре и связях нейронов (то есть непосредственном «вычислителе» и хранилище информации — процессоре и контексте в терминах нейросетей), но и о всевозможных реакциях на внешние раздражители: состоянии тела (обратная связь от нервов в мышцах и других органах), работе желёз внутренней секреции и так далее.

И в сухом остатке остаются лишь рассуждения о проблеме квалиа, субъективном опыте и детских переживаниях — понятиях, которые сложно отнести к строгим научным терминам. Психология хоть и считается наукой, но неточной: без возможности независимого аудита, без обоснования полученных выводов и воспроизводимости результатов.

Тем более, если рассматривать человека как вычислительную биологическую машину, то любые выводы психологии автоматически можно рассматривать с точки зрения формализации теории алгоритмов, а не абстрактных философских гипотез — если, конечно, не принимать во внимание возможное божественное или иное потустороннее влияние.

Хитрый аргумент: эмерджентность

Можно апеллировать на некорректное сравнение масштабов вычислений. Однако мы точно не знаем, какой объём мозга на самом деле отвечает за мышление, какой — за память и так далее. Может оказаться, что многие части биологического компьютера мозга работают как резервные системы, а не как реальные вычислители. Тогда объём современных накопителей будет вполне сопоставим с теоретическим размером памяти. К тому же для возникновения зачатков искусственного разума может понадобиться не полная имитация всех нейронных связей, а лишь реализация некоторой модели поведения (алгоритма) — а это требует значительно меньших ресурсов.

И в результате остаётся самый изощрённый довод — эмерджентность. Его суть в том, что эмерджентные свойства непредсказуемы на уровне отдельных компонентов системы. Поэтому всегда можно сказать, что “человеческий разум — это эмерджентное свойство сложной нейробиологической системы, которое не сводится к простой сумме электрических импульсов отдельных нейронов, а возникает именно в момент их критической сонастройки и синергетического взаимодействия, образуя то, что мы называем субъективным опытом и самосознанием”, и прочие умные слова.

Но эмерджентный — это не научная религия, основанная на вере. Она вполне доказуема. То есть всегда можно показать, за счёт чего при росте масштаба системы и добавлении новых компонентов возникают новые свойства. То есть это столь же формализуемое и доказуемое объяснение — пусть и получаемое постфактум, уже после выявления самих свойств.

Рекурсия — как причина возникновении сознания

Если предположить, что человек и его разум — это биологическая машина, каждая шестеренка которой детерминировано работает по определённому алгоритму, то остаётся феномен возникновения сознания (осознания). И, на мой взгляд, именно он — самый важный.

Мало того, что осознание собственного «я» встречается не только у людей: именно сознание позволяет биологическим автоматам программировать самих себя людям управлять собственным поведением. А если сознание — это не магическая искра, а неизбежное следствие определённого способа взаимодействия с внешним миром?

Представьте систему, вынужденную действовать в сложной, изменчивой среде, где каждый её шаг может менять сами правила игры. Чтобы выжить, ей приходится не просто реагировать на стимулы, а буквально моделировать поведение окружающего мира — мира, в который включена и она сама.

Такая система должна предсказывать не только поведение других агентов, но и то, как другие агенты воспринимают её саму. Это рекурсивное зеркало — модель себя в мире, отражающая модель мира в себе — и становится той самой рекурсивной петлёй рассуждений, которую разрешает самоосознание. Ведь полноценная рекурсия существует только в абстрактной теории (машине Тьюринга) — но в принципе невозможна при ограниченных ресурсах и лимите времени на выполнение вычислений.

Тогда субъективный опыт (как внутренняя симуляцией возможных действий и их последствий), с нечеткой эмоциональной оценкой «хорошо» или «плохо» с точки зрения выживания, перестаёт быть мистикой и становясь формализуемым способом такой системы. Способом «прочувствовать» свои внутренние вычисления, чтобы быстро принимать решения в условиях неопределённости. Это логично объясняет возникновение сознание не как надстройку над разумом, а как рабочий инструмент сложного агента, причем доступного не только людям.

В этой картине разум — это не противоположность алгоритму конечного автомата, а его высшая форма, рождённая в борьбе за выживание. Когда простая линейная реакция перестаёт работать, а среда требует гибкости, быстрой реакции, предвидения или банального обмана, система обретает голос, говорящий «я». И это «я» — это не божественная искра, а эхо бесконечного диалога между агентом и миром, между действием и откликом, между моделью и реальностью.

Рекурсия в реальном мире встречается постоянно. Хищник вычисляет траекторию жертвы -> жертва меняет траекторию -> хищник пересчитывает движение -> и так далее. Это уже не просто алгоритм, а динамическая система с обратной связью, где осознание (читай — моделирование) «себя в мире» позволяет предсказывать последствия собственных действий.

И отделение «я» от «не-я» становится обязательным свойством такой системы. А значит, сознание вполне может возникнуть как побочный эффект сложной рекурсивной обработки информации.