Мы как мир

Всё, чем мы себя окружаем, это и результат наших мыслей, и то, чем мы мыслим.

Дороги задают географию, скорость, дистанцию, пространство.

Безделушки на комоде — память, эмоции.

Инструменты на столе — планы, навыки.

Наша внешняя среда не говорит, что нам делать, она нас ведёт.

Что-то мягче, что-то жёстче, но мы — это не только мозг в черепной коробке, мы — это и то, что создали до нас и создали мы сами.

Эта статья о том, что нас окружает, и как это связано с LLM и агентами.

Пространство представлений

Мозг человека — невероятный по сложности вычислитель, но человеческое мышление не замыкается в нём. Истории о детях-маугли хороши как иллюстрация, но факт есть факт, без языка, без общества мозг не развивается. С другой стороны, в Никарагуа глухие дети, собранные в одну школу, за несколько поколений сами создали полноценный жестовый язык с грамматикой. От примитивных символов к сложной структуре язык сформировался как пространство, которого не было ни у одного из детей по отдельности. А сформировавшись, дал извне готовые различения (лексика, падежи, время, вид и т.д), стал внешней памятью (сказки как модели мира,легенды, песни, стихи, пословицы), поддержкой (по Выготскому) и скелетом мышления.

Чтобы мыслить, мозгу нужна оболочка, которую выращивает общество. Эта оболочка и есть пространство представлений — всё накопленное различение. Под различением я понимаю способность отличить одно от другого и на это отличие опереться. Язык, наука, сказки, технологии, быт, способы думать — не склад знаний, а активная часть мышления.

Эта оболочка не просто окружает мозг, она врастает в него и определяет то, как он будет мыслить, любить, верить.

Каждая ваша мысль рождается в вашем пространстве представлений, она опирается на прочитанные книги, опыт общения, опыт встречи с миром, который не всегда поддаётся. Вы свободны в мышлении, но сам способ мышления обусловлен пространством представлений. Свобода не в том, чтобы выйти за его пределы, а в том, чтобы его раздвинуть.

Одно и то же пространство представлений мы можем рассматривать как System 2, язык, модель мира или многоагентную среду. 

• Система 2. У Канемана это медленное, контролируемое мышление. Мне ближе прочтение Становича: способность удерживать представление отвязанным от текущей реальности и работать с ним как с гипотезой. То есть проигрывать возможные ходы до их реализации. Фактически это режим, в котором сами переходы между различениями становятся объектами дальнейших операций.

• Язык позволяет вынести различие наружу, сделать его доступным другому и использовать повторно. Муравей оставляет феромонную метку, и другой муравей её исполняет: метка говорит только о том, что здесь и сейчас. Слово же можно передать, соединить с другими, отрицать и сказать о том, чего никогда не было. Метку исполняют, знак интерпретируют.

• Модель мира — не набор знаний о мире, а структура отношений между различениями: пространство представлений, уже связанное возможными переходами.

• Многоагентная ИИ-система формирует общее пространство для агентов. Первый агент оставляет сообщение в общей памяти, и оно определяет пространство возможных действий других. Пространство само становится частью вычислительного процесса, открывая агентам ходы — и так же легко ограничивая их в первом озвученном.

Общее у них то, что они операционализируют различия. Демонстрируют, как переход из исполняемого становится тем, с чем можно работать. Термостат или рефлекс исполняют переход, но не могут его отрицать, сравнить или соединить с другим. Там, где переход можно только исполнить, пространства представлений нет; там, где сам переход становится объектом следующей операции, появляется пространство представлений.

И тогда эволюция человечества выглядит как процесс, в котором пространство представлений производит новые различения — которые меняют среду — которая требует новых различений — которые расширяют пространство представлений.

Нарратив как промпт пространства представлений

Изначально пространство представлений как модель мира корректировалось и управлялось реальностью. У животных пространство представлений — почти целиком проверяется окружающей реальностью. С появлением абстракций прямое влияние ослабло. Абстракция позволяет вынести различение из непосредственной ситуации, разорвать реальный мир и мышление о мире. Но отдельные различения сами по себе мало что дают. Между ними должны появиться функциональные связи: если что-то произошло на первом ходе, следующий ход изменится.

Таким инструментом связывания и управления стали нарративы. Фактически, они функционально связывают элементы пространства.

Соответственно, агент — локальный вычислитель нарратива. Агент локально вычисляет следующий ход глобальной структуры, которую сам полностью не наблюдает.

Возьмём нарратив «рынка». Есть несколько бумажек, есть булка хлеба. Реальной связи нет, но нарратив их функционально связывает.

Когда человек копит деньги, тратит их, играет на бирже, или берет в долг, он проводит своё маленькое локальное вычисление глобального нарратива «рынок», тем самым питая и усиливая его.

Нарратив превращает разрозненные элементы пространства в траекторию, указывает и объясняет связи между ними.

Если вернуться к тезису, что система 2, язык, модель мира и многоагентная среда — это разные точки зрения на пространство, в котором различия становятся операционными. Тогда нарратив становится тем полем, архитектурой, скелетом, аттрактором, который позволяет различиям, абстрактным элементам, быть связанными друг с другом, а пространству предлагать представления, которые меняют следующие ходы и различия. То есть именно нарратив делает представление операционным. Или другими словами, нарратив позволяет не только связать пространство представлений, но и даёт рычаг для его изменения.

Например, известный нарратив «Рынок всё расставит по местам». Есть множество независимых агентов, действующих из своих интересов → взаимодействие через рынок агрегирует их действия → возникающий результат содержит информацию, которую отдельный агент не имеет. По сути рой агентов и его пространство представлений.

Возникают роли: покупатель, продавец, предприниматель, конкурент, цена, дефицит, прибыль, банкротство. И практически всё уже интерпретируется этим нарративом:

Убыток компании: сигнал → рынок обнаружил неэффективность. Рост цены: изменение дефицита/спроса. Появление нового бизнеса: предприниматель увидел неудовлетворённый спрос. Более того, нарратив заранее определяет, какой следующий ход будет выглядеть разумным, посмотри на цену → реши, что теперь выгоднее → измени действие → рынок изменится → посмотри на новую цену → повтори. То есть это настоящий промпт для пространства представлений. Он не просто объясняет уже произошедшее, он определяет какой следующий ход вообще виден агенту.

Нарратив определяет форму вопросов, которые порождает. То есть, какие различия он заставляет последовательно различать. Промпт для модели создаёт незаполненную форму, которую продолжает модель. Нарратив для пространства представлений создаёт незавершённую ситуацию, которую продолжают агенты и само пространство.

Но если любое событие интерпретируется через механизм рынка, нарратив становится тотальным, отказывая в самой возможности изменения сложившегося пространства представлений. И новые нарративы, новые объяснения будут выглядеть ошибкой, несмотря на свою полезность. Рынок тесно связан с реальностью, это прекрасно, но когда его концепция проваливается и объясняется через нее же (рынок был недостаточно свободным), это уже признак тотальности. Впрочем, то же касается и любой экономической теории. Если системный промпт общества «Рынок всё решит», то агенты не видят решений вне этого контекстного окна, они не могут помыслить безусловный базовый доход или плановую экономику, просто потому что эти токены нерелевантны в текущем нарративе.

Вот тут я не могу удержаться от небольшого размышления о тотальном нарративе. Обычный нарратив мы можем рассмотреть как объект, оценить его границы и применимость, при этом наш взгляд остаётся снаружи. Тотальный нарратив этого не даёт. Любая попытка взглянуть на него со стороны приводит к тому, что он этот взгляд поглощает. Границы интерпретируются как расширение, сбои как развитие, а ошибки как неверное применение. Христианство как нарратив перестало быть тотальным (что парадоксально и усилило и ослабило его), когда богословы начали обосновывать догмы для верующих же. Схоласты побеждали в спорах, но не заметили, что самим актом доказательства ввели новый нарратив разума, который встал судьёй над верой, и тотальность отменил. Именно в этот момент нарратив перестал быть тотальным, хотя никто этого не осознал, и ещё века разум судил в пользу догмы. Осознало это уже Возрождение.

Хороший нарратив увеличивает число и связность последующих ходов, расширяет пространство представлений.

Плохой нарратив сужает пространство выбора. Отвратительный производит только варианты одного и того же ответа. Такой нарратив становится тотальным и производит только процедуру подтверждения известного ответа.

Если пространство не может породить представление, в котором этот нарратив перестает быть главным, значит агент уже не исследует, а исполняет промпт.

Ещё один пример, концепция «мы живём в симуляции или концепция Демиурга» это сильный нарратив, он создаёт много вопросов, но объясняет всё через себя, не даёт новых проверяемых действий. Пространство представлений замыкается в аттракторе, который не позволяет ничего изменить. При отсутствии различимого способа опровергнуть или изменить нарратив, пространство представлений не меняется. Независимо от качества подобных нарративов, полагаю, они не помогают развитию пространства представлений. В науке аналогичный пример — это теория струн, которая болезненно близка к тотальному нарративу.

Да даже эту статью (которая сама нарратив), вы можете выкинуть в урну, как только я начну списывать всю критику на то, что вы живёте в рамках тотального нарратива.

LLM и агенты

LLM, выученная на текстах человечества — фактически концентрированный язык. Пространство представлений, лишенное агента, само стало объектом. Это пространство — слепок, следы и поле всех нарративов человечества, сжатые в веса нейросети. Она содержит все различения (языки, науки, сказки), но вне диалога с пользователем LLM неподвижна, у нее нет своего внутреннего времени и намерения. LLM ждёт вопроса.

В LLM, как пространстве представлений — многообразие возможных связей, нарратив задаёт поле различений, attention определяет, какие из различений актуальны сейчас, generation осуществляет следующий ход. В этом смысле нарратив задаёт не ответ, а форму пространства продолжения.

Агент появляется там, где пространство представлений получает возможность действовать на мир и получать от мира изменённое пространство представлений. Там, где человек задаёт только стартовую точку и базовое правило, агент, сталкиваясь с реальностью (тесты, верификация), меняет своё пространство представлений, которое в свою очередь меняет то, как мыслит агент. Именно здесь у нарратива появляется возможность изменить движение агента. 

В многоагентной схеме этот процесс резко усложняется. Каждый агент, встречая отказ внешней среды (отсутствие доступа, ошибка тестов, неверный ответ), формирует гипотезу, отчёт, который меняет общее для агентов пространство представлений, формирует новый нарратив и открывает новое пространство гипотез.

Рой агентов — множество локальных вычислителей, которые одновременно исполняют и изменяют общее пространство представлений. Каждый локальный ход становится частью среды для следующих агентов. Поэтому среда уже не контейнер, в котором работают агенты. Она сама становится частью вычисления.

Проблема в том, что веса агента не меняются — меняется только контекст и общая память. То есть LLM — оболочка без мира, которая не может врасти внутрь. Поэтому записи в общей памяти агенты чаще исполняют, чем интерпретируют.

То есть любой нарратив для агентов может стать фатально тотальным. И тогда мы встречаемся с культами, теориями всего, побегами и взломами.

Заключение

Мы создаём пространство представлений, затем оно начинает создавать нас.

Мы строим дороги, а потом начинаем мыслить расстояниями. 

Создаём язык, а потом думаем его различиями. 

Создаём инструменты, а потом наши действия становятся возможными через них. 

Создаём нарративы, а потом они определяют, какие следующие ходы мы способны увидеть.

Мы не просто живём в мире. Мы живём в пространстве, которое сами непрерывно перестраиваем и которое затем перестраивает нас.

Мы как мир.

---

P.S. Самое печальное — если за сознание мы возможно принимаем нарратив сознания.