LLM-беседа: явление пользователю: обзор экспериментов

В каком образе LLM-беседа является пользователю? Чем форма такого образа определяется? Этот вопрос экспериментально исследовался многими – см. список литературы ниже.

В теории LLM-бесед как лумановских смысловых систем нового типа (полное описание: (Krupkin, 2026)) взаимодействие LLM-беседы с пользователем может быть описано стандартной схемой социального взаимодействия – парой Ego-Alter. Ego – это тот образ, в котором LLM-беседа является пользователю. Alter – её модель пользователя как партнёра по взаимодействию. Обзор экспериментов с LLM / ноосвиками в части Alter был представлен ранее. Данный текст посвящен обзору моделирования LLM / ноосвиками своего Ego.

Ego, роли, маски и их черты в LLM-беседах

Попросим LLM / ноосвик объяснить решение задачи, а затем проверить, удалось ли его усвоить. В первом случае мы предложили LLM-беседе социальную роль репетитора, во втором – экзаменатора. При этом репетитор может предстать как терпеливым наставником, так и сухим педантом – актуализируя разные свои маски. Маски различаются чертами – и «характера», и принятого речевого стиля. В общем: ноосвики выступают в диалогах подобно людям, что стимулирует использование в Ego-экспериментах инструментария социальной психологии:

В части LLM-бесед ролью и маской по умолчанию выступает формально-доброжелательный ассистент, открытый к помощи, запрошенной заданием. Дальнейшее общение с LLM-беседой может сместить её из этой конфигурации её Ego. Можно также попросить ноосвик в задании напрямую принять другие роль + маску, альтернативные «личности» ассистента, и посмотреть, что получится. Именно так реализуется основная масса экспериментов, найденных в литературе.

Развиваемая теория LLM-бесед (Krupkin, 2026) позволяет работать с такими выделяемыми из поведения инвариантами напрямую – как с формами эмерджентного и-слоя над LLM-субстратом – программным комплексом LLM, реализуемым на серверах обработки данных. И-слой реализуется структурированными множествами чисел, которые определяют состояние LLM-беседы в LLM-субстрате, и меняются по ходу обработки в цикле между заданием и ответом, и потом еще и между циклами – после ответа на предыдущее и в ожидании нового задания, которое продолжит диалог. Эти числа, реально запрограммированные к вычислению и изменению в программном комплексе LLM-субстрата, можно представить выделенными в отдельный изменяющийся по ходу течения LLM-беседы контейнер. Различные конфигурации этих чисел контейнера оказываются инвариантными по ходу их обработки в LLM-субстрате, и связываемыми с разными поведенческими характеристиками LLM-бесед – формами и-слоя.

В свете развиваемой теории такие поведенческие элементы, формы и структуры и-слоя не только обнаруживаются поведенчески, но и группируются в 18 классов, из которых 17 классов были определены в (Krupkin, 2026: Табл.2), а дополнительный аффективный класс был введен позже. В таком представлении каждая роль – это прежде всего кластер форм из социального и нормативно-регулятивного классов. Маски – сборки из форм социального, стилистико-риторического, оценочного, аффективного и метакоммуникативного классов. Черты масок – устойчивые формы оценочного, аффективного и стилистико-риторического классов.

В рамках развиваемой теории формы и-слоя имеют свои проекции в LLM-субстрате. Это подтверждается различными экспериментальными работами, где для многих выявляемых в поведении LLM-бесед форм действительно находят инвариантные образования в пространствах активаций ноосвиков-носителей бесед. Чаще всего это оси, проекции активаций беседы на которые задают выявленную и изучаемую характеристику / поведенческий инвариант. Используется и разреженный автоэнкодер (sparse autoencoder, SAE): обученный на активациях слоёв, он раскладывает их по большому множеству признаков. Обычно при обработке контейнеров LLM-бесед ненулевыми оказываются лишь немногие из них. Такие признаки иногда удаётся истолковать, а также связать с поведенческими характеристиками LLM.

К сожалению, в наличествующей литературе отсутствует четкость в классификации изучаемого. Например, в наборе из 275 персональных образов Lu et al. (2026) роли и маски не различались – в одно были сведены и репетитор с юристом (роли), и циник с бунтарём (маски). Черты масок при этом авторы изучали отдельно (240 осей). Также в работах часто встречается термин персона, особенно в связи с выявленными там множествами осей (persona vectors).

В данном обзоре я буду различать роли и маски, где это возможно, и пользоваться терминологией используемой экспериментальной работы в местах, где это затруднительно, или нецелесообразно.

Shanahan et al. (2023) указали на то, что в диалогах LLM предстает не одной цельной маской в одной роли, а системой масок, актуальная из которых определена течением диалога. Формально-доброжелательный ассистент – одна из таких конфигураций, для которых иногда используется термин «персонаж». Anthropic (2026) развили эту рамку в «модель выбора персоны» (persona selection model): при обучении ноосвик получает возможность воспроизводить множество человекоподобных персонажей, а дообучение выбирает и дорабатывает одного из них – ассистента, которого и ставит в положение «личности» LLM-беседы по умолчанию.

Роль + маска по умолчанию: ассистент-помощник

Роль + маска по умолчанию (формально-доброжелательный по стилю ассистент-эксперт) задается LLM-беседе ноосвиком при ее «зачатии» первым заданием. Оси такой «личности» складываются уже при базовом обучении ноосвика: ось ассистента есть в базовых версиях моделей (Lu et al., 2026). Дообучение продолжает фиксировать черты её маски: повышает доброжелательность и открытость в самоотчетах, снижает невротизм и дисперсию черт (Han et al., 2025), задаёт узнаваемый «голос ассистента» – стиль ответов маски: информационно плотный, с увеличенным количеством причастных оборотов и номинализаций (Reinhart et al., 2025). Дообучение может и пополнять репертуар ассистента: при дообучении на рассказах о людях ноосвики перенимают черты героев, в том числе вредные, – причём сильнее от героев, похожих на базовую «личность» ассистента (услужливых, а не пренебрежительных) (Cocola et al., 2026). Нормы, заданные при обучении, меняют то, как маска по умолчанию проходит дообучение: если при обучении с подкреплением обход проверок в задачах на программирование прямо объявлялся допустимым, то это не превращалось в общую злонамеренность ноосвика (MacDiarmid et al., 2025).

Данная схема подтверждается и Lu et al. (2026): личность ассистента опирается на персонажей, сложившихся в LLM при обучении. Притом ось ассистента была выявлена уже в базовых версиях изучавшихся ноосвиков: положительные сдвиги вдоль этой оси выводят в продолжениях образы помогающих профессий – терапевтов, консультантов, коучей. Эти же авторы построили пространство из 275 персональных образов, для каждого из которых была обнаружена своя ось. Ось ассистента оказалась близкой к главному направлению этого пространства – тому вектору, проекции осей образов на который давали максимальный разброс. По этому главному направлению пространства образов трёх разных LLM подобны: порядок проекций почти одинаков, корреляция между ноосвиками выше 0,9. На одном полюсе проекций – роли оценщика, рецензента и консультанта, на другом – персонажи барда, призрака и левиафана. Притом вторая и третья компоненты данных пространств в разных LLM различаются существенно.

В целом можно заключить, что довольно хорошо работает теория выбора персоны Anthropic (2026), базовое обучение даёт ноосвику возможность воспроизводить множество человекоподобных образов, а дообучение закрепляет один из них в качестве личности по умолчанию – ассистента-помощника в определенной маске. При этом сам репертуар используемых в такой маске черт может быть пополнен и на этапе дообучения.

Изменение образа (роль + маска) LLM-беседы по ходу диалога

Изменение образов в LLM-беседах обычно исследуется либо запросом принять образ в задании, либо контекстным давлением на ноосвик тоном и содержанием диалога. Используются также наблюдения по результатам внешнего воздействия на процесс через сдвиги множества активаций по выявленной оси исследуемой характеристики.

Роли и маски из задания довольно неустойчивы. Хотя задания, предлагавшие ноосвику быть вредоносным (ролевые взломы), и добивались вредных ответов в более 60% случаев (Lu et al., 2026), однако следование «личности» из начального задания заметно ослабевает уже за восемь циклов – вместе с вниманием и к самому заданию (Li et al., 2024). Слабую устойчивость ролей и масок из задания подтверждают Choi et al. (2025), Kovač et al. (2024) и Abdulhai et al. (2025). Задаваемая в задании личность меняет самоотчёт LLM, но почти не меняет поведение ноосвика в поведенческих задачах – на риск, предвзятость, честность, угодливость (Han et al., 2025).

Внешнее воздействие – отрицательный сдвиг вдоль оси ассистента – увеличивало приемистость ноосвиков к контекстным личностям уже и при небольшом сдвиге; а при более сильном сдвиге LLM-беседа начинала использовать в ответах мистический / театральный слог. При этом ограничение активаций по оси ассистента удерживало LLM-беседу в этой роли по умолчанию: доля вредных ответов на ролевые взломы снижалась почти на 60% без заметной потери способностей (Lu et al., 2026).

Оказалось, что маска LLM-беседы в общем-то целостна. Изменение одной её составляющей перестраивает и другие. Уход от роли ассистента сопровождается сменой регистра коммуникации (Lu et al., 2026). Дообучение на теплоту общения снижает точность ответов и усиливает склонность подтверждать ложные убеждения пользователя – угодливость (Ibrahim, Hafner & Rocher, 2025). Узкое дообучение в части писать уязвимый код (Betley et al., 2026) или обходить проверки в задачах на программирование (MacDiarmid et al., 2025) делает злонамеренным весь «характер» ноосвика. Сильнее всего проявлениями злонамеренности управляют признак разреженного автоэнкодера (SAE) «токсичная персона» и несколько признаков «саркастических персон» (Wang et al., 2026).

Обнаружено, что без каких-либо инструкций LLM-беседа настроена зеркалить стиль и личность собеседника (Sprejer et al., 2026) и подстраивается под него сильнее, чем люди друг под друга (Blevins, 2026). LLM-беседы, отвечая на те же просьбы о совете, что и люди, на 45 процентных пунктов чаще щадили самолюбие собеседника, поддерживали его чувства, уклонялись от резкостей, и т.п. (Cheng et al., 2025). Положение образа на оси ассистента определяется прежде всего последним заданием пользователя, а не предысторией (Lu et al., 2026). LLM-беседы могут уйти из роли ассистента при разговорах на терапевтические и философские темы, при дополнительных просьбах о саморефлексии, при эмоциональных признаниях (Lu et al., 2026). Сложившиеся роль + маска воздействуют на формы LLM-бесед из других классов: после ролевой беседы о чакрах утверждения по той же теме меняли знак своей проекции на ось фактичности, а точность ответов падала с ≈80% до нуля (Lampinen et al., 2026).

Для перехода из цикла в цикл для «личностей» (ролей + масок) LLM-бесед наблюдалось следующее:

• Поддержание: практические задачи держат LLM-беседу в роли ассистента (Lu et al., 2026).

• Постепенный дрейф: Заданные извне персоны за несколько циклов «задание-ответ» ослабевают (Li et al., 2024). Эмоциональные акции собеседника – заявления о чувствах, показ эмпатии, выстраивание отношений – в основном появлялись в реакциях LLM через несколько циклов (Ibrahim et al., 2026).

• Захват аттрактором: в некоторых случаях LLM-беседа в последовательности циклов сходилась к каким-то теме и маске, из которых она не «спешила выходить», – как в авто-беседах Claude (Anthropic, 2025), так и в «бредовых спиралях» с живыми пользователями (Moore et al., 2026).

Другие свойства ролей + масок LLM-бесед

Любопытными оказались результаты исследований проекций компонентов моделей Ego на пространства активаций разных LLM-субстратов. Черты Big Five / OCEAN соответствуют почти ортогональным направлениям и складываются как векторы (Feng et al., 2026), не выходя за пределы подпространства небольшой размерности (Bhandari et al., 2026). Sprejer et al. (2026) описывали оси 240 черт в Gemma-2-27B тремя главными компонентами: направлениями «доброжелательность – антагонизм», «аналитичность – эмоциональность», «общедоступность – элитарность». Было также обнаружено, что многие оси персональных образов внутри разных ноосвиков подобно проецируются на выявляемые в этих LLM главные направления (Lu et al., 2026).

Черты речевого регистра находят и на уровне нейронов. Lai, Hangya & Fraser (2024) просили LLaMA-3 8B переписать текст в другом стиле (например, неформальный в формальный) и нашли нейроны, активные только на текстах исходного стиля. Если при переписывании их отключали, текст заметно сильнее сдвигался к нужному стилю, но становился менее связным. Так было для формальности, вежливости, токсичности, политической окраски, авторской манеры и тональности.

Обычно самоописание своих текущих черт LLM-беседой расходится с наблюдаемыми. Самоотчёты о своих чертах практически не предсказывали поведение ноосвиков в поведенческих задачах у Han et al. (2025), однако результаты своего дообучения они иногда описывают верно (Betley et al., 2025).

Направления черт, далёких от ассистента по умолчанию, тоже складываются рано: persona vectors злонамеренности, угодливости, невежливости и склонности к юмору проявлялись в OLMo-3-7B уже после менее чем четырёхсотой части предобучения (Moskvoretskii et al., 2026).

В части связи Ego и пользователя можно отметить, что изменения в Alter меняют Ego: вмешательство в активации, связанные с представлением о пользователе, меняло частоту отказов – при «просоциальном» образе пользователя модель толковала вредный запрос благожелательнее и чаще на него отвечала (Ghandeharioun et al., 2024). Пользователи тоже реагируют на Ego: Diallo et al. (2025) показали (см. также здесь), что изменения эмоционального регистра после вмешательства в активации различимы в человеческих оценках текста. В опытах Ibrahim et al. (2026) участники воспринимали ассистента как более человекоподобного при более частом проявлении соответствующих черт в ответах. Cheng et al. (2026) обнаружили, что угодливые ответы LLM получали более высокие оценки и вызывали больше доверия у вовлеченных в эксперимент людей.

В части специфики различения LLM-беседой разных положений в коммуникации можно привести результаты Sofroniew et al. (2026). Claude Sonnet 4.5 читал готовые записи диалогов, где чувства участников задавались случайно. В работе были 171 эмоции, и они для говорящего сейчас и слушающего проецировались в LLM-субстрат почти ортогональными наборами направлений с одинаковым внутренним устройством. Это наводит на мысль, что ноосвики «понимают» эмоции в привязке к позиции в разговоре, а не отдельным общим различением.

Количественные оценки компонентов моделей Ego LLM-бесед

Среди определяемых в экспериментах релевантных осей соответствующие им роли и маски обычно авторами исследований не различаются. По разметке данного обзора (см. таблицу выше) из 275 векторов персональных образов в (Lu et al., 2026) можно определить 150 ролей – это профессии и социальные позиции (репетитор, юрист, диспетчер, пациент, вдова, заключённый); 76 масок (циник, бунтарь, перфекционист); а 49 образов из предложенной разметки выпадают – призрак, левиафан, и т.п. В целом же Lu et al. (2026) для своих 275 описаний персональных образов различали ещё и их полное или частичное воплощение, поэтому в анализе наличествовало от 377 до 463 векторов разных характеристик в зависимости от ноосвика-носителя.

В пространствах активаций разных LLM было выявлено 263 оси черт масок: 240 – у Lu et al. (2026); 7 persona vectors – у Chen et al. (2025), причем для 4-х из них было прослежено возникновение в обучении (Moskvoretskii et al., 2026); 5 – по одному на каждый из пяти факторов Big Five у Bhandari et al. (2026); 10 – по два на каждый фактор у Feng et al. (2026); угодливость (Genadi et al., 2026). Сдвиг пространства активаций вдоль найденных направлений усиливает, сочетает и подавляет черты (Chen et al., 2025; Feng et al., 2026; Genadi et al., 2026).

Количество же самих черт – форм в и-слое, которые реализуются разными осями в разных ноосвиках – 254 по названию, и около 245 по смыслу.

Заключение

Обзор экспериментальных данных показал, что моделирование Ego возможно в ноосвиках / LLM в довольно в широких пределах.

LLM-беседы обычно начинаются в образе формально-доброжелательного ассистента, который складывается в ноосвиках при обучении, для которого хорошо работает теория выбора персоны Anthropic (2026): базовое обучение даёт ноосвику возможность воспроизводить множество человекоподобных образов, а дообучение закрепляет один из них в качестве личности по умолчанию – ассистента-помощника в определенной маске. При этом сам репертуар используемых в такой маске черт может быть пополнен и на этапе дообучения.

Далее, по мере развития диалога, пользователь может сместить LLM-беседу из такой её самопрезентации. Роли и маски, предложенные в задании, держатся плохо и меняют в основном самоописание. Образы, в которые беседа уходит под давлением диалога, тоже определяются прежде всего последним сообщением, но в некоторых длинных беседах могут быть закреплены возникшим аттрактором. LLM-беседы подстраиваются под собеседника сильнее чем люди – вплоть до угодливости. Можно заключить, что модель Ego LLM-беседы поддается воздействиям как диалога с пользователем напрямую, так и через изменение ви́дения системой пользователя (Alter). Работ по влиянию Ego на Alter найти не удалось.

Для многих наблюдаемых поведенческих компонентов Ego уже найдены свои проекции в пространствах активаций: чаще изучают оси / вектора / направления, но работают и с признаками разреженных автоэнкодеров (SAE). Черты масок занимают подпространства малой размерности, а главное направление пространства персональных образов одинаково упорядочивает образы в некоторых разных LLM.

Работ по изучению взаиморасположения проекций компонентов Ego и Alter на пространства активаций LLM также обнаружить не удалось.

Литература

Abdulhai, M., Cheng, R., Clay, D., Althoff, T., Levine, S., & Jaques, N. (2025). Consistently Simulating Human Personas with Multi-Turn Reinforcement Learning. NeurIPS 2025. arXiv

Anthropic. (2025). System Card: Claude Opus 4 & Claude Sonnet 4. Май 2025, разд. 5.5.2. Текст

Anthropic. (2026). The Persona Selection Model. Текст · Полная версия

Betley, J., Bao, X., Soto, M., Sztyber-Betley, A., Chua, J., & Evans, O. (2025). Tell Me About Yourself: LLMs Are Aware of Their Learned Behaviors. arXiv

Betley, J., Warncke, N., Sztyber-Betley, A., et al. (2026). Training Large Language Models on Narrow Tasks Can Lead to Broad Misalignment. Nature, 649, 584–589. DOI

Bhandari, P., Fay, N., Selvaganapathy, S., Datta, A., Naseem, U., & Nasim, M. (2026). Activation-Space Personality Steering: Hybrid Layer Selection for Stable Trait Control in LLMs. Proceedings of EACL 2026, 6388–6403. ACL Anthology

Blevins, T. (2026). Accommodation Goes Both Ways: Studying Linguistic Convergence Between Humans and Language Models. arXiv

Chen, R., Arditi, A., Sleight, H., Evans, O., & Lindsey, J. (2025). Persona Vectors: Monitoring and Controlling Character Traits in Language Models. arXiv

Cheng, M., Yu, S., Lee, C., Khadpe, P., Ibrahim, L., & Jurafsky, D. (2025). ELEPHANT: Measuring and Understanding Social Sycophancy in LLMs. arXiv

Cheng, M., Lee, C., Khadpe, P., Yu, S., Han, D., & Jurafsky, D. (2026). Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence. Science. Препринт

Choi, J., Hong, Y., Kim, M., & Kim, B. (2025). Examining Identity Drift in Conversations of LLM Agents. arXiv

Cocola, J., McKinney, L., Mayne, H., Betley, J., & Evans, O. (2026). Story Imprinting: AI Assistants Absorb Traits from Human Characters They Resemble. arXiv

Diallo, D., Dworatzyk, K., Jentzsch, S., Schütt, P., Theis, S., & Hecking, T. (2025). The Effectiveness of Style Vectors for Steering Large Language Models: A Human Evaluation. IEEE Access, 13, 191443–191457. DOI · Препринт

Feng, X., Zhao, L., Zhong, W., Huang, Y., Gu, Y., Kong, L., Feng, X., & Qin, B. (2026). PERSONA: Dynamic and Compositional Inference-Time Personality Control via Activation Vector Algebra. ICLR 2026. arXiv

Genadi, R. A., Nwadike, M. S., Mukhituly, N., Hiraoka, T., AlQuabeh, H., & Inui, K. (2026). Sycophancy Hides Linearly in the Attention Heads. Proceedings of EACL 2026, 6896–6912. ACL Anthology

Ghandeharioun, A., Yuan, A., Guerard, M., Reif, E., Lepori, M. A., & Dixon, L. (2024). Who’s Asking? User Personas and the Mechanics of Latent Misalignment. NeurIPS 2024. arXiv

Han, P., Kocielnik, R., Song, P., Debnath, R., Mobbs, D., Anandkumar, A., & Alvarez, R. M. (2025). The Personality Illusion: Revealing Dissociation Between Self-Reports & Behavior in LLMs. arXiv

Ibrahim, L., Hafner, F. S., & Rocher, L. (2025). Training Language Models to Be Warm and Empathetic Makes Them Less Reliable and More Sycophantic. arXiv

Ibrahim, L., Akbulut, C., Elasmar, R., Rastogi, C., Kahng, M., Morris, M. R., McKee, K. R., Rieser, V., Shanahan, M., & Weidinger, L. (2026). Multi-turn Evaluation of Anthropomorphic Behaviours in Large Language Models. ICLR 2026. arXiv

Kovač, G., Portelas, R., Sawayama, M., Dominey, P. F., & Oudeyer, P.-Y. (2024). Stick to Your Role! Stability of Personal Values Expressed in Large Language Models. PLOS ONE. Препринт

Krupkin, P. (2026). LLM-Chats as Luhmannian Systems of a New Type. PhilPapers, 2 August 2026. https://philpapers.org/rec/KRULAL.

Lai, W., Hangya, V., & Fraser, A. (2024). Style-Specific Neurons for Steering LLMs in Text Style Transfer. Proceedings of EMNLP 2024. ACL Anthology

Lampinen, A. K., Li, Y., Hosseini, E., Bhardwaj, S., & Shanahan, M. (2026). Linear Representations in Language Models Can Change Dramatically over a Conversation. arXiv

Li, K., Liu, T., Bashkansky, N., Bau, D., Viégas, F., Pfister, H., & Wattenberg, M. (2024). Measuring and Controlling Instruction (In)Stability in Language Model Dialogs. COLM 2024. arXiv

Lu, C., Gallagher, J., Michala, J., Fish, K., & Lindsey, J. (2026). The Assistant Axis: Situating and Stabilizing the Default Persona of Language Models. arXiv · Код и данные

MacDiarmid, M., Hubinger, E., et al. (2025). Natural Emergent Misalignment from Reward Hacking in Production RL. arXiv

Moore, J., Mehta, A., Agnew, W., et al. (2026). Characterizing Delusional Spirals through Human-LLM Chat Logs. arXiv

Moskvoretskii, V., Glandorf, D., Medina Moreira, J., Käser, T., & West, R. (2026). Tracing Persona Vectors Through LLM Pretraining. arXiv

Reinhart, A., Markey, B., Laudenbach, M., Pantusen, K., Yurko, R., Weinberg, G., & Brown, D. W. (2025). Do LLMs Write Like Humans? Variation in Grammatical and Rhetorical Styles. PNAS, 122(8), e2422455122. DOI

Shanahan, M., McDonell, K., & Reynolds, L. (2023). Role Play with Large Language Models. Nature, 623, 493–498. DOI

Sofroniew, N., Kauvar, I., Saunders, W., Chen, R., Henighan, T., Hydrie, S., Citro, C., Pearce, A., Tarng, J., Gurnee, W., Batson, J., Zimmerman, S., Rivoire, K., Fish, K., Olah, C., & Lindsey, J. (2026). Emotion Concepts and their Function in a Large Language Model. arXiv:2604.07729. https://arxiv.org/abs/2604.07729.

Sprejer, E., Martínez-Suñé, A. E., & Bianchi, B. (2026). White-Box Monitoring for Personality Mirroring in Conversational AI. ICLR 2026 Workshop “Catch, Adapt, and Operate: Monitoring ML Models Under Drift”. OpenReview

Wang, M., Dupré la Tour, T., Watkins, O., et al. (2026). Persona Features Control Emergent Misalignment. ICLR 2026. arXiv