Знакомая паника
Иногда в ленте появляется тред: «ИИ убивает человеческое в человеке». Дальше — кто во что горазд: либо плач об утраченной глубине, либо алармизм про когнитивную деградацию, либо философский ужас перед расчеловечиванием. Структура одна и та же: есть «мы», у нас есть «человеческое», оно ценно, ИИ это «человеческое» отнимает.
Вопрос, который в этих тредах не задают: что именно отнимает — и с чего мы взяли, что это «наше» в каком-либо устойчивом смысле слова.
Если копнуть — а копать придётся к двум ныне забытым авторам, Борису Фёдоровичу Поршневу и Джулиану Джейнсу, — выяснится неудобное. То, что мы пытаемся защитить от LLM, возможно, не является ни базовой константой человека, ни вершиной эволюции, ни даже особенно удачным изобретением. Это конкретная историческая конструкция, собранная для решения конкретной задачи. Задача может исчезнуть. Конструкция тогда тоже исчезнет. И, возможно, об этом будут жалеть не больше, чем сейчас жалеют о потерянной способности слышать богов.
Минимальный ликбез
Поршнев («О начале человеческой истории», 1974) и Джейнс («The Origin of Consciousness in the Breakdown of the Bicameral Mind», 1976) работали независимо и пришли к похожему выводу: то, что мы называем своим внутренним «я», — позднее историческое образование, а не биологическая данность.
У Поршнева это цепочка суггестия → контрсуггестия → контр-контрсуггестия. Слово возникло как командный сигнал: один организм через звук запускает или тормозит поведение другого. Это суггестия. Постоянное подчинение чужому слову биологически невыносимо — у вас есть собственные сенсорные сигналы, которые с ним конфликтуют. Развивается контрсуггестия: фильтры недоверия к источнику, способность не подчиниться, отстаивание собственной правды. Это и есть зародыш «я» — точка сопротивления чужой команде. Дальше суггестор отвечает усложнением (риторика, ритуал, идеология) — это контр-контрсуггестия. Так разворачивается вся история коммуникации.
На нулевом шаге у Поршнева стоит не «обозначение», а интердикция — запрет, сигнал, тормозящий действие сородича. Семантика «о мире» возникает поздно, как надстройка над прагматикой «над тобой». Передаточный механизм — имитация: один демонстрирует, другой воспроизводит; в современных терминах это зеркальные системы и motor resonance. На этой имитативной инфраструктуре собирается удержание двух противоположных состояний в одном акте — Поршнев называет это дипластией («то же и не то же», «запрещено и предписано»), и без неё не получается ни символа, ни понятия. Главное следствие — интерпсихическая природа «я»: оно не сидит внутри отдельного черепа, а собирается в зазоре между «мы» и «они», между подчинением и сопротивлением. Робинзон-картезианец, мыслящий в одиночку, у Поршнева невозможен в принципе — без чужого слова не из чего собирать своё.
У Джейнса версия более экзотическая. До какого-то момента в истории человек не имел интроспективного «я» в нашем смысле. Решения принимались, но переживались как голос — бога, царя, предка. То, что мы сегодня называем мыслью, тогда звучало как чужая речь. Сильную версию большинство специалистов не принимают. Слабая, в редакции Скотта Александера, выглядит так: Джейнс нашёл реальный сдвиг, но не в самом сознании, а в theory of mind и лексической инфраструктуре самоописания. Раньше люди не описывали внутреннее как пространство с наблюдателем — а потом начали. Это и есть «изобретение интроспекции».
Живая иллюстрация — племя пираха в бассейне Амазонки, описанное лингвистом Дэниелом Эвереттом («Don’t Sleep, There Are Snakes», 2008). У пираха нет художественной литературы, почти нет ритуалов, нет мифов о происхождении мира — но есть постоянное взаимодействие с духами, которых они описывают не как метафору, а как конкретный факт повседневности. В прологе книги Эверетт описывает сцену: вся деревня собирается на берегу реки, кричит и показывает на пустой песок, утверждая, что именно там сейчас стоит названный по имени дух. Эверетт и его дети не видят ничего. Для пираха «дух на берегу» — такая же объективная данность, как ягуар или каноэ; для Эверетта — галлюцинация коллектива. Это не «недочеловеческое мышление», а другой режим самоописания: то, что наша культура поместила бы во внутреннее пространство как «мысль» или «образ», их культура размещает во внешнем мире как «существо». Сильную версию Джейнса пираха не подтверждают (theory of mind у них работает, обмануть друг друга они умеют), но слабую иллюстрируют идеально: лексическая инфраструктура самоописания не универсальна, и от её настройки зависит, где проходит граница «во мне / снаружи».
В современных терминах поршневская цепочка переписывается уже без павловской физиологии: shared intentionality (Tomasello), epistemic vigilance (Sperber), source-monitoring и predictive coding в self-monitoring (Frith, Fernyhough, Friston). Имена другие, структура та же. Контрсуггестия — это инвариант любой коммуникации, в которой есть две стороны с возможно расходящимися интересами.
«Я» как middleware
Контрсуггестию удобно представить как middleware между входящим коммуникативным сигналом и вашими действиями. Сигнал поступает — middleware проверяет: кто источник, какой у него статус, какие интересы, согласуется ли с моей моделью мира, не пытается ли он мной манипулировать. Прошёл проверку — действие разрешено. Не прошёл — заблокировано или передано на ручной разбор.
То, что мы называем «я», — это не процессор, который middleware обслуживает. Это состояние самого middleware: то, что вырабатывается из накопленных решений «согласиться/не согласиться», «это моё/это чужое», «здесь я уступлю, здесь буду держаться». «Я» — конфигурация фильтров, собранная из истории конфликтов с чужой суггестией.
Поэтому Поршнев формулирует радикально: «я» рождается как точка сопротивления. Декартово «мыслю — значит существую» он бы переписал как «не подчиняюсь — значит существую».
У этой конструкции есть характерные побочные эффекты — на них и посмотрим.
Цена решения
У контрсуггестивного «я» есть штатные издержки. Не баги, а архитектурные особенности.
Постоянно работающий middleware ест ресурсы и держит систему в напряжении. Отсюда фоновая тревожность — норма, а не патология современности. Тревожные расстройства распространены в районе четверти-трети населения в высокодоходных странах; депрессия — массовое явление; нарциссические синдромы превратились в культурную тему. Экзистенциальное одиночество — структурное следствие конструкции «я-через-границу-с-другим»: чем чётче граница, тем плотнее изоляция. Статусная гонка — производная от того, что в любой коммуникации мы автоматически считываем иерархию суггесторов. Хроническое недоверие к словам — побочный продукт того, что без него мы бы стали игрушкой первого встречного манипулятора.
Это не плохо и не хорошо. Это её цена. Не «я-как-достижение», а «я-как-постоянно-работающий-защитный-аппарат, который дорог в обслуживании».
Когда читаешь паникующие треды про ИИ, любопытно: люди защищают конструкцию, на которую сами же половину времени жалуются. «Я устал от этой бесконечной гонки за статус, мне тревожно, я в депрессии, мне одиноко — но боже мой, не дай ИИ забрать у меня моё драгоценное человеческое».
Что делает LLM-посредник
В канале Максима Дорофеева недавно был пост, который точно описывает феномен. Автор приводит два вымышленных диалога — человека с LLM и с живым сотрудником. На комментарии LLM человек склонен реагировать «ты мой хороший, исправляй», «какой ты молодец, я тебя люблю». А на такие же комментарии от сотрудника — утрированно: «это у тебя в ДНК недостаток, дебил», «понабрали по объявлению», «а башку ты свою тупую дома не забыл?». Автор спрашивает: не возникало ли у вас странного ощущения?
Возникало. И вот его структура.
Реакция на сотрудника — гипертрофированная контрсуггестия. Источник проверяется на статус, компетентность, право говорить; даже верное по существу сообщение блокируется, потому что middleware защищает иерархию, а не истину. Это патология, но узнаваемая.
Реакция LLM — суггестия без контрсуггестии. И тут начинается интересное. Модель производит лингвистические формы согласия, благодарности, подчинения — но за ними нет агента с интересами. Нет того, кто получит власть от вашего согласия. Это суггестия без суггестора — историческая аномалия, которая в поршневской модели не предусмотрена, потому что вся модель построена на двух организмах с противоположными интересами.
Контрсуггестивный middleware, заточенный на «кто это говорит и что ему от меня нужно», теряет цель. Никто не нападает — защищаться не от кого. На уровне ощущений это переживается двойственно: с одной стороны, блаженно (никто не унижает, не давит, не претендует на власть), с другой — тревожно («что-то не так, источник не определяется, я не понимаю, на что реагирую»).
Теперь представьте, что таких посредников становится больше. Что они стоят не только между человеком и LLM, но и между двумя людьми. LLM пишет за вас письмо, LLM резюмирует чужое сообщение, LLM смягчает агрессию собеседника, LLM подбирает аргумент, который сработает на вашего адресата, LLM от вашего имени договаривается с LLM собеседника, пока вы оба спите.
Все эти сценарии делают одно и то же на структурном уровне: рассеивают суггестора до неузнаваемости. Сигнал приходит без следов тела, статуса, интереса, эмоции. Source-monitoring коллапсирует — чьи мысли вы сейчас читаете, не определяется. Контрсуггестивный middleware простаивает.
Гонка не заканчивается. Она переносится на уровень моделей и инфраструктуры — туда, куда индивидуальное восприятие не дотягивается. Но индивидуальное «я» как точка сборки лишается материала. Сопротивляться нечему — значит, и собирать нечего.
Это не философская спекуляция — видно по рынку: индустрия ИИ-компаньонов уже измеряется десятками миллиардов, и параллельно появляется встречная волна стартапов, специально пытающихся вернуть людей к людям. Структурный дефицит человеческого собеседника осознан уже на уровне венчурных инвестиций.
Историческая параллель
Когда греки догомеровского времени описывали свои переживания, они говорили не «я подумал», а «θυμός велел мне» (что-то вроде «дух в груди»), не «я разозлился», а «μένος наполнил меня». Боги вмешивались в их действия — не метафорически, буквально: Афина схватила Ахилла за волосы, чтобы он не убил Агамемнона.
Шумеры времён катастрофы Бронзвого века реагировали на исчезновение прямого контакта с богами как на конкретное историческое событие. Сохранилась табличка времён царя Тукульти-Нинурты: вельможа описывает, как его личный бог однажды просто перестал откликаться. Не «вера ослабла» — «бог ушёл». Это переживалось как уход родственника.
Прошло три тысячи лет. Никто сегодня не оплакивает невозможность слышать Зевса. Способность к интроспективному «я» — то, что для Гомера было либо невнятным, либо невозможным, — кажется нам настолько естественной, что мы готовы за неё умирать в тредах на Хабре.
Каждый такой переход переживается современниками как утрата человечности. Каждый раз через два-три поколения утрата становится незаметной — потому что новое поколение не знает, что было до.
Нет оснований полагать, что переход «контрсуггестивное-я → что-то-после» будет переживаться как-то существенно иначе. Болезненно — да. Катастрофически — вряд ли.
«Но это будут уже не люди»
Главное возражение к этому ходу мысли: если убрать контрсуггестивное «я», получится не новый человек, а не-человек.
Ответ в два шага — потому что у нас на руках две разные оси: джейнсовская (как человек себя описывает) и поршневская (из чего «я» собирается). Их полезно разводить.
По джейнсовской оси граница «человеческого» сдвигалась всю историю. Гомеровский грек описывал себя через органы тела и внешних богов; шумер — через ушедшее присутствие; современный человек — через ментальные пространства и внутренние состояния. Поколение Z уже частично описывает себя через распределённую медиа-сигнатуру — фаундер дейтингового стартапа Schmooze формулирует это прямо: «для поколения Z мемы — это окно во внутреннее Я». Будущий пользователь LLM-посредников — возможно, через поле «я+мои-модели». Это разные режимы самоописания, и переход от одного к другому не превращает ни предыдущего носителя в не-человека, ни следующего — в пост-человека. Меняется лексическая инфраструктура, не онтология.
По поршневской оси разговор сложнее, и здесь надо признать прямо: изменение может быть уже онтологическим. Если «я» собирается в зазоре между суггестией и контрсуггестией, и если LLM-посредничество действительно рассеивает суггестора (или прячет его на инфраструктурный уровень, недоступный индивидуальному восприятию) — меняется не словарь самоописания, а сам материал сборки. В этом смысле возражение «получится не-человек» по поршневской оси не отбрасывается, а принимается: да, получится другая конструкция.
Спор тогда не о том, изменится ли онтология, а о том, имеет ли смысл оплакивать конкретную её версию. И здесь возвращается джейнсовский аргумент: каждый носитель текущей конструкции убеждён, что именно его конструкция — настоящая, а следующая — расчеловечивающая. Это устойчивый паттерн.
Нынешнее «я» — последняя на сегодня позиция в этом ряду. Не финальная.
Куда уходит гонка
Хэппи энда рисовать не будем.
Та гонка, о которой шла речь выше, не заканчивается. Она меняет участников.
Если индивидуальное «я» рассеивается под LLM-посредничеством, это не значит, что суггестивная асимметрия исчезает. Она просто перетекает на другой уровень: владелец инфраструктуры → пользовательская популяция. Тот, кто настраивает модели, получает суггестивный канал, на который у пользователя нет контрсуггестивного аппарата — потому что аппарат был заточен на людей, а не на инфраструктуру.
Дальше варианты:
Вариант А. Контрсуггестия восстанавливается на новом уровне — но не у индивида против собеседника, а у коллективов против владельцев моделей. Регуляции, открытые модели, эпистемические гигиены, общественное недоверие к посредникам. Гонка возобновляется с новыми участниками.
Вариант Б. Не восстанавливается. Тогда гонка действительно заканчивается — победителем оказывается тот, у кого в руках инфраструктура.
Оба варианта снимают сакральность нынешней индивидуальной самости. В варианте А она оказывается промежуточной формой, уступившей место коллективным контрсуггестивным структурам. В варианте Б — последней формой, проигравшей в гонке.
И в обоих случаях оплакивать имеет смысл не «человека вообще», а конкретный исторический формат человека, у которого был свой расцвет и который, как все форматы, заканчивается.
Финал
Провокация эпохи LLM — не в самом ИИ. Она в том, что ИИ заставляет увидеть собственную субъектность не как самостоятельную сущность, а как позицию в коммуникативной структуре. Позиция может быть занята, освобождена, переразмещена. Защищать её имеет смысл — но не как защищают святыню, а как защищают полезный, но устаревающий протокол: пока нет лучшего, и пока понимаешь, что именно ты защищаешь.
Контрсуггестивное «я» было хорошим решением для долгого исторического раунда. Оно дало вам способность не подчиняться вожаку, не верить пропаганде, держаться своей правды против чужого слова. Оно же дало вам тревогу, одиночество, статусную гонку и хроническое недоверие.
Возможно, раунд заканчивается. Возможно, начинается следующий, в котором роли распределены иначе. И «человек», которого защищают паникующие треды, окажется в нём примерно тем же, чем гомеровский герой со своим θυμός оказался для нас: предком, узнаваемым, любопытным, но больше не нами.
Если так — это не катастрофа. Это окончание раунда. Возможно, не самого удачного.
И — неиронично предлагает ИИ-шка, с которой я оформлял эту статью:
И провокация даже не в том, что нам не должно быть жалко.Провокация в том, что, возможно, не очень-то и жалко уже.
Больше историй об айти и географии у меня в тг
ссылка на оригинал статьи https://habr.com/ru/articles/1030172/