Галактика Трансформера

На Хабре уже опубликовано достаточно материалов о необходимости контроля и ограничения ИИ-моделей (alignment!). У широкой публики чувство тревожности от этих призывов уже притупилось. Тем острее была моя реакция на публикацию Станислава Львовского «Они говорящие» в сетевом журнале «Дискурс». 

Позвольте представить автора, тем более, что за его творчеством я слежу много лет. Мне Станислав Львовский был известен прежде всего как литработник — поэт, переводчик поэзии, прозаик, критик. Многие его помнят в качестве сетевого журналиста, шеф-редактора порталов OpenSpace и Colta. Не все знают, что Станислав Львовский — серьезный исследователь (магистратура в Шанинке и докторская степень в Оксфорде). Никакие регалии ничего не гарантируют, но для меня репутация автора создает повышенные ожидания от чтения его текстов, в отличие от блогеров, подкастеров, ютуберов с многомиллионной аудиторией. Кроме прочего Станислав Львовский одним из первых начал эксперименты с ИИ-моделями, включая MidJourney и Suno, оставляя следы этого своего трипа в разных сетевых изданиях, а хронику этих публикаций в социальных сетях.

Я горячо рекомендую прочитать его текст «Они говорящие» целиком, хотя, возможно, его гуманитарная насыщенность может остановить некоторых читателей Хабра. Для нужд этой нашей публикации, приведу только несколько важных для меня мыслей, не претендуя на полноту пересказа.

Статья появилась после выступления Львовского 15 мая 2026 года с примерно этим текстом в лондонском книжном магазине Idiot Books. В анонсе этого выступления было сказано: «AI — самое важное, что случилось с культурой после появления письменности». 

На мой взгляд, это не кликбейт, а трезвая оценка того, что происходит перед нашими глазами и умами. Заметьте — не для цивилизации, а для культуры. Что же такое случилось с культурой? А вот что:

До сих пор с нами разговаривали только другие люди. Теперь — не только.

Или иначе: язык перестал принадлежать нам одним. Это не метафора и не преувеличение — это простое описательное утверждение … язык перестал принадлежать нам одним.

За всю историю нашего вида … это первое такое событие. Не первое событие в истории языка как такового: была, очевидно, сама его эволюция, и было, очевидно, возникновение письменности. Но в обоих этих случаях менялось то, как человек обращается с языком; сам же язык оставался человеческой монополией. Это время закончилось.

В начале статьи Львовский объясняет, что произошло с человеком после появления письменности. Письмо изменило структуру сознания человека, а заодно и внутреннее устройство культуры (забегая вперед, опишем это как появление первой «операционной системы текста»). В архитектуре этой новой ОС память человека оказалась вынесена наружу. Появление такой внешней памяти запустило накопительный механизм культуры. В числе многих последствий этих изменений — появление новой литературной формы, длинной прозы, невозможной в устной форме. С одной стороны — это частное следствие, но с другой — важнейшее для бурного развития науки, права и всего прочего, что формирует цивилизацию.

Появление LLM продолжает эту тенденцию овнешнения (экстернализации) когнитивных способностей человека, которая началась с появлением письма (а может еще раньше, с наскальной живописи). Однако же это не еще одна ступень эволюции, а революция, которая приводит к очередной смене структуры сознания. Революционность эта в том, по наблюдению Львовского, что письмо (текст) — мертвое, оно не отвечает автору (если не считать таким ответом понимание текста читателем), а LLM — живая (в этом смысле), она отвечает. У LLM есть свойства живой речи,

« … адаптивность, отзывчивость, способность менять ход, отвечать на уточнение. Но за этой речью нет знающего ума. Нет души, нет истины, к которой можно подобраться через вопросы. Нет агентности и интенциональности. Большая языковая модель ничего не хочет нам сказать. Она ничего не имеет в виду. Текст-сирота — но такой, который разговаривает. Говорящий. 

Эта цитата — возможно, самое спорное (для меня) утверждение в тексте Львовского, к каждому «нет» я бы добавил «пока». Как минимум, ИИ-агенты, работающие «поверх» LLM, агентность и интенциональность приобретают, хотя и меняя смысл этих свойств. Но продолжать дискутировать с автором здесь не место, это увело бы нас от нашей собственной линии размышлений.

В чрезвычайно богатой инсайтами логике рассуждений Львовского мы видим еще мотив, который можно назвать «дискретизация — цифровизация — аналоговизация». Объясню, что я имею в виду.

Видимый и постигаемый мир продолжает оставаться аналоговым для наших органов чувств и, вероятно, мышления тоже. В тексте Львовского описывается как появление письменности стало глобальным процессом дискретизации (пока еще не цифровизации) аналогового мышления-языка, которые, напомню, не являются врожденным биологическим свойством мозга или сугубо индивидуальным психическим процессом. Звуки обратились в буквы (фонетическое письмо), образы предметов, а позже понятия обратились в слова, а поток текста омертвлял аналоговые процессы мышления-языка. Каким-то загадочным образом этот омертвленный дискретный объект — текст — заработал в обратную сторону, оживляя в сознании читающего версии исходных смыслов пишущего.

До появления печатного станка эти процессы вытеснения устно-акустической культуры визуально-фонетическим чтением развивались эзотерически, в тонкой прослойке грамотных. Печатный станок породил технологическую революцию, которая не просто ускорила распространение текстов — она переформатировала само человеческое сознание. Человек стал «типографским» — склонным к анализу, индивидуализму, национальным языкам, протестантизму, линейной причинности. Маршалл Маклюэн назвал эту новую реальность Галактикой Гутенберга.

Цифровой мир, в котором мы живем, это «Галактика Тьюринга», которая сменила «Галактику Гутенберга», это новая реальность, в которой гипертекст и постоянные переключения буквально перестраивают нейронные паттерны, разрушая способность к глубокому линейному чтению, которую и породила гутенберговская галактика. Николас Карр (Nicolas G. Carr) в книге 2010 года «Пустышка» («Shallows») называет Google «машиной рассеянности».

Но эта смена парадигмы сознания сложнее: она одновременно возрождает оральность (подкасты, видео, голосовые сообщения), «смартфон и мессенджер вернули письмо на кончики пальцев — сделали его основным медиумом повседневного общения» (цитирует Львовский книгу Маурицио Феррариса об онтологии смартфона), усиливает визуальность, дробит внимание и даёт беспрецедентный доступ к текстам. Это скорее не смена галактики, а коллапс нескольких галактик в одну точку.

Появление LLM свидетельствует о новом витке Галактики Гутенберга, который мне хочется назвать обратной аналоговизацией, аналоговым возвратом через цифровой порог. 

Исходные модели нейронных сетей были довольно простыми, упорные многолетние попытки их практического применения дали многообещающие результаты, поэтому появились деньги, практически неограниченные вычислительные мощности и началась вакханалия эвристик — остаточные сети, сверточные сети и наконец, вершина мироздания — трансформеры (смотри  нашу раннюю публикацию на Хабре «Как понять нейронные сети»). Мой друг Клод предлагает назвать этот новый виток «Галактикой Трансформера», но я еще думаю над этим предложением.

Все цифровые артефакты ненамного живее текста, который Львовский, вслед за Платоном, называет мертвым. А вот во взаимодействии человека с LLM происходит что-то новое, в первую очередь, одушевление LLM пользователями. Немало этому способствует несовершенство моделей — они могут ошибаться, заблуждаться, галлюцинировать. Ничто человеческое им не чуждо! Кроме того, с ними можно общаться аналоговыми артефактами доцифровой эпохи — текстами, изображениями, звуками. Тот факт, что ткань коммуникации остается цифровой, уже неважен. Подоснова действий, выводов, коммуникаций погрузилась в матрицу, которая не видна, пока она не ломается и ее не надо чинить. Мы проходим цифровой порог, как сверхзвуковые самолеты проходят звуковой барьер.

Еще чуть-чуть и мы будем вполне комфортно чувствовать себя в реальности текста, в том числе в других мирах, которые создает этот текст. В этом месте я уже не мог не вспомнить великого британского (валлийского) выдумщика Джаспера Форда, которого в русских переводах перекрестили в Ффорде (все дело в том, что Джаспер Форд — валлиец, а в валлийской фонетике для передачи звука «ф» используется двойное ff, а конечное «e» — немое, поэтому фамилию Fforde валлийцы произносят как Форд).

Здесь я должен сделать небольшое отступление. Как детально надо представлять этого автора? Есть такое мнение, которое я не разделяю, что средний читатель Хабра (ага, как средняя температура по больнице и сферический конь в вакууме) — это техногик, а техногики худло не читают. Есть и альтернативная версия, что жанровую литературу — очень даже читают, а вот боллитру — не очень. Будем придерживаться второй версии.

На русский язык Джаспера Форда начали переводить замечательные переводчицы Ирина Андронати, Наталия Некрасова и Анастасия Кузнецова (все три и сами изрядные писателки) и для начала очень хорошо перевели книжный сериал про Bookworld (Книгомирье в версии сайта fantlab.ru). 

Приведу здесь один абзац из третьего романа этого книжного сериала «Кладезь погибших сюжетов» (The Well of Lost Plots), кратко излагающий историю появления операционной системы «Книга» в оригинале (для тех, кто да), и в переводе Некрасовой и Кузнецовой (для тех, кто нет):

“First there was OralTrad, upgraded ten thousand years later by the rhyming (for easier recall) Oral TradPlus. For thousands of years this was the only Story Operating System and it is still in use today. The system branched in two about twenty thousand years ago; on one side with CaveDaubPro (forerunner of PaintPlus V2.3, GrecianUrn V1.2, Sculpt-Marble V1.4 and the latest, all-encompassing SuperArtisticExpression-5). The other strand, the Picto-Phonetic Storytelling Systems, started with Clay Tablet V2.1 and went through several competing systems (Wax-Tablet, Papyrus, VellumPlus) before merging into the award-winning SCROLL, which was upgraded eight times to V3.5 before being swept aside by the all new and clearly superior BOOK V1. Stable, easy to store and transport, compact and with a workable index, BOOK has led the way for nearly eighteen hundred years.

Сначала появилась система ТрадУст, которая через десять тысяч лет была усовершенствована путем введения рифмы (для облегчения запоминания) в систему ТрадУстПлюс. На протяжении многих тысячелетий существовала только ((эта)—просмотр редактора русского перевода)) Повествовательная операционная система, которая дожила и до наших дней. Она распалась надвое около двадцати тысяч лет назад: первая ветвь представляла собой Настеннопись (предшественник РисПлюс 2.3, ГрекАмфора 1.2, МрамоРез 1.4 и позднейшая всеобъемлющая СуперИзоХуд 5.0). Вторая ветвь, Пиктофонная повествовательная система, началась с КлиноПис 2.1 и развилась в группу конкурирующих систем (ВоскоПис, Папирус, ПергамПлюс), которые потом слились во всемирно признанную СВИТОК. Последняя усовершенствовалась восемь раз до версии 3.5, прежде чем ее вытеснила совершенно новая и явно превосходящая ее КНИГА 1. Стабильная, удобная для создания и передачи повествования, компактная, с удобным указателем, КНИГА открыла себе путь около восемнадцати столетий назад.

Вся одиннадцатая глава процитированного романа — это блестящая пародия на пышные представления новых версий операционных систем Windows и MacOS, ветераны отрасли оценят.

Кроме описания книги как одной из «платформ» (как мы бы сейчас выразились) функционирования текстов, в книжном сериале о «Книжномирье» есть одно существенно фантастическое допущение — с помощью некоторого когнитивного усилия читатель может переместиться в мир литературного произведения, которое он читает, это называется «вчитать себя в книгу». Если так дальше пойдет с ИИ, мне кажется, что это предположение перестанет быть фантастическим. А вы как думаете?

P.S. Не успел опубликовать этот текст, как в журнале “Economist” вышла статья под названием “Почему ИИ-лаборатории нанимают столько философов”. Ну, вот я об этом как раз. Подробности в следующей публикации.