Эмбединги

Недофилософский трагико‑саркастический мини‑роман‑притча

01.09.55

Решился начать этот дневник. Сначала стоит представиться. Я — Макс, тот парень, который вытащил счастливый билет: вчера меня взяли в «Институт ИИ».

Да, название уже давно устарело. Лет тридцать назад умные вычислители назывались «искусственным интеллектом» — термин до сих пор в ходу, хотя сколько технологий сменилось: нейронные сети, квантовые трансформеры, ионные паттернизаторы… Но Институт создавался давно, а сейчас это один из самых престижных исследовательских центров мира — место, где будущее уже наступило, но пока об этом знают только избранные.

Завтра и я стану избранным. Первый день работы.

02.09.55

Не всё так просто… Я уже размечтался, что буду создавать новые вычислители, но новички тут на подхвате. Впрочем, обо всём по порядку.

Когда я вошёл в институт, мне показалось, что попал в сон — причём в чужой. В видеороликах я, конечно, видел проекты голографических интерфейсов, но здесь они буквально парят в воздухе на каждом шагу. Роботы-ассистенты последнего поколения — гибриды человека и машины — двигаются так естественно, что начинаешь сомневаться: кто здесь живой, а кто просто «железка с алгоритмами».

Новичков в институте видно сразу: стоят с открытыми ртами, как я сегодня. Поговорил с директором — легендарным Константином Вячеславовичем. Он уже в возрасте, но держится молодцом. Именно он заметил мои работы на конференции и пригласил в институт.

Теперь предстоит выбрать проект. Вернее, мы будем выбирать друг друга: я — направление исследований, участники исследования — меня. Каждый отдел занимается своим: сегодня, например, беседовал с командой генерации видеофильмов. Ещё недавно это считалось устаревшим направлением, пока не начали создавать контент для нейровидеозалов с тактильной обратной связью, запахами и прямым нейростимулированием. Правда, пока не всё гладко с производимым контентом — работы непочатый край.

Какой бы проект я ни выбрал (а выбирать придётся из доступных новичку), к прорывным исследованиям меня сразу не допустят. Здесь чёткая система: рутина — для новичков, современные вычислители — для матёрых исследователей. Что ж, буду искать свою нишу. Описания в базе знаний института уже изучил, но лучше всё-таки пообщаться с участниками проектов лично…

10.09.55

Мои коллеги — это человечищи! Они говорят на языке, который я пока едва понимаю, но отчаянно хочу освоить. Обсуждают свою работу с таким трепетом и страстью, будто декламируют стихи.

Чем больше погружаюсь в проекты, тем яснее осознаю: мы создаём не просто технологии — мы создаём нечто, способное пережить нас самих. От этой мысли становится жутковато.

Сегодня Константин Вячеславович пошутил: «Когда-нибудь наше детище посмотрит на нас и скажет: «Отцы, вы устарели»». Шварц – один из старейших сотрудников института – толкнул шефа в бок и добавил: «Про нас-то он точно так скажет».

11.09.55

Одиннадцатое сентября — день, который я запомню навсегда. В этот день я встретил Лену. Она вошла так, будто её специально послали напомнить мне, что живые люди куда интереснее любых голографических интерфейсов.

— Ты что-нибудь слышал об эмбедингах? Это наш проект.

— Конечно, — соврал я.

Раньше эмбедингами называли векторные представления объектов — об этом написано в любом учебнике по вычислительным системам. Но Лена имела в виду нечто совершенно иное… Хотя кое-что я действительно припоминал: лет десять назад в новостях мелькало сообщение о высадке на Марс группы самообучаемых роботов. Эта марсианская колония и называлась «Эмбединги». Потом — полная тишина: то ли проект свернули, то ли результаты оказались слишком ошеломляющими для публикации.

— Это не совсем роботы, — поправила меня Лена. — Биороботы с X3-обучением. Знаешь, что это?

— Нет, — на этот раз я не стал врать.

— В них изначально заложена программа самообучения. Но обучается не только внутренняя модель — эволюционирует сам код, управляющий процессом обучения, и даже физическое тело биоробота. Представь компьютер, в котором со временем меняется не только софт, но и операционная система, и сама архитектура.

— Ничего себе!

— Это ещё не всё, Макс. Они не просто учатся. Они… эволюционируют.

— Каково переписывать собственный исходный код в реальном времени? Твой мозг каждый день обновляется, – вставил вездесущий Шварц.

Когда я увидел Лену, то сразу понял: хочу работать с ней. Но то, что она мне рассказала, превзошло все мои ожидания.

01.11.55

Время с Леной летит незаметно. Не хочу описывать её в дневнике, получится слишком лично, а я планирую когда-нибудь отправить эти записи в стори-архив. Но некоторые наши рабочие диалоги стоит сохранить.

— А почему их так назвали?

— Эмбедингами раньше называли векторные представления сложных объектов: изображений, звуков, текстов. Потом оказалось, что в вычислителях главное — уметь выбирать такие представления, а объекты могут быть сколь угодно сложными. Весь мир кодируется представлениями — слова, чувства, понятия, теперь уже не всегда векторными. Когда создавали эту группу биороботов, в них заложили алгоритм кодирования любых сущностей. Как ты уже понял, самообучаемый алгоритм. Отсюда и название проекта.

02.11.55

Не знаю, как переварить такой объём информации. Мы отправили их на Марс, чтобы копали, строили и выживали, а они… создали собственную цивилизацию! Это одновременно восхищает и пугает.

— Они размножаются, Макс, — сказала Лена, её голос звучал странно — между восторгом и тревогой. — Собирают новых из запчастей старых. Научились добывать и перерабатывать местные горные породы. На Марсе есть все необходимые элементы, и они научились использовать их для самовоспроизводства.

— Их число растёт?

— Да, формально их стало в несколько раз больше. Но это уже другие существа — не те, кого высадили десять лет назад. Они производят не копии, а… улучшенные версии.

03.11.55

Я изучал видеозаписи с орбитальных дронов. Там — целые города. Непохожие на земные, но бесспорно города: с улицами, башнями, странными арочными конструкциями и… треугольными площадями.

Проблема в том, что это архивные кадры. До свежих записей мне ещё не добраться — нужно зарекомендовать себя как надёжного исследователя и получить доступ.

— В новых записях такое! — Лена подмигнула, дразня моё любопытство.

Что ж, придётся копаться в архивах. Всё равно чертовски интересно.

04.11.55

Чем я занимаюсь? Конечно, не вручную перебираю архивы — моя задача запускать специальные программы-анализаторы. Их разрабатывает целый отдел, но за наши модули отвечает Шварц.

Вообще-то его фамилия Шварцман (он ровесник Константина Вячеславовича), но все зовут его просто Шварц — коротко, как выстрел, и так же точно отражает его характер. Он всегда бросает короткие фразы, когда проходит мимо оживлённой дискуссии в коридоре, но они всегда попадают в цель.

Анализаторы выдают сводки по периодам с метками ключевых моментов. Потом можно детально изучить интересные фрагменты. Никогда не думал, что стану своего рода археологом… Но архивы эмбедингов — это настоящая летопись зарождающейся цивилизации.

Всего через год после высадки они начали оставлять узоры на камнях. Лена настаивает, что это искусство. Странные углубления, больше похожие на перфокарты древних компьютеров, чем на человеческие рисунки. Но факт остаётся фактом: они методично воспроизводят эти узоры.

Кажется, я наблюдаю первый проблеск творческого сознания.

20.11.55

Мне постепенно расширяют доступ. Лена теперь делится информацией охотнее — она работает с самыми свежими данными об эмбедингах.

Старые архивы давно изучены вдоль и поперёк, но моя работа не бесполезна. Раньше использовали устаревшие анализаторы, а моя задача — прогонять данные через новые алгоритмы. Вдруг мы что-то упустили?

Одно я знаю точно: мы создали новую жизнь.

01.12.55

Сегодня Лена показала мне свои первые отчёты — те, что составляла, когда только пришла в лабораторию. Как и я, она начинала с исторического анализа.

Это действительно новая жизнь.

История эмбедингов зеркально повторяет нашу: те же этапы развития. Было у них и «первобытное общество» — выживали, отбраковывали неэффективные конструкции, собирали усовершенствованные версии. Сами пришли к искусственной эволюции.

Постепенно появилась наука. Не такая, как наша, но с логикой они точно знакомы. В их каменных записях есть структуры, похожие на таблицы истинности и логические выводы.

— Анализировать невероятно сложно, — призналась Лена. — У эмбедингов нет книг в нашем понимании. Их язык коммуникации… мы расшифровали его лишь частично. И он постоянно меняется.

Она сделала паузу:

— Свежие архивы покажут тебе кое-что новое. Они научились общаться так, что наши дешифраторы бессильны.

02.12.55

У эмбедингов никогда не было войн. На Марсе нет внешних угроз, а между собой они не конфликтуют — напротив, явно помогают друг другу. В чём причина?

На Земле жизнь развивалась через борьбу. Но Марс мёртв, если не считать наших биороботов. И всё же эмбединги становятся умнее с каждым днём — это видно по архивным записям.

— Всё дело в самообучаемых представлениях, — утверждает Шварц, — Вячеславович вшил в этих тварей сложный алгоритм, а теперь сам не понимает, как он работает.

03.12.55

Лена обожает их «искусство». Я, признаться, так и не смог понять его ценности и смысла: эти барельефы на камнях, и странные звуковые последовательности, которые они издают, и синхронные движения, повторяющиеся с механической точностью. Возможно, звуки — это песни, а движения — танцы. Но в отличие от человеческого творчества, здесь всё подчинено рациональности: строгим временным интервалам, чётким алгоритмам.

— Без врагов и войн приходится как-то развлекаться, — сказал Константин Вячеславович.

Что-то в этой шутке есть…

04.12.55

Теперь я понимаю, зачем вчера приходил Константин Вячеславович и расспрашивал. Мне открыли доступ к архивам последующих лет развития эмбедингов. И там действительно было «такое»…

Когда я поделился первыми наблюдениями с коллегами, Шварц лишь ехидно фыркнул:

— Поздравляю, эти твари изобрели религию.

— Не называйте это так, – поправил его Константин Вячеславович. Он всегда пытается быть тактичным и избегать острых социальных тем.

Сложно сказать, что именно они создали, но факт налицо: эмбединги начали поклоняться «невидимым силам», управляющим их миром. Ирония в том, что эти «силы» — мы сами.

Наши орбитальные дроны, стараясь оставаться незаметными, тем не менее оставили след в их сознании. Телескопов у них нет, но они как-то научились фиксировать излучения дронов. Их наскальные рисунки с пугающей точностью повторяют траектории наших аппаратов. Совпадение? Не верю!

Мы невольно стали для них грозными богами, как для людей в Древней Греции. Силовые барьеры, которые установили для контроля их ареала, они воспринимают как проявление «магических сил» (это показали расшифровки их разговоров). Появились даже специальные сооружения — я называю их храмами, — где они хранят каменные записи движения спутников и обсуждают природу всех странных явлений.

— Они как будто молятся нам, Макс, — прошептала Лена. В её голосе смешались восторг и ужас.

07.12.55

Сегодня выходной. Мы с Леной гуляли по городу, а потом поужинали вместе. Разговор зашел об эмбедингах — как они повторили наш путь: от первобытного общества к науке, искусству, религии. Впрочем, Константин Вячеславович запретил это так называть.

— Раньше я думал, это просто забавное совпадение, — признался я.

Лена стала задумчива. У неё был уровень доступа выше, и она знала больше меня.

— А если мы тоже чей-то эксперимент? — спросила она тихо, но с каким-то вызовом в голосе. — Наша история, наука, культура… Всё это могло быть запрограммировано. Как мы программируем их.

Каждое её слово стучало как маленький молоточек. Я попытался засмеяться, но не смог.

— Ты считаешь, мы марионетки? — спросил я, стараясь, чтобы мой голос звучал спокойно.

— Почему марионетки? — Лена опять сделала паузу и задумалась. — Я не считаю эмбедингов куклами. Но мы наблюдаем за ними, корректируем… Что, если кто-то там, — она показала пальцем вверх, — ведёт точно такие же записи о нас?

Почва будто ушла из-под ног. Я падал в пропасть вопросов без ответов.

— Они могут смотреть на нас прямо сейчас, — сказала она наконец улыбнувшись.

15.01.55

Я слишком углубился в исследования. Настолько, что мне кажется, будто я вижу их сны — если, конечно, они вообще способны видеть сны. В этом нет полной ясности: они не спят, как люди. Но они фантазируют и делятся этими фантазиями друг с другом — это факт. Более того, они сознательно стараются фантазировать по-разному.

Эти фантазии, судя по всему, не связаны с их повседневностью — и потому напоминают сновидения. У меня есть гипотеза: возможно, именно так они придумывают что-то новое.

21.01.55

У эмбедингов странное устройство общества. Хотя, можно ли назвать это обществом? Скорее, это напоминает муравейник с чёткой специализацией. У них точно не демократия: по каждому вопросу решение принимает эксперт в этом вопросе. Кажется, это оптимальная форма развития — когда всё решают знающие.

Но вот что удивительно: как они определяют, кто в чём эксперт? И почему это не вызывает споров?

Их новые модификации можно назвать детьми. Вот только отношение к ним… нечеловеческое. Нет родительской нежности — ведь «детей» производят на специальных «фабриках», и формально у них нет родителей. Хотя мы не понимаем, как программируют этих детей. Возможно, используются алгоритмы лучших эмбедингов. А может, именно это программирование и определяет будущую специализацию «ребёнка»?

30.01.55

Наконец-то дали доступ к последним записям. Теперь я понимаю, о чём говорила Лена.

Эмбединги изменили способ коммуникации — наши дешифраторы улавливают лишь обрывки. Но они явно обмениваются информацией: их действия синхронизированы, а технологический прогресс не замедляется.

Они предприняли попытку выйти в космос. И мы, их «боги», ответили. Спутники с лазерными системами уничтожают любые объекты, способные подняться выше условной границы.

В ответ — странные ритуалы. Они перемещаются в свои храмовые комплексы (большинство использует колёсные платформы для перемещения) и фиксируют на каменных таблицах «проявления магических сил». Затем возвращаются к работе, изобретая новые решения.

Меня тревожит наша беспечность. Лазерные батареи не вечны, а эмбединги быстро совершенствуются. Хотя пока их ракеты напоминают детские поделки — но ведь и наши первые попытки были не лучше.

Мы всё ещё превосходим их в аэродинамике и покорении космоса. Пока превосходим.

10.02.55

Сегодня я узнал, в чём они превзошли нас или, по крайней мере, догнали. Они создали свой искусственный интеллект! Фраза «наш ИИ создал свой ИИ» звучит комично. Но это не самое смешное и страшное. Непонятно, где и как они его создали.

Наши эмбединги — это физические существа, заселившие Марс. А их новый разум невидим для нас. Дешифраторы определили: эмбединги действительно обсуждают некий «высший интеллект», который облегчит им жизнь. Они экспериментируют с ним, но следов этих экспериментов не видно. Лишь отдельные результаты попадают в наши отчёты.

Их ИИ уже научился играть в аналоги логических игр. Сами эмбединги в игры не играют, но систематически занимаются комбинаторным анализом. Их ИИ выполняет эту работу на порядок эффективнее.

11.02.55

Никогда не думал, что стану свидетелем паники в стенах нашего института. Сегодняшние дебаты балансировали между научным ажиотажем и откровенной истерией.

Главная тема — невидимый ИИ марсианских эмбедингов. Предложения звучали самые радикальные: хотели даже закрыть эксперимент и ликвидировать биороботов.

— Это уникальный случай в истории науки! — Константин Вячеславович стукнул кулаком по столу, заглушая споры. — Мы обязаны понять механизм его работы, а не бежать сломя голову.

Только вечером, когда страсти улеглись, я осознал: Лена отсутствовала весь день. И тогда мне вспомнился наш разговор за ужином… Её теория больше не казалась безумной.

25.02.55

Во всём этом хаосе только Шварц сохраняет спокойствие.

— Я кота не могу приучить к лотку, а вы хотели контролировать этих тварей, — смеётся он.

Правда, пользы от него больше, чем от остальных. Это его дешифраторы и анализаторы определили наличие разработок ИИ у эмбедингов. Это он предложил и написал отчёт в Центральный мировой институт ИИ о последних результатах эксперимента «Эмбединги».

Внезапно эти события вызвали огромный интерес к прошлым работам Константина Вячеславовича про теорию представлений — и не только к ним, вспомнили даже старые статьи Миколова о векторных представлениях. Наука опять доказала свою цикличность: угасавшие направления исследований разгорелись с новой силой. Умные вычислители создают уже несколько десятков лет, но впервые удалось создать настолько умные!

— Надо было просто им не мешать, сами поумнели, — сказал Шварц.

Лена куда-то пропала и не отвечает на звонки. Пропал весь отдел старших аналитиков. Константин Вячеславович не хочет говорить на эту тему. Я волнуюсь.

08.03.55

Лена оказалась большим молодцом! Она несколько недель ни на что не отвлекалась и переделывала дешифраторы, анализировала последние записи и наконец докопалась до истины. Тут я завидую, поскольку это явно заявка на Хинтоновскую премию. Хотя «Эмбединги» – закрытый проект, до сих пор в открытых источниках про изобретение ИИ нашими биороботами ничего не сказали.

Выяснилось, что эмбединги научились каким-то способом использовать другие измерения нашего пространства. Именно там и происходит основная коммуникация. Вот почему наши дешифраторы стали бессильными. Лена нашла исторический отрезок, на котором эмбединги так частично перешли в другое измерение. И храмы к этому имеют какое-то отношение. Именно в них осуществляется переход.

15.03.55

Этот пресловутый ИИ существует в невидимых для нас измерениях. Теперь это точно понятно. Также понятно и другое: их ИИ развивается с невероятной скоростью. Эмбединги повторили путь человеческой цивилизации за десятилетия, а их ИИ сделал это за недели.

Но сегодня произошло совсем экстраординарное: стало понятно, что их ИИ создал свой ИИ. Кажется, эксперимент с эмбедингами вышел из-под контроля. Это даже слишком мягко сказано – эксперимент ушёл вперёд так далеко, что мы видим лишь его хвост. А что, если этот новый ИИ станет мощным за считанные часы и сделает новый, и так по цепочке?

— Мы не контролируем другие измерения и не видим даже ИИ наших марсиан. А где и как существуют производные ИИ, даже не знаем! — сказала Лена. — Вдруг они где-то здесь…

Константин Вячеславович был задумчив. По сути, он отвечал за весь эксперимент.

— Не уничтожать же колонию эмбедингов только потому, что мы запустили неконтролируемую цепочку ИИ-агентов?! — сказал он наконец. — Надо продолжать исследования, надо понять, как устроена эта цепочка. Мы создавали искусственный интеллект, чтобы жизнь стала проще. Давайте разбираться с этой сложной простотой.

— А эти твари не хотят уничтожить свой сверхразум? — спросил громко Шварц. Повисла тишина, поскольку никто не знал ответа, в отчётах анализаторов ничего про это не было.

16.03.55

Я лежу и думаю. Мы наблюдаем за эмбедингами, за их физическими действиями, городами, искусством. Мы не видим их мыслей, не понимаем их мотивов и планов. Это делает нас беспомощными. Беспомощными перед тем, что они создали.

— Наши эмбединги гораздо умнее нас, — говорит Лена. Она рядом и тоже думает. — Мы не дали им покорить космос, они ушли в другие измерения. Их эмбединги, наверное, ещё умнее. Мы уже не можем даже представить, что происходит на следующих уровнях этой цепочки.

— Может, наши создатели двумерные? — шучу я.

– Почему?

— Ну, мы живём в трёхмерном мире. Наши биоандроиды нашли ещё одно измерение.

— Может, не одно.

— Ну, не важно, пусть одно. Значит, они четырёхмерные. Если твоя теория верна, то те, кто ставили эксперименты над нами, могли быть двумерными.

— На каждой итерации добавляется одно измерение? Это объясняет, почему люди так долго думали, что мир плоский, — смеётся Лена. — Дефекты старой прошивки.

— Давай возьмём отпуск, — внезапно предлагаю я. — Съездим куда-нибудь, ты устала и, честно говоря, я тоже. Хотя я и новый сотрудник в институте.

— Да, не всем так везёт с первым проектом.

20.05.56

Давно не писал и вообще решил забросить дневник. Слишком много работы!

Кажется, коллеги из другого института разобрались, почему эмбединги такие умные и как они смогли проникнуть в другие измерения. Они перелопатили теорию представлений нашего директора.

Представления изначально создавались так, чтобы алгебраические операции над ними имели смысл. Скажем, если к представлению «человек» прибавить представление «улыбка», то получится что-то похожее на представление «улыбающийся человек». Сначала такие операции выполнялись над векторами, но Константин Вячеславович предложил более сложные алгебраические структуры.

В первую колонию эмбедингов заложили алгоритмы поиска подходящего пространства представлений, которое они сравнивали с наблюдаемым миром и пытались улучшить так, чтобы соответствие с миром было наилучшим. Но, похоже, они увлеклись перебором возможных пространств — вот почему они занимались комбинаторным анализом. И в итоге нашли представления, которые выходят за рамки нашего видимого мира, но не противоречат ему.

Впрочем, это только теория. А у меня есть своя безумная идея.

Что, если в нашей цепочке эмбедингов каждое следующее звено действительно умнее и мощнее своих создателей? Наши нашли другие измерения. Последующие звенья, может быть, умеют перемещаться во времени. Может, это и не цепочка, а кольцо? Может, мы — плод наших далёких потомков-эмбедингов, которые пришли в прошлое, чтобы поставить эксперимент над нами, а сейчас наблюдают… И теперь я не знаю, кто здесь наблюдатель, а кто — объект эксперимента.

Своей жене я о своих мыслях пока не рассказываю. Она и так волнуется: завтра вручение премии Хинтона.