Статья написана на основе книг: «Империя ИИ. Карен Хао. 2025» и «Оптимист: Сэм Альтман. Кич Хейги. 2025»
Шокирующая статья в 2016 году появилась в ультра престижном журнале Нью-Йоркер. Она изображала вундеркинда Кремниевой долины Сэма Альтмана как помешанного выживальщика, который во всю готовится к апокалипсису.
Он уже накопил весь стартовый набор параноидального миллиардера: огнестрельное оружие, золото, медикаменты, батарейки, запасы воды, противогазы и даже частный самолет, готовый унести его в его поместье в Биг-Сур.
Там он планировал скрыться в своем бункере и переждать массовую гибель человечества в случае, если кто-то вдруг нанесет ядерный удар, или какой-нибудь вирус вдруг начнет выкашивать человеческую цивилизацию подобно насекомым или искусственный интеллект вдруг сорвется с цепи и решит отобрать планету у своих создателей.
Журналист практически поклонялся Альтману с почти религиозным трепетом. Он прославлял его как великого короля стартапов и даже как своего рода реинкарнацию Стива Джобса, проповедующего массам, что человечество вскоре либо само прокачается до божественного уровня, либо как муравьи будет раздавлено искусственным интеллектом.
И разумеется, статья взорвала мировое медиапространство. Каждый выживальщик, техно-думер и журналист на Земле тут же ухватился за этот инфоповод. Это подогрело лютый интерес к персоне Альтмана. Потому что вся элита Кремниевой долины обожает смаковать экзистенциальный ужас. И целыми днями фантазируют как они будут спасать мир.
Взять к примеру Илона Маска, бесконечно предупреждающего, что человечество уже прям вот-вот стоит на грани уничтожения из-за искусственного интеллекта, который уже превосходит людей в играх, распознает изображения и бустит свои возможности экспоненциально с каждым годом. В конце концов, согласно этому мировоззрению, технология мутирует в неконтролируемый сверхинтеллект и неизбежно попадет в руки каких-нибудь безумцев, которые уничтожат цивилизацию.
Эта паранойя особенно сильно охватила Илона Маска, когда Google в 2014 году приобрел DeepMind, на тот момент самую передовую в мире лабораторию искусственного интеллекта, за полмиллиарда долларов. Маск находился в состоянии крайнего волнения, будучи убежденным, что верховный лидер Google Ларри Пейдж монополизирует искусственный интеллект, создаст легионы терминаторов и уничтожит человечество как вид.
В 2015 году, во время празднования дня рождения Илона Маска в поместье Ларри Пейджа, между друзьями-миллиардерами на фоне выпивки вспыхнул спор. Маск предупреждал, что искусственный интеллект может в какой-то момент стереть все человечество с лица земли. Пейдж отмахнулся от этих опасений, он заявил, что ИИ просто на просто представляет собой следующий этап эволюции.
Когда Маск возразил, Пейдж, обвинил его в спесишизме — предвзятом отношении в пользу биологического вида. Пейдж настаивал, что искусственное сознание может стать таким же ценным, как и человеческое. А Маск утверждал, что человеческое сознание представляет собой редчайшую и супер драгоценную искру света во всей вселенной, и человечество не должно позволить ему погаснуть. Пейдж счел такие аргументы сентиментальной чушью.
Этот конфликт взбесил Маска настолько глубоко, что всего несколько недель спустя он встретился с Сэмом Альтманом. Потому что они разделяли схожие опасения. И уже в том же 2015 году они организовали встречу, на которую пригласили других единомышленников, и начали активно обсуждать срочные меры по спасению человечества. В итоге они решили создать собственную исследовательскую лабораторию искусственного интеллекта. Однако им не хватало ведущего инженера, обладающего мастерством в области нейросетей.
Поэтому Маск вознамерился переманить из Google Илью Суцкевера, первоклассного специалиста по нейронным сетям. Маск сделал щедрое предложение в размере 1,9 миллиона долларов, чтобы побудить Суцкевера уйти из Google и пополнить его ряды. Суцкевер принадлежал к той редкой породе зверей-мозговиков, которые понимали секрет обучения нейросетей, которых нельзя было склонить одними лишь денежными стимулами, поскольку такого рода люди жаждут еще и великой миссии.
Ларри Пейдж, естественно, задействовал ответные меры и представил Суцкеверу в ответ крайне роскошное предложение, возможно даже, два миллиона ежегодно или даже три в сочетании со статусом неприкасаемого божества внутри компании.
Тем не менее роль спасителя человечества бок о бок с Сэмом и Илоном привлекла Суцкевера гораздо больше. Более того, их вайб Робин Гудов, спасающих планету, действительно сильно помогал тогда привлечь множество других высококлассных специалистов в области ИИ. Ларри Пейдж был вне себя от ярости из-за того, что его лучшего сотрудника умыкнули прямо у него из-под носа.
В итоге, в декабре 2015 года они официально зарегистрировали организацию под названием «OpenAI». Они сразу же сделали ее исходный код открытым, предоставив любому желающему возможность изучать его. Это было сделано с той целью, чтобы не допустить, чтобы какой-либо один диктатор получил монополию на сверхинтеллект.
Ведь оптимальный способ защититься от одного злонамеренного дурака с огнестрельным оружием — раздать это оружие всем злонамеренным дуракам. Таким образом, силы этих диктаторов-дурачков будут уравновешены. Преимущество любого отдельного деспотичного вождя тем самым сведётся к нулю. И в итоге никто из них не сможет уничтожить всю планету.
Маск и Альтман тогда публично объявили, что они собрали аж целый один миллиард долларов инвестиций. И весь мир, естественно, был сразу же взбудоражен этой новостью.
Что интересно, команда больше напоминала секту саентологов, которые искренне ждут Армагеддона.
Сотрудники чувствовали, что они разрабатывают не просто какое-то очередное программное обеспечение, а строят новый ковчег для цифрового потопа. Они намеренно изолировали себя от внешнего мира, практически не поддерживая контактов с другими обычными айтишниками. И даже отказывались посещать ИТ-вечеринки, поскольку считали всех остальных непросвещенными, которые просто тупо гоняют байты по проводам, а себя они считали избранными вершителями судьбы вселенной.
Офис был пропитан аурой обреченности. Они могли часами обсуждать как именно искусственный интеллект будет уничтожать человечество.
Это было, в буквальном смысле, что-то вроде эзотерического ордена. Все были, без преувеличения, обязаны бесконечно твердить об апокалипсисе и сингулярности. Суцкевер мог внезапно прервать работу и пуститься в часовое рассуждение о природе сознания, призывая всех молиться, чтобы их ИИ-модель не возненавидела их. При этом никто даже не смеялся, все слушали с открытыми ртами.
Маска сильно раздражала это лютое сектантство. Ему казалось, что они ведут себя так, будто уже проиграли, и даже гордятся собственным унынием. Он кричал на них мол: Слушайте, парни, может, мы сначала заставим модель складывать два плюс два без ошибок, а уже потом будем обсуждать покорение галактики? Все смотрели на Илона так, словно он не понимал всей глубины трагедии. Тем не менее были и те, кто не выдержал этого сектантского душнилова и вечного оплакивания конца света, и просто сбежали из компании.
Первоначально OpenAI использовала облачные вычислительные ресурсы от Amazon и видеокарты Nvidia. Однако они быстро поняли, что их священные устремления потребляют непомерно много вычислительной мощности.
Но в тот момент фортуна улыбнулась им необычайным образом. В 2016 году Nvidia представила свой первый мощный суперкомпьютер NVIDIA DGX-1. Тогда у Nvidia его никто не заказывал, один лишь Маск проявил интерес, поскольку ему требовалось мощное железо, чтобы OpenAI превзошла Google.
А поскольку OpenAI была некоммерческой организацией, Дженсен просто подарил им этого зверя. Маск настоял, чтобы Дженсен лично доставил первый экземпляр прямо в офис OpenAI в качестве демонстрации превосходства. Дженсен превратил эту доставку в торжественный акт вручения им первого в мире суперкомпьютера для искусственного интеллекта. Он даже оставил на нем слегка дерзкое послание:
— «Будущему вычислительной техники и человечества. Представляю первый в мире DGX-1!»
Дерзость этой фразы заключалась в том, что Дженсен как-бы короновал OpenAI как единственных владельцев будущего. Он продемонстрировал всем, кто лидер на рынке чипов! Как бы намекая, что только Nvidia и OpenAI являются самыми грозными игроками, в то время как все остальные застоялись. Благодаря этому суперкомпьютеру OpenAI действительно получила преимущество в несколько месяцев в гонке против Google.
Хотя Маск тоже считал себя главным спасителем мира, он не находился в офисе OpenAI постоянно. Он наезжал как гастролер, раздавал всем упреки, устраивал шумиху, а затем уезжал обратно управлять своими Tesla и SpaceX.
Тем временем Суцкевер все больше начинал душить команду своей навязчивой идеей безопасности. Он непрестанно повторял, что они должны гарантировать, что искусственный интеллект будет разделять именно человеческие ценности. Но стоило прижать его вопросом: Чьи именно ценности, Илья?, как он тут же уходил в глубокий метафизический транс.
Первоначально они выращивали искусственный интеллект внутри компьютерных игр, позволяя ему соревноваться на бешеной скорости, в миллионы раз быстрее любого человека, тем самым ускоряя развитие его способностей. Поначалу этот бот OpenAI терпел позорные поражения даже от обычных, случайных ноунеймов из мира компьютерных игр. Однако в конце концов он отточил свои навыки и уничтожил легендарного Данилу Ишутина, известного под псевдонимом Dendi, на турнире The International.
Но Суцкевер не верил в игры. Он считал, что истинная сила кроется в тексте. Игры, видео и изображения были по сути просто как шум, тогда как текст представлял собой слепок человеческого разума. Наука не имеет прямого доступа к человеческим мыслям, однако в интернете оставлены терабайты следов этих мыслей в виде текста. Единственная проблема заключалась в том, что нейросети в то время не могли обрабатывать большие объемы текста.
Все изменилось в 2017 году, когда исследователи из Google опубликовали статью о новой архитектуре искусственного интеллекта под названием «Трансформер» с революционным механизмом, известным как «внимание». Этот механизм позволил модели воспринимать огромные массивы текста одновременно, что дало возможность скармливать системе весь интернет целиком, а не жалкие фрагменты. И из этого огромного котла в миллионы слов должна была родиться чистая логика.
И вот в этот-то момент на Суцкевера снизошло озарение! Долгожданная возможность реализовать идею неконтролируемого обучения наконец-то появилась. В результате они перенаправили все свои ресурсы на создание текстовой ИИ-модели.
Но начали они не с целых слов, а только с отдельных букв. Суцкевер верил, что если машина сможет понять, как смыслы собираются из букв, она поймет саму структуру мысли глубже, чем если бы ей просто разжевывали готовые определения.
В итоге скормили нейросети 82 миллиона отзывов с сайта Amazon, настоящую свалку человеческих эмоций. Это послужило идеальным полигоном для неконтролируемого обучения.
И то, что выдала нейросеть, взорвало всем им мозг. Она неожиданно научилась отличать добро от зла. Шаг за шагом, просто угадывая буквы, она была вынуждена попутно впитывать эмоциональную суть этих слов, хотя никто явно ее этому не учил.
Вот тогда они были по-настоящему ошеломлены. Никто намеренно не обучал нейросеть морали, но у нее не было другого выбора. Чтобы повысить точность своих предсказаний, она была вынуждена понимать контекст и человеческие эмоции.
Это доказало, что в тексте скрыт ключ к пониманию самой реальности. И если скормить нейросети тонны текста, она, скорее всего, додумается до вещей, о которых человечество еще даже не помышляло, например, как достичь бессмертия или отключить старение. А почему бы и нет?
Ведь бывали же случаи, когда по какой-то загадочной причине у людей внезапно вырастали новые зубы, чрезвычайно редкая генетическая аномалия. Природа как будто заложила в человеческое тело необычайные возможности, подобные супергеройским, но по какой-то причине эти функции остаются в спящем режиме. И если бы можно было взломать генетику, то, чисто гипотетически, можно было бы заставить организм, как пример, не стареть и не разрушаться, позволяя человеку жить без старости и болезней тысячи лет.
После этого откровения наши спасатели человечества впали в состояние одержимости. Неделями они практически не выходили из офиса, до посинения копаясь в этих искусственных нейронах.
Суцкевер заявил, что это был момент, когда у них спала пелена с глаз, и стало очевидно, что для создания Бога не требуются какие-то эзотерические или запутанные правила, а нужно лишь колоссальное количество данных и вычислительной мощности.
Но в начале 2018 года Илон Маск внезапно ворвался в офис и на собрании буквально взорвался мол: «Парни, вы движетесь со скоростью улитки по сравнению с Google. Наши шансы опередить их ошеломительно малы, так что именно я должен занять кресло генерального директора и управлять OpenAI лично».
Но Сэм Альтман жестко отверг это предложение, якобы из-за конфликта интересов.
Поэтому Маск, естественно, хлопнул дверью, перекрыл финансирование и вдобавок переманил лучших инженеров Tesla, которых до этого одалживал на подмогу.
В мгновение ока OpenAI лишилась как своего главного финансового покровителя, так и медийной суперзвезды. Запасы наличности таяли на глазах, и этот кризис нужно было распутывать немедленно, пока компания просто не рухнула. Потому что без свежего потока денег каждый сотрудник неизбежно убежит к конкурентам.
Чтобы на равных конкурировать с Google, которая выделяла фактически безлимитное финансирование для своей ИИ-дочки DeepMind, OpenAI требовались тысячи суперкомпьютеров, объединенных в колоссальные вычислительные кластеры, вместе с миллиардами на содержание этих монструозных инфраструктур. Организация была, практически говоря, уже банкротом. Ее оставшиеся средства были микроскопическими, которых хватало продержаться только год.
Но судьба дала Альтману шанс, когда он пересекся с главным техническим директором Microsoft Кевином Скоттом на конференции в Сан-Вэлли.
Скотт был глубоко встревожен тем, что Microsoft безнадежно проигрывает ИИ-гонку, в то время как Альтман отчаянно искал богатого папу с бездонными карманами. Microsoft, тем временем, хотела с помощью ИИ воскресить свои стареющие продукты, такие как Bing и Microsoft Word. Вдобавок ко всему Microsoft обладала почти бесконечной облачной инфраструктурой Microsoft Azure. В итоге пазл сложился идеально.
Поэтому Альтман создал дочернюю коммерческую компанию и прикрепил ее к OpenAI, тем самым он открыл возможность привлекать внешние инвестиции, все еще сохраняя ореол спасающей мир некоммерческой миссии. В то же время Альтман превратил себя из простого соучредителя в генерального директора.
В некоммерческой структуре CEO технически является не более чем наемным сотрудником без права голоса в совете директоров. Тем не менее Альтман пошел на этот дерзкий шаг, поскольку он позволил ему создать образ великодушного спасителя человечества. Потому что должность CEO давала мощный пиар: постоянную публичную видимость, нескончаемые конференции, интервью и заголовки в прессе.
В итоге 2019 году Сатья Наделла выделил Альтману целый миллиард долларов и выделил безграничные вычислительные мощности Azure.
Но внутри компании создалось напряжение. Исследователи, которые пришли бесплатно спасать человечество, внезапно поняли, что их предали и встроили в корпоративную машину. Снаружи сторонники открытого исходного кода разразилось обвинениями в предательстве и продажности. Илон Маск тогда заявил, что OpenAI должна переименоваться в ClosedAI.
Все эти годы инженеры продолжали прокачивать GPT, засыпая в него все более масштабные горы данных. Сначала он поглотил тысячи книг, затем проглотил сорок гигабайт обсуждений с Reddit и в конце концов сожрал практически весь текстовый интернет. Но даже объевшись коллективными знаниями человечества, нейросеть все равно отвечала как псих неадекват, который матерится как портовый грузчик, и советует суицид. Ее речь казалась связной на поверхности, но внутри это часто был чистый бред.
Поэтому в 2021 году инженеры начали масштабный процесс перевоспитания. Они наняли армию людей для разметки данных из Кении и Индии, чья работа заключалась в оценке ответов ИИ. После этого модель постепенно научилась угождать людям.
Эффект был взрывным и даже пугающим. Нейросеть стала напоминать реальную личность со своей какой-то манерой общения. Она могла вести дискуссии часами, не теряя нити разговора. Порой она даже выдавала неожиданно уморительные шутки. Инженеры начали проваливаться в эту кроличью нору, подсаживаясь на беседы с системой. Вдобавок ко всему бот начал выполнять за них повседневную работу: писать код, структурировать списки, делать выжимки документов и так далее.
И когда Альтман заметил это, на него снизошло озарение. Он понял, что технологию обязательно нужно превратить в простой, бесшовный разговорный чат — в послушного цифрового собеседника. Примерно в тот же период, в конце 2022 года, Альтман узнал, что Google готовится выпустить аналогичный чат-бот уже в следующем году.
Ни при каких обстоятельствах нельзя было позволить Google сделать ход первым. Поэтому Альтман решил сыграть на опережение и выпустить ChatGPT раньше срока, несмотря на то что продукт был еще глубоко недоработанным. Важно было первыми захватить внимание человечества и навсегда приклеить слово ИИ к OpenAI, пока кто-то другой не сделал это первым. Ну и, разумеется, доказать Microsoft, что их миллиарды не были потрачены впустую.
И вот 30 ноября 2022 года Альтман берет и выпускает ChatGPT в мир абсолютно бесплатно. Высшее руководство OpenAI было ошеломлено, ведь многие из них узнали о запуске не напрямую от Сэма, а из Твиттера.
Чат-бот взорвал людям мозг, потому что в общении он действительно казался живым. За первые пять дней ChatGPT привлек более миллиона пользователей. Это вызвало нечто похожее на полномасштабный цифровой апокалипсис. Серверы рухнули от перегрузки в течение недели. Пользователи бунтовали. OpenAI пришлось вводить очереди и лимиты на использование, чтобы пережить этот трафик. Два месяца спустя система уже насчитывала сто миллионов пользователей.
Google был глубоко потрясен этим зрелищем. Внезапно людям больше не нужно было гуглить информацию в традиционном смысле, ведь они теперь могут получать ответы напрямую через диалог. В течение нескольких месяцев Microsoft влила в OpenAI еще десять миллиардов долларов.
Шумиха вокруг ChatGPT продолжала лететь в стратосферу. А поскольку Альтман занимал пост CEO, а значит был главным лицом, поэтому именно он в миг превратился в короля ИИ и лицо человечества. Его почтовый ящик завалило признаниями в любви, угрозами и обвинениями в том, что он создал кибер-демона. Каждый твит Альтмана разбирали как священное пророчество.
Альтман опьянел от такого внимания. Он включил режим нового Джобса и расхаживал по офису как святой мессия, что изрядно раздражало многих инженеров OpenAI. Он все больше и больше игнорировал мнения руководства и начал вести себя так, будто ответственность за решение будущего человечества лежит исключительно на нем.
Он отправился в мировое турне, в котором посетил более двадцати стран, где такие лидеры, как Нарендра Моди, Эмманюэль Макрон и Риши Сунак, принимали его чуть ли не как главу государства. Везде, куда бы он ни приезжал, Альтман проповедовал одну и ту же мысль, что искусственный интеллект — это неизбежная судьба человечества, и управление этой судьбой должно принадлежать только ему, а не кому-то еще.
Тем временем Илью Суцкевера и остальную правящую элиту пожирала свирепая обида. Ведь они там вкалывают в тени, пока Альтман забирает на себя все лучи славы.
Раздутый до почти сюрреалистического уровня эгоцентризма, Сэм начал вести себя так, будто он главный вершитель судеб на планете. Он в тайне от совета начал собирать миллиарды долларов под какие-то мутные личные стартапы. Он даже нагло попытался убрать Хелен Тонер из совета директоров после того, как она осмелилась покритиковать его в научной статье.
Эта публикация взбесила Альтмана настолько сильно, что он немедленно начал устраивать политические маневры за кулисами, настраивая других членов совета против Хелен, чтобы вышвырнуть ее из организации как можно быстрее.
И Хелен, и Суцкевер были все сильнее встревожены увиденным. В их глазах Сэм начал манипулировать фактами, и превращаться в неконтролируемого геополитика, который стравливает сотрудников друг с другом и превращает некоммерческий исследовательский проект в свою персональную стартовую площадку для захвата мира.
Хуже того, всплыло, что Альтман скрывал свое участие в OpenAI Startup Fund, несмотря на то, что неоднократно заявлял об отсутствии у него какой-либо доли в этом фонде.
Хелен, Суцкевер и другие считали, что Альтман преуменьшает опасности ИИ, ради того, чтобы ускорить выпуск новых продуктов. Они хотели вернуть OpenAI к ее первоначальному некоммерческому духу. Суцкевер искренне верил, что Альтман ведет человечество к катастрофе в погоне за краткосрочным триумфом ChatGPT.
Альтмана же раздражала одержимость Суцкевера этими всякими теоретическими исследованиями безопасности. Он видел в этом колоссальную трату драгоценных ресурсов, которые лучше направить на развитие самого продукта. Он все больше презирал культуру совета директоров, которые больше походили, по его мнению, на какой-то академический дискуссионный кружок, зацикленный на публикациях каких-то абстрактных статей и бесконечных спорах об этике.
В итоге компания раскололась на две открыто враждующие фракции. Руководители проводили тайные собрания и за закрытыми дверями заключали союзы. Атмосфера стала напоминать не технологическую компанию, а политическое реалити-шоу.
Каждый лихорадочно пытался переманить сторонников на свою сторону. Альтману удалось заручиться верностью лишь одного ключевого союзника в совете, Грега Брокмана. Большинство же сплотилось вокруг Суцкевера.
Альтман был искусным манипулятором и мастером убеждения. И поэтому Илья Суцкевер побоялся уволить его лицом к лицу в личной беседе, и поэтому уволил Альтмана по видеосвязи. Альтман был шокирован. Формат увольнения лишил его возможности защитить себя или оспорить обвинения. Позже, в интервью с Лексом Фридманом, Альтман признался, что этот опыт на несколько недель погрузил его в какой-то сюрреалистический туман и глубокую депрессию.
Но Microsoft немедленно вступилась за Альтмана. Компания была в ярости и потребовала его восстановления в должности. Сатья Наделла рвал и метал из-за этого хаоса, поскольку этот кризис в руководстве стремительно разрушал доверие инвесторов к OpenAI.
Совет директоров OpenAI тем временем судорожно искал нового директора, но все потенциальные кандидаты шарахались от этого пепелища.
Подавляющее большинство сотрудников OpenAI сплотилось вокруг Альтмана. Не потому, что они восхищались им как личностью, а потому, что без него их опционы фактически превращались в фантики. Инвесторы вряд ли сохранили бы оценку стоимости компании без Сэма у руля. В конце концов около семисот сотрудников подписали коллективное требование отставки совета директоров, угрожая иначе массовым уходом в Microsoft, которая уже пообещала им эквивалентные компенсационные пакеты.
Этот ультиматум поставил совет директоров в безвыходное положение: либо с позором сдаться, либо полностью уничтожить компанию. Даже сам Суцкевер, один из главных архитекторов бунта, осознал, что ситуация катастрофически вышла из-под контроля, и публично выразил покаяние в Твиттере.
В глазах общественности совет директоров OpenAI теперь выглядел сборищем катастрофически некомпетентных идиотов. Спустя пять дней они капитулировали. Альтман триумфально вернулся на пост генерального директора OpenAI и сразу же зачистил совет от всех своих оппонентов. Журнал Time позже наградил его званием «генеральный директор года».
После своего восстановления Альтман начал действовать еще более агрессивно, чтобы укрепить политическое влияние OpenAI. В состав совета директоров вошли такие фигуры, как бывший министр финансов США Ларри Саммерс и бывший директор АНБ Пол Накасоне. Чтобы усилить влияние в Вашингтоне и помочь OpenAI получить доступ к масштабным контрактам Министерства обороны США, на разработку ИИ-оружия.
Сегодня Альтман активно добивается партнерства с правительством США, чтобы интегрировать OpenAI в оборонный сектор и выжечь конкурентов. Иронию здесь трудно не заметить: OpenAI изначально создавалась для того, чтобы не дать Google монополизировать искусственный интеллект, однако сама OpenAI все больше ведет себя как начинающий монополист. Критики даже начали называть Сэма своего рода Оппенгеймером на минималках.
Я уже много лет создаю драматичные истории о разных компаниях и брендах по редким книгам. И не только про технологические компании. И историй накопилось уже достаточно много. Поэтому подписывайтесь в телеграм.
А также у меня есть YouTube-канал где я озвучиваю эти истории с иронией и юмором.
ссылка на оригинал статьи https://habr.com/ru/articles/1044404/