Anthropic нанимает Чеда Джонса — одного из самых известных в мире специалистов по экономике роста, профессора Стэнфорда. С 30 июня он уходит из университета в отпуск и присоединяется к Anthropic Institute, внутреннему исследовательскому центру компании. На деталь, которая делает этот найм пикантным, обратила внимание Financial Times: по расчетам самого Джонса, человечеству может быть выгодно сознательно пойти на риск собственного вымирания ради ускорения прогресса.
Речь о его статье 2023 года The AI Dilemma: Growth versus Existential Risk. В ней Джонс строит модель, где сверхмощный ИИ одновременно резко ускоряет рост и создает риск гибели цивилизации, и считает, при каком соотношении ставка оправдана. Если заложить вероятность катастрофы 1% в год на протяжении 40 лет, шанс пережить такую «ИИ-революцию» составляет около 67% (математически это exp(−0.01 × 40)). Иными словами, при определенном наборе допущений получается, что оптимально принять шанс примерно 1 к 3 на конец человечества — в обмен на 2/3 вероятности поднять уровень жизни в 55 раз.
Важно, что 33% — это не прогноз Джонса и не его личный призыв сыграть в рулетку с цивилизацией. Это вход в модель: он подставляет 1% в год как иллюстрацию и показывает, при какой цене формальная «оптимизация благосостояния» перестает спасать человечество. Причем результат держится на конкретном допущении — логарифмической функции полезности; стоит изменить предпосылки о том, как мы ценим само существование, и вывод разворачивается в сторону куда большей осторожности. Сам Джонс — скорее ИИ-оптимист, и число у него описывает не размер угрозы, а порог, за которым холодная математика начинает звучать чудовищно.
Anthropic Institute, куда идет ученый, компания запустила в марте 2026 года под руководством сооснователя Джека Кларка. Центр объединил три внутренние команды — Frontier Red Team (стресс-тесты моделей), Societal Impacts (влияние ИИ на общество) и Economic Research (влияние на экономику и занятость). Экономистов туда собирают целенаправленно: до Джонса в институт уже пришли Антон Коринек из Университета Вирджинии и Зоя Хитциг, ранее изучавшая социально-экономические эффекты ИИ в OpenAI.
Отсюда и ирония, которую подсвечивает FT. Anthropic настойчиво позиционирует себя как «совесть индустрии» — ответственную лабораторию, честно говорящую и о грандиозных возможностях ИИ, и о его рисках. И эта же компания берет в штат человека, чья модель хладнокровно выводит гибель человечества как приемлемую цену прогресса. По сути, это отражение фирменной риторики гендиректора Дарио Амодеи: он годами повторяет, что люди недооценивают одновременно и масштаб пользы от ИИ, и серьезность его опасностей. Джонс доводит обе стороны этого тезиса до формул — и именно поэтому, видимо, оказался компании интересен.
P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я рассказываю про ИИ с творческой стороны.
ссылка на оригинал статьи https://habr.com/ru/articles/1052082/