Гендиректор OpenAI Сэм Альтман в колонке для Financial Times предложил создать международный форум по безопасности ИИ под руководством США — и сам провел параллель с МАГАТЭ, агентством по атомной энергии, созданным в начале холодной войны. По его словам, мир не сможет воспользоваться выгодами ИИ, если не займется «вполне реальными угрозами безопасности», а выработка стандартов — обязательное условие широкого распространения технологии.
Схема, которую описывает Альтман, выглядит так: форум устанавливает согласованные стандарты, дает «экспертный и беспристрастный анализ возможностей и рисков» и открывает доступ к технологии тем, кто следует правилам. Страны становятся участниками, принимая общие нормы, а компании внутри них проходят регулярную сертификацию — в обмен на «бесперебойный, надежный доступ к передовым системам». В состав форума могут войти представители правительств и независимые технические эксперты. Отдельная роль — механизм управления над самими ИИ-лабораториями, защищающий от «коммерческого давления, которое может привести к небезопасной гонке».
В качестве прецедентов глава OpenAI приводит авиационную безопасность, мировые финансовые стандарты и само МАГАТЭ: такая кооперация, напоминает он, оказалась возможной даже в разгар международной напряженности. Спешка объясняется прогнозом: «Через год-другой мы ожидаем, что будут построены системы поразительной мощи», а ИИ изменит материальные условия жизни сильнее любой технологии «со времен покорения электричества — а возможно, и сильнее». Ключевой тезис колонки: «Лаборатории разрабатывают технологию, но правила должны устанавливать граждане и их избранные представители». Важнейшие решения о применении ИИ, пишет Альтман, должны приниматься демократическими процессами, а не «небольшим числом компаний из Сан-Франциско».
Есть в тексте и предупреждение: «Если глобальные стандарты безопасности не будут установлены, единственным путем вперед останутся ограничения ИИ — возможно, через действия отдельных стран». На фоне последних недель фраза читается вполне конкретно: власти США предписали Anthropic приостановить доступ иностранных пользователей к моделям Fable 5 и Mythos 5, а сама OpenAI по просьбе правительства отложила полноценный публичный запуск GPT-5.6. Альтман, по сути, предлагает заменить точечные запреты одной страны системой, где доступ регулируется общими правилами.
Колонка развивает позицию, которую Альтман озвучил две недели назад на закрытом обеде саммита G7 во Франции. Тогда Дарио Амодеи из Anthropic и Демис Хассабис из Google DeepMind призвали создать коалицию по управлению ИИ под лидерством США, выстроенную так, чтобы отрезать Китай, — а Альтман возражал, предлагая нейтральный международный форум. В колонке он остается верен этой линии: Китай как противник не упоминается, доступ зависит только от соблюдения правил, а международная кооперация подается как способ «избежать чрезмерной концентрации власти» и демократизировать выгоды от ИИ.
P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я рассказываю про ИИ с творческой стороны.
ссылка на оригинал статьи https://habr.com/ru/articles/1054742/