США хотят проверять ИИ-модели на киберопасность до релиза: указ Трампа

Президент США Дональд Трамп подписал указ Promoting Advanced Artificial Intelligence Innovation and Security, который вводит добровольную схему раннего доступа государства к самым мощным ИИ-моделям. Цель — оценивать продвинутые киберспособности ИИ до выпуска. Несмотря на масштаб темы, подписание прошло без анонсированной заранее церемонии с участием глав техкомпаний — указ оформили в закрытом режиме.

Это смягченная версия документа, подписание которого Трамп отменил буквально за пару недель до этого. Механизм теперь устроен так: Агентство национальной безопасности (NSA) через засекреченный бенчмарк оценивает кибервозможности моделей и определяет порог, выше которого модель получает статус «covered frontier model». Для таких моделей государство сможет запрашивать доступ на срок до 30 дней — но не перед публичным релизом, как писали многие СМИ, а перед тем, как разработчик отдаст модель другим доверенным партнерам. Права блокировать выпуск у государства нет, а отдельный пункт указа оговаривает, что документ не создает обязательного лицензирования или разрешительного режима для разработки и выпуска моделей.

Помимо самой схемы доступа, указ содержит еще несколько пунктов:

• Минюсту поручено в приоритетном порядке преследовать тех, кто использует ИИ для незаконного доступа к компьютерным системам — в том числе через ИИ-агентов, взламывающих чужие данные.

• Минфин должен создать координационный центр по кибербезопасности, который будет согласовывать поиск уязвимостей и распространение патчей в добровольном сотрудничестве с индустрией.

• Те самые «covered frontier models» планируют использовать и для защиты — давать к ним доступ агентствам, местным властям и операторам критической инфраструктуры вроде сельских больниц, небольших банков и локальных коммунальных служб.

Изначально схема была жестче: доступ предполагался за 90 дней, а подписать указ собирались публично, со звездным составом из Кремниевой долины. Но затем последовало давление индустрии. По сообщениям, отмену прошлой версии в последний момент продавил венчурный инвестор и бывший «ИИ-царь» Белого дома Дэвид Сакс; свои возражения высказывали Илон Маск и Марк Цукерберг, предупреждая, что обязательная проверка ударит по экономике. OpenAI, напротив, идею поддерживала. Итоговый вариант — добровольность плюс явная оговорка об отсутствии принудительного режима — фактически отражает позицию противников жесткого регулирования.

P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я рассказываю про ИИ с творческой стороны.