Издание Politico восстановило хронологию суток, которые привели к экспортному контролю над моделями Anthropic: Claude Fable 5 и Claude Mythos. Тревогу о том, что защиту Fable 5 можно обойти, подняли в Amazon — в компании обнаружили, что если модель просто попросить проверить код на ошибки, то она найдет в нем в том числе уязвимости, которые можно использовать для взлома. Это противоречит заявлениям Anthropic, что защита Fable 5 эффективно блокирует использование модели злоумышленниками.
Именно это за сутки запустило цепочку, закончившуюся отключением моделей. Парадокс в том, что Amazon — один из крупнейших инвесторов самой Anthropic. При этом Amazon не сливал информацию по своей инициативе: по словам источника, компания отвечала на прямой запрос администрации оценить новую модель. Ее находки исследовали в АНБ, и там сочли обход реальной угрозой — чиновник заявил, что у властей есть «доказательства». Amazon оказался не единственным: о проблемах с моделью заявили еще несколько компаний.
В пятницу вопрос дошел до верхушки Белого дома. Амодеи провел три звонка примерно с полудюжиной высокопоставленных чиновников — среди них министр финансов Скотт Бессент, кибердиректор Белого дома Шон Кэрнкросс и министр торговли Говард Латник. Глава Anthropic отстаивал надежность защиты: по его версии, произошел узкий, специфический обход, а не универсальный джейлбрейк, снимающий все ограничения разом. Чиновников это не убедило — Бессент прямо сказал Амодеи, что тот принимает «плохое решение». Дальше версии резко расходятся: Белый дом утверждает, что «часами умолял» компанию поработать вместе над уязвимостью, а источник в Anthropic говорит, что им дали всего 90 минут на снятие моделей и без всяких деталей об угрозе.
Стороны не сходятся даже в мелочах. Администрация уверяет, что не могла сразу дозвониться до Амодеи, потому что тот был на велнес-ретрите; Anthropic это категорически отрицает («это полностью неправда») и говорит, что глава компании вышел на связь примерно через час с небольшим. В своем блоге Anthropic настаивает: универсального джейлбрейка пока не нашел никто, полностью исключить обходы не может ни одна лаборатория, а правительство заранее знало о релизе Fable и не возражало.
Ранее источник Axios сообщил, что правительство намерено заблокировать Fable 5 только на несколько недель, которые будут потрачены на укрепление киберзащиты официальных органов США.
P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я рассказываю про ИИ с творческой стороны.
ссылка на оригинал статьи https://habr.com/ru/articles/1047314/