Если Anthropic хочет повторно выпустить модель искусственного интеллекта Fable 5, ей необходимо предпринять шаги для устранения предполагаемых американским правительством джейлбрейков, сообщила администрация президента США Дональда Трампа. В первой половине июня разработчик Claude отключил доступ к моделям Fable 5 и Mythos 5 по требованию американских властей.
Anthropic продолжает утверждать, что опасения администрации президента преувеличены и что последствия джейлбрейков минимальны. Компания подтвердила свою позицию Министерству торговли США и Национальному управлению кибербезопасности при Министерстве внутренней безопасности США.
Агентство национальной безопасности США пришло к выводу, что существуют способы отключить защитные ограничения в Fable 5. Эти ограничения внедрили, чтобы не позволять пользователям получать доступ к возможностям модели Mythos, связанным с кибербезопасностью, химией и биологией.
На текущем этапе администрация рассматривает ситуацию как проблему, которую должна решить Anthropic. Ни Минторг США, ни АНБ не располагают персоналом и ресурсами для отслеживания всех возможных джейлбрейков на каждой модели, поступающей на рынок.
Администрация президента считает, что Anthropic следует проявлять большую инициативу и постоянно тестировать не только Fable 5, но и все свои передовые ИИ-модели, чтобы выявлять потенциальные уязвимости и сообщать о них правительству. Однако на более фундаментальном уровне остаётся неясным, как компания должна предотвращать взлом системы.
Независимые эксперты в сфере кибербезопасности называют подобные ограничения временным решением, поскольку опытные пользователи и будущие ИИ-модели найдут способы обхода, поэтому то, что пытается осуществить Белый дом, вероятно, невозможно.
ссылка на оригинал статьи https://habr.com/ru/articles/1049060/