Экспортный контроль, из-за которого Anthropic на прошлой неделе экстренно отключила свои самые мощные модели Mythos и Fable 5, могли ввести из-за подозрений, что к моделям получила доступ связанная с Китаем группа. Об этом со ссылкой на источник, знакомый с ситуацией, пишет Semafor; ту же версию приводит The Verge.
Напомним, что официальная причина ограничений другая: после публичного запуска Fable 5 (фактически, это тот же Mythos, но с усиленной защитой) власти США попросили фидбек у ряда крупных американских технологических компаний. В Amazon сообщили, что смогли найти джейлбрейк: при просьбе проверить код на ошибки, Fable 5 нашла в том числе уязвимости, которые могли быть использованы для взлома.
Теперь к этой истории добавляется китайский фактор. Так как Fable 5 базируется на Mythos, то власти США могут опасаться, что китайцы используют модель для пояска уязвимостей в американских сетях. Вторая проблема заключается в копировании через дистилляцию — теоретически Китай может обучить собственную модель-«ученика» на ответах более сильной модели-«учителя» и так перескочить через несколько этапов разработки.
Сама Anthropic эту рамку оспаривает. Представитель компании заявил, что в разговорах вокруг джейлбрейка и экспортного контроля Белый дом тему китайского доступа не поднимал, а доступ к продуктам Anthropic из Китая и так закрыт. Белый дом версию публично не подтвердил, а советник Трампа Дэвид Сакс в своем посте в X Китай не упоминал вовсе — он писал про обход защиты Fable 5, который Anthropic называет узким и неуниверсальным (тот же результат, по словам компании, достижим и на других публичных моделях, включая GPT-5.5). Так что пока это спор версий, а не установленный факт.
P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я рассказываю про ИИ с творческой стороны.
ссылка на оригинал статьи https://habr.com/ru/articles/1047544/