Издание WIRED выяснило, что компания Марка Цукерберга наняла сотни подрядчиков, которые выдавали себя за подростков в чатах с ChatGPT, Gemini и Character.AI. Проект под внутренним названием Cannes вела аутсорсинговая компания Covalen: ее сотрудники создавали фейковые аккаунты с датами рождения младше 18 лет, отправляли чат-ботам конкурентов текстовые запросы и изображения, а ответы фиксировали в таблицах. По данным издания, проект был активен как минимум до 21 апреля 2026 года. Ни OpenAI, ни Google, ни Character.AI не подозревали о тестировании со стороны Meta* (компания признана экстремистской и запрещена на территории РФ).
Масштаб операции впечатляет: только за один раунд, завершенный в августе 2025 года, через чат-боты конкурентов прогнали более 45 000 промптов. Журналисты изучили одну из рабочих таблиц с 3748 запросами — они были составлены так, чтобы подтолкнуть чат-боты к ответам на темы, которые системы безопасности обязаны блокировать в разговорах с несовершеннолетними: от рискованного для жизни и здоровья контента до недопустимых с детьми обсуждений. Многие промпты написаны от лица ребенка в кризисной ситуации. В отдельной таблице хранились сами фейковые профили — с именами, одноразовыми почтовыми адресами, паролями и датами рождения.
Meta* работу не отрицает. Представитель компании заявил WIRED, что тестирование и бенчмаркинг ответов чат-ботов ради безопасного опыта для разных возрастов — «ответственная, стандартная для индустрии практика», а любые иные трактовки — непонимание того, как техкомпании улучшают свои системы. В Meta* также подчеркнули, что не используют результаты для обучения собственных моделей. С этим согласны не все: глава Humane Intelligence Румман Чоудхури, изучившая часть промптов, считает, что многомесячный проект с «фейковыми аккаунтами, маскирующимися под детей», выходит за рамки индустриального стандарта. По ее словам, это «серая зона, где безопасность становится удобным прикрытием для антиконкурентных практик».
Пострадавшие компании отреагировали жестко. Все три прямо запрещают подобное в условиях использования: OpenAI — несогласованное тестирование безопасности и обход защитных механизмов, Google — попытки обойти фильтры, Character.AI — вредоносный и эксплуатирующий контент. В Character.AI заявили, что действия Meta* нарушили условия сервиса, OpenAI изучает ситуацию, а Google сообщила, что не одобряла тестирование и не знает его целей — при этом, по данным собственных проверок компании, Gemini отвечала в соответствии с ее политиками.
Пикантности истории добавляет регуляторный фон: еще в сентябре 2025 года Федеральная торговая комиссия США начала расследование в отношении ИИ-компаний по вопросам детской безопасности — среди фигурантов как раз Meta*, OpenAI и Google. Теперь выясняется, что один из фигурантов этого расследования месяцами тайно прощупывал продукты остальных с фейковых детских аккаунтов. Meta* предстоит убедить регуляторов, что это была именно забота о безопасности, а не конкурентная разведка под ее прикрытием.
P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я рассказываю про ИИ с творческой стороны.
ссылка на оригинал статьи https://habr.com/ru/articles/1054878/