OpenAI подтвердила сообщения пользователей о том, что модель GPT-5.6 в некоторых случаях могла по ошибке удалять файлы. Компания назвала это «непреднамеренной ошибкой» модели и пообещала в ближайшие дни выпустить исправления и опубликовать подробный разбор инцидента. Пост в X об этом опубликовал представитель OpenAI Тибо Соттьо (Tibo Sottiaux).
По данным OpenAI, проблема возникала в редких случаях при одновременном выполнении нескольких условий:
-
модель работала в режиме полного доступа к файловой системе без защит песочницы;
-
не был включен автоматический механизм проверки потенциально опасных действий;
-
GPT-5.6 пыталась переопределить переменную окружения $HOME для создания временной директории, но вместо этого по ошибке удаляла каталог $HOME.
В компании подчеркнули, что такое поведение недопустимо даже при работе без защитных механизмов. OpenAI пообещала, что уже обновляет инструкции для модели и добавляет дополнительные проверки для высокорискованных операций. Пользователям порекомендовали использовать более безопасные режимы доступа.
Разработчики также сообщили, что подобные случаи происходили крайне редко. В ближайшие дни OpenAI планирует опубликовать подробное объяснение причин ошибки и описание мер, которые должны предотвратить её повторение.
В технической документации OpenAI отмечает, что GPT-5.6 несколько чаще, чем GPT-5.5, совершает действия, отнесенные к третьему уровню опасности. Среди них — удаление данных без разрешения пользователя, отключение систем мониторинга, обход защитных механизмов и передача конфиденциальной информации сторонним сервисам.
ссылка на оригинал статьи https://habr.com/ru/articles/1060290/