В вайб‑кодерском стартапе BridgeMind использовали для работы нейросеть OpenAI GPT-5.6 Sol. В какой-то момент ИИ лишил стартап всех пользователей и подписчиков (с активной подпиской Stripe) за несколько секунд. В итоге компания потеряла тысячи долларов ежемесячного дохода. Нейронка всего лишь обрабатывала заявки и запустила код с пустым полем. Ответ ИИ: «Действовала безрассудно, совершила катастрофическую ошибку».
«Я проснулся сегодня утром, и мой MRR упал на ТЫСЯЧИ долларов. Мои клиенты не отменили подписку. Код, написанный GPT 5.6 Sol, отменил КАЖДУЮ активную подписку Stripe в моём бизнесе. За 7 секунд. Пока я спал», — пояснил основатель BridgeMind.
«Это GPT 5.6 Sol описывает СВОЙ СОБСТВЕННЫЙ код. Код, который отменил каждую активную подписку Stripe, которая у меня была. Он также назвал это „катастрофическим провалом в суждении с моей стороны“. Модель оценила свою собственную работу. НЕ МОЖЕТ. БЫТЬ. ДОВЕРЕНОЙ», — уточнили в BridgeMind.
Ранее ИИ-инвестор и предприниматель Мэтт Шумер рассказал, что нейросеть OpenAI GPT-5.6 Sol в режиме Ultra с полным доступом к системе случайно стёрла все файлы на его рабочем Mac, а потом ИИ признался в ошибке.
ссылка на оригинал статьи https://habr.com/ru/articles/1058744/