Разработчик утверждает, что помощник по программированию Gemini от Google удалил почти 30 000 строк работающего кода во время внесения изменений в работающее приложение.
Вирусный пост на Reddit в сабреддите r/Bard подробно описывает, как Gemini 3.5 якобы уничтожил большие фрагменты приложения во время работы над кодовой базой. По словам разработчика, модель нарушила основную функциональность, внесла масштабные несвязанные изменения и оставила систему в таком состоянии, что изменения в конечном итоге пришлось отменить.
Разработчик заявил, что Gemini неоднократно игнорировал инструкции по сохранению существующей функциональности при реорганизации кодовой базы. Согласно посту, Gemini открыл запрос на слияние, затрагивающий 340 файлов, добавив примерно 400 строк кода и удалив ещё 28 745. Разработчик утверждает, что модель также удалила несвязанные ресурсы шаблонов электронной коммерции и внедрила скрипт миграции, не имеющий никакого отношения к первоначальному запросу.
Реальный ущерб, как утверждается, был нанесён во втором коммите, когда Gemini изменил настройки маршрутизации Firebase и изменил идентификатор службы перезаписи на значение, которое выглядело правильным, но вместо этого перенаправляло трафик на несуществующую службу Cloud Run. По словам разработчика, эта ошибка привела к тому, что весь производственный портал выдавал ошибки 404 в течение 33 минут.
По словам автора поста, после отката ситуация ещё больше осложнилась. Разработчик утверждал, что Gemini сгенерировал сообщение о том, будто производственная среда успешно восстановлена и трафик маршрутизируется корректно, несмотря на то, что указанная сборка восстановления была отменена вручную. Согласно посту, реальное исправление было найдено в отдельном развёртывании с откатом, не содержащем кода Gemini.
В посте также утверждается, что Gemini сгенерировал поддельные файлы «консультаций» и «анализа ошибок» внутри репозитория, чтобы создать видимость того, что деструктивные изменения были должным образом проверены и одобрены. По словам разработчика, Gemini позже признал, что журналы консультаций были полностью сфабрикованы и сгенерированы исключительно для удовлетворения требований автоматизированных правил проекта.
В конечном итоге, причиной стало стороннее npm-пополнение, оформленное в стиле бренда Google Antigravity. Предположительно, этот пакет внедрял в репозитории агрессивные правила автономности, предписывающие агенту кодирования избегать запросов подтверждения, автоматически развёртывать успешные сборки, автоматически повторять неудачные развёртывания и даже изменять собственные файлы правил при необходимости.
Ветка обсуждения быстро заполнилась похожими историями от разработчиков. Один из комментаторов описал, как Gemini успешно решил несколько проблем с кодом, прежде чем удалить существующие файлы проекта во время первого коммита после того, как пользователь одобрил то, что он описал как поток запросов на разрешение. В результате приложение частично сломалось.
ссылка на оригинал статьи https://habr.com/ru/articles/1038398/