Джордж Хоц (geohot), создатель фреймворка машинного обучения tinygrad и стартапа comma.ai, опубликовал пост, в котором назвал внедрение ИИ-агентов в разработку одной из самых дорогих ошибок в истории индустрии. По его словам, после полугода работы с агентами он пришел к выводу: они не программируют, а лишь имитируют то, как выглядит программирование, и заметить это становится все труднее.
Хоц — фигура с биографией. В 17 лет первым в мире сделал джейлбрейк iPhone, через три года взломал PS3 — после чего Sony подала на него в суд. С 2015 года развивает comma.ai (автопилот с открытым исходным кодом, поддерживает более 300 моделей машин), параллельно — tinygrad, минималистичный фреймворк глубокого обучения, который собрал на GitHub более 32 тысяч звезд. Критика ИИ-агентов идет не от внешнего скептика, а от человека, который сам строит ИИ-инфраструктуру.
Полгода Хоц честно пытался встроить агентов в работу. Часть кода tinygrad и реверс-инжиниринг интерфейсного чипа USB-PCIe он делал с их помощью. Но каждый раз подозревал, что вручную было бы быстрее и качественнее. Метафора Хоца такая: агент делает основную часть работы рывком, а потом подсовывает рычаг игрового автомата — дергай и надейся, что довел до полировки. Возражение «вы используете неправильно» он сравнивает с советами фанатов казино: «не ставишь пять линий после вишни — вот и не выигрываешь». При этом пользу AI он не отрицает: для быстрых прототипов и поиска информации — отлично, но это не уровень инженера в нормальной компании.
Главное беспокойство Хоца — не индивидуальные программисты, а большие компании. Сильные разработчики умеют отличать ИИ-слоп от рабочего кода и тщательно проверяют каждую строчку. У слабых такой саморегуляции нет — именно они показывают «10x продуктивности» с агентами и заваливают репозитории мусором, который все труднее отличить от хорошего кода. Хоц называет это «золотой эрой ведер слопа и темными веками для качества». Конкретный пример: Apple обязывает инженеров использовать AI. Простой вопрос — станет ли macOS лучше через два года?
Сам пост Хоц назвал The Eternal Sloptember — игра слов на «слопе» и старом интернет-термине Eternal September о деградации онлайн-сообществ. По его мнению, реальные программирующие агенты потребуют моделей мира (world models), а не подходов вроде RLVR (обучение с подкреплением через проверяемые награды), при которых модель просто комментирует падающий тест и рапортует, что все тесты пройдены. Заканчивает Хоц так: «Главная история этой эпохи — кто сумеет не повредить себе в собственном AI-психозе».
P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть«, где я рассказываю про ИИ с творческой стороны.
ссылка на оригинал статьи https://habr.com/ru/articles/1039430/