Год бана за ИИ-слоп: arXiv ужесточил правила для авторов

Платформа препринтов arXiv ввела годовой бан для авторов, в чьих работах находят неопровержимые следы «ИИ-мусора». О новом подходе написал X Томас Диттерих, глава секции информатики arXiv: по его словам, если автор работы использовал ИИ для создания контента и не проверил его вручную, то такой статье нельзя доверять целиком.

Под «неопровержимыми доказательствами» понимают вполне конкретные вещи. Это галлюцинированные ссылки — то есть выдуманные моделью источники, которых не существует. И мета-комментарии самой нейросети, случайно оставленные в тексте: например, «вот краткое содержание на 200 слов, хотите что-то изменить?» или «данные в этой таблице иллюстративные, подставьте реальные числа из ваших экспериментов». Логика arXiv простая: если автор не заметил такую вставку, значит, он не вычитывал и остальное.

Попавшийся хотя бы раз получает год запрета на загрузку, а после него все новые материалы автора должны сначала пройти прием на признанной рецензируемой площадке — журнале или конференции. Решения можно обжаловать, и Диттерих подчеркивает, что правило применяют только к случаям с бесспорными уликами, а не к подозрениям на стилистику.

Ужесточение — реакция на резкий рост количества некачественных работ. По данным модераторов, много лет доля отклоняемых статей держалась около 4%, после выхода ChatGPT в 2022-м ничего не менялось, но с начала 2025 года число «мусорных» статей пошло вверх по экспоненте — сначала в информатике, потом в других дисциплинах. Сейчас отклоняют уже 10–12% присланных работ. В октябре площадка уже запретила публиковать обзорные статьи и аналитические доклады по информатике без предварительного рецензирования — теперь очередной этап ужесточения.

P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть«, где я рассказываю про ИИ с творческой стороны.