Математики предупредили об угрозах, которые ИИ представляет для их профессии

Международный математический союз поддержал предупреждение о влиянии технологической индустрии.

В декларации, описывающей многочисленные вызовы, которые искусственный интеллект (ИИ) создаёт для математических исследований, математики выразили обеспокоенность растущим влиянием технологической индустрии. Декларация была опубликована через две недели после того, как компания OpenAI объявила, что одна из её моделей искусственного интеллекта опровергла 80-летнюю математическую гипотезу в области геометрии.

Декларация была разработана рабочей группой из 16 исследователей в течение восьми месяцев после конференции, состоявшейся в Лейденском университете в Нидерландах в сентябре 2025 года. Опубликованная 2 июня 2026 года «Лейденская декларация об искусственном интеллекте и математике» была одобрена Международным математическим союзом — международной неправительственной организацией, которая проводит конференции и курирует присуждение самых престижных наград в области математики, таких как медаль Филдса.

«Математикам должно показаться весьма примечательным, что технологические компании внезапно проявили интерес к их работе», — заявил в своём заявлении Кевин Баззард, математик из Имперского колледжа Лондона. «Лейденская декларация — это тщательно продуманный ответ на то, что происходит в настоящее время, поскольку ИИ продолжает вносить радикальные изменения в эту сферу».

Лейденская декларация, которую уже подписали сотни человек, содержит предупреждение о том, что последние достижения в области ИИ ставят под угрозу «характерные ценности» математических исследований, «зачастую таким образом, что это непропорционально сильно сказывается на студентах и начинающих математиках, а значит, и на долгосрочном будущем самой дисциплины».

Во-первых, в ней отмечается, что модели ИИ могут «генерировать правдоподобные, но недостоверные (или даже неверные) аргументы, которые трудно отличить от правильных математических доказательств». Такие тенденции создают всё большее давление на рецензентов и «ставят под угрозу нашу способность применять традиционные стандарты правильности, прозрачности и независимой проверяемости доказательств», — предупреждает декларация.

«Неточные черновики, сгенерированные ИИ, обходятся дёшево, и существует риск перенасыщения научной литературы заявленными результатами, которые просто неверны», — заявила Лесли Энн Голдберг, заведующая кафедрой информатики Оксфордского университета. «Как только это произойдёт, ошибки, скорее всего, будут распространяться, поскольку новые результаты будут строиться на ошибочных основах».

Во-вторых, в декларации подчёркивается, что «модели, обученные на опубликованных работах, часто выдают результаты, в которых не указаны надлежащие ссылки на работы людей, на основе которых они синтезированы», а также отмечается, что многие современные модели ИИ были обучены на данных, полученных путём «злоупотребления лицензиями и соглашениями о доступе» или «простого нарушения авторских прав».

В-третьих, в декларации описывается, как использование ИИ «может стать самоцелью, нарушая наши механизмы найма, финансирования и признания», при этом оставляя в стороне исследователей, у которых нет доступа к технологиям или которые «не желают использовать технологии, контролируемые организациями, ценности которых они не разделяют».

В-четвёртых, в декларации содержится предупреждение о том, что результаты математических исследований «распространяются через неформальные каналы, такие как пресс-релизы или записи в блогах, зачастую без публикации научной статьи или иного раскрытия информации, необходимой для научной оценки». Такие коммуникационные стратегии могут привести к «чрезмерному упрощению» в освещении СМИ, которые чрезмерно преувеличивают значимость инструментов ИИ в ущерб предыдущим вкладам людей, а также «вводят в заблуждение, используя конкретные математические задачи в качестве показателей общих способностей коммерческих продуктов к логическому мышлению».

В-пятых, декларация описывает «растущее участие технологических компаний в математических исследованиях» как угрозу «автономии математики», особенно в условиях, когда бюджеты университетов испытывают давление, а исследователи могут испытывать более сильный профессиональный стимул к сотрудничеству с технологическими компаниями на «асимметричных условиях». Это также повышает риск того, что приоритет будет отдаваться тем вопросам математических исследований, которые поддаются решению с помощью методов, основанных на ИИ.

Пример OpenAI

Многие из предупреждений, содержащихся в Лейденской декларации, кажутся особенно актуальными в свете того, как компания OpenAI объявила о математических достижениях своей модели в тот же день, когда в новостных изданиях появились сообщения о том, что компания готовится к публичному размещению акций. В декларации прямо указывается, что корпоративные пресс-релизы, освещающие математические достижения ИИ, публикуются «в соответствии с рыночными сроками, не дожидаясь завершения принятых в математическом сообществе процедур оценки».

«Технологическая отрасль действует в соответствии с коммерческой логикой, которая противоречит ценностям математики», — заявил в интервью New York Times Майкл Харрис, математик из Колумбийского университета и один из авторов декларации. Он также отметил, что декларация направлена на то, чтобы «вернуть контроль над дискурсом о ценностях и целях математики из рук индустрии ИИ».

OpenAI опубликовала научную статью, в которой описывается математическое доказательство, выполненное её моделью ИИ, вместе с комментариями независимых математиков. Однако компания не раскрыла информацию о подсказках, данных для обучения ИИ, и объёме вычислительных ресурсов, использованных для решения рассматриваемых математических задач, отметил Родриго Очигаме, историк и антрополог в области вычислительной техники и искусственного интеллекта из Лейденского университета и один из авторов декларации.

«Модель искусственного интеллекта является собственностью компании и недоступна для кого-либо за пределами компании», — заявил Очигаме в интервью газете «The New York Times». «Нам показывают эффектное рекламное видео, в то время как основная информация, необходимая для оценки научной значимости результата, держится в секрете».

Достижение OpenAI было «примечательным», но, вероятно, потребовало значительных вычислительных ресурсов, заявила в интервью The New York Times Урсула Мартин, математик и специалист по информатике из Оксфордского университета, одна из авторов декларации. Она высказала предположение, что аналогичные объёмы эквивалентных усилий со стороны математиков-людей, вероятно, позволили бы решить эти задачи таким же образом, и предупредила, что математика — это не только решение задач, но и «развитие идей, понимания, суждения и человеческого прозрения».

Подобные высказывания в поддержку интеллектуальных усилий человека в математике встречаются в отзывах, опубликованных на сайте «Лейденской декларации».

«По моему опыту, математические идеи, как детей, нужно взращивать, и они развиваются годами», — заявил в своём заявлении Петер Шольце, директор Института математики имени Макса Планка. «Точно так же, как я не хочу, чтобы моих детей обучал ИИ, я обдумываю свои математические идеи без использования ИИ и в целом стараюсь по возможности избегать чтения текстов, сгенерированных ИИ».

Рекомендации для людей

Что же должен делать математик-человек в эпоху бума искусственного интеллекта? Лейденская декларация рекомендует математикам открыто раскрывать информацию об использовании инструментов ИИ, сохранять ответственность за правильность своих математических работ, продолжать указывать авторов-людей, должным образом указывая авторство, даже если инструменты ИИ затрудняют это, а также рассматривать возможность использования только тех инструментов ИИ, которые соответствуют ценностям, сформулированным в декларации.

Декларация также напоминает математикам, что математика «находит применение в разработке технологий, используемых в военных целях, для угнетения, массовой слежки и подрыва демократии», и поэтому математики должны принимать соответствующие этические решения при выборе внешних партнёрств с технологическими компаниями.

Профессиональные математические организации могут разработать руководящие принципы использования ИИ и других автоматизированных инструментов при публикации и рецензировании, защищать права исследователей как авторов посредством лицензионных соглашений, предотвращающих использование их работ в качестве обучающих данных без согласия, а также поддерживать роль рецензируемых публикаций. В декларации также предлагается, чтобы такие организации «активно готовились к вмешательству в случае, если о важных математических результатах будет заявлено с использованием нетрадиционных средств».

Авторы декларации также предлагают чёткие рекомендации для политиков, в том числе «защищать права авторов», «регулировать отрасль искусственного интеллекта» и «инвестировать в общественную вычислительную инфраструктуру». В разделе «Не верьте рекламному шуму» декларация предупреждает о том, что «в настоящее время у технологической отрасли существует сильный коммерческий стимул преувеличивать возможности своих продуктов».

Наконец, в декларации признаётся, что технологическая отрасль «предлагает высокооплачиваемые рабочие места, денежное вознаграждение, вычислительные ресурсы и интеллектуально стимулирующие возможности, которые некоторые математики сочли привлекательными… в эпоху недофинансирования высшего образования и нестабильной занятости в академической среде». В ней содержится призыв к тому, чтобы такое сотрудничество между математиками и технологической отраслью осуществлялось в соответствии со стандартами, изложенными в декларации.

«Поддерживая эту декларацию, ММС подтверждает, что будущее математических исследований должно определяться человеческим суждением, справедливыми и прозрачными практиками, а также общими ценностями мирового математического сообщества», — заявила в своём обращении Ульрике Тиллманн, вице-президент Международного математического союза. «Математика является и всегда должна оставаться глубоко человеческим делом».