Папа Лев XIV выпустил первую в своем понтификате энциклику Magnifica Humanitas — программный документ о защите человека в эпоху искусственного интеллекта, где технологическую гонку он сравнивает с возведением новой Вавилонской башни. Понтифик призывает «разоружить» ИИ, предупреждает о новых формах рабства в цифровой экономике и об эрозии демократии. Ирония в том, что вскоре после публикации детекторы показали: часть текста манифеста против ИИ, похоже, написана самим ИИ.
Первым на это обратил внимание исследователь под ником Линч Чжан: прогнав первую главу через детектор Pangram, он получил отметку «написано ИИ» для 62% фрагмента. Эксперимент повторило издание The Verge — на выборке около двух тысяч слов Pangram дал в среднем 46%, причем по отдельным абзацам разброс шел от 40 до 100%. Картина при этом лоскутная: одни абзацы детектор уверенно считает машинными, другие — стопроцентно человеческими.
Дальше Чжан сделал шаг, который детектор сделать не может, — попытался опознать конкретную модель. По его наблюдению, «почерк» принадлежит Claude от Anthropic: слово «genuinely» встречается в Magnifica Humanitas девять раз против нуля в сопоставимой по объему энциклике Dilexit Nos, а число длинных тире выросло со нуля до 127. Маркеры, которые исследователь связывает с ChatGPT («delve», «tapestry», «meticulous»), в тексте не нашлись вовсе. Сам автор честно оговаривается, что доказательства слабые и, возможно, ошибочные: и тире, и «genuinely» — обычные черты живого академического и религиозного письма, а не клеймо нейросети.
Из своих же данных Zhang делает аккуратный вывод: раз многие абзацы абсолютно чисты, речь не о том, что весь документ написал бот. Вероятнее, кто-то из высокопоставленных сотрудников Курии активно пользовался ИИ-помощником, а другие — включая, возможно, самого Папу — нет. Тут стоит держать в голове и контекст: энциклики традиционно пишут не сами понтифики, а аппарат Ватикана, так что само по себе участие «литературных негров» для жанра норма.
Финальный слой иронии добавляет состав гостей презентации. Энциклику Лев XIV представил лично — что само по себе нетипично, — а среди приглашенных спикеров был Крис Олах, сооснователь той самой Anthropic, что выпускает Claude. С трибуны в Зале Синода он призывал технологические лаборатории к диалогу с теми, кем не движут деньги, и говорил, что миру нужны «моральные голоса, которые не согнут стимулы». Получилась почти законченная сцена: Ватикан предупреждает об опасности ИИ — рядом с создателем ИИ, документом, в котором, возможно, помогал этот самый ИИ.
P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я рассказываю про ИИ с творческой стороны.
ссылка на оригинал статьи https://habr.com/ru/articles/1041134/