Разработчик нашёл способ удалять метки SynthID с AI-изображений

Разработчик провёл реверс-инжинирингу системы SynthID для маркировки сгенерированных изображений и нашёл способ удалять водяные знаки. После этого система проверки принимает AI-картинки за оригинальные.

SynthID — система от Google, которая маркирует изображение, сгенерированные в Gemini. С ещё помощью сервисы проверки контента могут быстро отличать AI-картинки от настоящих фотографий. Например, чтобы автоматически отмечать сгенерированный контент в социальных сетях. Сами водяные знаки не видны пользователям и не хранятся в метаданных, чтобы их нельзя было легко удалить.

Разработчик Алош Денни (Alosh Denny) нашёл способ удалять водяные знаки SynthID. Для этого он прогнал несколько полностью белых и чёрных изображений через Gemini, с помощью спектрального анализа нашёл координаты меток и собрал их в словарь. Интересно, что больше всего следов SynthID видно в зелёном канале.

На следующем этапе система вычитает сигналы водяных знаков в частотных областях. Это делается в несколько этапов и без сильного влияния на низкие частоты изображения, чтобы не нарушать базовую структуру. 

Автор проекта заявляет, что способ позволяет выявлять водяные знаки в 90% случаев, а после их удаления показатель PSNR составляет 43 dB — изменения после редактирования слабые и практически незаметны глазу.

Единственная сложность в том, что частоты меток SynthID зависят от разрешения изображения. В репозитории есть словари для профилей 1024 × 1024 и 1536 × 2816 пикселей.