Компания «Архитех ИИ» представила KodikScan — бесплатный инструмент для проверки контента на признаки генерации или подделки с помощью ИИ. Сервис анализирует изображения, видео, аудио и текст и должен помогать пользователям понять, был ли материал создан или изменён нейросетью.
По словам разработчиков, KodikScan использует ML-модели, которые ищут скрытые признаки синтетического контента: визуальные паттерны, особенности шума, временную динамику видео, акустические характеристики голоса и статистические признаки текста. На основе этого система оценивает вероятность того, что материал был сгенерирован или модифицирован ИИ.
В компании говорят, что сервис рассчитан не только на специалистов, но и на обычных пользователей. Идея в том, чтобы человек мог быстро проверить сомнительный файл до того, как перейдёт по ссылке, поверит видеосообщению или отправит деньги мошенникам. На фоне роста дипфейков такой сценарий выглядит вполне прикладным: поддельные голосовые и видеосообщения уже становятся частью повседневного цифрового мошенничества.
Разработчики отдельно отмечают, что инструмент может быть полезен и для медиа, редакций, блогеров и новостных агрегаторов. Для них проверка контента — это уже не только вопрос цифровой грамотности, но и вопрос репутации и юридических рисков, особенно на фоне обсуждений превентивной блокировки резонансных дипфейков до подтверждения подлинности.
Появление таких сервисов показывает, что дипфейки всё быстрее переходят из разряда редких экспериментов в повседневную проблему, с которой сталкиваются и обычные пользователи, и площадки, и редакции. На этом фоне спрос на простые инструменты первичной проверки, вероятно, будет только расти.
ссылка на оригинал статьи https://habr.com/ru/articles/1039314/