Google потребует от приложений Android более качественной модерации ИИ-контента

Google потребует, чтобы приложения Android лучше модерировали контент, созданный искусственным интеллектом. Пользователи должны иметь возможность сообщать о нарушениях, не выходя из приложения. Новые меры заработают с 31 января 2024 года.

Разработчики должны будут использовать пользовательские отчёты для фильтрации и модерации контента в своих приложениях.

Компания заявила, что политика в отношении контента распространяется на чат-ботов с искусственным интеллектом, приложения с изображениями, созданными с помощью ИИ, а также приложения, которые создают голосовой или видеоконтент с использованием технологии. 

Те сервисы, которые размещают такой контент, а также используют ИИ для обобщения материалов или повышения производительности, не будут подпадать под действие новой политики.

Google приводит примеры нарушающих политику материалов: дипфейки сексуального характера, дипфейки реальных людей, созданные с целью мошенничества, ложный или вводящий в заблуждение предвыборный контент, вредоносный код.

Компания добавила, что генеративный ИИ «является быстро развивающейся категорией», поэтому она может пересмотреть свою политику в этой области.

Google также усиливает политику разрешений на фото и видео в Play Store, ограничивая объём доступа приложений к данным.

«Фотографии и видео на устройстве пользователя считаются личными и конфиденциальными данными, и к ним следует относиться с соблюдением максимальных мер конфиденциальности, — заявили в компании. — Эта конфиденциальная информация делает пользователей уязвимыми для утечек или целей эксплуатации, поэтому сведение к минимуму такого доступа помогает избежать нагрузки на разработчиков по обработке таких конфиденциальных данных».

Только приложения, которым необходим широкий доступ к фотографиям и видео, продолжат получать общие разрешения, в то время как остальные должны будут использовать средство выбора фотографий.

Ранее Google обновила сервис Google Play Protect, защищающий от вредоносного ПО на Android. Он получил функцию сканирования в режиме реального времени на уровне кода.