Bumble открыла исходный код системы Private Detector для обнаружения интимных фотографий

Компания Bumble, развивающая сервис знакомств, опубликовала исходный код системы Private Detector, которая обнаруживает интимные фотографии. В компании используют систему для фильтрации контента, загружаемого пользователями.

Private Detector написана на Python с использованием фреймворка Tensorflow. Для классификации изображений применяется свёрточная нейросеть EfficientNet v2. Исходный код системы опубликован на GitHub вместе со всей необходимой документацией и распространяется по лицензии Apache 2.0. Отмечается, что точность работы Private Detector составляет более 98%.

Также компания опубликовала скрипт, который поможет обучить модель для любых типов изображений. Представители Bumble рассказали, что систему можно использовать в собственных проектах, а также можно модифицировать архитектуру Private Detector для других нужд.