Продукт Innostage AIDR «Защита ИИ» включен в Единый реестр российского программного обеспечения Минцифры России. Innostage AIDR предназначен для защиты корпоративных ИИ-сервисов на базе больших языковых моделей от атак и утечек данных на этапе эксплуатации. Продукт отнесен к классу средств автоматизации процессов информационной безопасности.
Innostage AIDR работает как прозрачный прокси между ИИ-приложением и языковой моделью. Продукт фильтрует входящие запросы до передачи в LLM и блокирует попытки внедрения вредоносных инструкций в запрос к модели (prompt injection), а также обхода ограничений модели (jailbreak). Ответы ИИ анализируются на наличие персональных данных, коммерческой тайны и другой критичной информации. Дополнительно контролируются тематика, тональность и токсичность контента.
Продукт обеспечивает доступ ИИ-приложений только к разрешенным языковым моделям. События информационной безопасности передаются в SIEM с указанием уровня критичности, а события от средств защиты — в инструменты ИТ-мониторинга ИИ-систем.
Отдельный сценарий использования Innostage AIDR — контроль Shadow AI. С помощью браузерных расширений продукт проверяет передачу данных в публичные облачные ИИ-чаты, включая ChatGPT и DeepSeek, и маскирует чувствительную информацию до ее отправки внешнему сервису.
Для организаций, на которые распространяются требования приказа ФСТЭК России №117, Innostage AIDR может служить технологической основой для реализации мер по фильтрации и контролю входных и выходных данных ИИ-систем, а также регистрации событий информационной безопасности.
«Включение Innostage AIDR в реестр российского ПО подтверждает востребованность технологий защиты ИИ-систем и открывает дополнительные возможности для применения продукта в проектах, где есть требования к использованию отечественного программного обеспечения. Сегодня компании только начинают выстраивать процессы безопасного использования генеративного ИИ, и защита таких систем становится отдельным направлением информационной безопасности», — отметил Айдар Фатыхов, владелец продукта Innostage AIDR.
ссылка на оригинал статьи https://habr.com/ru/articles/1060208/