Половина российских компаний (50,5%) либо подозревает утечки конфиденциальных данных через ИИ-инструменты, либо уже зафиксировала такие инциденты. По данным совместного исследования системного интегратора УЦСБ и ГК «Солар», 42,4% сообщили о подозрениях без подтвержденных случаев, а 8,1% столкнулись с реальными утечками. Еще 49,5% не подозревают и не сталкивались. В исследовании приняли участие 102 компании из сферы телекоммуникаций, промышленности, финансов, госсектора, энергетики, транспорта, логистики, торговли, медицины и строительства.
Рынок поделился на два лагеря: половина компаний либо уже теряет данные через ИИ, либо опасается этого, вторая половина – не видит проблемы. При этом доля подозрений значительно превышает долю подтвержденных инцидентов – это может указывать на недостаточную зрелость средств мониторинга, расследования и контроля использования ИИ-инструментов. Ситуация усугубляется динамикой угроз – согласно исследованию ГК «Солар», в 2025 году утечки данных в публичные LLM выросли в 30 раз. Однако, как показывают новые данные, половина компаний даже не подозревает, что такие утечки возможны у них.
Исследование также выявило, что главной неудовлетворенной потребностью в области безопасности ИИ является развитие компетенций и внутренних регламентов: 63,6% компаний отметили нехватку обучения сотрудников и разработки внутренних политик AI Security. Этот показатель оказался выше, чем спрос на любые технологические решения – специализированные LLM для AppSec (45,5%), построение MLSecOps (39,4%), внедрение AI-файрволов (35,4%) или аудит безопасности, red teaming и пентест ИИ-систем (37,4%). Таким образом, бизнес ждет от рынка не только средств защиты информации, но и четких правил игры, методологий и квалифицированных кадров. При этом разрыв между запросами на обучение и на технологические средства показывает, что компании осознают: без компетенций и регламентов даже самые совершенные инструменты не дадут полной защиты.
«Многие компании внедряют генеративные модели быстрее, чем выстраивают контроль за ними. При этом бизнес фиксирует или подозревает утечки чувствительных данных. И проблема не сводится к отсутствию файрволов – ее корень в разрыве между скоростью внедрения ИИ и зрелостью управленческих практик. Технические средства решают локальные задачи, но не дают системной устойчивости. Показательно: порядка двух третей опрошенных организаций указывают на нехватку обучения сотрудников и внутренних политик AI Security. Без встроенных в DevSecOps-процессы регламентов и регулярного повышения квалификации команд любое технологическое решение остается полумерой. Нужен комплексный подход, объединяющий политики, обучение и технологический контроль в единый конвейер безопасной разработки», – отмечает Евгений Тодышев, руководитель направления безопасной разработки в УЦСБ.
Закрыть этот разрыв видимости помогают технические средства контроля трафика. Они отслеживают запросы, анализируют передаваемый контент и блокируют попытки выгрузки чувствительной информации – например, SWG-системы (Secure Web Gateway).
Это решает задачу контроля трафика, но не защищает сами ИИ-модели и сервисы. Подходы к их защите пока различаются. Самая распространенная специализированная мера – AI/LLM-файрвол или аналогичный фильтр промптов и ответов, который есть у 39,4% компаний. Еще 23,2% внедрили процессы MLSecOps, а 17,2% защищают весь цикл разработки ML/LLM, включая данные, пайплайны и модели. В то же время 33,3% организаций не применяют никаких специальных мер защиты ИИ. Эти результаты показывают неоднородность зрелости подходов к защите ИИ. С одной стороны, 66,7% компаний уже используют хотя бы одну из специализированных мер защиты, с другой — треть организаций остается без специальных механизмов, несмотря на высокий уровень декларируемых рисков.
При этом спрос на специализированную защиту ИИ опережает предложение зрелых решений. Компании ждут таких продуктов от крупных вендоров.
«Результаты исследования подтверждают выводы, которые мы видим в работе с клиентами. Бизнес стремится применять ИИ управляемо – без потери контроля над данными и скорости работы команд. Сегодня самый понятный для заказчиков сценарий – защита информации, которую сотрудники и бизнес-системы передают в языковые модели. Но по мере более глубокого внедрения ИИ задача будет расширяться. Компаниям потребуется не только защищать данные, но и управлять правилами использования моделей, проверять их запросы и ответы, а также отслеживать действия ИИ-агентов во внешних системах. В этой модели LLM Firewall становится базовым слоем экосистемы безопасности ИИ, поверх которого выстраиваются инструменты мониторинга, управления рисками и непрерывного аудита. Мы рассматриваем это направление как одно из перспективных для развития технологического портфеля «Солара» в области защиты ИИ и комплексной кибербезопасности бизнеса», – комментирует Анастасия Хвещеник, руководитель продукта Solar webProxy ГК «Солар».
Исследование фиксирует переход рынка от обсуждения целесообразности использования ИИ к практическим задачам его безопасного и управляемого внедрения. По мере того, как компании переводят генеративные модели из экспериментов в рабочие процессы, потребность в средствах контроля передачи данных и защиты ИИ-систем продолжит расти. Вместе с тем, как подчеркивают сами компании, без параллельного развития компетенций и внутренних политик даже самые совершенные технологии не дадут полной гарантии безопасности – именно поэтому обучение и регламенты выходят на первое место в запросах бизнеса.
ссылка на оригинал статьи https://habr.com/ru/articles/1057392/