«Лаборатория Касперского» предложила создать в РФ центр безопасности ИИ

Игроки рынка информационной безопасности выступают за создание центра искусственного интеллекта (ИИ) на базе одного из регуляторов. По задумке, новое учреждение займётся вопросами ин­фор­ма­цион­ной бе­зопас­нос­ти в сфере ИИ. Об этом рассказал директор по исследованиям и разработке АО «Лаборатория Касперского» Антон Иванов. Он сообщил, что в России нет единого центра безопасности искусственного интеллекта, и это проблема, так как никто не представляет модель его угроз.

«У нас нет единой базы данных угроз ИИ и, самое главное, нет механизмов идентификации пользователей ИИ. Например, многие пользуются различными библиотеками для извлечения образов и текстов из фотографий. Мы находим много скомпрометированных библиотек, который лежит в Open Source, а большая часть дата‑инженеров и дата‑саентистов пользуются этим софтом при разработке ИИ. Как нам оповестить их, что это ПО опасно? Сейчас такого механизма нет. Поэтому нужно создать такой центр, который будет заниматься безопасностью ИИ, рассказывать про закладки в ПО, используемое при разработке ИИ, и про новые способы манипулировать моделями ИИ», — отметил Иванов.

Позднее в разговоре с корреспондентом ComNews он сказал, что данные о киберрисках для ИИ могут собираться в центрах, работающих по принципу CERT (Computer emergency reaction team — компьютерная группа быстрого реагирования), и работа над этой идеей идёт уже несколько месяцев.

«Мы считаем, что наиболее эффективно будет создать единый центр исследования безопасности в области искусственного интеллекта на платформе регулятора, — рассказал Антон Иванов. — В области классической кибербезопасности уже есть опыт по обмену информацией о техниках и тактиках атакующих, индикаторах компрометации и т. д. Однако в области ИИ нужен другой подход».

По мнению Иванова, новый центр ИИ должен агрегировать информацию по актуальным способам атак на алгоритмы ИИ и отдельно собирать информацию об уязвимостях и закладках в компонентах систем, использующих ИИ, и предоставлять разработчикам систем, использующих ИИ, доступ к ней. Он отметил, что «Лаборатория Касперского» открыта к сотрудничеству с другими компаниями — лидерами отраслей, работающих с ИИ (информационная безопасность, финтех, операторы связи и т. д.) в рамках центра исследования безопасности ИИ, для быстрого обмена информацией и рекомендациями по реагированию на возможные инциденты.