«Лаборатория Касперского» предложила Рабочей группе открытого состава по вопросам безопасности в сфере использования информационно‑коммуникационных технологий при ООН подготовить принципы развития искусственного интеллекта (ИИ) для обеспечения информационной безопасности. В обращении отмечается, что ИИ применяется в сфере кибербезопасности для выявления угроз и реагирования на них или для анализа аномалий в IT‑системах.
ИБ‑компания в своём предложении заявила, что системы на базе машинного обучения могут устаревать и плохо работать при резком изменении входных данных. Поэтому ключевым элементом в сфере кибербезопасности при использовании ИИ должен быть человеческий контроль, включая доступ экспертов в режиме реального времени ко всем данным и процессам.
Кроме того, «Лаборатория Касперского» считает нужным минимизировать использование персональных данных при обучении ИИ, при этом данные должны быть обезличены. В рамках международного регулирования ИИ компания предлагает обучать системы на данных из открытых источников.
ИБ‑компания рассказала изданию «Коммерсантъ», что в октябре 2023 года планирует провести семинар «Этические принципы использования искусственного интеллекта в кибербезопасности» в рамках Форума по управлению интернетом, который состоится в Японии под эгидой ООН.
ссылка на оригинал статьи https://habr.com/ru/articles/763860/
Добавить комментарий