Что опубликовано
Сбербанк разместил в открытом доступе на портале «Кибрарий» обновлённую модель киберугроз, ориентированную специально на системы искусственного интеллекта. Документ описывает 37 угроз и 51 способ их практической реализации.
Почему это актуально
Массовое распространение больших языковых моделей, генеративных нейросетей и мультиагентных архитектур заметно изменило картину киберугроз для организаций любого масштаба. Старые подходы к оценке рисков не всегда учитывают специфику таких систем — например, атаки через промпты, отравление данных или уязвимости при взаимодействии нескольких агентов между собой.
Кому пригодится документ
- Разработчикам ИИ-решений
- MLOps-инженерам и архитекторам систем
- Специалистам по информационной безопасности
- Руководителям, отвечающим за управление рисками
Что внутри
Для каждой из описанных угроз указаны возможные последствия, какие свойства информации могут быть нарушены, какие компоненты системы затрагиваются и на каком этапе жизненного цикла ИИ-решения риск наиболее актуален.
Модель можно использовать уже на стадии проектирования генеративных систем — чтобы закладывать защиту от угроз заранее, а не устранять уязвимости постфактум, а также при интеграции ИИ-решений в существующую бизнес-инфраструктуру.
