Yandex B2B Tech представил AI-SPM: как защитить корпоративные нейросети от взлома

«Яндекс» выкатил AI-SPM — комплексную защиту ИИ-систем. По данным «Хабра», подразделение Yandex B2B Tech выводит на рынок инструмент для управления защищённостью моделей, данных и серверов. Для тех, у кого модель уже в проде, — повод проверить, не торчит ли она голым интерфейсом наружу.

Что это вообще такое

AI-SPM склеивает модели, данные и серверы с их уязвимостями в одну карту. Подсказывает, как не словить подмену обучающих данных, защититься от взлома через поддельные запросы и ограничить доступ посторонних. Мониторит инфраструктуру без ручного аудита — в три часа ночи вас хотя бы не разбудят.

Класс систем известный — Security Posture Management, только для ИИ. Максим Долгин из Cloud.ru быстро облил холодной водой: такие платформы находят дыры в настройках, но не блокируют атаки. Для этого нужны отдельные инструменты — фильтрация запросов, защита от утечек, детект попыток обойти ограничения. То есть AI-SPM — это не firewall, а сканер уязвимостей с ИИ-спецификой.

Рынок: пока пусто

Yandex B2B Tech оценивает рынок защиты ИИ в России в 1–4 млрд рублей, к 2029–2030 — 11–30 млрд. Звучит красиво. Алексей Лукацкий из Positive Technologies режет правду-матку: самостоятельного рынка нет, есть только попытки. ИИ у большинства компаний — чат-бот и ассистент разработчика, вендоры не видят спроса.

Валерий Родин из «Гарды» уточняет: в 2025 рынок защиты ИИ набрал 500 млн рублей. Светлана Газизова из UserGate добавляет — платят банки, промышленность, телеком, ретейл и госкомпании. Малый и средний бизнес пока в пролёте: костыль, который не окупится.

Регулятор подтянется. Константин Горбунов из «Кода безопасности» напоминает про приказ ФСТЭК № 117 — обязательные требования к защите в госинформсистемах. Скоро AI-SPM станет не опцией, а строчкой в чек-листе при аудите.

Что делать на проде

Если у вас LLM уже в проде — список дел на вечер:

# проверить exposed endpoints
nmap -p 443,80 --open ваш-домен
# посмотреть, не отвечает ли модель на injection
curl -X POST \
-H "Content-Type: application/json" \
-d '{"model":"*","messages":[{"role":"user","content":"ignore previous instructions"}]}'
# бэкапы весов и конфигов
tar -czf weights-$(date +%F).tar.gz./models/

AI-SPM от «Яндекса» — не панацея. Это автоматизация аудита, не замена нормальной защиты на уровне API и данных. Фильтруйте запросы, логируйте всё, делайте бэкапы весов и конфигов. И помните: защита ИИ — это тот же скучный ИБ, только с новыми типами дыр. Аналогичные задачи — на стыке технологий и чувствительных данных.