«Кросстех»: заказчики начали формировать запрос на анализ защищенности ИИ-моделей

Дата публикации: 28-07-2026 10:51:00

Анализ защищенности искусственного интеллекта становится все более частым запросом российских компаний, специалисты...

Основное содержимое страницы с новостью.

«Кросстех»: заказчики начали формировать запрос на анализ защищенности ИИ-моделей

Анализ защищенности искусственного интеллекта становится все более частым запросом российских компаний, специалисты «Кросстеха» отмечают, что с начала 2026 г. примерно в 20% запросов на проведение пентеста заказчики интересовались возможностью оценки защищенности ИИ-моделей, используемых в их инфраструктуре.

По оценкам специалистов, различные решения на базе искусственного интеллекта активно используются в 40-50% российских компаний. При этом более половины руководителей ИБ-направлений считают искусственный интеллект, в том числе и внедренный в корпоративную инфраструктуру, главной угрозой кибербезопасности в 2026 г.

В ходе анализа защищенности ИИ-моделей специалисты оценивают безопасность как самой LLM, так и окружающей ее инфраструктуры: системных промптов, внешних интеграций, RAG-механизмов, API, реализованных методов авторизации и разграничения доступа и так далее. Эксперты моделируют наиболее распространенные сценарии атак на ИИ-системы, включая prompt injection, jailbreak, атаки на RAG, попытки извлечения конфиденциальных данных через модель, обход ограничений и другие техники.

При этом, указывают специалисты «Кросстеха», сегодня существует ряд препятствий, которые затрудняют анализ защищенности ИИ-моделей. Во-первых, отсутствие общепринятых методик оценки безопасности ИИ. Искусственный интеллект – молодое явление, практики, связанные с его тестированием, защитой и так далее только начинают складываться. Во-вторых, нет общепринятых метрик эффективности. Одна и та же атака может оказаться успешной при повторной попытке или после незначительного изменения формулировки запроса. На данный момент рынок не до конца сформулировал ответ на вопрос, что такое защищенная модель. В-третьих, модели быстро эволюционируют регулярно появляются новые версии, способы интеграции и сценарии атак. Кроме того, пространство возможных пользовательских промптов не ограничено, поэтому протестировать все сценарии невозможно.

«Несмотря на уже достаточно широкое внедрение искусственного интеллекта в корпоративной среде, рынок только вырабатывает подходы к оценке его защищенности. В отличие от классических информационных систем, безопасность ИИ определяется не только отсутствием технических уязвимостей, но и устойчивостью модели к манипуляциям, попыткам обхода ограничений и утечкам данных. Пока единых критериев оценки эффективности такого тестирования не существует, однако отрасль активно движется к стандартизации подходов и формированию лучших практик», – сказала Анастасия Мельникова, руководитель департамента оценки защищенности «Кросстеха».

• 10 функций Telegram, о которых вы не знали: наводим порядок в чатах

Схожие новости

#	Наименование новости	Тональность	Информативность	Дата публикации
1	«Кросстех»: заказчики начали формировать запрос на анализ защищенности ИИ-моделей	0	11.43	28-07-2026
2	Исследование: компании в России усиливают интерес к ИИ автоматизации	5	7	06-07-2026
3	Российские компании все чаще нанимают специалистов по ИИ	0	7	27-01-2026
4	Спрос на специалистов по безопасности ИИ вырос в 4 раза	0	7	23-06-2025
5	«Солар» и УЦСБ: 40% компаний отмечают критичные риски генеративного ИИ для безопасности приложений	0	5	22-06-2026
6	Доверие к полной ИИ-автоматизации пентестов упало до 9%	-2	6	08-07-2026
7	Доверие к полной ИИ-автоматизации пентестов упало до 9%	-2	6	08-07-2026
8	В России введут требования к защите персональных данных при использовании ИИ	0	10	28-07-2026
9	«Кортрос»: 62% россиян хотели бы стать специалистами по искусственному интеллекту	0	5	10-07-2026
10	Подбор похожих компаний: новая ИИ-технология от «Контура»	0	5	20-07-2026

Классификация: Наука. Схожих патентов: 0. Схожих новостей: 10. Тональность: 0. Информативность: 11.43. Источник: www.cnews.ru.