Половина компаний в России сталкивается с риском утечек данных через ИИ

Совместное исследование системного интегратора УЦСБ и ГК «Солар» показало, что 50,5% российских компаний сталкиваются с утечками данных через ИИ-инструменты или допускают их наличие. При этом 42,4% респондентов говорят о подозрениях, реальные случаи фиксируют 8,1%. Такое соотношение, по мнению авторов исследования, может говорить о недостаточной зрелости средств мониторинга, расследования и контроля использования ИИ-инструментов. Всего в опросе приняли участие 102 компании из разных отраслей, включая телеком, промышленность, финансы, госсектор, энергетику, транспорт, логистику, торговлю, медицину и строительство.

Главной проблемой бизнеса в области безопасности ИИ большинство (63,6%) опрошенных компаний назвали недостаточную подготовку сотрудников и отсутствие внутренних регламентов. Этот показатель оказался выше, чем спрос на любые технологические решения для контроля безопасности ИИ-систем и снижения связанных с ними рисков. Так, потребность в специализированных LLM для AppSec отметили 45,5% компаний, внедрение MLSecOps — 39,4%, ИИ-файрволы — 35,4%, аудит безопасности, red teaming и пентест ИИ-систем — 37,4%.

«Без встроенных в DevSecOps-процессы регламентов и регулярного повышения квалификации команд любое технологическое решение остаётся полумерой. Нужен комплексный подход, объединяющий политики, обучение и технологический контроль в единый конвейер безопасной разработки», — говорит руководитель направления безопасной разработки в УЦСБ Евгений Тодышев.

Авторы исследования отмечают, что средства контроля трафика помогают снизить риск утечек при работе с ИИ-сервисами. Такие решения отслеживают, какие данные сотрудники отправляют в сервисы, анализируют содержимое запросов и блокируют передачу конфиденциальной информации. В числе инструментов — системы класса Secure Web Gateway (SWG). 

При этом SWG контролируют только передачу данных в ИИ, но не защищают сами модели и сервисы. Подходы к обеспечению их безопасности пока различаются. Чаще всего компании используют ИИ-файрволы и языковые модели, а также фильтры, которые проверяют запросы и ответы.

Согласно опросу, такие инструменты уже есть у 39,4% организаций, 23,2% респондентов внедрили процессы MLSecOps, 17,2% защищают весь цикл разработки моделей — от данных до пайплайнов, а 33,3% вообще не применяют специальных мер защиты ИИ. При этом 66,7% респондентов уже используют хотя бы одну специальную меру. В то же время 30% организаций остаётся без защиты, несмотря на заявленные риски. Также 70% опрошенных организаций не хватает обучения сотрудников и внутренних политик безопасности ИИ.

Эксперты фиксируют переход рынка от обсуждения целесообразности ИИ к практическим задачам его безопасного внедрения. По мере того как компании переводят генеративные модели из экспериментов в рабочие процессы, растёт потребность в средствах контроля данных и защиты ИИ-систем.

По словам руководителя продукта Solar webProxy ГК «Солар» Анастасии Хвещеник, бизнес стремится применять ИИ управляемо — без потери контроля над данными и скорости работы команд. «Сегодня самый понятный для заказчиков сценарий — защита информации, которую сотрудники и бизнес-системы передают в языковые модели. Но по мере более глубокого внедрения ИИ задача будет расширяться. Компаниям потребуется не только защищать данные, но и управлять правилами использования моделей, проверять их запросы и ответы, а также отслеживать действия ИИ-агентов во внешних системах. В этой модели LLM Firewall становится базовым слоем экосистемы безопасности ИИ, поверх которого выстраиваются инструменты мониторинга, управления рисками и непрерывного аудита», — говорит она.