Российский рынок защиты ИИ растёт из-за риска утечек данных для бизнеса
3 мин
18
Утечки данных при использовании искусственного интеллекта стали одним из факторов развития нового сегмента рынка информационной безопасности. По данным совместного исследования Б1, ГК «Солар», Ассоциации ФинТех и HiveTrace, 97% российских компаний признают существенное значение искусственного интеллекта для бизнеса, для 35% организаций-респондентов ИИ входит в тройку стратегических приоритетов, а ещё 46% компаний считают его важной частью бизнес-процессов. В исследовании участвовали представители 60 компаний из 10 отраслей. 40 компаний-участников относятся к среднему и крупному бизнесу, их штат превышает 2 тысячи сотрудников.
Большие языковые модели и LLM применяют 79% опрошенных компаний. Ещё 67% респондентов внедряют системы с поиском по данным, или RAG. Доступ к своим системам ИИ-агентам предоставляют 46% участников исследования.
У 42% ответивших компаний пока нет политик информационной безопасности или технического контроля при использовании ИИ. Более 30% респондентов называют среди приоритетов контроль теневого использования ИИ и управление доступом сотрудников к нему.
Вероятные утечки данных через ИИ видят самой серьёзной угрозой четыре из каждых пяти опрошенных компаний. Среди других негативных последствий участники исследования называют некорректную генерацию контента и галлюцинации, компрометацию данных и источников знаний, связанные с соблюдением действующего законодательства риски, а также отравление данных и потенциальные злоупотребления действиями ИИ-агентов.
По словам директора Центра технологий кибербезопасности ГК «Солар» Ивана Вассунова, без отдельного бюджета на защиту ИИ пока обходятся в 40% компаний. У чуть большего количества опрошенных есть план разработки собственной ИИ-стратегии, но до практических шагов по его реализации дело пока не дошло.
Собственный бюджет на защиту ИИ чаще всего есть в тех организациях, для которых искусственный интеллект входит в тройку главных приоритетов и важен для ключевых процессов. Чуть более половины респондентов хотели бы увеличить расходы на защиту ИИ в ближайшем будущем. Нынешний уровень расходов стремятся сохранить в 23% компаний.
Основной мерой, которую внедряют компании для безопасного использования ИИ, оказался контроль доступа сотрудников к нему. Её уже ввели 65% опрошенных. Вторыми по популярности оказались защита, маскирование и обезличивание данных, которые уже применяются чуть более чем у половины респондентов. В тройку самых распространённых также вошли ИИ-шлюзы, которые используют 46% компаний. Менее популярны оказались фильтрация и контроль запросов — 42% и управление действиями автономных моделей и ИИ-агентов — 37% участников исследования.
Риски использования ИИ повышают спрос участников исследования на продукты нового сегмента ИБ-рынка. Так, 59% респондентов назвали наиболее востребованными сервисы для предотвращения утечек данных DLP, 55% — инструменты для автоматической защиты конфиденциальной информации, а 41% — сервисы для защиты от атак через запросы к моделям. Чуть меньшим спросом пользуются контроль несанкционированных ИИ-сервисов и защита интеллектуальных агентов. В ГК «Солар» считают, что объём российского рынка решений для защиты ИИ составляет от 1 млрд до 2 млрд рублей в части технологий. Пентест, red team и внедрение могут увеличить его до 3–4 млрд рублей.
