В поисковую выдачу Google попали запросы пользователей к нейросети

Запросы российских пользователей к китайской нейросети DeepSeek оказались в открытом доступе и начали попадать в поисковую выдачу Google. По данным Telegram-канала «База», в сети появились сотни диалогов, в которых пользователи обсуждали личные переживания, рабочие вопросы и передавали нейросети различные документы и тексты. Канал указывает, что среди этих материалов есть бухгалтерские, финансовые отчёты, аналитика по криптовалютам и драгоценным металлам, которые пользователи просили переработать и оформить в виде статей или игровых заданий. Также встречаются личные сообщения, связанные с оценкой поведения знакомых и обсуждением необходимости обращения к специалистам по психическому здоровью.

Эксперты по кибербезопасности сообщают, что причиной появления переписок в выдаче Google стала комбинация двух факторов. Первый — это использование функции «Поделиться», которая переводит отдельные чаты в статус публичных материалов. Второй — стандартная работа поисковых систем, которые индексируют доступные без авторизации веб‑страницы. Специалисты отмечают, что признаков взлома инфраструктуры DeepSeek не выявлено и основная проблема связана с передачей сервису личных и рабочих данных, а также превращением части переписок в публичные.

Функция «Поделиться» работает только после явного действия пользователя с подтверждением, сказал «Киберболоиду» этичный хакер, пентестер и автор блога «Похек» Сергей Зыбнев. «Сам факт индексации легко проверяется запросами site:chat.deepseek.com/share/ и site:claude.ai/share/, так что проблема имеет общий характер. А, к примеру, запрос site:chatgpt.com/share/ не отдаёт ни одной публичной переписки», — говорит он. Чувствительные корпоративные данные не должны передаваться через личные аккаунты публичных ИИ‑сервисов, при этом сотрудникам необходим утверждённый для решения рабочих задач инструмент, отмечает эксперт. Он уточняет, что DLP и другие средства работают только внутри управляемой инфраструктуры, а передача данных с личных устройств остаётся вне контроля. Ответственность при этом лежит на пользователе и работодателе, так как публикация требует отдельного действия. 

Говоря о мерах, которые снижают риск утечек при работе с ИИ‑сервисам, кибербез‑специалист и автор блога PWNAI Артём Семёнов предлагает добавить «микротрение» в интерфейс. Система должна явно предупреждать о возможной индексации. Эксперт отмечает, что блокировка сервисов приводит к обходу ограничений, поэтому более эффективны AI‑шлюзы с анализом запросов и предложением корпоративных инструментов. По его оценкам, ответственность за утечки, как в случае с DeepSeek, носит распределённый характер и начинается с проектирования сервиса. «ИИ‑платформа должна обеспечивать безопасное поведение по умолчанию как основной сценарий. Работодателю приэтому надо учитывать неизбежность ошибок со стороны пользователей», — говорит эксперт. 

Руководитель группы защиты инфраструктурных ИТ‑решений компании «Газинформсервис» Сергей Полунин указывает, что опасные действия не должны быть настройками по умолчанию. Публичные ссылки следует ограничивать или исключать из индексации. «Запретами проблему не решить. Подход не сработал ни с мессенджерами, ни с облачными сервисами. Задача компаний — контроль и управление рисками. Ситуация схожа с DLP: нужны политики, процессы и контроль работы сотрудников с ИИ. Если данные отправлены с личного устройства, повлиять на это нельзя, и решение остаётся в плоскости управления рисками», — говорит эксперт.

Причины инцидентов Сергей Полунин связывает с особенностями интерфейса, подготовкой пользователей и корпоративной политикой. По мнению эксперта, ответственность несёт сторона, которой доверены данные, однако при отсутствии чётких правил её сложно однозначно определить.

Кейс с DeepSeek показывает, что публичные ИИ-сервисы не могут гарантировать безопасность загружаемых в них данных. говорит руководитель продукта Solar Dozor ГК  «Солар» Али Гаджиев.  «В такие инструменты уже сейчас случайно или намеренно попадают рабочие документы, внутренние отчеты, персональные данные, фрагменты кода и другая чувствительная информация. Конечно, ИИ-платформы должны предупреждать пользователей о рисках ИБ при передаче данных  в облачные нейросети, но перекладывание ответственности на данные сервисы не решает проблему утечек конфиденциальных данных. Мы рекомендуем компаниям не только регламентировать, но и контролировать использование публичных ИИ-сервисов сотрудниками с помощью таких специализированных решений, как DLP и AI Firewall. Необходимо определить пул разрешённых инструментов, сформировать политики ИБ и категории данных, которые нельзя передавать во внешние сервисы. Совместно эти меры помогут контролировать и предотвращать попытки выгрузки чувствительной информации в ИИ и минимизируют риски передачи финансовых документов, внутренних отчетов, клиентских данных и другой конфиденциальной информации», — сказал эксперт.