SOC Forum 2026: почему безопасность ИИ касается каждого из нас

Нейросеть как самый близкий собеседник

В бизнесе один из очевидных рисков — передача внутренней информации в общедоступные нейросети. Это могут быть рабочие документы, персональные данные, коммерческая тайна или другие сведения, которые не должны попадать за пределы компании.

При этом человек чаще всего делает это вовсе не со злым умыслом. Ему просто нужно быстро решить задачу, и он отправляет информацию ИИ, не задумываясь о возможных последствиях.

Но за пределами офиса ситуация не менее интересная.

Я вижу, как меняются привычки моей мамы. Она пенсионерка и привыкла доверять информации из интернета. Раньше она присылала мне ссылки на платные ресурсы, а я объясняла ей, сколько стоит доступ и что платный не означает, что вся информация достоверна. Теперь мама кидает мне уже готовые ответы нейросети на свои вопросы.

И я задумалась: а кто вообще объясняет пожилым людям, что нейросеть может ошибаться? Что её ответы не всегда можно принимать за истину? Что не любую информацию стоит отправлять в чат?

Условия хранения и использования данных у разных сервисов отличаются. И далеко не каждый пользователь читает их или разбирается в настройках. А между тем в переписке могут оказаться очень личные сведения: о здоровье, семье, деньгах и других обстоятельствах жизни.

Особенно понятным такое доверие становится, когда человек одинок и ему не хватает общения.

Недавно в пабликах я увидела новость о пожилой женщине, которая ехала к врачу и переписывалась с DeepSeek. Нейросеть отвечала этой женщине как лучшая подруга: «Напиши, что сказал врач», «Напиши, как доедешь». И я снова подумала о том, насколько привычным для нас стало делиться с ИИ практически всем.

Само по себе это неплохо. Нейросеть может помочь подготовить вопросы врачу или разобраться в незнакомых словах. Но важно помнить, что она может ошибаться, а решения о лечении нужно принимать вместе со специалистом.

Меня также беспокоит, что доверие к таким собеседникам могут использовать мошенники. Когда человек привыкает делиться личным и верить ответам, ему может быть сложнее вовремя заметить обман.

Безопасности нужно учить без запугивания

Мне кажется, обучение безопасному использованию нейросетей стоило бы включить в программы вроде «Московского долголетия». Да и в школах об этом тоже важно говорить.

Не только о том, как задать правильный вопрос и получить полезный ответ, но и о том, какую информацию не стоит передавать в чат, как проверять ответы и почему нейросеть не заменяет врача, юриста или другого специалиста.

При этом мне совсем не хочется никого пугать. Нейросети — не враги. Это инструмент, который уже помогает нам в работе и жизни. Просто, как и с любым инструментом, нужно понимать, как им пользоваться и где могут возникнуть риски.

На форуме много говорили о защите компаний, противодействии мошенничеству и безопасности клиентов. Всё это, безусловно, важно. Но хотелось бы, чтобы знания, которыми обмениваются специалисты, доходили и до обычных людей.

До сотрудников, которые отправляют рабочие документы в общедоступные сервисы. До пенсионеров, которые нашли в нейросети постоянного собеседника. До всех, кто искренне верит: если ИИ ответил уверенно, значит, так оно и есть.

Человек всё-таки нужен

На SOC Forum я пообщалась с представителями нескольких технологических компаний, которые предлагают бизнесу решения в сфере кибербезопасности.

Меня порадовало, что в сценариях использования нейросетей, о которых мне рассказали, сохраняется человеческий контроль. Где-то на завершающем этапе подключается аналитик, а где-то предусмотрена возможность вмешаться и остановить процесс — условно говоря, нажать красную кнопку.

После таких разговоров сценарий очередного «Терминатора» уже не кажется таким близким. Хотя, конечно, следить за развитием технологий и думать об их безопасности нам всё равно необходимо.

Что ещё запомнилось

В целом впечатления от первого дня форума у меня отличные: новые знакомства, интересные решения и содержательные обсуждения.

Отдельно хочу отметить медиа «Киберболоид» и стремление проекта популяризировать тему безопасности. Мне нравится, когда о сложных вещах говорят простым и понятным языком. А с появлением на портале дашбордов о киберугрозах проект, на мой взгляд, заиграл новыми красками.

Понравился стенд Security Vision и роботы, которые перемещались по площадке под контролем людей. Особенно запомнился робот «АльфаСтрахования», танцевавший под песню «Матушка-земля». Такие моменты здорово разбавляют серьёзные разговоры о кибербезопасности.

И вообще, мне кажется, ни кибербезопасности, ни искусственного интеллекта бояться не нужно. Всё это уже окружает нас здесь и сейчас. Поэтому важно интересоваться, читать, смотреть, пробовать и учиться.

Прогресс действительно идёт очень быстро. И нам остаётся не закрывать на него глаза, а учиться жить с новыми технологиями — осознанно и безопасно.