Тренды offensive security: как меняется логика атак и защиты

Прагматичное использование искусственного интеллекта

Бизнес внедряет искусственный интеллект во все сферы. Специалисты уже активно применяют его на практике — в разработке, автоматизации и операционных процессах. Это значит, уже совсем скоро большинство наших проектов будут связаны с безопасностью внедрения ИИ и регулированием его использования. Но важно подходить к этому без иллюзий и понимать, что можно оптимизировать с помощью AI — например, деобфускацию, генерацию утилит, OSINT и другие вспомогательные задачи, а что по-прежнему лучше делать самостоятельно. Что можно отдавать внешним моделям — GPT, Claude и другим, а что необходимо сохранять внутри периметра, чтобы не создавать новые риски безопасности. Для чувствительных сценариев могут использоваться и локально развёрнутые модели.

Важно, чтобы генерация проходила через некий sanity check (проверку на здравый смысл). Например, через ревью профильных компетентных специалистов. А проблемы снижения качества выводов из-за вторичности генерируемой информации, вероятно, со временем могут сгладиться по мере развития нейросетей. Тем более уже существуют вполне конкретные бенчмарки, которые позволяют оценивать качество результатов.

Нейросети уже отлично справляются с пентестом, реверсом и написанием кода. В рамках собственных R&D-процессов можно строить CI/CD-пайплайны, которые автоматически собирают сайт с релизами, прогоняют тесты через Playwright, генерируют гайдбуки в PDF. Всё это работает на фоне, пока ты занимаешься другими задачами. Реверс с нейросетями тоже стал значительно проще: даже исследование бинарных прошивок объёмом в 600 МБ, которое раньше казалось совершенно мрачной историей, теперь поддаётся анализу благодаря новым подходам. ИИ в offensive — это уже не будущее, а рабочий инструмент, и откладывать знакомство с ним не стоит.

Собственные инструменты больше не роскошь

Всё чаще пентестеры пишут инструменты под свои задачи и стремятся к тотальной автоматизации. Это логично — специалисты, видя недостатки в своих текущих инструментах, хотят их доработать: добавить новые модули, ускорить и улучшить процессы, избавиться от рутины. Теперь они жёстче тейлорят, меньше пользуются готовым, больше придумывают что-то своё. Например, создают кастомные правила для Semgrep, Nuclei и дополнительные модули к существующим сканерам, пишут свои ASM и IDS (с defensive стороны). Кто-то крафтит эксплойты на основе собственного ресёрча, чтобы не запускать непроверенный код в инфраструктуре заказчика. Нередко личный инструмент вырастает в полноценный коммерческий продукт.

Каждый специалист должен автоматизировать свою деятельность, а нейросети в этом помогают. Сегодня написать собственные автоматизаторы стало гораздо проще. То, что раньше мы не могли кастомизировать, но всегда хотели, в текущих реалиях делается быстро и с меньшими затратами. ИИ помогает в классическом пентесте, реверс-инжиниринге и разработке программного обеспечения. Сейчас это окно возможностей для создания собственных инструментов.

Больше внимания R&D

Есть мнение, что R&D стал обязательной фазой перед проектами и вообще ему стали больше уделять ему внимания. Это спорный тезис, более применимый к крупным инициативам. Например, перед продолжительным и объёмным Redteam-проектом, R&D возможен. Но, как правило, всё-таки он происходит во время работы и постфактум, потому что опыт аккумулируется в процессе проведения, затем интерпретируется, и на его основе делаются выводы. Тем не менее если у кого-то R&D действительно стал обязательной фазой до старта работ, этому можно только порадоваться.

Аппаратный хакинг снова на коне

Коллеги занимаются извлечением данных из сетевых устройств, ломают роутеры и исследуют прошивки, ищут бинарные уязвимости в сетевом оборудовании — все потому, что ищут небанальный путь эксплуатации в случае, когда всё остальное уже не работает.

Впрочем, если такой тренд и существует, он точно не массовый. Аппаратный хакинг подразумевает наличие огромной экспертизы. Но такие уязвимости впечатляют: например, бинарная в юзер-агенте сетевого оборудования, дающая рут-доступ. Это превосходно, хотя трудозатраты для такой находки будут значительно выше, чем для обычного CVE.

В рамках проекта важно понимать, какого противника вы имитируете: «ультравзломщиков», которые ломают всё на своем пути и вытаскивают по 500 нулей за проект, или более реалистичный средний сценарий. Как правило, реальные атаки проще.

Импортозамещение как новый фронт исследований

На рынке отдельное внимание сегодня уделяется Linux и FreeIPA, различным аналогам AD — это исследование инструментов под эту платформу, адаптация методологий тестирования и поиск специфичных для FreeIPA векторов атак. Пик импортозамещения всего и вся уже прошёл, поэтому можно отнести этот тренд к 2024–2025 годам. Сегодня процесс стабилизировался, но остаётся актуальным. Достаточно часто на проектах встречается Astra Linux вместо Windows. Например, на Penest award мы уже который год видим кейсы по импортозамещённой инфраструктуре: атаки на FreeIPA, включая адаптацию классических AD-техник вроде DCShadow, и исследования специфичных для этих платформ уязвимостей.

Исследуя импортозамещённую инфраструктуру, специалисты поняли, что она имеет огромное множество особенностей. Нельзя слепо перенести рабочие инструменты для AD на работу с FreeIPA. Казалось бы, это практически одно и то же, но есть нюансы. Наработка этих инструментов и методологии продолжается, тем самым создаётся устойчивый тренд. В рамках OFFZONE приходит достаточно много докладов о FreeIPA.

Фокус сместился с одиночных багов на цепочки

Атаки стали сложнее. Чаще применяются большие чейны, чтобы достичь некой цели вместо одного большого и красивого эксплойта. Например, за последние 5–7 лет API стал более разветвлённым и многослойным. Теперь огромное количество багов находится в пространстве бизнес-логики. Для их поиска нужны плейбуки от заказчика, чтобы разобраться в структуре и правилах работы API. Такие уязвимости обычно не прельщают специалистов с точки зрения RCE, однако они могут привести к интересным последствиям для заказчика или его баз данных и критических объектов.

Чейны становятся более распространёнными. За несколько лет проведения Pentest Award было продемонстрировано множество таких цепочек. Поначалу они часто выглядят менее выигрышно по сравнению с крупным багом, но когда видишь цепочку целиком и понимаешь, как человек проходил через всю инфраструктуру и в итоге добился результата — это вызывает уважение. Мы оцениваем такие кейсы по достоинству. Некоторые цепочки выглядят почти как магия, удивительным образом складываясь в единый вектор.

Shadow AI

По аналогии с теневыми ИТ-активами появилась новая категория угроз — теневой ИИ. Сотрудники начинают использовать ChatGPT и других ИИ-ассистентов для рабочих задач без ведома и контроля со стороны компании, сливая туда рабочую документацию: роадмапы, gap-анализы, результаты пентестов. На проектах уже встречаются реальные случаи: сотрудники запускают ИИ-агентов с полным доступом к рабочей машине, загружают корпоративные документы и просят их проанализировать или составить отчёт. Неконтролируемые утечки через внешние модели — это тренд и прямая зона внимания для ИБ-специалистов. Проблема реальна, и как её контролировать, пока не все понимают. Один из подходов — прокси-решения, которые анонимизируют и очищают данные перед отправкой в модели. Бизнесу стоит внедрять контроль Shadow AI.

Возможно, многим компаниям в связи с этим потребуется переоценка активов. Часто защита фокусируется на определённых категориях — персональных данных, коде и других чувствительных ресурсах. Для AI к ним вводят ограничение доступа, и это логично. Но если взять код как пример, то в текущих реалиях стоимость, скорость и качество его генерации становятся такими, что со временем он может выйти из категории критически ценных ресурсов. Нет смысла охранять то, что можно очень быстро сгенерировать. Мы видели много больших утечек у разных компаний, и все переживали о том, как они продолжат деятельность, если утекли код, проприетарные сервисы, ноу-хау и алгоритмы. Однако практика показала, что для выживания бизнеса важно совершенно другое — это данные, взаимосвязи, партнёрские связи, наработанный опыт, экспертизы и так далее.

А раз так, то возможно, что и искусственному интеллекту есть место в работе с активами, которые раньше оберегали. Бизнес должен сам оценивать: принимать ли эти риски? В любом случае мы как специалисты по кибербезопасности будем стараться помогать бизнесу.

Резюмируя вышеперечисленные тренды, можно сказать, что сообщество offensive security идёт от хаотичного поиска багов к системности, а значит, мы становимся всё более зрелыми и эффективными для борьбы с кибератаками.