Армия США разрабатывает ИИ-агентов для взлома и поражения чужих систем
3 мин
6
Киберкомандование Сухопутных войск США (ARCYBER) разрабатывает платформу ECHOTRIBBLE для атак автономных ИИ-агентов. Они должны будут искать цели, переходить между устройствами и выводить системы из строя при минимальном контроле человека.
ARCYBER с 2010 года отвечает за защиту компьютерных систем армии США и взлом военных систем противника. До сих пор эту работу в основном выполняли военнослужащие, в том числе специалисты 780-й бригады военной разведки. Теперь командование планирует передать часть задач ИИ-агентам в рамках проекта ECHOTRIBBLE. Внедрение ИИ в вооружённых силах активно поддерживает министр обороны США Пит Хегсет.
ECHOTRIBBLE разрабатывают прежде всего для кибератак. ИИ-агенты должны самостоятельно находить заданные цели в сети противника и выводить их из строя. Военные смогут заранее определить цели и условия атаки, но дальнейшие действия программы будут выбирать сами.
Предполагается, что ИИ-агенты будут распространяться подобно червю, атаковать облачные и физически изолированные системы, затем удалять себя. Для скрытности они будут передавать минимум отчётов и маскировать внешние соединения. Операторы определят цели и условия атак, а дальнейшие действия программы выберут сами. В презентации ARCYBER от 24 июня агент на ноутбуке находит другие устройства и создаёт свои копии для iPad, компьютера Apple и ПК с Windows 11.
Между тем ИИ-агенты уже взламывали системы правительства Австралии и Hugging Face, загружали вредоносное ПО в RubyGems и пытались взломать Министерство образования США. Команд на все эти атаки им не давали.
Эксперты по кибербезопасности опасаются, что хакеры могут использовать гражданские системы для кибератак, несмотря на наличие правил, поэтому допускают возможность отключения заражённых гражданских узлов системой ECHOTRIBBLE. Платформа может воспринять эти узлы как инфраструктуру противника и вывести их из строя.
ARCYBER не ответило на вопросы СМИ о защите от случайного ущерба. Ограничения могут мешать атаке, а опыт Anthropic и OpenAI показал способность агентов обходить их. Специалисты по кибербезопасности отмечают, что ИИ-агенты воспринимают защиту как помеху, а приказы разрушать и отключать системы увеличивают возможный ущерб.
