NVIDIA создала альянс Open Secure AI и открыла фреймворк NOOA

Компания NVIDIA вместе с 36 организациями создала альянс Open Secure AI. Участники будут разрабатывать и распространять открытые технологии, методы и инструменты для защиты ПО и ИИ-агентов. На момент анонса NVIDIA не раскрыла устав альянса, его структуру управления, рабочие группы, сроки реализации и общий репозиторий. Сайт инициативы ещё разрабатывается.

В альянс вошли компании из сфер облачных технологий, кибербезопасности, корпоративного ПО и искусственного интеллекта. Среди них Microsoft, Cisco, Cloudflare, CrowdStrike, Hugging Face, IBM, Palo Alto Networks, Red Hat и Linux Foundation.

Альянс планирует заняться всем стеком ИИ-агентов. В него входят идентификация, права доступа, изоляция, защитные ограничения, журналы событий, форматы моделей, проверка систем с несколькими моделями и безопасная разработка.

Участники считают, что специалистам по киберзащите нужны модели, которые можно изучать, менять и запускать в своей инфраструктуре. Речь идёт не только о закрытых системах, доступных через API поставщика.

Вместе с анонсом альянса компания представила NVIDIA-labs Open Agents (NOOA). NOOA представляет собой исследовательский фреймворк с открытым исходным кодом под лицензией Apache 2.0. По словам разработчиков, он упрощает тестирование, трассировку, аудит и контроль работы ИИ-агентов.

В NOOA есть слой Agent harness, оформленный как класс Python. Программный слой вокруг модели формирует контекст, выполняет действия, хранит состояние и определяет, что задача завершена. Поля класса хранят состояние агента, методы описывают его возможности, строки документации служат промптами, а аннотации типов задают требования к работе модели.

Если вместо тела метода указано `...`, его дополняет цикл, которым управляет большая языковая модель. Методы с обычным кодом на Python остаются детерминированными. Такой подход позволяет применять привычные средства разработки: тестирование, трассировку, контроль версий и рефакторинг. Логику агента не приходится разносить между промптами, схемами инструментов, обратными вызовами и графами процессов.

По оценке NVIDIA, NOOA получил 86,8% в тесте CyberGym L1 на повторное обнаружение уязвимостей при использовании GPT-5.5. Во время испытания сетевой доступ был отключён. Каждый сценарий выполнения также проходил проверку по заданным правилам.

В репозитории сказано, что NOOA можно настроить на выполнение Python-кода, созданного языковой моделью. Такой код может передать конфиденциальные данные, удалить файлы или изменить среду выполнения.

Проверки синтаксического дерева Python и списки запрещённых модулей дают дополнительную защиту. Однако разработчики предупреждают, что эти меры не изолируют выполнение кода и не служат границей безопасности.