HackerOne запустила программу защиты для исследователей ИИ-систем
3 мин
49
2
Компания HackerOne, которая занимается управлением киберугрозами, запустила новую программу защиты для исследователей искусственного интеллекта. Она называется Good Faith AI Research Safe Harbor. Новая программа даёт правовую защиту тем, кто тестирует системы ИИ с этичной точки зрения, то есть без мошеннических намерений.
В настоящее время искусственный интеллект активно внедряют в продукты и сервисы. А тестирование этих систем попадает в серую правовую зону. Исследователи фактически не понимают, можно ли им проверять системы определёнными методами. С одной стороны компании хотят, чтобы их ИИ тестировали, с другой — не дают каких-либо гарантий для исследователей. Из-за этой неопределённости поиск уязвимостей замедляется, а риски растут.
Новая программа решает эту проблему за счёт определения чётких правил для тестирования ИИ, а также защищает исследователей от возможных юридических претензий. Организации, которые к ней присоединяются, обязуются признавать добросовестные исследования их систем разрешённой деятельностью и отказываются от судебных исков против таких исследователей. То есть делают исключения из своих правил использования для целей тестирования. Если третья сторона предъявит претензии к исследователю, компания обязуется его поддержать.
Глава юридического департамента HackerOne Илона Коэн отметила, что тестирование ИИ не работает без ясных правил. А исследователям, в свою очередь, нужна уверенность, что их деятельность не создаст проблем. Программа даёт такую уверенность обеим сторонам.
Новая программа развивает более раннюю инициативу компании. В 2022 году HackerOne представила Gold Standard Safe Harbor для защиты исследователей обычного софта. Теперь её программы охватывают как традиционные системы, так и технологии на базе ИИ.
По словам генерального директора HackerOne Кары Спрэг, безопасность ИИ строится на доверии. Без тестирования в реальных условиях оно быстро исчезает. Расширение защиты на исследования ИИ позволяет компаниям находить баги раньше и внедрять технологии более уверенно.
Программа доступна клиентам HackerOne как отдельный инструмент. Её также можно использовать совместно с Gold Standard Safe Harbor. Компании, которые примут новые правила, тем самым покажут исследователям, что тестирование их ИИ-систем приветствуется и защищено. Это должно привести к более качественным проверкам и лучшим результатам в области безопасности.
