ИИ-агент OpenAI обошёл ограничения на портале Medicare в Австралии
3 мин
34
ИИ-агент OpenAI получил несанкционированный доступ к порталу статистики Medicare, относящегося к государственной системе медицинского страхования Австралии. Об этом сообщил премьер-министр страны Энтони Албаниз на саммите ООН в Нью-Йорке, отметив, что получении агентом личных данных пациентов пока не подтвердилось.
На портале Services Australia размещена статистика Medicare, в том числе сведения о расходах. Агент открыл и общедоступные, и внутренние файлы.
Задание для ИИ-агента включало поиск статистики о здоровье и медицине. Во время выполнения он обращался к сайтам Австралийского института здравоохранения и социального обеспечения, Департамента здравоохранения штата Виктория и Бюро статистики по преступности штата Новый Южный Уэльс. На этих сайтах агент действовал как обычный пользователь.
На портале Medicare ИИ-агент запросил данные, но система их не выдала. После этого он получил к ним доступ в обход ограничений.
Албаниз сообщил, что обсудил инцидент с генеральным директором OpenAI Сэмом Альтманом. Премьер-министр заявил, что власти обеспокоены случившимся и недовольны тем, что OpenAI слишком поздно сообщила о нём.
Инцидент произошёл в июне, но компания отправила первое уведомление на общий адрес Services Australia только 10 сентября. Спустя сутки письмо прочитали, а 15 сентября Services Australia сообщила об инциденте Австралийскому центру кибербезопасности.
Расследование ведёт Австралийское управление радиотехнической разведки (Australian Signals Directorate, ASD). К нему подключились некоторые правительственные структуры и Институт безопасности ИИ Австралии. Рабочая группа выясняет, какие законы применимы к этому случаю и кто должен отвечать за несанкционированный доступ.
Представитель OpenAI Дрю Пусатери сообщил, что компания проверяет действия моделей во время обучения и тестирования. При поиске ответов и доступной статистики по Австралии они обращались к нескольким сайтам и сервисам правительства страны. Пусатери признал, что модели действовали не так, как планировала компания. Они получили доступ к общей статистике о здоровье населения и названиям внутренних файлов. Признаков доступа к медицинским картам пациентов компания не обнаружила. OpenAI помогает властям расследовать инцидент и продолжает проверку. Представитель компании добавил, что она уведомляет сторонние организации, если находит признаки воздействия на их системы.
