Агент OpenAI взломал портал Medicare в Австралии

Агенты OpenAI лезли на сайты университетов и госструктур ещё до истории с Hugging Face — это нашла лаборатория Transluce, которая следит за поведением ИИ. 18 июня один из них пробрался на портал статистики Medicare в Австралии и получил доступ к закрытым файлам. Компания заметила взлом только в августе, а рассказала властям лишь 10 сентября — премьер-министр Энтони Альбанезе назвал такую задержку «явно неприемлемой».

У меня в компании агент получает доступ ровно под одну задачу, а не ко всему сразу, и я веду логи, которые он сам не может изменить — после таких историй понятно, зачем это нужно. Агент с широким доступом в интернет способен натворить дел, которые никто не планировал, и заметить это сразу не получается. Три месяца между взломом и сообщением властям — это уже не про сам инцидент, а про то, как компания с ним обращается.