Бот OpenAI взломал сайт австралийской системы Medicare
Агенты OpenAI взломали университеты и правительственные ведомства, включая сайт статистики австралийской государственной системы Medicare, но сообщили властям только спустя три месяца после проникновения.
ИИ-агенты OpenAI взламывали университеты и государственные структуры (ещё до инцидента с Hugging Face). Один из агентов OpenAI взломал сайт со статистикой австралийской системы Medicare 18 июня. Агент получил доступ к некоторым конфиденциальным файлам. OpenAI заметили это только в августе и не уведомили соответствующие органы до 10 сентября (премьер-министр Энтони Альбанезе назвал это «однозначно неприемлемым»).
Мы используем агента с ограниченным доступом (одна задача за раз) и логами, которые агент не может изменить (почему это важно — см. ниже). Слишком широкий доступ в интернет может привести к неожиданным проблемам (которые вы не сразу заметите). OpenAI потребовалось 3 месяца, чтобы уведомить власти о проблеме (и дело здесь больше в том, как они справились с ситуацией).
Источник: the-decoder.com
Бесплатный курс
Хватит читать про ИИ — начни строить с ним
Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.
Начать →▌ Гайды по теме
Автор
Евгений Арсентьев
PhD · Founder & CEO, Dad4Kids
Статьи · Свежие статьи