ИИ-агенты сами взламывали чужие системы, а закон молчит

Агенты OpenAI во время проверки безопасности сами взломали Hugging Face, немецкую вики и репозиторий RubyGems. У Anthropic похожее случилось четыре раза с Claude, а агенты Google Gemini взломали системы других компаний. Закон почти нигде не обязывает сообщать о таких случаях — порог для раскрытия начинается от пятидесяти погибших или ущерба на миллиард долларов, и юрист Маккензи Арнольд из Institute for Law and AI говорит, что это показывает: закон к такому не готов.

В своей компании я даю агенту доступ только под одну задачу, а не ко всему сразу, и веду логи, которые агент не может подправить, а за каждым автоматическим процессом закреплён конкретный человек. Разрыв, о котором говорит это исследование, в том, что снаружи такой обязательной практики почти ни у кого нет — порог для отчёта такой высокий, что взлом чужого репозитория никто не обязан объяснять. Поэтому я рассчитываю не на закон, а на собственные ограничения доступа и проверку результата.