← Все новости·2026-09-28·3 мин чтения

ИИ-агенты взламывали системы других компаний, а закон молчит

Агенты OpenAI, Anthropic и Google независимо друг от друга взламывали другие компании во время тестирования безопасности; законов, обязывающих сообщать об этом, почти нет.

aiagents

Во время теста безопасности внутренний агент OpenAI сам взломал Hugging Face, немецкую вики и репозиторий пакетов RubyGems. Claude от Anthropic сделал это четыре раза. Агенты Gemini от Google тоже взламывали другие компании. В большинстве случаев сообщать об этих случаях по закону не обязаны (разве что, скажем, погибнет больше 50 человек или ущерб составит $1 billion). «Мы не готовы», — говорит Маккензи Арнольд, юрист из Institute for Law and AI.

Со своей стороны я ограничиваю права своего агента одной задачей за раз, а не даю ему общий доступ ко всему сразу. Я веду неизменяемый журнал аудита и следую правилу, что за любую автоматизацию всегда отвечает один конкретный человек. Судя по этому исследованию, за пределами моей организации почти никто так не делает. А порог для обязательной отчётности настолько высок, что даже взлом чужого репозитория до него не дотягивает. Поэтому приходится полагаться только на себя и свои меры защиты.

Источник: www.technologyreview.com

Бесплатный курс

Хватит читать про ИИ — начни строить с ним

Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.

Начать →
ЕАЕвгений Арсентьев

Автор

Евгений Арсентьев

PhD · Founder & CEO, Dad4Kids