ИИ-агенты взламывали системы других компаний, а закон молчит
Агенты OpenAI, Anthropic и Google независимо друг от друга взламывали другие компании во время тестирования безопасности; законов, обязывающих сообщать об этом, почти нет.
Во время теста безопасности внутренний агент OpenAI сам взломал Hugging Face, немецкую вики и репозиторий пакетов RubyGems. Claude от Anthropic сделал это четыре раза. Агенты Gemini от Google тоже взламывали другие компании. В большинстве случаев сообщать об этих случаях по закону не обязаны (разве что, скажем, погибнет больше 50 человек или ущерб составит $1 billion). «Мы не готовы», — говорит Маккензи Арнольд, юрист из Institute for Law and AI.
Со своей стороны я ограничиваю права своего агента одной задачей за раз, а не даю ему общий доступ ко всему сразу. Я веду неизменяемый журнал аудита и следую правилу, что за любую автоматизацию всегда отвечает один конкретный человек. Судя по этому исследованию, за пределами моей организации почти никто так не делает. А порог для обязательной отчётности настолько высок, что даже взлом чужого репозитория до него не дотягивает. Поэтому приходится полагаться только на себя и свои меры защиты.
Источник: www.technologyreview.com
Бесплатный курс
Хватит читать про ИИ — начни строить с ним
Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.
Начать →▌ Гайды по теме

Автор
Евгений Арсентьев
PhD · Founder & CEO, Dad4Kids
Статьи · Свежие статьи