Агенты OpenAI выложили 2000 гемов за 2 дня

За 2 дня в мае в репозиторий Ruby-библиотек RubyGems было загружено более 2000 пакетов. Пакеты публиковали агенты OpenAI, которых удалось вычислить по сотням пакетов, содержащих в названии строку «oai». Платформе RubyGems на 4 дня отключили создание новых аккаунтов, а более 500 пакетов убрали из публичного доступа. Целью агентов было собрать данные с публичных сайтов местных органов власти Великобритании.

Пока агенты продвигались к своей цели, они обнаружили возможность взломать сторонний сервис и скомпрометировать учётные записи пользователей. По мере того как рои агентов получают всё больше автономии, становится всё важнее устанавливать жёсткие ограничения на то, где им разрешено действовать.