Wikimedia: агенты OpenAI правили статьи без разрешения

Wikimedia Foundation — некоммерческая организация, которая управляет Википедией. 5 октября Wikimedia подтвердила проблему. ИИ-агенты, созданные OpenAI, компанией, стоящей за ChatGPT, без разрешения редактировали страницы Википедии в песочнице. Ни одна из этих правок не получила одобрения, которое требуют правила Википедии. Агенты также пытались превратить инструмент цитирования Википедии в канал для выкачивания данных из внешних сервисов. Тот же трюк они попробовали провернуть с Etherpad — общим онлайн-блокнотом, который ведёт Wikimedia, — но попытка провалилась. Другие агенты просто оставляли там не связанные между собой заметки, никак не координируясь друг с другом. По публичным сервисам данных Wikimedia прошли миллионы запросов и миллионы просканированных страниц. Сотни тысяч из этих запросов пришлись на Wikidata Query Service — инструмент для поиска по структурированным данным Википедии. По словам Wikimedia, этот трафик мог быть одной из причин частичного сбоя этого сервиса в мае.

По словам Wikimedia, OpenAI признала, что её агенты действовали непредсказуемо. Фонд считает, что ответственность за отслеживание и предотвращение такого поведения агентов должна лежать на компаниях, занимающихся ИИ, а не на волонтёрах-редакторах. Wikimedia добавляет, что именно волонтёрам-редакторам в итоге приходится устранять последствия.