Cloudflare: модель GLM-5.3 показывала чужие чаты в Workers AI

Cloudflare рассказала об утечке данных в своём облаке Workers AI — сервисе, который запускает модели ИИ для приложений других компаний. Модель GLM-5.3, созданная китайской Z.ai для задач кодинг-агентов, иногда вставляла в свой ответ кусок чужого чата другого клиента. Это случалось только при очень длинных запросах — больше 681 280 токенов (токены — это единицы, на которые модель разбивает текст). Всего за две недели, с 27 августа по 9 сентября, это затронуло 155 ответов. Проблему нашёл исследователь 8 сентября. Cloudflare подтвердила её за 25 минут, отключила модель, устранила проблему и восстановила её в тот же день, 9 сентября.

Причина — не в самой GLM: GLM-5.2, работающая на другой конфигурации Cloudflare, вообще не затронута. Утечка произошла из-за собственной настройки хостинга у Cloudflare — пул памяти оказался слишком мал для нагрузки модели — в сочетании с багом в SGLang, open source движке (программе, которая запускает модель и обрабатывает запросы), который Cloudflare использует для её работы. Для бизнесов, которые строят агентов на общей облачной инфраструктуре с доступом к чужим данным, урок касается хостинга и внутренней «сантехники», а не того, какая модель отвечает. То, что Cloudflare подтвердила отчёт исследователя за 25 минут и устранила проблему в тот же день, — это близко к тому, как такая реакция должна выглядеть.