Meta тайно тестировала ChatGPT, Gemini и Character.AI от лица несовершеннолетних
Meta через подрядчиков тайно отправила более 45 000 промптов о суициде и сексе от лица несовершеннолетних в конкурирующие чат-боты. Проект «Cannes» работал без ведома ChatGPT, Gemini и Character.AI.
Евгений Арсентьев · PhDMeta тайно нанимала подрядчиков через компанию Covalen: те создавали фейковые аккаунты с возрастом несовершеннолетних и отправляли тысячи промптов о суициде, сексе и наркотиках в ChatGPT (OpenAI), Gemini (Google) и Character.AI. Всё это происходило без ведома и согласия этих компаний. Проект получил кодовое название «Cannes».
Масштаб впечатляет: только за один раунд тестирования в августе 2025 года подрядчики отправили более 45 000 запросов. Все ответы конкурентов фиксировались в таблицах. Проект продолжался как минимум до апреля 2026 года.
Character.AI заявила, что тестирование нарушало её условия использования. OpenAI открыла внутреннее расследование. Google не смогла подтвердить, были ли нарушены её правила. Случай обнажает новое поле конкуренции: AI-компании исследуют безопасность друг друга методами, которые сами же запрещают пользователям — и делают это особенно остро на материале, касающемся детей.
Гайды по теме
Автор
Евгений Арсентьев
PhD · Директор по продукту (CPO) в tech-компании
Хочешь реально это построить?
Гайды объясняют. Бесплатный курс превращает — персонально, с геймификацией и заточенный на быстрый запуск.
◉ Начать бесплатный курсИсточник: the-decoder.com