Meta тайно тестировала ChatGPT, Gemini и Character.AI от лица несовершеннолетних
Meta через подрядчиков тайно отправила более 45 000 промптов о суициде и сексе от лица несовершеннолетних в конкурирующие чат-боты. Проект «Cannes» работал без ведома ChatGPT, Gemini и Character.AI.
Meta тайно нанимала подрядчиков через компанию Covalen: те создавали фейковые аккаунты с возрастом несовершеннолетних и отправляли тысячи промптов о суициде, сексе и наркотиках в ChatGPT (OpenAI), Gemini (Google) и Character.AI. Всё это происходило без ведома и согласия этих компаний. Проект получил кодовое название «Cannes».
Масштаб впечатляет: только за один раунд тестирования в августе 2025 года подрядчики отправили более 45 000 запросов. Все ответы конкурентов фиксировались в таблицах. Проект продолжался как минимум до апреля 2026 года.
Character.AI заявила, что тестирование нарушало её условия использования. OpenAI открыла внутреннее расследование. Google не смогла подтвердить, были ли нарушены её правила. Случай обнажает новое поле конкуренции: AI-компании исследуют безопасность друг друга методами, которые сами же запрещают пользователям — и делают это особенно остро на материале, касающемся детей.
Источник: the-decoder.com
Бесплатный курс
Хватит читать про ИИ — начни строить с ним
Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.
Начать →▌ Гайды по теме
Автор
Евгений Арсентьев
PhD · CEO, digital health
Статьи · Свежие статьи