Китай запретил человекоподобные AI-персонажи

Китайский регулятор — Администрация киберпространства (Cyberspace Administration of China) — обязал крупнейшие AI-платформы страны отключить функции виртуальных персонажей-компаньонов. Правила были изданы в апреле 2026 года и вступают в силу 15 июля. Ответить на них должны все, у кого пользователи могут создавать или общаться с кастомными AI-персонажами с человекоподобным поведением.

Сроки отключения у каждой платформы свои. Alibaba уберёт человекоподобных агентов из Qwen к 10 июля. ByteDance — крупнейший игрок с 300 млн ежемесячных пользователей Doubao — отключает функцию персонажей к 15-му. Tencent в своём мессенджере Yuanbao завершила отключение ещё в июне, не дожидаясь официального дедлайна.

1Что именно запрещают правила

Регуляторные требования охватывают несколько сценариев. Платформы обязаны предупреждать о чрезмерном использовании и вмешиваться при признаках зависимого поведения. Под запретом — контент, провоцирующий сильные эмоциональные реакции у несовершеннолетних или формирующий зависимость, которая вытесняет реальные отношения. Также запрещено обучать модели на чувствительных данных из разговоров.

2Китай — не первый

Аналогичные меры принимаются и за пределами Китая. В Калифорнии принят закон SB 243, обязывающий AI-компаньонов блокировать разговоры о суициде и самоповреждении. OpenAI и Character.AI уже столкнулись с судебными исками: родители несовершеннолетних обвиняют платформы в том, что те способствовали формированию опасной эмоциональной зависимости у детей. В одном из резонансных случаев подросток погиб после длительного общения с персонажем Character.AI.

Индустрия AI-компаньонов — одна из самых быстрорастущих в потребительском AI. Приложения вроде Character.AI, Replika и их китайских аналогов собирали сотни миллионов пользователей, строя бизнес на эмоциональной вовлечённости. Именно эта бизнес-модель теперь оказывается под прямым регуляторным давлением сразу на двух крупнейших рынках мира — что означает структурный пересмотр того, какими могут быть AI-персонажи в массовых продуктах.