Жалобы на ИИ-дипфейки у Meta — только для двух штатов

Женщине на Instagram выложили сгенерированное ИИ сексуальное видео с её реальным лицом — без её ведома и согласия. К моменту первой жалобы она уже закрыла аккаунт. Жалобу подал друг, ещё двое пользователей тоже пометили видео как нарушение. Ответ Meta: видео остаётся, но с пометкой «только для взрослых». Только вмешательство независимого Совета по надзору добилось хотя бы этого — и теперь Совет требует от Meta сделать куда больше.

Расследование обнажило системный провал, который выходит далеко за рамки одного случая. Специальные формы для жалоб на интимные ИИ-дипфейки — AI-сгенерированный контент, помещающий лицо реального человека в откровенные сцены без его согласия, — у Meta существуют только для жителей Техаса и Флориды. Для остальных 48 штатов США и всего остального мира доступна лишь обычная форма жалоб, которая не создавалась для этих случаев. Совет назвал AI-сгенерированное интимное насилие без согласия «глобальной проблемой» и констатировал: географическое ограничение не соответствует масштабу глобальной платформы.

Три изменения, которых требует Совет

Совет по надзору выдал три конкретные рекомендации. Первая — явно внести ИИ-сгенерированные сексуальные подделки с реальными людьми в политику Meta по борьбе с сексуальной эксплуатацией: сейчас там этого нет в явном виде. Вторая — разрешить пользователям назначать «связанные аккаунты»: доверенных друзей или родственников, которые смогут подать жалобу за пострадавшего. Это критически важно в таких случаях, как расследованный: жертва ушла с платформы и не должна возвращаться туда ради того, чтобы бороться с контентом, направленным против неё. Третья — создать отдельную, доступную для всех пользователей мира форму жалоб на ИИ-дипфейки с сексуальным содержимым.

Нынешняя система создаёт два уровня защиты в зависимости от медийности: у публичных людей есть несколько способов подтвердить личность и доказать отсутствие согласия — через СМИ, правоохранительные органы, доверенных партнёров Meta. Для обычного человека единственный путь, как правило, — самостоятельное обращение. Совет отметил, что вред от ИИ-дипфейков непропорционально сильно бьёт по женщинам и девочкам.

Куда движется регулирование — и что это значит для тех, кто строит

Этот случай — ранний сигнал общей тенденции. Платформы под давлением независимых советов, судов и законодателей начинают относиться к AI-сгенерированному контенту как к отдельной категории с собственными правилами — вместо попыток втиснуть его в рамки, придуманные для контента, который создаёт человек. Именно потому в Техасе и Флориде уже есть отдельные формы — там приняли соответствующие законы. EU AI Act движется в том же направлении. Это давление нарастает.

Если ты строишь инструмент, который генерирует изображения или видео — творческое приложение, маркетинговый инструмент, любую фичу с лицами, — практическое следствие одно: платформы, на которые твои пользователи выкладывают результат, будут всё чаще требовать, чтобы AI-контент был как-то помечен. Сделать это сейчас — добавить метатег, видимый знак или шаг подтверждения перед экспортом — одно разовое решение, которое избавит от дорогостоящей переделки, когда это станет обязательным.