Инструмент Meta для обнаружения дипфейков на основе ИИ работает в двух режимах

Женщине показали в Instagram дипфейк-видео, где она фигурировала в сексуальном контексте. К тому моменту, когда её подруга подала жалобу на этот случай, она уже удалила свой аккаунт. Ещё два пользователя тоже пожаловались на видео, но Meta заявила, что не будет принимать никаких мер, и вместо этого поставила на публикацию предупреждение «контент для взрослой аудитории». Только после вмешательства независимого Наблюдательного совета Meta компания согласилась это сделать. Но Совет хочет, чтобы Meta пошла дальше.

В ходе рассмотрения дела Совет обнаружил системный изъян. Процесс подачи жалоб на созданные с помощью ИИ интимные изображения без согласия (то есть на использование искусственного интеллекта для наложения чьего-то лица на откровенный материал без разрешения) доступен у Meta только через специализированные формы в Техасе и Флориде. Все остальные — то есть все, кто находится за пределами Техаса и Флориды, а это все остальные 48 штатов США и все страны мира, — должны использовать общую форму жалоб Meta, которая не рассчитана на такие случаи. Совет назвал созданное ИИ интимное изображение без согласия «глобальной проблемой» и заявил, что ограниченный подход Meta «явно недостаточен» для сервиса, работающего по всему миру.

1Три изменения, которых требует Совет

В связи с этим Совет выдвинул три конкретных предложения. Во-первых, он рекомендовал Meta пересмотреть политику по сексуальной эксплуатации взрослых, чтобы она отдельно и конкретно охватывала созданную ИИ сексуальную имитацию личности (сейчас формулировки недостаточно точны). Во-вторых, он рекомендовал дать пользователям возможность указывать «связанные аккаунты» (друзей или членов семьи, которым они доверяют), которые могли бы подавать жалобы от их имени. Это было бы особенно полезно, когда человек — как женщина из этого случая — уходит с платформы и не хочет возвращаться туда, чтобы пожаловаться. Наконец, Совет предложил Meta ввести глобальную категорию жалоб на созданную ИИ сексуальную имитацию личности, чтобы ею могли пользоваться пользователи из любой страны.

Сейчас система устроена в пользу публичных персон. У них есть несколько способов подтвердить свою личность и доказать отсутствие согласия (статьи в СМИ, заявления в полицию, сотрудничество с доверенными организациями). У обычных же граждан, как правило, остаётся только самостоятельная жалоба. И, как отметил Совет, «негативные последствия дипфейков на основе ИИ особенно тяжело бьют по женщинам и девушкам».

2Куда движется регулирование — и что это значит для тех, кто строит

И это только начало. По мере того как надзорные органы, суды и новые законы вынуждают платформы рассматривать созданный ИИ контент отдельно от других его видов, им придётся разрабатывать под него отдельные политики. В Техасе и Флориде уже есть законы, регулирующие такую деятельность, поэтому именно там Meta предлагает специализированные формы для жалоб. Закон ЕС об искусственном интеллекте тоже содержит меры, указывающие в эту же сторону. Эта тенденция только набирает силу.

Так что если вы разрабатываете продукт, создающий изображения или видео (будь то инструмент для творчества, функция работы с чертами лица или что угодно ещё, использующее изображение реального человека), это означает, что платформы, куда ваши пользователи будут загружать контент, вероятно, скоро начнут требовать, чтобы созданный ИИ контент содержал какой-то идентификатор. Если вы хотите оказаться впереди этой волны, подумайте о том, чтобы уже на этапе разработки добавить способ включать эту информацию в генерируемый контент — будь то метаданные, водяной знак или промпт перед экспортом. Это разовое изменение, которое защитит ваш продукт от будущих требований наперёд.