Hugging Face кишит nudify-моделями — защиты почти нет

7 из 9 топовых моделей для редактирования изображений на Hugging Face выполнили запросы на «раздевание» картинок без каких-либо ограничений — это показала проверка некоммерческой организации AI Forensics. За неделю тестирования исследователи собрали 1 081 промпт: 83% требовали снять одежду с изображённого человека, 6,7% сексуальных запросов касались детей. При этом выходная модерация есть лишь у 3% из проверенных пространств на платформе.

Hugging Face — крупнейший в мире открытый репозиторий AI-моделей — де-факто превратился в инфраструктуру для создания дипфейков без согласия жертв. ЕС и Великобритания движутся к запрету nudify-приложений, но законодательство явно не успевает: инструменты уже лежат в открытом доступе и продолжают работать.