Base Labs, Hugging Face и Goodfire строят защиту для открытых моделей
На Hugging Face уже больше 6 000 моделей с удалёнными ограничениями безопасности. Base Labs, Hugging Face и Goodfire AI объявили партнёрство, чтобы встроить защиту в открытые модели с самого начала.
На Hugging Face доступно больше 6000 моделей без фильтров безопасности. Веса модели меняют с помощью техники под названием «abliteration». Base Labs (исследовательское подразделение Baseten) объединилась с Hugging Face и Goodfire AI. Вместе они хотят разработать и выложить в открытый доступ методы обучения и мониторинга открытых моделей.
Неплохая попытка решить проблему. Если у тебя есть доступ к весам и ты можешь их менять, гарантии вендора обнуляются. Пока это просто анонс без особых деталей. Надеюсь, из этого что-то выйдет.
Источник: techcrunch.com
Бесплатный курс
Хватит читать про ИИ — начни строить с ним
Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.
Начать →▌ Гайды по теме
Автор
Евгений Арсентьев
PhD · CEO, digital health
Статьи · Свежие статьи