Flint: модель для кодинг-агентов от Recursive, которую можно запустить дома

Recursive сами описывают Flint как «модель на основе смеси экспертов для ИИ-агентов, которые пишут код, с 39,8 миллиарда параметров всего и примерно 2,5 миллиарда активных на каждый токен». Она создана для того, чтобы разбираться в чужом коде, находить и чинить баги, добавлять функции и писать тесты, и умеет вести долгий диалог с вызовом внешних инструментов — именно это нужно агенту, чтобы реально делать работу, а не просто отвечать текстом. В своих тестах Recursive указывает 74,2% на SWE-bench Verified и 89,7% на SWE-bench Pro v2 — оба теста построены на настоящих багах из открытых проектов. Команда unsloth, известная тем, что умеет сжимать большие модели для запуска на обычном железе, собрала готовые файлы: один из сжатых вариантов, который unsloth назвала Q4_K_XL, весит около 25 ГБ, а заметно более слабый — около 11 ГБ. Поскольку одновременно работает лишь часть из почти 40 миллиардов параметров, всю модель целиком в память грузить не нужно — именно поэтому она вообще помещается на одну машину.

Поставь мне модель Flint от Recursive в сборке unsloth для локального запуска: https://huggingface.co/unsloth/flint-GGUF — подбери версию под мою память, запусти её через программу для GGUF-моделей и покажи, как попросить её найти и починить баг в простом проекте.

💻 Минимум — Mac или ПК с 16 ГБ памяти (облегчённая версия, около 11 ГБ, заметно слабее). Комфортно — от 32 ГБ: основная сжатая версия весит около 25 ГБ.