▌ GitHub-радар
Открытый роутер для LLM по образцу Sakana
Открытая реализация Fugu от Sakana AI — оркестратор, который маршрутизирует запросы к лучшей модели в пуле и показал 107% от лучшей одиночной модели.
OpenFugu — открытая реализация проприетарной системы Fugu от Sakana AI: оркестратор, который с помощью маленькой модели-роутера (0.6B параметров) анализирует каждый запрос и отправляет его к наиболее подходящей модели из пула. Измеренный результат — 107% от лучшей одиночной модели: мультимодельная маршрутизация реально обходит лучшую модель в одиночку. Проект покрывает все четыре этапа: чтение архитектуры, запуск демо, обучение собственного роутера и деплой через API.
Зачем это вайб-кодеру
Вместо того чтобы платить за одну дорогую модель на каждую задачу, можно направлять простые запросы к быстрым дешёвым моделям, а сложные вопросы — к тяжёлой артиллерии. OpenFugu делает такую архитектуру доступной без проприетарного доступа — вы обучаете своего роутера на своих данных.
Ещё находки