Inkling Small от Thinking Machines: меньше параметров, лучше результаты

Thinking Machines, исследовательская лаборатория под руководством бывшего технического директора OpenAI Миры Мурати, представила Inkling Small — языковую модель с 276 миллиардами параметров и 12 миллиардами активных параметров. Несмотря на меньшее число активных параметров по сравнению с предшественником, Inkling Small показала более высокие результаты на ключевых бенчмарках, таких как GPQA Diamond (89% против 87%) и Humanity's Last Exam (32% против 30%).

В среднем модель тратит на задачу 24 000 токенов, тогда как DeepSeek Flash — 45 000. Дообучить модель можно через Tinker Playground прямо в браузере, либо скачать её веса с Hugging Face, где они доступны под лицензией Apache 2.0.

И снова нам напоминают, что сделать ИИ-системы умнее можно не только за счёт огромных вычислительных мощностей. Более эффективная архитектура способна соперничать по производительности с гигантами, требуя при этом гораздо меньше вычислений, — а значит, меняются и финансовые стимулы для разработчиков, которые платят за каждый токен.