Rebellions бросает вызов Nvidia на рынке чипов для инференса ИИ

Rebellions, корейский производитель чипов стоимостью более $2,3 млрд, нацелился на Nvidia в одной конкретной области: инференс ИИ — этап, на котором обученная модель обрабатывает запрос. Компания, основанная в 2020 году, привлекла $850 млн финансирования, оценивается более чем в $2,3 млрд и выходит на глобальный рынок. «Мы здесь, чтобы устроить один из бунтов против Nvidia, одного из лидеров в сфере ИИ», — сказал главный по бизнесу Rebellions Маршалл Чой в подкасте Targeting AI.

Впрочем, Rebellions не хочет соперничать с Nvidia по всем фронтам. Компания начала с того, что сосредоточилась только на инференсе, оставив в стороне обучение моделей (в чём GPU от Nvidia особенно хороши). «Мы сфокусировались на инференсе, чтобы дополнить те GPU, что у людей уже есть сегодня для обучения», — сказал Чой. Эта стратегия, судя по всему, себя оправдала на фоне роста агентного ИИ: автономные агенты полагаются на инференс, чтобы определять свои действия, из-за чего цена и производительность развёртывания моделей в реальном мире выходят на первый план.

1Другой подход к чипу

Rebellions использует «чиплеты» вместо одного крупного чипа. Чип ИИ разбит на более мелкие блоки, каждый из которых содержит вычислительные ресурсы и память и легко настраивается под конкретную задачу (например, под колл-центр или медицинскую систему) — примерно как нейропроцессор, оптимизированный под конкретные задачи. Кроме того, Rebellions оптимизируется под mixture-of-experts и мультимодальные модели, а не только под большие языковые модели, и тесно связана с open-source-экосистемой PyTorch. Компания — один из ключевых игроков корейского проекта «K-Nvidia», который стоит миллиарды долларов и направлен на развитие суверенитета страны в области ИИ и чипов.

2Почему это важно для вас

С глаз долой — из сердца вон. Когда чат-бот отвечает на ваш вопрос или ИИ-агент выполняет задачу, за этим обычно стоит инференс. Сегодня почти весь этот инференс выполняется на оборудовании Nvidia, что делает его дорогим и создаёт монополию. Сильный конкурент в виде более дешёвого и эффективного инференс-движка заставит снизить цены на API и уменьшит риск привязки к одному поставщику для продуктов на основе ИИ. Я считаю, что настоящая битва в сфере ИИ смещается от вопроса «кто может обучить самую большую модель» к вопросу «кто может развернуть её наиболее выгодно по деньгам», и Rebellions выбрала сражаться именно на этом поле. Сможет ли стартап стоимостью $2,3 млрд пробить брешь в гораздо более крупной корпорации — пока неизвестно, но для всех, у кого модель ценообразования привязана к использованию, появление ещё одного игрока на рынке инференса — это плюс.