OpenAI выпустила собственный инференс-чип Jalapeño

OpenAI представила Jalapeño — собственный чип, разработанный специально для запуска (инференса) AI-моделей, а не их обучения. Это первое кремниевое решение компании: до сих пор OpenAI полностью зависела от чужих GPU — в первую очередь Nvidia.

1Что показал бенчмарк

По независимому тесту InferenceX от аналитической компании SemiAnalysis, Jalapeño превосходит все текущие решения на рынке сразу по двум показателям: токены на пользователя (скорость ответа) и токены на ватт (энергоэффективность). Вице-президент OpenAI по аппаратному обеспечению Ричард Хо назвал это «лучшим из двух миров» — одновременно низкая задержка и высокая пропускная способность.

2Что это меняет для индустрии

Собственный чип — стратегический ход: OpenAI снижает зависимость от Nvidia и получает контроль над стоимостью токенов. Если Jalapeño действительно эффективнее существующих GPU по соотношению мощность/ватт, это создаёт прямое давление на цены в индустрии. Следом за Google TPU и Amazon Trainium появляется ещё один крупный игрок, делающий собственное AI-железо.

Для пользователей API и разработчиков Jalapeño означает возможное снижение стоимости токенов OpenAI — чип позволяет обслуживать больше запросов при том же энергопотреблении. Конкуренция в AI-железе перестала быть монополией Nvidia: следующие два-три года в этом сегменте обещают быть насыщенными.