Cerebras CS-4: 4400 токенов/сек (в 30 раз быстрее Nvidia)
Cerebras выпустила CS-4, вычислительную стойку для ИИ, способную выдавать 4400 токенов в секунду на пользователя — в 30 раз быстрее серверов Nvidia. OpenAI будет использовать CS-4 в своём проекте Codex Spark.
Cerebras объявила о выпуске своей вычислительной стойки для ИИ CS-4, способной выдавать 4400 токенов в секунду на пользователя — в 30 раз быстрее серверов Nvidia. Это улучшение достигнуто за счёт включения трёх плат WSE-3 вместо двух, а также улучшенного питания и охлаждения. Их первый клиент — OpenAI, которая планирует использовать CS-4 в своём проекте Codex Spark.
С приростом скорости в 30 раз по сравнению с Nvidia, Cerebras оставила её далеко позади. Теперь мы вступаем в новую эпоху, где агентные сервисы и ответы в реальном времени становятся нормой, а не исключением, благодаря специализированным ИИ-чипам.
Источник: the-decoder.com
Бесплатный курс
Хватит читать про ИИ — начни строить с ним
Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.
Начать →
Автор
Евгений Арсентьев
PhD · CEO, digital health
Статьи · Свежие статьи