Чипы 2026: почему H100 простаивает и что приходит на смену
IEEE Spectrum разобрал, почему H100 простаивают 50–80% времени при запуске ИИ: узкое место — память, не вычисления. Cerebras, Etched и другие переписывают правила.
Пока все обсуждают мощь новых ИИ-моделей, настоящая проблема — в памяти чипов: Nvidia H100, которые сегодня запускают большинство ИИ-сервисов, простаивают 50–80% времени, потому что не успевают читать параметры модели достаточно быстро. Новое поколение чипов атакует проблему иначе: Cerebras WSE-3 — пластины размером с тарелку с 44 ГБ памяти прямо на чипе — выдают 1 000+ токенов в секунду; Etched Sohu разгоняет Llama 70B до 500 000 токенов в секунду.
Как вайбкодер, который считает токены каждый день, я смотрю на это практически: скорость и стоимость запуска ИИ напрямую определяют, что сегодня реально строить с агентами, а что ещё слишком дорого. Nvidia уже добавила формат NVFP4 — 4-битное сжатие, которое ускоряет работу в 3 раза при потере точности менее 1%. Победителя среди новых архитектур ещё нет, но каждый новый чип сдвигает границу возможного для тех, кто строит с ИИ прямо сейчас.
Источник: spectrum.ieee.org
Бесплатный курс
Хватит читать про ИИ — начни строить с ним
Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.
Начать →
Автор
Евгений Арсентьев
PhD · CEO, digital health
Статьи · Свежие статьи