OpenAI собрала Jalapeño: чип, спроектированный языковыми моделями

Недавно OpenAI представила новый ИИ-чип под названием Jalapeño. Его создали менее 100 инженеров за 20 месяцев, и этот чип снижает задержку инференса в 3,6 раза по сравнению с Nvidia GB300. Для оптимизации схем Jalapeño они использовали свои языковые модели.

Кратко: с помощью LLM они смогли поднять производительность вычислительного ядра с 0,31% до 88,94% от пикового значения за ~40 часов. Это не «чипы, которые проектируют себя сами», а скорее автоматизация самых сложных аспектов оптимизации параметров.