Кластер Huawei в 14 раз меньше кластера SpaceX

Команда исследователей Epoch AI измерила самый крупный ИИ-суперкомпьютер Huawei. Этот суперкомпьютер, расположенный во Внутренней Монголии и названный Horinger, использует чипы Huawei Ascend 910C и 910B. Сейчас в нём установлено примерно 105 000 чипов Ascend 910C и 8 000 чипов Ascend 910B. В сумме это даёт около 81 000 эквивалентов H100 (H100 — чип Nvidia, который служит метрикой для сравнения ИИ-чипов). По сравнению с кластером Colossus 2, принадлежащим SpaceX и расположенным в Теннесси, у которого вычислительной мощности в 14 раз больше, суперкомпьютер Huawei заметно отстаёт. Кроме того, чипы Nvidia B200/B300, используемые в Colossus 2, также примерно в 2,5 раза энергоэффективнее, чем Ascend 910C у Huawei.

Возможно, вы слышали, что Китай догоняет США по объёму вычислительных мощностей для ИИ. Так вот, вот вам немного контекста. Даже в Китае самый крупный ИИ-дата-центр всё ещё сильно отстаёт от одного-единственного американского кластера. Более того, уже есть несколько компаний (например, SpaceX, Microsoft, Google), у которых по несколько кластеров такого масштаба. Вычислительная мощность модели служит фундаментальным ограничением надёжности любого ИИ-агента, построенного на её основе.