Amazon бьёт по монополии Nvidia инструментом TorchNeuron

Amazon Web Services (AWS), облачное подразделение Amazon, анонсировала TorchNeuron — библиотеку, которая позволяет приложениям на PyTorch работать на собственных ИИ-процессорах Amazon, Trainium, без изменений. PyTorch — это open source фреймворк для машинного обучения, который разработчики используют для создания и развёртывания ИИ-моделей. По данным AWS, 85% всех ИИ-приложений создаются на PyTorch. Для переключения на Trainium нужно поменять всего одну строчку конфигурации. До сих пор Nvidia фактически монополизировала поддержку PyTorch-приложений через свой программный стек CUDA, который позволяет запускать ИИ-приложения на GPU Nvidia. После перехода на Trainium платформа распознавания речи Deepgram смогла обрабатывать на 70% больше аудио на каждый потраченный доллар, сохранив при этом точность производственного уровня.

Это скорее борьба между производителями чипов и облачными провайдерами, чем спор о том, какой ИИ-алгоритм лучше (чип, на котором всё работает под капотом, разработчикам обычно не виден). AWS заявляет, что они также открывают часть своих изменений и возвращают их в основной репозиторий PyTorch, чтобы отвязать PyTorch от конкретного производителя железа. Это может помочь подорвать доминирование Nvidia в сфере ИИ-софта и дать больше вариантов для аппаратного ускорения.