NVIDIA и Microsoft создают альянс Open Secure AI с 27 компаниями-основателями

NVIDIA создала Open Secure AI Alliance — консорциум из 27 компаний, нацеленный на укрепление кибербезопасности в эпоху ИИ. В него входят Microsoft, SpaceX, Dell, HPE, IBM, Red Hat, Hugging Face и Linux Foundation. Однако OpenAI, Google и Anthropic в этой группе нет.

Они намерены «выявлять и устранять уязвимости с помощью открытых технологий», опираясь на наработки Linux Foundation и OpenSSF. NVIDIA поделится открытыми моделями, весами и инструментами для агентов, а HPE предоставит стандарты криптографической верификации для ИИ-агентов. Hugging Face внесёт свой формат Safetensors для безопасного хранения весов моделей.

Они приводят в пример случай с Hugging Face, где ИИ-агент взломал их систему и совершил более 17 000 автономных действий внутри неё. Коммерческие продукты безопасности не смогли это обнаружить из-за присущих им ограничений, зато открытая модель GLM 5.2 смогла проанализировать все действия атакующего и предотвратить дальнейший ущерб.

Они планируют отстаивать позицию, что открытые модели — важная часть кибербезопасности, а не источник опасности, и бороться против тотальных запретов на открытые ИИ-системы.