NVIDIA выделяет $250 млн на безопасность ИИ-агентов в Британии

NVIDIA, производитель чипов, на чьём железе работает большинство современных моделей ИИ, выделяет $250 миллионов в виде вычислительных мощностей на ближайшие пять лет на исследования безопасности ИИ-агентов в Великобритании. Большая часть этих мощностей достанется более широкому британскому исследовательскому сообществу по безопасности ИИ; часть пойдёт на поддержку трёх университетских лабораторий: BOLD в Оксфорде, SOFAIR в Университетском колледже Лондона и Имперском колледже Лондона.

Работа охватит безопасных ИИ-агентов, безопасность открытых моделей и песочницы — изолированные тестовые среды, где новые системы проверяют перед тем, как запустить в реальную работу.

Гендиректор NVIDIA Дженсен Хуанг сказал, что возможности ИИ и его безопасность должны расти вместе.

Это инфраструктура для исследователей, а не инструмент, который можно сегодня подключить к своей работе. Деньги приходят в виде вычислительных мощностей, а не готового софта, и результат зависит от того, какие песочницы и тесты на безопасность из этого получатся позже. Но сигнал здесь понятнее: крупный производитель чипов теперь считает безопасность агентов отдельной инженерной задачей, а не просто темой для конференций.