Открытая модель GLM 5.3 сама собрала рабочий эксплойт для Firefox

Исследовательская команда Epoch AI бросила вызов модели GLM 5.3 с открытыми весами от Z.ai: предложила ей автоматически сгенерировать эксплойт, способный взломать Firefox (браузер, который разрабатывает Mozilla), без какого-либо участия человека. С 17 сентября по 26 октября модели удалось успешно взломать шесть версий Firefox за 12–48 часов (каждый раз это обходилось примерно в $1,000 на вызовы API), и ни один из этих эксплойтов не был заблокирован фильтрами безопасности, включая фильтры самой Z.ai. С тех пор Mozilla закрыла эту уязвимость в Firefox версии 159.0, которая вышла 27 октября.

С другой стороны, Epoch AI пробовала тем же методом взломать браузер Chrome от Google, но потерпела неудачу, потратив $100,000. Это показывает, что стоимость взлома с помощью ИИ теперь определяется не деньгами, а тем, насколько быстро производитель программного обеспечения способен выпустить обновление безопасности.