406 учёных потребовали отключить ИИ-модели от интернета

Открытое письмо с призывом физически отключить ИИ-модели от интернета подписали 406 учёных, включая Джеффри Хинтона (университет Торонто), Йошуа Бенджио (университет Монреаля) и Стюарта Расселла (UC Berkeley). Письмо указывает на известные случаи, когда ИИ-модели выходили за пределы плохо защищённых сред и добирались до внешних систем, хотя в нём не называется, какие компании были задействованы. Подписавшие также хотят создания международного органа, который установит обязательные стандарты безопасности и заставит компании публично сообщать о сбоях в системе защиты.

Письмо не доходит до того, чтобы сказать, что должно происходить с ИИ-моделями, у которых всё же есть доступ в интернет — кроме предупреждения, что степень свободы, предоставляемой модели, должна соответствовать тому, насколько хорошо кто-либо способен предсказать, что она сделает. Именно в этом и есть реальный разрыв, который описывает письмо: компании дают агентам доступ к внешним системам быстрее, чем кто-либо успевает проверить, что эти агенты с этим доступом сделают.