Tencent: ИИ скоро сможет помогать создавать биооружие

Винс Яо Шуньюй, главный ИИ-учёный Tencent и бывший исследователь OpenAI, сказал, что скоро ИИ сможет помогать в разработке биологического оружия. Вместо того чтобы полностью держать модели ИИ под замком, он предложил убирать вредную информацию из обучающих данных. Tencent планирует выпустить новую открытую модель Hy4, а также отчёт по безопасности.

Этот спор крутится вокруг контроля рисков ИИ. Anthropic держит свои модели закрытыми и фильтрует, на какие вопросы они будут отвечать, а Tencent хочет оставить веса открытыми, но не включать вредные знания в процесс обучения. Но у фильтрации есть и минусы — она может мешать пользователям задавать вполне обоснованные вопросы. При этом у открытых моделей есть риск, что их меры безопасности снимут. Единого стандарта безопасности для выпуска новых моделей ИИ пока не существует.