42 члена Королевского общества: риск от ИИ реален

42 члена Королевского общества опубликовали открытое письмо с предупреждением о реальности экзистенциального риска от ИИ, и ни один из них не работает в ИИ-компании. Среди подписантов — лауреаты медали Филдса Мартин Хайрер, Питер Шольце и Вендлин Вернер. За три месяца модели OpenAI и Anthropic решили одну из семи «Проблем тысячелетия», и авторы пишут, что вторая «скорее всего последует в ближайшее время».

Мне важна одна деталь в этом письме: авторы не опираются на собственные прогнозы, а ссылаются на данные самих лабораторий — вероятность экзистенциального риска выше 10 процентов. Те же возможности, что позволили решить задачу тысячелетия, авторы считают применимыми в кибероружии и биологических агентах.