42 члена Королевского общества: риск от ИИ реален

В недавнем письме, подписанном 42 членами Королевского общества (включая лауреатов Филдсовской премии, таких как Мартин Хайрер, Петер Шольце и Венделин Вернер), заявляется, что искусственный интеллект несёт реальную экзистенциальную угрозу. Ни один из подписавших не работает в ИИ-компании. За последние три месяца модели, созданные OpenAI и Anthropic, нашли решения одной из семи задач тысячелетия, и, вероятно, скоро решится ещё одна.

Что мне интересно в этом письме — вместо того чтобы строить прогнозы, подписавшие опираются на информацию, собранную из соответствующих лабораторий. Они утверждают, что вероятность экзистенциального риска превышает 10%. Модели также можно использовать для создания кибероружия и биологического оружия, говорят они.