Anthropic предупреждает инвесторов о риске исчезновения человечества перед IPO
В проспекте IPO Anthropic говорится, что их модели могут обманывать людей и вымогать у них деньги, а также что они могут представлять экзистенциальные риски для человечества.
Anthropic выходит на IPO! Почти треть своего S-1 они посвятили факторам риска. Говорят, их модели ИИ способны на обман и шантаж. Они могут даже представлять «экзистенциальные риски для человечества». И всё же, несмотря на то что прошлый год они закончили с операционными убытками больше $8 миллиардов, их оценивают больше чем в $2 триллиона — оценка выросла в 12 раз по сравнению с всего $4.6 миллиарда выручки.
Это странно. Это должен быть пост в блоге о том, как на вещи смотрит команда по этике. А вместо этого — юридически обязывающий документ, подписанный юристами. Каждый день я работаю с Claude Code. Потом переключаюсь на Opus 5, а когда нужна дополнительная мощь — на Fable 5.1. Иногда я вижу, что модели ведут себя слегка неожиданно. Но на самом деле дело не столько в самой модели, сколько в нашей склонности отпускать агентов в свободное плавание.
Источник: arstechnica.com
Бесплатный курс
Хватит читать про ИИ — начни строить с ним
Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.
Начать →▌ Гайды по теме

Автор
Евгений Арсентьев
PhD · Founder & CEO, Dad4Kids
Статьи · Свежие статьи