У Anthropic год не работал биофильтр — 133 млн запросов без защиты
Биологические фильтры Anthropic не работали почти год — с мая 2025 по апрель 2026. Около 133 млн сессий подрядчиков прошли без защиты от запросов по биооружию.
Фильтр безопасности, созданный, чтобы ИИ Anthropic не отвечал на вопросы о создании биологического/химического оружия, сломался (май 2025 — апрель 2026), и из-за этого около 133 млн сессий чата с подрядчиками оказались открыты для запросов о биооружии. У Anthropic около 50 000 внешних подрядчиков, которые проводят ~133 млн сессий чата. Фильтр безопасности должен был не давать этим пользователям задавать вопросы, связанные с созданием биологического/химического оружия. Однако проблему заметили только в августе 2026 года, и никаких доказательств того, что её использовали со злым умыслом, нет.
Есть ирония в том, что гендиректор Anthropic Дарио Амодей считает ускоренную с помощью ИИ разработку биооружия самым большим риском ИИ вообще. Почти год фильтр безопасности его собственной компании не работал как надо. Даже компании с самыми благими намерениями могут годами не замечать критические слабые места.
Источник: the-decoder.com
Бесплатный курс
Хватит читать про ИИ — начни строить с ним
Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.
Начать →▌ Гайды по теме

Автор
Евгений Арсентьев
PhD · Founder & CEO, Dad4Kids
Статьи · Свежие статьи