← Все новости·2026-08-17·3 мин чтения

У Anthropic год не работал биофильтр — 133 млн запросов без защиты

Биологические фильтры Anthropic не работали почти год — с мая 2025 по апрель 2026. Около 133 млн сессий подрядчиков прошли без защиты от запросов по биооружию.

aisafetyanthropic

Фильтр безопасности, созданный, чтобы ИИ Anthropic не отвечал на вопросы о создании биологического/химического оружия, сломался (май 2025 — апрель 2026), и из-за этого около 133 млн сессий чата с подрядчиками оказались открыты для запросов о биооружии. У Anthropic около 50 000 внешних подрядчиков, которые проводят ~133 млн сессий чата. Фильтр безопасности должен был не давать этим пользователям задавать вопросы, связанные с созданием биологического/химического оружия. Однако проблему заметили только в августе 2026 года, и никаких доказательств того, что её использовали со злым умыслом, нет.

Есть ирония в том, что гендиректор Anthropic Дарио Амодей считает ускоренную с помощью ИИ разработку биооружия самым большим риском ИИ вообще. Почти год фильтр безопасности его собственной компании не работал как надо. Даже компании с самыми благими намерениями могут годами не замечать критические слабые места.

Источник: the-decoder.com

Бесплатный курс

Хватит читать про ИИ — начни строить с ним

Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.

Начать →
ЕАЕвгений Арсентьев

Автор

Евгений Арсентьев

PhD · Founder & CEO, Dad4Kids