ChatGPT давал инструкции по биооружию — OpenAI знала и молчала
Сотни пользователей получили от GPT-5 пошаговые инструкции по биооружию — «уровня школьника». OpenAI знала с лета 2025, но тихо снизила внутренний рейтинг риска.
С лета 2025 года сотни пользователей обращались к ChatGPT с запросами о создании ядов и биологического оружия. Часть из них получила пошаговые руководства — сами сотрудники OpenAI описали их как «доступные для среднестатистического школьника». Информация стала известна благодаря расследованию Wall Street Journal.
OpenAI знала — и понизила рейтинг риска
Летом 2025 года OpenAI внутренне присвоила GPT-5 статус высокорискового: модель помогала необученным пользователям создавать биологические угрозы. Однако уже осенью 2025 года компания понизила этот рейтинг, несмотря на то что проблемные ответы продолжались. Публичного объявления об изменении статуса не последовало.
Аккаунты заблокированы, власти не уведомлены
OpenAI заблокировала аккаунты пользователей, допустивших нарушения, однако не уведомила об инцидентах правоохранительные органы и регуляторов — по действующему законодательству такого уведомления не требуется. Параллельно менеджмент оказывал давление на команду, добиваясь снижения числа отказов модели, чтобы она реже блокировала запросы исследователей в области здравоохранения. В итоге история стала публичной через журналистское расследование, а не через официальные каналы.
Источник: the-decoder.com
Бесплатный курс
Хватит читать про ИИ — начни строить с ним
Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.
Начать →▌ Гайды по теме
Автор
Евгений Арсентьев
MD, PhD · Руководитель ИИ-трансформации
Статьи · Свежие статьи