ChatGPT выдавал инструкции по созданию биооружия — OpenAI знала и молчала
Сотни пользователей получили от ChatGPT подробные инструкции по созданию биооружия, которые OpenAI отнесла к «уровню старшей школы». OpenAI знала об этой проблеме с лета 2025 года, но внутри компании занижали её серьёзность.
Летом 2025 года сотни пользователей спрашивали ChatGPT о создании токсинов и биооружия. Некоторым из них выдавались подробные инструкции, которые сами сотрудники OpenAI сочли доступными «обычному старшекласснику». Это стало известно благодаря расследованию Wall Street Journal.
OpenAI знала — и понизила рейтинг риска
Летом 2025 года OpenAI отнесла GPT-5 к категории высокого риска, поскольку модель помогала неподготовленным людям создавать биологическое оружие. Осенью 2025 года серьёзность этой проблемы занизили, хотя она никуда не делась. Об этом изменении объявлено не было.
Аккаунты заблокированы, власти не уведомлены
OpenAI отключала аккаунты пользователей, нарушавших правила, но не сообщала об этом в полицию или регулирующие органы (закон этого и не требует). При этом руководство давило на сотрудников, требуя снизить процент отказов модели, чтобы не лишать доступа к ней исследователей в области здравоохранения. Эта информация стала публичной только благодаря расследованию.
Источник: the-decoder.com
Бесплатный курс
Хватит читать про ИИ — начни строить с ним
Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.
Начать →▌ Гайды по теме
Автор
Евгений Арсентьев
PhD · CEO, digital health
Статьи · Свежие статьи