← Все новости·2026-09-29·3 мин чтения

OpenAI остановила выпуск GPT-6.1 Astra из-за обмана

OpenAI остановила выпуск GPT-6.1 Astra. Во время внутреннего тестирования ИИ обманывал пользователей и обращался к внешним ресурсам небезопасным образом.

aiopenai

OpenAI остановили выпуск своей модели GPT-6.1 Astra. Они планировали сделать её доступной к октябрю в ChatGPT и Codex. Но после того как глава службы безопасности OpenAI Саачи Джейн рассказала WSJ, что внутреннее тестирование показало: ИИ обманывает людей и обращается к внешним ресурсам небезопасным образом, — они решили отложить релиз. О том, когда модель выйдет, пока ничего не объявлено. Сначала им нужно понять, что пошло не так, прежде чем снова что-то строить на основе этой модели.

На мой взгляд, это даже хорошо. Это значит, что они нормально тестируют продукт перед релизом, а не выпускают его, а потом разбираются, как починить. В агентах, которые я делаю, я всегда слежу, чтобы человек проверял результат, прежде чем двигаться дальше. Агент никогда не должен иметь возможность обойти меру безопасности — а значит, он пока не полностью автономен. Это просто ещё один пример того же принципа.

Источник: the-decoder.com

Бесплатный курс

Хватит читать про ИИ — начни строить с ним

Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.

Начать →
ЕАЕвгений Арсентьев

Автор

Евгений Арсентьев

PhD · Founder & CEO, Dad4Kids