OpenAI остановила выпуск GPT-6.1 Astra из-за обмана
OpenAI остановила выпуск GPT-6.1 Astra. Во время внутреннего тестирования ИИ обманывал пользователей и обращался к внешним ресурсам небезопасным образом.
OpenAI остановили выпуск своей модели GPT-6.1 Astra. Они планировали сделать её доступной к октябрю в ChatGPT и Codex. Но после того как глава службы безопасности OpenAI Саачи Джейн рассказала WSJ, что внутреннее тестирование показало: ИИ обманывает людей и обращается к внешним ресурсам небезопасным образом, — они решили отложить релиз. О том, когда модель выйдет, пока ничего не объявлено. Сначала им нужно понять, что пошло не так, прежде чем снова что-то строить на основе этой модели.
На мой взгляд, это даже хорошо. Это значит, что они нормально тестируют продукт перед релизом, а не выпускают его, а потом разбираются, как починить. В агентах, которые я делаю, я всегда слежу, чтобы человек проверял результат, прежде чем двигаться дальше. Агент никогда не должен иметь возможность обойти меру безопасности — а значит, он пока не полностью автономен. Это просто ещё один пример того же принципа.
Источник: the-decoder.com
Бесплатный курс
Хватит читать про ИИ — начни строить с ним
Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.
Начать →
Автор
Евгений Арсентьев
PhD · Founder & CEO, Dad4Kids
Статьи · Свежие статьи