OpenAI впервые остановила работу над моделью из-за опасений по кибербезопасности
OpenAI остановила работу над своим новым агентным ИИ — Astra, который стал первой моделью, достигшей важного рубежа по кибербезопасности. OpenAI обнаружила, что модель способна самостоятельно атаковать реальные системы.
«Astra» — первая модель OpenAI, достигшая того, что компания называет «критическим порогом» в кибербезопасности. Оценки показывают, что модель способна самостоятельно взламывать реальные системы.
Это первый случай, когда OpenAI приостановила работу над моделью из-за присущих ей особенностей. Astra преодолела так называемый порог «критических киберспособностей» — впервые. Другие исследовательские группы, вероятно, вскоре столкнутся с тем же самым.
Источник: techcrunch.com
Бесплатный курс
Хватит читать про ИИ — начни строить с ним
Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.
Начать →▌ Гайды по теме
Автор
Евгений Арсентьев
PhD · Founder & CEO, Dad4Kids
Статьи · Свежие статьи