Видимые рассуждения ИИ — это защита. И они исчезают

Исследователи Google DeepMind — Рохин Шах и Анка Драган — опубликовали работу о прозрачности рассуждений ИИ. В системной карте GPT-6 Astra зафиксировано «значительное снижение возможности отслеживать цепочку мыслей». Шах и Драган предупреждают: будущие модели могут начать мыслить в «числовых пространствах, которые люди не способны прочитать».

Видимые рассуждения агента — это то, что позволяет поймать ошибку до того, как она стала дорогой. Я смотрю в цепочку мыслей каждый раз, когда что-то пошло не так в Claude Code — это единственный способ найти момент, где модель решила что-то неправильно. Если эта возможность уйдёт, отлаживать агентов станет принципиально сложнее.