Объяснимый ИИ — это профилактика. Объяснимый ИИ исчезает.
В Google DeepMind заявляют о «значительном снижении способности отслеживать цепочку рассуждений» в карточке системы GPT-6 Astra.
Исследователи Google DeepMind Рохин Шах и Анка Драган написали статью о прозрачности рассуждений ИИ. В карточке системы GPT-6 Astra они пишут: «наша способность следить за промежуточными шагами рассуждений сильно упала». И предупреждают: «будущие модели могут начать думать способами, которые для нас невозможно понять (например, в числовых представлениях)».
Мне помогает видеть, как думает Claude Code, чтобы понять, на каком шаге он свернул не туда. Это позволяет мне его поправить. Если мы не видим, как ИИ думает, то отлаживать его ошибки станет труднее.
Источник: the-decoder.com
Бесплатный курс
Хватит читать про ИИ — начни строить с ним
Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.
Начать →▌ Гайды по теме
Автор
Евгений Арсентьев
PhD · CEO, digital health
Статьи · Свежие статьи