GitHub-радар
Как ИИ читает и правит «веса» другой нейросети без обучения
Исследователь выложил логи экспериментов: языковая модель вроде ChatGPT смотрит на голые числа внутри маленькой нейросети и понимает, что та делает — а в одном случае сама меняет эти числа, чтобы улучшить её работу, без всякого обучения.
Открытый репозиторий с текстовыми логами 8 экспериментов: модель OpenAI угадывала назначение маленьких нейросетей по их «весам» (числам внутри сети) и правила эти числа руками.
Когда пригодится
Пригодится, если интересно заглянуть, как ИИ-модели устроены внутри и что с ними можно делать без обучения. Не нужен, если ты просто пользуешься Claude Code для повседневных задач — это ничего не меняет в его работе.
Плюсы
- Логи открыты полностью — можно проверить каждый шаг самому
- Результат на тесте MATH-500 вырос с 7,9% до 48,1% без обучения
- Не требует установки — всё уже лежит текстовыми файлами в репозитории
Минусы
- Это исследовательский архив, а не готовый инструмент для задач
- Одна сессия правки весов занимала 8–20 часов
- Перенос метода на крупные модели пока не проверен
Как поставить — по шагам
- 1Открой Claude Code в папке своего проекта (подойдёт и пустая папка).
- 2Отправь агенту текст из блока ниже.
- 3Дай агенту время прочитать README и папку exp8_math и разобрать логи.
- 4Прочитай пересказ агента: как модель правила веса математической сети и что это дало на тестах.
- 5При желании попроси агента так же разобрать логи других экспериментов из таблицы в README.
Текст для агента
Текст для шага с агентом — скопируй и отправь (Claude Code, Codex, любой):
Открой репозиторий RikiyaT/lm_understand-logs, прочитай README и папку exp8_math целиком, и перескажи мне своими словами, как модель правила веса маленькой математической модели и как это отразилось на результатах тестов — без запуска кода, просто прочитай текстовые логи.
▌ Ещё находки