GitHub-радар
Покрути нейроны открытой модели ИИ и посмотри, как меняется её текст
Это карта нейронов открытой модели Qwen3.5-4B: ты видишь, за что отвечает каждый нейрон, и можешь сам менять силу его работы, наблюдая, как меняется ответ модели.
Это 3D-карта нейронов (вычислительных единиц модели) внутри одного слоя открытой языковой модели: по каждому нейрону показано, как менялся выданный текст, когда его «выкручивали» сильнее или слабее.
Когда пригодится
Пригодится, если хочешь понять, как устроена языковая модель изнутри, или поэкспериментировать с её поведением. Не нужен, если тебе нужен готовый инструмент для создания продукта — это окно в механизм модели, а не конструктор приложений.
Плюсы
- Смотреть карту и искать нейроны можно на обычном ноутбуке, видеокарта не нужна
- Внутри есть ИИ-агент, который сам ищет нужный нейрон и объясняет находки
- Данные уже собраны: 2 000 000 токенов по одному слою лежат в репозитории
- Открытые веса дают доступ, которого нет у закрытых моделей вроде Opus
Минусы
- Живой чат и проверка своих промптов требуют скачать модель локально
- Новый прогон по всем нейронам слоя требует отдельный GPU в облаке
- Инструмент для изучения модели, а не для создания своих продуктов
Как поставить — по шагам
- 1Установи python-пакет uv — он сам настроит окружение проекта
- 2Открой ИИ-агента (например, Claude Code) в папке своего проекта
- 3Отправь агенту текст из блока ниже
- 4Дождись, пока агент запустит локальный сервер explorer
- 5Открой localhost:8791 в браузере и посмотри 3D-карту нейронов
- 6Проверь скриншот и отметь, какие данные уже есть, а какие требуют своего прогона на GPU
Текст для агента
Текст для шага с агентом — скопируй и отправь (Claude Code, Codex, любой):
Разверни neuron explorer по README отсюда: https://github.com/lyramakesmusic/neuron-explorer — подними локальный сервер explorer/server.py, открой 3D-карту нейронов на localhost:8791 и покажи скриншот, явно отметив, какие данные уже есть в репозитории, а какие требуют своего прогона на GPU.
Сам просмотр карты, поиска и связей идёт на обычном ноутбуке — нужен только Python через uv, видеокарта не обязательна. Живой чат с моделью и инференс по своему тексту требуют загрузить саму модель Qwen3.5-4B локально. По README это работает на Apple Silicon (MPS), на видеокарте NVIDIA (CUDA) или даже на одном CPU — точных цифр по памяти там нет, но модель на 4 миллиарда параметров обычно вписывается в один потребительский GPU среднего класса. А вот свой прогон по всем нейронам слоя — это уже отдельный арендованный GPU-под в облаке с переписанным форком vLLM, обычный ноутбук тут не поможет.
Открыть на GitHub▌ Ещё находки