Как создать свою нейросеть с нуля — обученную на твоей переписке
Открытый пайплайн из девяти шагов обучает маленькую языковую модель с нуля на твоей переписке iMessage, полностью офлайн на Mac. Самый честный способ создать свою нейросеть и наконец понять, как устроен трансформер.
«Можно ли создать свою нейросеть, как ChatGPT?» — вопрос, который задают все и почти никто не пробует, потому что путь выглядит как стена из жаргона. Репозиторий texts-to-transformer — самый дружелюбный вход, что я встречал.
Он обучает крошечный трансформер с нуля на одном очень личном датасете: на твоих собственных сообщениях. Никакого дообучения чужой модели, ни облака, ни API-ключей. Ты строишь всё с нуля и в конце общаешься с маленькой моделью, которая пишет как ты.
Исходники
Doriandarko/texts-to-transformer
★ 324Python
Что он делает, по шагам
Проект — это полный пайплайн из девяти шагов, и он честен по каждому:
- 1Делает безопасный снапшот базы сообщений (копию, оригинал не трогает).
- 2Псевдонимизирует контакты, чтобы имена не лежали в обучающих данных.
- 3Обучает свой byte-level BPE токенизатор на твоём тексте.
- 4Чисто разбивает данные, чтобы модель не могла просто зазубрить и схитрить.
- 5Гоняет цикл обучения через Apple MLX, прямо на Mac.
- 6Экспортирует модель, с которой можно поговорить в терминале.
Большинство гайдов «создай свою нейросеть» предлагают дообучить готовую модель, и это прячет всю механику. Тут ты обучаешь маленькую модель с нуля — и токенизатор, и цикл обучения, и вся её форма перестают быть загадкой.
А можно создать нейросеть без программирования?
Не совсем — тут придётся запустить Python-пайплайн, так что терминала не избежать. Но саму модель писать не надо, всё уже готово. Умеешь идти по шагам и вставлять команды — пройдёшь. И честно: так за один вечер поймёшь больше, чем за месяц видео про это.
Это приватно?
Полностью. В этом вся суть. Ничего не уходит с ноутбука — ни сообщения, ни модель. Для такого личного датасета, как твоя переписка, это очень важно, и именно поэтому обучение локально через MLX тут правильнее, чем заливать всё в какой-то сервис.
Что ты в итоге получаешь
Две вещи. Первое — странное маленькое зеркало: модель, которая подхватила твои обороты, привычки, то, как ты реально печатаешь. Жутковато, но по-хорошему. Второе, и более полезное: ты наконец поймёшь изнутри, как трансформер превращает текст в текст. это понимание переносится на любую большую модель, которой ты когда-либо будешь пользоваться.
Как это сделать — по шагам
Это ровно то, что обещает заголовок, так что вот честный путь. Нужен Mac на Apple Silicon (M1 или новее), macOS 14+, около 16 ГБ оперативки и выданный терминалу Full Disk Access.
git clone https://github.com/Doriandarko/texts-to-transformer.git cd texts-to-transformer brew install uv # пропусти, если уже есть uv sync uv run imessage-mlx doctor
Шаг doctor проверяет Apple Silicon, MLX, место на диске и — что важно — что база сообщений читается безопасно, ещё до того как что-то коснётся реальных данных.
uv run imessage-mlx snapshot --config configs/data.yaml uv run imessage-mlx prepare --config configs/data.yaml uv run imessage-mlx privacy-audit
snapshot копирует твой chat.db в режиме только для чтения (оригинал не трогается), а пайплайн псевдонимизирует контакты перед записью. Дальше — обучение и чат:
uv run imessage-mlx train-tokenizer --train work/splits/train.jsonl uv run imessage-mlx train uv run imessage-mlx export uv run imessage-mlx chat --model outputs/final
Точные флаги каждого шага — в README репозитория; здесь я оставил только костяк команд, чтобы вся форма была видна одним взглядом.
Крошечная модель — примерно 1.4М параметров — которая пишет короткие ответы в твоём стиле, обученная целиком на твоём Mac, и ничего с него не уходит.
324 звезды за неделю — знак, что многим тихо любопытен персональный ИИ, знающий их манеру письма. Если это про тебя и у тебя есть Mac — отличный проект на выходные: создать свою нейросеть с нуля, на данных, которые есть только у тебя.
Источник: github.com
Бесплатный курс
Хватит читать про ИИ — начни строить с ним
Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.
Начать →▌ Гайды по теме
Автор
Евгений Арсентьев
PhD · CEO, digital health
Статьи · Свежие статьи