Как работают нейросети (LLM): просто и без формул
Как работают нейросети простыми словами: токены, контекстное окно и предсказание следующего кусочка — три идеи, которые объясняют вообще всё.
Евгений Арсентьев · MD, PhDПроверено на точность — Евгений Арсентьев, MD, PhD · 2026-06-12
Большая языковая модель предсказывает самый подходящий следующий кусочек текста, выучив закономерности на огромном срезе того, что написали люди. Вот и весь движок. Мощь появилась из масштаба, а не из какой-то тайной искры.
Как работают нейросети простыми словами?
Представь лучший в мире автодополнение. Оно прочитало гигантский объём написанного людьми и выучило, какие слова обычно идут за какими. Когда ты задаёшь вопрос, оно не ищет готовый ответ — оно предсказывает, кусочек за кусочком, какой текст должен идти дальше с учётом всего, что ты ввёл. Сложи достаточно удачных предсказаний — и получится связный ответ.
Что такое токены и контекстное окно?
Две механики объясняют все её причуды: она читает токенами (кусочками, а не буквами) и может рассуждать только над тем, что есть в её текущем контекстном окне (это её рабочий стол). Новый чат — стол вытерт начисто.
Из каких основных частей состоит LLM?
Три идеи покрывают почти всё: токены (кусочки, которые она читает и пишет), контекстное окно (рабочая память, которую она видит прямо сейчас) и предсказание следующего кусочка (движок, выбирающий, что идёт дальше). Пойми эти три — и большая часть поведения нейросети перестанет быть загадкой.
ChatGPT — это LLM или генеративный ИИ?
По сути, и то и другое. «Генеративный ИИ» — это широкое семейство систем, которые создают новый контент; LLM — это конкретный вид, который генерирует текст. ChatGPT — продукт, построенный на LLM: модель — это двигатель, а ChatGPT — машина, на которой ты реально едешь.
А нейросети — это вообще ИИ?
Да, в том практическом смысле, в каком это слово используют сегодня: это системы машинного обучения, которые выполняют задачи, когда-то считавшиеся требующими человеческого интеллекта. Чем они не являются — так это сознательными или самоосознающими: под капотом это сопоставление закономерностей в огромном масштабе, а не понимание. Полезно помнить, когда ответ звучит уверенно-по-человечески.
Как нейросеть работает в ChatGPT и Claude?
ChatGPT и Claude — это дружелюбные интерфейсы, обёрнутые вокруг LLM. Каждый раз, когда ты отправляешь сообщение, вся видимая переписка упаковывается в контекстное окно, и модель предсказывает ответ — кусочек за кусочком. Поэтому длинные чаты «плывут» (старые детали падают со стола), и поэтому новый чат — это каждый раз знакомство с моделью заново.
Бесплатный курс
Хватит читать про ИИ — начни строить с ним
Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.
Начать →Источники и исследования
Подборка рецензируемых работ и препринтов по научной основе этой темы.
- [1]Du et al. (2023). Joint Music and Language Attention Models for Zero-shot Music Tagging. arXiv:2310.10159
- [2]Jiang et al. (2026). Procedural Pretraining: Warming Up Language Models with Abstract Data. arXiv:2601.21725
- [3]Wang et al. (2018). Can You Tell Me How to Get Past Sesame Street? Sentence-Level Pretraining Beyond Language Modeling. arXiv:1812.10860
- [4]Tang et al. (2024). A Survey on Transformer Compression. arXiv:2402.05964
- [5]Hassani et al. (2022). Dilated Neighborhood Attention Transformer. arXiv:2209.15001
- [6]Zucchet et al. (2025). How do language models learn facts? Dynamics, curricula and hallucinations. arXiv:2503.21676
- [7]Mroczkowski et al. (2021). HerBERT: Efficiently Pretrained Transformer-based Language Model for Polish. arXiv:2105.01735
Автор
Евгений Арсентьев
MD, PhD · Руководитель ИИ-трансформации
Чтение — это синяя пилюля
Хочешь реально это построить?
Гайды объясняют. Бесплатный курс превращает — персонально, с геймификацией и заточенный на быстрый запуск.
Начать бесплатный курс →