А. Сапунов | Как работает LLM. От нуля до своего трансформера. От токена до внимания — большие языковые модели, разобранные по-человечески (2026) [PDF, FB2, EPUB]
Автор: А. Сапунов
Издательство: Самиздат
Жанр: Информатика и вычислительная техника, Искусственный интеллект, Программирование
Формат: PDF, FB2, EPUB
Качество: Изначально электронное (ebook)
Иллюстрации: Цветные и черно-белые
Описание:Эта книга объясняет, как на самом деле устроены большие языковые модели (LLM) — те самые, что стоят за ChatGPT, Claude, Gemini и их собратьями. Путь идёт от вопроса «что это вообще такое?» до строки кода, в которой ваша собственная маленькая модель генерирует свой первый связный текст.
Книга написана в стиле «для чайников»: каждая идея сначала объясняется на пальцах — с аналогиями и иллюстрациями. Но там, где любопытному читателю хочется заглянуть глубже, его ждут инженерные вставки — со строгими формулами, кодом и деталями, которые обычно прячут «под капотом». Хотите — читайте только основной текст и получите крепкое интуитивное понимание. Хотите — ныряйте во вставки и выходите из книги человеком, который может написать трансформер с нуля.
Главная мысль книги одной фразой: LLM — это гигантский, но удивительно понятный механизм, который снова и снова отвечает на один вопрос: «какое слово вероятнее всего идёт следующим?». Всё остальное — детали того, как сделать этот ответ хорошим.
Для кого эта книга:
• для любопытных без технического бэкграунда — если вы пользуетесь нейросетями и хотите понять, что внутри;
• для разработчиков, которые применяют LLM, но хотят перестать относиться к ним как к магии;
• для студентов и преподавателей — как мягкое, но честное введение в тему;
• для продактов, аналитиков и менеджеров — чтобы говорить с инженерами на одном языке.
Что нужно знать заранее? Почти ничего: школьной математики и желания разобраться хватит. Весь нужный минимум объясняется по дороге, а строгие выкладки вынесены в приложение.
Особенность книги: весь код — на Swift (чистый Swift и Apple MLX), а не на Python. Идеи LLM не принадлежат ни одному языку: увидев механизм внимания на непривычном синтаксисе и поняв его, вы понимаете саму идею, а не заклинание из конкретной библиотеки. Практический мини-GPT из Части V запускается прямо на Mac (Apple Silicon) — без облака, без CUDA.
Оглавление
Введение. Зачем эта книга и как ею пользоваться
Часть I. Что это вообще такое
1. Что такое LLM простыми словами
2. История: от перцептрона до GPT
3. Как машина видит текст: токены и словарь
Часть II. Фундамент (без боли)
4. Векторы и эмбеддинги: смысл как геометрия
5. Языковая модель = предсказание следующего токена
6. Нейросети с нуля: нейрон, слои, обучение
7. Градиентный спуск и обратное распространение
Часть III. Архитектура трансформера
8. Механизм внимания — сердце трансформера
9. Multi-head attention и feed-forward
10. Позиционное кодирование
11. Трансформер целиком
Часть IV. Как обучают LLM
12. Предобучение на терабайтах текста
13. Дообучение, instruction tuning, RLHF
14. Масштаб, законы масштабирования, эмерджентность
Часть V. Практика: строим мини-GPT
15. Готовим данные и токенизатор
16. Пишем модель GPT с нуля: построчный разбор
17. Обучаем и генерируем текст
Часть VI. Жизнь LLM в реальном мире
18. Инференс и сэмплирование
19. Промпт-инжиниринг по-инженерному
20. RAG, агенты и вызов инструментов
21. Ограничения, безопасность и этика
22. Куда всё движется
Приложения
A. Глоссарий терминов
B. Математический минимум
C. Литература и ссылки
D. Установка окружения для примеров
Скриншоты:
Время раздачи: с 10 до 20 (минимум до появления первых 3-5 скачавших) 
(Голосов: 
