LLM перестают выглядеть магией, когда становится видно, как токенизация, внимание и архитектура модели проявляются в поведении ответа.
Глава связывает внутреннее устройство модели с прикладными сценариями: классификацией, поиском, RAG, агентными цепочками и дообучением под конкретную задачу.
Для интервью это особенно полезно: можно объяснить механику LLM без отрыва от продуктовых решений, качества ответа и границ системы.
Практическая польза главы
Внутреннее устройство LLM
Глава помогает спокойно объяснить токенизацию, векторные представления, трансформеры и механизм внимания без магического ореола вокруг модели.
Переход к прикладным сценариям
После устройства модели книга сразу показывает классификацию, тематический анализ, генерацию, поиск и мультимодальные задачи.
Мост к AI Engineering
По ней удобно переходить от механики LLM к RAG, агентным сценариям, дообучению и рабочей интеграции модели в продукт.
Материал для интервью
Это хорошая база, чтобы на интервью уверенно говорить и про внутреннее устройство LLM, и про архитектурные решения вокруг них.
Источник
Telegram: Книжный куб
Короткий обзор книги от Александра Поломодова.
Hands-On Large Language Models
Авторы: Jay Alammar, Maarten Grootendorst
Издательство: O'Reilly Media, Inc.
Объём: 428 страниц
Jay Alammar и Maarten Grootendorst: наглядный практический путеводитель по LLM с ~300 иллюстрациями — токенизация, векторные представления, трансформеры, RAG и дообучение.
Об авторах
Книгу написали два практика из машинного обучения и искусственного интеллекта. Их сильная сторона — не пересказ статей, а умение разложить сложный механизм на схему, по которой видно, что и зачем происходит:
Jay Alammar
Обладатель статуса в Cohere, автор известных визуальных разборов по машинному обучению и обработке естественного языка. Его диаграммы используют в документации NumPy и pandas, а также в курсах deeplearning.ai.
jalammar.github.ioMaarten Grootendorst
Data Scientist, автор библиотек BERTopic и KeyBERT с открытым исходным кодом. Специализируется на тематическом моделировании и работе с векторными представлениями текста.
newsletter.maartengrootendorst.comФилософия книги
Авторы идут по принципу «сначала интуиция»: сперва дают наглядную картину механизма через визуализации и только потом подводят под неё формальное объяснение и код. Порядок не косметический — без рабочей интуиции формулы и примеры запоминаются как набор фактов, а не как способ рассуждать.
~300 авторских иллюстраций
Механизмы внимания, токенизаторы и многомерные пространства векторных представлений разъясняются через схемы, графики и рисунки.
Весь код доступен на GitHub.
Связанная глава
AI Engineering (Chip Huyen)
Более широкий взгляд на рабочую эксплуатацию: генерация с извлечением контекста (RAG), агенты, дообучение и оценивание.
Структура книги
Книга состоит из трёх частей и 12 глав: сначала она объясняет, как устроены , затем показывает их прикладное использование, а в финале переходит к обучению и дообучению моделей.
По дороге читатель связывает , , и с , агентными сценариями и дообучением.
IПонимание языковых моделей
Первая часть отвечает на вопрос, без которого остальное превращается в работу вслепую: что именно происходит между входным текстом и сгенерированным токеном.
Введение в языковые модели
Путь от мешка слов и ранних векторных представлений к архитектуре трансформеров. Чем отличаются от предыдущих подходов и почему дают другой масштаб возможностей.
Токенизация и векторные представления
Как устроена токенизация в : сравнение слов, подслов, символов и байтов, а также путь от word2vec к современным векторным представлениям.
Внутри трансформера
Что происходит при прямом проходе модели: обработка входных токенов, вычисление внимания и выбор следующего токена. Интуитивное объяснение механизма самовнимания и оптимизаций вроде KV-cache.
IIИспользование предобученных моделей
Вторая часть про путь без обучения с нуля: взять готовую или модель векторных представлений и довести её до прикладной задачи, не оплачивая полный цикл подготовки модели.
Классификация текста
Применение к задачам классификации с минимальным объёмом дополнительного обучения
Кластеризация и тематическое моделирование
BERTopic — библиотека одного из авторов для тематического анализа
Проектирование запросов
Chain of Thought, ReAct, Tree of Thought и другие техники построения подсказок и рассуждений
Продвинутая генерация текстов
LangChain, агенты, память и инструменты для построения сложных рабочих цепочек
Семантический поиск и
расширяет знания модели за счёт извлечения внешнего контекста и поиска по документам
Мультимодальные модели
Текст и изображения: CLIP, BLIP-2 и vision-language-подходы
IIIОбучение и дообучение
Третья часть нужна там, где готовой модели уже не хватает: предметный домен слишком узкий, стиль ответа важен, а данных под него у публичной почти нет. Тогда модель приходится обучать самому или дообучать существующую.
Создание моделей векторных представлений
Обучение собственных моделей векторных представлений для узких доменов и специализированных наборов данных
Дообучение для классификации
Адаптация моделей представлений под задачи классификации
Дообучение генеративных моделей
Настройка под генерацию текста в конкретном стиле, тоне или домене
Для кого эта книга
- Инженеров и аналитиков, которым нужен понятный вход в и современные NLP-подходы
- Разработчиков и аналитиков, которые хотят встроить в рабочие продукты, а не только собрать демо
- Всех, кто хочет уверенно ориентироваться в современных моделях вроде ChatGPT, Mistral и Claude и понимать, что происходит у них внутри
Связанные главы
- AI Engineering - Покрывает практики работы с большими языковыми моделями (LLM) в эксплуатации: генерация с извлечением контекста (RAG), оценивание, надёжность и развитие системы после запуска.
- Prompt Engineering for LLMs - Расширяет тему проектирования запросов и рабочих цепочек, которые в этой книге показаны как следующий прикладной шаг.
- An Illustrated Guide to AI Agents (short summary) - Переходит от внутреннего устройства большой языковой модели (LLM) к агентным архитектурам с памятью, инструментами, планированием и координацией шагов.
- Developing Apps with GPT-4 and ChatGPT (short summary) - Даёт практический мост от понимания того, как устроены большие языковые модели (LLM), к сборке рабочих приложений и их интеграции в продукт.
- AI Engineering Interviews (short summary) - Помогает закрепить ключевые идеи про большие языковые модели (LLM) через интервью-вопросы, кейсы и архитектурные разборы.
- Generative AI System Design Interview (short summary) - Показывает, как знания о больших языковых моделях (LLM) превращаются в ответ на интервью по системному дизайну GenAI-систем с данными, генерацией с извлечением контекста (RAG), оцениванием и мониторингом.