📚 Оглавление — LLM Engineering
О базе знаний
12 разделов, ~2600 строк. Для собеседований и практики. Каждая статья связана с другими через wikilinks — переходите по ссылкам для углубления.
Граф связей
Граф справа вверху — связи между разделами через wikilinks. Точки = статьи, линии = перекрёстные ссылки.
🗂️ Структура
🧱 Фундамент
Основы LLM
Архитектура, обучение, инференс и токенизация — без этого сложно понимать агентов и продакшн.
- 01-transformer-architecture — Transformer, Attention, Encoder-Decoder, RoPE, MoE, KV Cache, Scaling Laws
- 02-training-pipeline — Pre-training, SFT, RLHF/DPO/GRPO, специализация
- 03-inference-optimization — vLLM, PagedAttention, Continuous Batching, квантизация, GQA, деплой
- 11-tokenizers-embeddings — BPE, SentencePiece, embedding-модели, выбор токенизатора
🤖 Модели
Выбор модели
Сравнение провайдеров, цен и бенчмарков — отправная точка перед любым проектом.
- 06-llm-landscape — Модельный ландшафт: Claude, GPT, GLM, DeepSeek, Llama, Gemini; цены, бенчмарки
🦾 Агенты
Сложность растёт быстро
От простого agent loop к мультиагентным системам — добавляйте сложность только когда одного агента недостаточно.
- 04-agent-architecture — Agent Loop, ReAct, Plan-Execute, Reflection, память, управление контекстом
- 07-tool-use-function-calling — Function Calling, MCP, Structured Output, проектирование инструментов, безопасность
- 08-multi-agent-systems — Orchestrator-Worker, Pipeline, Debate, Swarm; CrewAI, AutoGen, LangGraph
💾 Данные и память
RAG — must-have
Внешняя память и retrieval — стандарт для корпоративных LLM-приложений.
- 05-memory-rag — RAG Pipeline, векторные хранилища, GraphRAG, Agentic RAG
🏭 Продакшн
От прототипа к production
Оценка качества, деплой, мониторинг и инструменты — то, что отличает демо от продукта.
- 09-evaluation-metrics — MMLU, HumanEval, SWE-bench, LLM-as-Judge, RAGAS
- 10-production-engineering — деплой vLLM, кэширование, мониторинг, оптимизация стоимости, CI/CD
- 12-frameworks-tooling — LangChain, LlamaIndex, инструменты fine-tuning, observability
🎯 Ключевые темы для собеседований
| Вопрос | Раздел |
|---|---|
| Архитектура Transformer | 01-transformer-architecture |
| Как обучается LLM? | 02-training-pipeline |
| Оптимизация inference | 03-inference-optimization |
| Что такое RAG? | 05-memory-rag |
| Паттерны архитектуры агентов | 04-agent-architecture, 08-multi-agent-systems |
| Function calling и MCP | 07-tool-use-function-calling |
| Как выбрали модель | 06-llm-landscape |
| Оценка качества LLM | 09-evaluation-metrics |
| Архитектура деплоя | 10-production-engineering |
| Fine-tuning vs RAG | 02-training-pipeline vs 05-memory-rag |