🎯 Выбор модели под задачу
На вопрос «какая модель лучшая» нет ответа. Есть ответ на другой вопрос: «какая модель достаточна для конкретной задачи при заданных ограничениях». Эта статья — рабочий алгоритм выбора, который можно положить в основу архитектурного решения и защитить перед заказчиком.
Семь критериев выбора
Расположены в порядке, в котором их обычно стоит обсуждать:
flowchart TD C1["1. Качество<br/>(хватит ли ума?)"]:::crit C2["2. Данные<br/>(можно ли в облако?)"]:::crit C3["3. Стоимость<br/>(на миллион токенов)"]:::crit C4["4. Скорость/латентность<br/>(миллисекунды до ответа)"]:::crit C5["5. Контекст<br/>(влезет ли документ?)"]:::crit C6["6. Инструменты<br/>(function calling, MCP)"]:::crit C7["7. Юрисдикция и лицензия"]:::crit C1 --> Decision["⚖ Решение"] C2 & C3 & C4 & C5 & C6 & C7 --> Decision classDef crit fill:#e3f2fd,stroke:#4a90d9;
1. Качество — «хватит ли ума?»
Достаточна ли модель для задачи? Не «лучшая ли в мире», а справляется ли с вашей eval-выборкой (14-ocenka-kachestva). Часто компактной модели хватает на 90% операций; флагман нужен только для сложных случаев.
2. Данные — «можно ли в облако?»
Это самый быстрый фильтр. Если данные нельзя отправлять третьим лицам (коммерческая тайна, персональные данные, гостайна, режим санкций) — выбор сужается до открытой модели в собственном контуре. См. 15-compliance-i-bezopasnost.
Не пропускайте этот шаг
Команды часто выбирают «самую умную» закрытую модель, а потом оказывается, что гонять через неё договоры нельзя юридически. Сначала — ограничения по данным, потом — всё остальное.
3. Стоимость — цена на миллион токенов
Сравнивайте модели в одной валюте: цена за 1 млн входных и 1 млн выходных токенов. Выходные всегда дороже входных (иногда в 3–5 раз). Полная методика расчёта — в 06-stoimost-i-ekonomika.
4. Скорость и латентность
Сколько времени до первого токена и сколько токенов в секунду модель генерирует. Для чат-бота, где пользователь ждёт ответа, латентность критична. Для фоновой обработки тысяч документов ночью — нет.
5. Контекст
Влезает ли ваш типовой документ в контекстное окно за один вызов (02-tokens-context-window)? Если договор 120 страниц — вам нужна либо модель с большим окном, либо RAG.
6. Поддержка инструментов
Если вы строите агента — модель должна уметь в function calling и structured outputs (11-tools-mcp). Не все компактные и не все открытые модели делают это одинаково хорошо.
7. Юрисдикция и лицензия
Можно ли вообще использовать эту модель в вашей юрисдикции и на ваших данных? Лицензия открытой модели допускает коммерческое применение? См. 15-compliance-i-bezopasnost.
Таблица «когда какую модель»
| Сценарий | Тип модели | Почему |
|---|---|---|
| Массовый чат-бот, черновые summaries, классификация обращений | Компактная (GPT-mini / Claude Haiku-класс / Gemini Flash / Qwen-small) | Дёшево, быстро; качества хватает |
| Сложный анализ договора, рассуждение, тяжёлый RAG | Флагман (GPT/Claude/Gemini top / DeepSeek-Reasoner) | Нужно качество рассуждения |
| Обработка конфиденциальных документов | Открытая модель в своём контуре (Llama/Qwen/DeepSeek/GLM) | Данные не покидают периметр |
| Высоконагруженный массовый сервис 24/7 | Своя инсталляция открытой модели | Предсказуемые затраты на «железо» вместо оплаты за токен |
| Прототип / POC / старт проекта | Облачный API закрытой модели | Быстрый старт, без CapEx на GPU |
Маршрутизация — главный источник экономии
В production почти всегда ставят не одну модель, а несколько с роутером: простые запросы идут на дешёвую компактную модель, сложные — эскалируются на флагман. Это называется model routing и может снизить затраты в разы при том же качестве. См. 06-stoimost-i-ekonomika.
Архетипы решений
flowchart LR User["📨 Запрос"] --> Router{"🔀 Роутер:<br/>сложность?"} Router -->|простой| Small["💨 Компактная модель<br/>(дёшево, быстро)"] Router -->|сложный| Flag["🧠 Флагман<br/>(умно, дороже)"] Router -->|чувствительные данные| Local["🔒 Открытая модель<br/>в своём контуре"] Small & Flag & Local --> Out["✅ Ответ"]
Антипаттерны выбора
Как не надо
- «Возьмём самую умную — на вырост». Лишние 90% стоимости ради запаса по качеству, который не нужен.
- «Обучим свою, чтобы не зависеть». Если вы не AI-лаборатория — это провал по срокам и бюджету (03-kak-sozdayutsya-modeli).
- «Одна модель на всё». Теряется экономия маршрутизации и риск концентрации у одного вендора.
- «Выбрали по бенчмарку, eval не делали». Бенчмарк не равен вашему качеству (04-landshaft-modeley, 14-ocenka-kachestva).
Минимальный чек-лист решения
- Ограничения по данным определены (можно ли в облако).
- Есть eval-выборка из ~50–200 реальных примеров.
- Сравнены 2–3 кандидата на этой выборке.
- Посчитана стоимость при целевой нагрузке (токенов/мес).
- Проверены latency и контекст под типовой документ.
- Юридически согласовано (лицензия, юрисдикция, обработка ПД).
📌 Что запомнить
- Правильный вопрос — не «какая лучшая», а «какая достаточна при ограничениях».
- Самый быстрый фильтр — можно ли данные в облако; он отсекает половину вариантов сразу.
- В production выгодна маршрутизация: компактная для массы, флагман для сложного, локальная для чувствительного.
- Никаких решений без собственной eval-выборки.
Дальше: 💰 Стоимость и экономика AI → — как превратить «токены» в рубли и считать unit-экономику агента.