🎯 Выбор модели под задачу

На вопрос «какая модель лучшая» нет ответа. Есть ответ на другой вопрос: «какая модель достаточна для конкретной задачи при заданных ограничениях». Эта статья — рабочий алгоритм выбора, который можно положить в основу архитектурного решения и защитить перед заказчиком.

Семь критериев выбора

Расположены в порядке, в котором их обычно стоит обсуждать:

flowchart TD
    C1["1. Качество<br/>(хватит ли ума?)"]:::crit
    C2["2. Данные<br/>(можно ли в облако?)"]:::crit
    C3["3. Стоимость<br/>(на миллион токенов)"]:::crit
    C4["4. Скорость/латентность<br/>(миллисекунды до ответа)"]:::crit
    C5["5. Контекст<br/>(влезет ли документ?)"]:::crit
    C6["6. Инструменты<br/>(function calling, MCP)"]:::crit
    C7["7. Юрисдикция и лицензия"]:::crit
    C1 --> Decision["⚖ Решение"]
    C2 & C3 & C4 & C5 & C6 & C7 --> Decision
    classDef crit fill:#e3f2fd,stroke:#4a90d9;

1. Качество — «хватит ли ума?»

Достаточна ли модель для задачи? Не «лучшая ли в мире», а справляется ли с вашей eval-выборкой (14-ocenka-kachestva). Часто компактной модели хватает на 90% операций; флагман нужен только для сложных случаев.

2. Данные — «можно ли в облако?»

Это самый быстрый фильтр. Если данные нельзя отправлять третьим лицам (коммерческая тайна, персональные данные, гостайна, режим санкций) — выбор сужается до открытой модели в собственном контуре. См. 15-compliance-i-bezopasnost.

Не пропускайте этот шаг

Команды часто выбирают «самую умную» закрытую модель, а потом оказывается, что гонять через неё договоры нельзя юридически. Сначала — ограничения по данным, потом — всё остальное.

3. Стоимость — цена на миллион токенов

Сравнивайте модели в одной валюте: цена за 1 млн входных и 1 млн выходных токенов. Выходные всегда дороже входных (иногда в 3–5 раз). Полная методика расчёта — в 06-stoimost-i-ekonomika.

4. Скорость и латентность

Сколько времени до первого токена и сколько токенов в секунду модель генерирует. Для чат-бота, где пользователь ждёт ответа, латентность критична. Для фоновой обработки тысяч документов ночью — нет.

5. Контекст

Влезает ли ваш типовой документ в контекстное окно за один вызов (02-tokens-context-window)? Если договор 120 страниц — вам нужна либо модель с большим окном, либо RAG.

6. Поддержка инструментов

Если вы строите агента — модель должна уметь в function calling и structured outputs (11-tools-mcp). Не все компактные и не все открытые модели делают это одинаково хорошо.

7. Юрисдикция и лицензия

Можно ли вообще использовать эту модель в вашей юрисдикции и на ваших данных? Лицензия открытой модели допускает коммерческое применение? См. 15-compliance-i-bezopasnost.

Таблица «когда какую модель»

СценарийТип моделиПочему
Массовый чат-бот, черновые summaries, классификация обращенийКомпактная (GPT-mini / Claude Haiku-класс / Gemini Flash / Qwen-small)Дёшево, быстро; качества хватает
Сложный анализ договора, рассуждение, тяжёлый RAGФлагман (GPT/Claude/Gemini top / DeepSeek-Reasoner)Нужно качество рассуждения
Обработка конфиденциальных документовОткрытая модель в своём контуре (Llama/Qwen/DeepSeek/GLM)Данные не покидают периметр
Высоконагруженный массовый сервис 24/7Своя инсталляция открытой моделиПредсказуемые затраты на «железо» вместо оплаты за токен
Прототип / POC / старт проектаОблачный API закрытой моделиБыстрый старт, без CapEx на GPU

Маршрутизация — главный источник экономии

В production почти всегда ставят не одну модель, а несколько с роутером: простые запросы идут на дешёвую компактную модель, сложные — эскалируются на флагман. Это называется model routing и может снизить затраты в разы при том же качестве. См. 06-stoimost-i-ekonomika.

Архетипы решений

flowchart LR
    User["📨 Запрос"] --> Router{"🔀 Роутер:<br/>сложность?"}
    Router -->|простой| Small["💨 Компактная модель<br/>(дёшево, быстро)"]
    Router -->|сложный| Flag["🧠 Флагман<br/>(умно, дороже)"]
    Router -->|чувствительные данные| Local["🔒 Открытая модель<br/>в своём контуре"]
    Small & Flag & Local --> Out["✅ Ответ"]

Антипаттерны выбора

Как не надо

  • «Возьмём самую умную — на вырост». Лишние 90% стоимости ради запаса по качеству, который не нужен.
  • «Обучим свою, чтобы не зависеть». Если вы не AI-лаборатория — это провал по срокам и бюджету (03-kak-sozdayutsya-modeli).
  • «Одна модель на всё». Теряется экономия маршрутизации и риск концентрации у одного вендора.
  • «Выбрали по бенчмарку, eval не делали». Бенчмарк не равен вашему качеству (04-landshaft-modeley, 14-ocenka-kachestva).

Минимальный чек-лист решения

  • Ограничения по данным определены (можно ли в облако).
  • Есть eval-выборка из ~50–200 реальных примеров.
  • Сравнены 2–3 кандидата на этой выборке.
  • Посчитана стоимость при целевой нагрузке (токенов/мес).
  • Проверены latency и контекст под типовой документ.
  • Юридически согласовано (лицензия, юрисдикция, обработка ПД).

📌 Что запомнить

  • Правильный вопрос — не «какая лучшая», а «какая достаточна при ограничениях».
  • Самый быстрый фильтр — можно ли данные в облако; он отсекает половину вариантов сразу.
  • В production выгодна маршрутизация: компактная для массы, флагман для сложного, локальная для чувствительного.
  • Никаких решений без собственной eval-выборки.

Дальше: 💰 Стоимость и экономика AI → — как превратить «токены» в рубли и считать unit-экономику агента.