💰 Стоимость и экономика AI

Умение считать AI-проект в деньгах — навык, который отделяет «я хочу внедрить нейросеть» от «я хочу внедрить нейросеть с положительным ROI». Эта статья — про то, как модель превращается в строку бюджета, где прячутся настоящие расходы и как строить unit-экономику агента.

Главное правило

Счёт идёт в токенах, а платите вы в деньгах. Любой разговор о бюджете начинается с оценки: сколько входных и сколько выходных токенов в месяц сгенерит ваша система. Без этих двух чисел любая цена бессмысленна. См. 02-tokens-context-window.


Из чего складывается цена API

Провайдеры считают раздельно:

  • Входные токены (input) — всё, что вы отправили: системный промпт, история, документы, вопрос. Это «чтение».
  • Выходные токены (output) — то, что модель сгенерировала в ответ. Это «письмо».

Выход всегда дороже входа

Выходные токены обычно стоят в 2–5 раз дороже входных. Из этого следует конструкторское правило: дешевле дать модели длинный контекст и получить короткий точный ответ, чем короткий контекст и длинный «разговорный» ответ. Краткость — это деньги.

Русский текст дороже

Кодировка кириллицы менее эффективна для токенизатора: русское слово часто превращается в 2–4 токена против 1 для английского. На русскоязычных проектах закладывайте в бюджет коэффициент 1,5–2 к «английской» оценке. См. 02-tokens-context-window.

Промпт-кэш — главный рычаг экономии

Промпт-кэш (prompt caching) — сохранение результатов обработки повторяющейся части промпта, чтобы не считать и не платить за неё каждый раз заново. Если у вас большой системный промпт, длинная инструкция или базовый набор документов, который повторяется от запроса к запросу — кэш снижает стоимость этой части в несколько раз (часто на 80–90%), а ещё ускоряет ответ.

flowchart LR
    Q["📨 Запрос"] --> Split{"Разбор"}
    Split -->|Стабильная часть<br/>(system, инструкции)| Cache["🗄 Промпт-кэш<br/>(считается 1 раз, дёшево)"]:::cache
    Split -->|Меняющаяся часть<br/>(вопрос, RAG-куски)| Fresh["🆕 Считается каждый раз"]:::fresh
    Cache & Fresh --> M["🧠 Модель"]
    classDef cache fill:#e8f5e9,stroke:#4caf50,stroke-width:2px;
    classDef fresh fill:#fff4e6,stroke:#e8a04e;

Где кэш даёт максимум

  • Длинный корпоративный системный промпт (роли, правила, бренд-голос) — повторяется в каждом запросе.
  • Большие RAG-фрагменты, которые переиспользуются между сессиями.
  • Агенты, где одни и те же инструкции крутятся тысячи раз в день. Кэш нужно «греть» (обращаться достаточно часто, чтобы он не протух) и правильно структурировать промпт: стабильное — в начало, меняющееся — в конец.

Unit-экономика одного запроса и одного агента

Чтобы считать проект, нужен переход от «цены за токен» к «цене за результат».

Шаг 1. Цена одного запроса

Стоимость запроса = (входные_токены × цена_вход) + (выходные_токены × цена_выход)

Шаг 2. Цена одного «кейса» с агентом

Агент редко делает один вызов модели. Один пользовательский запрос может породить многошаговый цикл:

flowchart TD
    U["👤 Пользователь: «Найди контракт и посчитай пени»"] --> A1["🧠 Шаг 1: понять задачу"]
    A1 --> T1["🔧 Tool: поиск в базе"]
    T1 --> A2["🧠 Шаг 2: прочитать контракт"]
    A2 --> T2["🔧 Tool: калькулятор пени"]
    T2 --> A3["🧠 Шаг 3: сформулировать ответ"]
    A3 --> Done["✅ Ответ пользователю"]

Мультипликатор шагов

Если один «кейс» — это 5 шагов агента, каждый со своим вызовом модели, то стоимость кейса ≈ 5 × стоимость запроса плюс токены на сами вызовы инструментов. В агентах счета растут нелинейно: сложность системы напрямую бьёт по экономике.

Шаг 3. Месячный бюджет

Бюджет/мес = кейсов_в_день × дней × цена_кейса + инфраструктура + наблюдаемость

Скрытые расходы — где прячутся деньги

СтатьяЧто этоЧасто забывают
Попытки и повторы (retries)Неудачные вызовы, ошибки, перегенерация+10–30% к «идеальной» оценке
Оценка и evalsПрогон тестовых выборок при каждом измененииСтоит денег, но без неё нельзя (14-ocenka-kachestva)
Embedding-моделиОтдельная плата за векторизацию базы в RAGМеньше, чем LLM, но не ноль (09-rag)
Хранилище и векторная базаБД, бэкапы, логиРастёт с объёмом данных
Наблюдаемость и мониторингЛоги, трассировка, дашбордыНужна для production (14-ocenka-kachestva)
Человеческий контрольЮристы/эксперты на валидации (human-in-the-loop)Часто главная «скрытая» статья
Разработка и поддержкаКоманда, доработки, обновления при выходе новых моделейКапекс + опекс

Часто главная экономия — не в модели

Самая дорогая статья во внедрении — обычно не API, а рабочее время людей: разработка сценария, разметка данных, валидация ответов, переобучение команды. Оптимизация токенов важна, но не заменяет контроля над полным TCO.

API vs собственная инсталляция (TCO)

Облачный APIСвоя инсталляция открытой модели
Затраты на стартНизкие (OpEx, платите по факту)Высокие (CapEx: GPU/сервер, развёртывание)
Предсказуемость бюджетаРастёт с нагрузкойФиксированные затраты на «железо»
Когда выгоднееНагрузка неравномерная, малая/средняя, прототипВысокая и стабильная нагрузка 24/7, ограничения по данным
РискиЗависимость от вендора, рост цен, блокировкиНужно обслуживать, обновлять, иметь компетенции

Точка перехода

Есть порог нагрузки, выше которого своя инсталляция открытой модели становится дешевле API. Этот порог считают индивидуально: сравнивают месячный счёт за токены с амортизацией GPU + зарплатой обслуживания. Для сервиса средней тяжести он часто наступает на уровнях «сотни миллионов токенов в месяц».

ROI автоматизации — как обосновать проект

Экономика AI-проекта защищается не экономией токенов, а результатом для бизнеса:

flowchart LR
    A["💵 Выгоды<br/>(время сотрудников, скорость,<br/>качество, новые возможности)"]
    B["💸 Затраты<br/>(API + инфраструктура + команда<br/>+ валидация + обучение)"]
    A --> ROI["📊 ROI = (Выгоды − Затраты) / Затраты"]
    B --> ROI

Что считать выгодой

  • Время сотрудников, высвобожденное на более ценную работу.
  • Скорость обработки (обращение закрывается за минуты вместо дней).
  • Качество и единообразие (меньше человеческих ошибок).
  • Новые возможности, которых раньше не было (например, анализ всех договоров, а не выборки).

Подробнее о том, как упаковывать это в стратегию и защиту перед бизнесом, — в 17-strategiya-i-roadmap.


📌 Что запомнить

  • Бюджет считается в токенах; выходные дороже входных; русский текст дороже английского.
  • Промпт-кэш — главный рычаг снижения стоимости повторяющихся частей.
  • У агента стоимость кейса = сумма по всем шагам; сложность множит расходы.
  • Скрытые расходы (retries, evals, человеческая валидация, поддержка) часто больше, чем сама модель.
  • API выгоден на старте и неравномерной нагрузке; своя инсталляция — на высокой стабильной и при ограничениях по данным.
  • ROI защищают выгодами для бизнеса, а не экономией на токенах.

Дальше: ✍️ Промпт-инжиниринг → — как правильно поставить задаче, чтобы получить нужный результат и не переплачивать.