💰 Стоимость и экономика AI
Умение считать AI-проект в деньгах — навык, который отделяет «я хочу внедрить нейросеть» от «я хочу внедрить нейросеть с положительным ROI». Эта статья — про то, как модель превращается в строку бюджета, где прячутся настоящие расходы и как строить unit-экономику агента.
Главное правило
Счёт идёт в токенах, а платите вы в деньгах. Любой разговор о бюджете начинается с оценки: сколько входных и сколько выходных токенов в месяц сгенерит ваша система. Без этих двух чисел любая цена бессмысленна. См. 02-tokens-context-window.
Из чего складывается цена API
Провайдеры считают раздельно:
- Входные токены (input) — всё, что вы отправили: системный промпт, история, документы, вопрос. Это «чтение».
- Выходные токены (output) — то, что модель сгенерировала в ответ. Это «письмо».
Выход всегда дороже входа
Выходные токены обычно стоят в 2–5 раз дороже входных. Из этого следует конструкторское правило: дешевле дать модели длинный контекст и получить короткий точный ответ, чем короткий контекст и длинный «разговорный» ответ. Краткость — это деньги.
Русский текст дороже
Кодировка кириллицы менее эффективна для токенизатора: русское слово часто превращается в 2–4 токена против 1 для английского. На русскоязычных проектах закладывайте в бюджет коэффициент 1,5–2 к «английской» оценке. См. 02-tokens-context-window.
Промпт-кэш — главный рычаг экономии
Промпт-кэш (prompt caching) — сохранение результатов обработки повторяющейся части промпта, чтобы не считать и не платить за неё каждый раз заново. Если у вас большой системный промпт, длинная инструкция или базовый набор документов, который повторяется от запроса к запросу — кэш снижает стоимость этой части в несколько раз (часто на 80–90%), а ещё ускоряет ответ.
flowchart LR Q["📨 Запрос"] --> Split{"Разбор"} Split -->|Стабильная часть<br/>(system, инструкции)| Cache["🗄 Промпт-кэш<br/>(считается 1 раз, дёшево)"]:::cache Split -->|Меняющаяся часть<br/>(вопрос, RAG-куски)| Fresh["🆕 Считается каждый раз"]:::fresh Cache & Fresh --> M["🧠 Модель"] classDef cache fill:#e8f5e9,stroke:#4caf50,stroke-width:2px; classDef fresh fill:#fff4e6,stroke:#e8a04e;
Где кэш даёт максимум
- Длинный корпоративный системный промпт (роли, правила, бренд-голос) — повторяется в каждом запросе.
- Большие RAG-фрагменты, которые переиспользуются между сессиями.
- Агенты, где одни и те же инструкции крутятся тысячи раз в день. Кэш нужно «греть» (обращаться достаточно часто, чтобы он не протух) и правильно структурировать промпт: стабильное — в начало, меняющееся — в конец.
Unit-экономика одного запроса и одного агента
Чтобы считать проект, нужен переход от «цены за токен» к «цене за результат».
Шаг 1. Цена одного запроса
Стоимость запроса = (входные_токены × цена_вход) + (выходные_токены × цена_выход)
Шаг 2. Цена одного «кейса» с агентом
Агент редко делает один вызов модели. Один пользовательский запрос может породить многошаговый цикл:
flowchart TD U["👤 Пользователь: «Найди контракт и посчитай пени»"] --> A1["🧠 Шаг 1: понять задачу"] A1 --> T1["🔧 Tool: поиск в базе"] T1 --> A2["🧠 Шаг 2: прочитать контракт"] A2 --> T2["🔧 Tool: калькулятор пени"] T2 --> A3["🧠 Шаг 3: сформулировать ответ"] A3 --> Done["✅ Ответ пользователю"]
Мультипликатор шагов
Если один «кейс» — это 5 шагов агента, каждый со своим вызовом модели, то стоимость кейса ≈ 5 × стоимость запроса плюс токены на сами вызовы инструментов. В агентах счета растут нелинейно: сложность системы напрямую бьёт по экономике.
Шаг 3. Месячный бюджет
Бюджет/мес = кейсов_в_день × дней × цена_кейса + инфраструктура + наблюдаемость
Скрытые расходы — где прячутся деньги
| Статья | Что это | Часто забывают |
|---|---|---|
| Попытки и повторы (retries) | Неудачные вызовы, ошибки, перегенерация | +10–30% к «идеальной» оценке |
| Оценка и evals | Прогон тестовых выборок при каждом изменении | Стоит денег, но без неё нельзя (14-ocenka-kachestva) |
| Embedding-модели | Отдельная плата за векторизацию базы в RAG | Меньше, чем LLM, но не ноль (09-rag) |
| Хранилище и векторная база | БД, бэкапы, логи | Растёт с объёмом данных |
| Наблюдаемость и мониторинг | Логи, трассировка, дашборды | Нужна для production (14-ocenka-kachestva) |
| Человеческий контроль | Юристы/эксперты на валидации (human-in-the-loop) | Часто главная «скрытая» статья |
| Разработка и поддержка | Команда, доработки, обновления при выходе новых моделей | Капекс + опекс |
Часто главная экономия — не в модели
Самая дорогая статья во внедрении — обычно не API, а рабочее время людей: разработка сценария, разметка данных, валидация ответов, переобучение команды. Оптимизация токенов важна, но не заменяет контроля над полным TCO.
API vs собственная инсталляция (TCO)
| Облачный API | Своя инсталляция открытой модели | |
|---|---|---|
| Затраты на старт | Низкие (OpEx, платите по факту) | Высокие (CapEx: GPU/сервер, развёртывание) |
| Предсказуемость бюджета | Растёт с нагрузкой | Фиксированные затраты на «железо» |
| Когда выгоднее | Нагрузка неравномерная, малая/средняя, прототип | Высокая и стабильная нагрузка 24/7, ограничения по данным |
| Риски | Зависимость от вендора, рост цен, блокировки | Нужно обслуживать, обновлять, иметь компетенции |
Точка перехода
Есть порог нагрузки, выше которого своя инсталляция открытой модели становится дешевле API. Этот порог считают индивидуально: сравнивают месячный счёт за токены с амортизацией GPU + зарплатой обслуживания. Для сервиса средней тяжести он часто наступает на уровнях «сотни миллионов токенов в месяц».
ROI автоматизации — как обосновать проект
Экономика AI-проекта защищается не экономией токенов, а результатом для бизнеса:
flowchart LR A["💵 Выгоды<br/>(время сотрудников, скорость,<br/>качество, новые возможности)"] B["💸 Затраты<br/>(API + инфраструктура + команда<br/>+ валидация + обучение)"] A --> ROI["📊 ROI = (Выгоды − Затраты) / Затраты"] B --> ROI
Что считать выгодой
- Время сотрудников, высвобожденное на более ценную работу.
- Скорость обработки (обращение закрывается за минуты вместо дней).
- Качество и единообразие (меньше человеческих ошибок).
- Новые возможности, которых раньше не было (например, анализ всех договоров, а не выборки).
Подробнее о том, как упаковывать это в стратегию и защиту перед бизнесом, — в 17-strategiya-i-roadmap.
📌 Что запомнить
- Бюджет считается в токенах; выходные дороже входных; русский текст дороже английского.
- Промпт-кэш — главный рычаг снижения стоимости повторяющихся частей.
- У агента стоимость кейса = сумма по всем шагам; сложность множит расходы.
- Скрытые расходы (retries, evals, человеческая валидация, поддержка) часто больше, чем сама модель.
- API выгоден на старте и неравномерной нагрузке; своя инсталляция — на высокой стабильной и при ограничениях по данным.
- ROI защищают выгодами для бизнеса, а не экономией на токенах.
Дальше: ✍️ Промпт-инжиниринг → — как правильно поставить задаче, чтобы получить нужный результат и не переплачивать.