Пятикратное падение цены токена не окупает AI-проекты

Latent Space в обзоре AI Twitter описывает запуск GPT-6.1 Sol и Sonnet 5.5 как сдвиг границы «стоимость-качество». Цифры, которые подтверждает обзор: Sol стоит $2/$10 за миллион входных/выходных токенов, Astra стоит $10/$50.

Там же сообщается, что Sol обходит GPT-6 Sol на 6,4 пункта.

По какому бенчмарку, из имеющегося у нас фрагмента неясно.

Поэтому качество мы сравниваем только после собственного прогона на своих данных, а цифре из твита не доверяем.

По нашей оценке, в типичном проекте токены занимают малую часть стоимости владения.

Основные деньги уходят на подготовку данных, интеграцию с учётными системами, контроль качества ответов и безопасность.

Дешёвая модель убирает самую заметную строку в смете, остальные строки остаются прежними.

Дешёвые выходные токены создают отдельный эффект.

Когда генерация подешевела в пять раз, команды просят модель писать больше: развёрнутые отчёты, длинные описания, многошаговые рассуждения.

Объём растёт, а время до результата для пользователя может остаться прежним.

Мерить стоит TTU (time to use), то есть время от запроса до применимого результата.

Число сгенерированных страниц о результате ничего не говорит.

Цены падают, модели выходят каждые несколько недель, и компании нужен собственный слой между моделью и бизнес-процессом.

Он решает четыре задачи. Маршрутизация.

Запрос уходит на модель, подходящую по цене и качеству именно для этой задачи: классификация на дешёвую, юридическая экспертиза на сильную. В LLM & Security Gateway KT.Team это одна точка входа с политиками.

Смена провайдера (OpenAI, Anthropic Claude, Google Gemini или Sber GigaChat) сводится к правке строки в конфигурации, код приложений остаётся прежним. Контекст.

Из 20 тысяч входных токенов в примере выше полезна только часть. RAG отбирает нужные фрагменты, вход сокращается в разы, точность растёт.

Такая экономия больше любой скидки провайдера. Доступ к системам.

Модель без доступа к 1С, Bitrix, Pimcore или Odoo может только рассуждать.

Через MCP она читает остатки, создаёт заказ, обновляет карточку товара.

Здесь появляется результат, который видно в отчёте. Безопасность.

Дешёвый токен подталкивает пускать в модель больше данных.

Шлюз маскирует персональные данные и коммерческую тайну до выхода во внешний контур и ведёт аудит.

Первое: пересчитайте реестр отложенных AI-идей.

Часть из них отвалилась из-за цены, и стоит проверить, какие вернулись в диапазон окупаемости. Второе: не привязывайте себя к одной модели ни контрактом, ни кодом.

По обзору Latent Space, границу цены и качества за один выпуск сдвинули сразу два релиза, и следующий сдвиг придёт скоро. Третье: требуйте от каждого пилота одну метрику, видимую в P&L.

Пилот без неё остаётся театром, и дорого за него платит тот, кто его заказал.