Haiku 5.5 по цене Luna: что делать с токеном за $0,10

При таких тарифах риск сидит в длинных запросах.

Запрос на 99 000 входных токенов стоит около $0,01.

Запрос на 101 000 токенов по верхнему тарифу выйдет примерно на $0,05, если новая цена применяется ко всему запросу.

Если она применяется только к токенам сверх порога, разница будет меньше. Заметка

Уиллисона этого не уточняет, поэтому условие нужно проверить в документации Anthropic до того, как закладывать бюджет.

Для архитектуры отсюда следует простое правило: контекст нужно считать и ограничивать. Агент, который на каждом шаге добавляет в промпт всю историю диалога, пересечёт порог незаметно, и счёт вырастет в пять раз без единой правки в коде.

Для этого существует RAG: из базы знаний в модель попадают нужные 5-10 тысяч токенов, а корпус целиком остаётся в хранилище.

В те же дни OpenAI выпустила Decisions API, а

Уиллисон сделал для него плагин llm-openai-decisions.

Модель gpt-6-luna в этом режиме принимает текст и изображения, и деньги берутся только за вход: 10 центов за миллион токенов. У конкурирующего Jev принцип такой же, а цена ниже, 4,2 цента.

Это подходит для задач с коротким структурированным ответом: выбрать категорию, подтвердить соответствие, принять решение по правилу.

Стоимость операции известна заранее, потому что зависит только от размера входа, а его контролируем мы сами.

Прайс-лист меняется раз в месяц, а интеграция живёт годами.

Поэтому вызовы моделей не стоит зашивать в бизнес-логику.

Мы строим их через LLM & Security Gateway: единую точку, через которую идут запросы, где считаются токены, применяются лимиты на размер контекста и фильтруются данные.

Смена Haiku на Luna или обратно в такой схеме сводится к правке маршрута, а код сервиса остаётся прежним. То же относится к инструментам.

Если у модели есть доступ к системам через MCP, при замене поставщика меняется только модель, а набор инструментов остаётся на месте.

Это и есть AI-native интеграция: вокруг модели построен слой, который от конкретной модели не зависит, и поэтому модель можно заменить.

Дешёвые токены нужнее всего там, где операций много: массовое обогащение карточек товаров, расстановка фасетов, поддержка таксономии, правки тегов в каталогах на Pimcore или Akeneo.

На такой нагрузке разница между $2 250 и $225 в месяц попадает в смету.

Решение о переходе стоит принимать после замера качества на собственных данных.

Скидка в десять раз открывает много задач.

Следить стоит за стоимостью решённой задачи: цена токенов, умноженная на число попыток, плюс цена ошибки.

Дешёвая модель, которая ошибается вдвое чаще, может обойтись дороже.

Это проверяется замером на 200-300 размеченных примерах.

Мой порядок действий: взять два-три реальных процесса, прогнать их через обе модели, посчитать стоимость верного результата и убедиться, что запросы остаются ниже порога в 100 000 токенов.

По нашей оценке, на выбор модели после этого уйдёт около одного дня.

Когда цены у поставщиков совпадают, решает качество на ваших данных.