Агенты в проде: модель дешевле, чем контур контроля вокруг неё

AWS разобрал пять сценариев: - Claude Code на Amazon Bedrock в GovCloud: ИИ-разработка для организаций с экспортным и регуляторным контролем. -

Навык `aws-ai-ml` в Agent Toolkit for AWS.

Он даёт кодовым агентам (Kiro, Claude Code, Codex) знания об оптимизации инференса в SageMaker: агент гоняет бенчмарки эндпойнтов, сравнивает прогоны и генерирует код на SageMaker Python SDK v3. -

Идемпотентный MCP-сервер на Bedrock AgentCore, который переносит агентов, коннекторы, базы знаний и потоки Amazon Quick из dev-аккаунта в production. -

Она доступна на Bedrock без собственной инфраструктуры инференса.

Мы читаем эти новости как одну тему: AWS описывает, как эксплуатировать агентов, и выпускает для этого инструменты наравне с моделями.

Агента нельзя перенести в продуктивный контур без ручной пересборки.

Никто не может объяснить, почему он принял конкретное решение.

Служба безопасности запрещает пропускать данные клиентов через внешний API.

Бюджет потрачен, метрика осталась на месте, проект получает ярлык «эксперимент», а руководитель, который его одобрил, отвечает за потерянные деньги.

Материалы AWS закрывают эти три дыры: перенос между средами, проверяемое качество и допустимый периметр данных.

Доступность Claude в GovCloud показывает, как изменился вопрос в регулируемых отраслях.

Раньше компании спрашивали, можно ли использовать ИИ.

Одну задачу можно решать несколькими моделями с разной ценой и разной юрисдикцией.

Для этого нужен единый слой, через который идёт трафик к моделям: политики доступа, маскирование данных, журнал запросов и маршрутизация. В нашей практике этот слой называется LLM & Security Gateway.

Он позволяет сменить модель без переписывания приложений.

Объём сгенерированного кода для этой оценки ничего не говорит. Операция «подобрать конфигурацию инференса»

выглядит простой, но требует знаний, которые раньше хранили один-два специалиста. Теперь эти знания можно упаковать и воспроизвести.

Перед запуском агента в production стоит получить ответы на четыре вопроса: - Воспроизводимость переноса.

Можно ли выкатить агента в прод одной идемпотентной операцией с журналом? - Метрика качества.

Назначен ли до запуска измеримый критерий полезности и объяснимости? - Периметр данных.

Какие данные уходят к модели, где она работает и кто это видит? - Замена модели.

Сколько усилий займёт переход на другую модель, если изменятся цена или условия?

Если хотя бы на один вопрос нет ответа, у компании демо, и до системы ему далеко.

Пять публикаций AWS читаются как руководство по эксплуатации агентов.

Модель занимает в нём одну строку, остальное описывает релизы, аудит, оценку и периметр.

Эти элементы отделяют ИИ, который двигает метрику, от ИИ, который хорошо смотрится на презентации.

Бизнес платит за результат, а результат обеспечивает контур вокруг модели.

Инженеры строят его заранее, до первого запуска.