ИИ для продакшна: кто платит за интеграцию, пока модели дешевеют

Модели дешевеют - MiMo-V2.6-Pro обучили за $3М. Разбираем, почему конкурентное преимущество бизнеса теперь не в выборе модели, а в инженерии интеграции.

  • Повод: два заявления за одну неделю
  • Проблема, которую компании продолжают решать неправильно
  • Подход: TTU как метрика ценности инструмента
  • Как это устроено технически

Повод: два заявления за одну неделю

  1. За одну неделю прозвучали два заявления, которые на первый взгляд не связаны.

  2. Диого Алмейда, соавтор статьи InstructGPT и CEO стартапа TypeSafe AI, публично сказал: фронтир-модели последние годы шли не туда - вся индустрия оптимизировала чат-ассистента, а не надёжный движок для продакшна.

  3. Ролик запуска System One набрал около 40 млн просмотров - больше, чем у GPT-4o на старте (22 млн).

  4. Почти в те же дни Xiaomi выпустила MiMo-V2.6-Pro: модель на триллион параметров с 42 млрд активных (архитектура MoE), обученную за 3 млн долларов, и версию UltraSpeed, которая генерирует в 20 раз быстрее при том же качестве.

  5. Разные компании, разные континенты - один вывод: интеллект дешевеет быстрее, чем бизнес успевает встроить его в работу.

Проблема, которую компании продолжают решать неправильно

  1. Большинство ИТ-директоров всё ещё тратят кварталы на выбор модели: Claude против GPT, GigaChat против YandexGPT, открытые веса против API.

  2. Два года назад это была правильная задача - разброс качества между моделями измерялся десятками процентов.

  3. Сейчас модель за 3 млн долларов обучения показывает результат уровня прошлогоднего фронтира за 100+ млн.

  4. Выбор поставщика модели перестал быть конкурентным преимуществом и стал операционным решением уровня выбора облака.

  5. Реальный дефицит сместился туда, где бизнес его не замечает: в инженерию, которая соединяет модель с данными компании, правами доступа и рабочим процессом сотрудника.

Подход: TTU как метрика ценности инструмента

Алмейда формулирует претензию к индустрии предельно: модели тюнили под автокомплит диалога, а не под задачи, где ошибка стоит денег - финансовый расчёт, юридический документ, производственный процесс. Xiaomi в это же время оптимизировала не общий интеллект, а скорость отдачи: UltraSpeed существует потому, что для многих корпоративных сценариев секунда ожидания ответа стоит дороже, чем лишний балл в бенчмарке.

Здесь работает TTU - time to use: ценность инструмента измеряется тем, как быстро он превращается в результат на столе у пользователя, IQ модели вторичен. Простой на вид ответ бизнес-системы требует часов инженерной работы под капотом: разметки прав, кэширования, отказоустойчивости.

Оценить, где ИИ даст эффект в вашем процессе

Как это устроено технически

  1. Когда модель становится товаром, инженеры выносят задачу интеграции на уровень между моделью и бизнес-системой. Практически это три слоя.

  2. Первый - шлюз (LLM & Security Gateway), через который проходят все вызовы моделей: он маршрутизирует запрос к нужному провайдеру, режет чувствительные данные до отправки наружу и логирует всё для аудита.

  3. Второй - MCP как протокол, которым модель получает доступ к внутренним инструментам компании без переписывания каждой интеграции под каждую новую модель.

  4. Третий - RAG поверх собственной базы знаний компании: без него любая, даже самая дешёвая триллионопараметровая модель отвечает про мир вообще - про конкретный склад, договор или отчёт заказчика она ничего не знает.

  5. Смена модели-провайдера в такой архитектуре занимает день, а не квартал: меняется один компонент шлюза, а не весь стек.

Что это значит для тех, кто уже выбрал модель и застрял

Команды KT.Team строят такие контуры на 1С-Битрикс, Pimcore и заказных C#/Python-системах с этим расчётом: модель заменяема, инвестиция идёт в шлюз, MCP-слой и RAG под конкретные данные компании. Это и есть AI-native integration в практическом смысле - контур, который переживёт три поколения моделей подряд и не потребует переписывать бизнес-логику при каждом релизе очередного триллионопараметрового конкурента.

Вывод

Диого Алмейда прав насчёт диагноза: индустрия долго продавала витрину, а не инструмент для прод. Xiaomi показала цену вопроса в цифрах - 3 млн долларов на модель, которая ещё вчера стоила бы на порядок дороже. Компания, которая тратит месяцы на выбор поставщика модели вместо того, чтобы строить шлюз и RAG-контур под свои данные, оптимизирует не то звено. Результат в проде даёт инфраструктура, которая доставляет ответ модели туда, где решение действительно принимается. Ум самой модели тут вторичен.

Обсудить статью: ИИ для продакшна: кто платит за…

Укажите email или телефон, чтобы мы могли вам ответить.

Отправить через: