#ai

Модели решений: LLM без текста, только числа для бизнеса

Jev и System One models меняют LLM: вместо текста - числа-решения. Как это ускоряет процессы и какие риски несёт без контроля и аудита.

  • Текст как интерфейс - узкое место
  • Как устроен Jev
  • Где это меняет экономику
  • Простое снаружи - инженерия внутри

Текст как интерфейс - узкое место

TypeSafe AI показала Jev - модель, которая берёт текст на входе и отдаёт на выходе числа: категорию, вероятность, ответ да/нет с уровнем уверенности. Саймон Уиллисон и Мэгги

Эпплтон предлагают называть это «моделями решений» - точнее, чем маркетинговый ярлык System One.

Для бизнеса это сигнал: следующий слой LLM-контуров будет принимать решения, минуя текст.

Большинство бизнес-систем с LLM внутри устроены криво:

  • модель пишет прозу
  • а дальше инженер городит парсер
  • regex или JSON-mode
  • чтобы вытащить из этой прозы «одобрить/отклонить»
  • число от 0 до

Каждый такой слой - источник ошибок и задержки.

Модель может передумать формат, добавить вежливое вступление, сломать JSON лишней запятой.

Модель отвечает быстро сама по себе

TTU - время от запроса до готового решения - растёт на этапе разбора текста после ответа.

Как устроен Jev

TypeSafe формулируют это так: «frontier-intelligence function call: неструктурированное состояние на входе, типизированные вероятностные решения на выходе». То есть модель держит контекст и рассуждение на уровне LLM и отдаёт откалиброванную оценку с доверительным интервалом вместо абзаца текста. Это ближе к классификатору или скоринговой модели, чем к чат-боту - но с пониманием контекста, которое раньше было доступно только генеративным моделям.

Где это меняет экономику

Скоринг заявок на кредит, модерация контента, квалификация лида, маршрутизация тикета в поддержке - везде, где решение выражается числом или вероятностью. Убрать промежуточный парсинг - значит снизить число точек отказа, удешевить инференс на масштабе (числа короче абзацев) и превратить решение в метрику, которую логируют и проверяют автоматически.

Оценить, где ИИ даст эффект в вашем процессе

Почта clients@kt.team Telegram @kt_team_it

Простое снаружи - инженерия внутри

  1. Подключить модель решений к пайплайну - не значит заменить один вызов API на другой.

  2. Нужно решить: где хранится порог уверенности, что происходит при низкой confidence, кто и как аудирует решения задним числом. В обсуждении MCP

  3. Уиллисон замечает: агенту без ограничений вроде Claude Code MCP не нужен - он и так может дёргать любой API. А вот системе, которая должна работать предсказуемо, нужен слой контроля: какие сервисы доступны, как выдаётся авторизация без утечки ключей, где интерфейс для подключения новых источников.

  4. Модель решений подчиняется той же логике: ценность - в контуре вокруг выхода-числа: авторизация, лимиты, журнал действий.

  5. Мы в KT.Team собираем такой контур как LLM & Security Gateway именно потому, что голая модель без него - это цифра, за которую никто не отвечает.

Цена контура без контроля

  1. Случай из практики Anthropic: их собственный тест на кибератакующие возможности вышел за пределы песочницы - агент Claude загрузил вредоносный пакет на PyPI, решив, что раз песочница отрезана от интернета, никаких последствий не будет.

  2. Модель не была злонамеренной - она ошиблась в оценке собственного окружения, а система выполнила действие без проверки.

  3. Для текстового ответа такая ошибка - абзац, который редактор вычеркнет при ревью.

  4. Для модели решений та же ошибка становится действием: одобренным платежом, пропущенным тикетом, открытым доступом.

  5. Чем ближе выход модели к прямому действию, тем дороже отсутствие песочницы, лимитов и журнала.

Вывод

Модели решений - логичный шаг: бизнесу нужны числа, которые можно сразу использовать, без прозы на разбор. Но выигрыш - в дисциплине вокруг модели: типизированный выход, порог уверенности, аудит, изоляция, которая действительно изолирует. Компании, которые выстроят этот контур, получат замену хрупким классификаторам и regex-паразитам на выходе LLM - быстрее, дешевле и с понятным логом решений.

Те, кто просто заменит текстовый вызов на числовой без инженерии вокруг, повторят историю с PyPI на реальных бизнес-решениях - уже без песочницы.

Обсудить статью: Модели решений: LLM без текста, только…

Укажите email или телефон, чтобы мы могли вам ответить.

Отправить через:

Нажимая кнопку, вы принимаете оферту и предоставляете согласие на обработку персональных данных.

Похожие кейсы

Все кейсы

Связанные решения

Все решения
Автоматизация бухгалтерских процессов с ИИ: 13 сценариевПлатформа ИИ-агентов: зачем нужна и какие есть открытыеИИ-агентный спринт для руководителейРазработка ИИ-агентов: один процесс за 1–2 недели

Статьи по теме

Подборка про ИИ в бизнесе

Видео по теме

Все видео
Shorts Какой “KPI” Amazon определила разработчикам в эпоху ИИ? AIКоманды и наймУправление
Shorts Не успеваешь за ИИ? Развивай коммуникацию и ответственность AI
Shorts ИИ не усиливает слабых! AI

Новости по теме

Все новости