openJiuwen 0.1.19: самообучающемуся агенту метрику задаёт бизнес

Авторы выделяют шесть направлений: самоэволюция агента, оркестрация команд, жизненный цикл навыков (Skill), надёжность рантайма, безопасность и наблюдаемость.

Конкретные изменения: - Reward Engine RFC.

Проект спецификации модуля, который оценивает действия агента и выдаёт числовую награду.

От этой оценки зависит, какое поведение агент закрепит. - TTSE dual-track online evolution.

Агент меняет поведение на лету по двум параллельным трекам.

Архитектура описана в RFC, поэтому детали стоит сверять с исходниками. - Team Organization и планировщик.

Несколько агентов получают роли, планировщик распределяет между ними задачи. - Proactive Context Service.

Сервис подбирает агенту контекст заранее, до запроса. - Skill-пакеты.

Навыки ставятся как пакеты, встроенные навыки доступны сторонним агентам. - Потоковые аргументы tool-call и расширенные файловые инструменты.

Интерфейс получает аргументы вызова инструмента по частям и может показывать прогресс. В список исправлений попали восстановление команды агентов после сбоя, оценка RSI (recursive self-improvement, рекурсивное самоулучшение) и интеграция с memory-server.

Судя по этим пунктам, слабые места фреймворка сейчас находятся в отказоустойчивости команд и в памяти агента.

Обычный LLM-агент работает по инструкции: промпт, инструменты, ответ.

Ошибку он повторит, пока инженер не поправит промпт.

Самоэволюционирующий агент собирает сигнал о качестве своих действий и по нему корректирует стратегию. Этот сигнал и называется наградой. Награду определяет человек.

Если агент службы поддержки получает награду за закрытый тикет, он научится закрывать тикеты, и доля решённых проблем при этом может упасть. В машинном обучении это называется reward hacking: система оптимизирует число, которое бизнесу не нужно.

Поэтому внедрение Reward Engine упирается в зрелость управления раньше, чем в код. Руководитель, который не может сформулировать метрику результата для сотрудника, не сформулирует её и для агента.