# Руководство по созданию AI-агентов

Canonical: https://www.kt-team.ru/blog/prakticheskoe-rukovodstvo-po-sozdaniyu-agentov

Source: https://www.kt-team.ru/blog/prakticheskoe-rukovodstvo-po-sozdaniyu-agentov

11.06.2025

Практическое руководство по созданию агентов: подходящие кейсы, проектирование, оркестрация и защитные механизмы.

Canonical URL: https://www.kt-team.ru/blog/prakticheskoe-rukovodstvo-po-sozdaniyu-agentov

Original URI: /blog/prakticheskoe-rukovodstvo-po-sozdaniyu-agentov

## SEO / GEO Metadata

- Title: Руководство по созданию AI-агентов

- Description: Практическое руководство по созданию агентов: подходящие кейсы, проектирование, оркестрация и защитные механизмы.

- Canonical: https://www.kt-team.ru/blog/prakticheskoe-rukovodstvo-po-sozdaniyu-agentov

- Robots: not specified

- JSON-LD blocks: 2

‍**Практическое руководство по созданию агентов**

### Введение

Большие языковые модели (LLM) становятся всё более способными выполнять сложные, многошаговые задачи. Прогресс в рассуждении, мультимодальности и использовании инструментов открыл новую категорию LLM-систем - **агенты**.

Это руководство предназначено для продуктовых и инженерных команд, создающих своих первых агентов. В нём собраны практические рекомендации и лучшие практики: как выявить подходящие кейсы, спроектировать логику и оркестрацию агента, и как обеспечить его безопасность и предсказуемость.

После прочтения вы получите базовые знания, необходимые для уверенного старта.

## Что такое агент?

Обычное ПО помогает автоматизировать задачи, но **агенты выполняют эти задачи самостоятельно от имени пользователя**.

Агент - это система, которая самостоятельно выполняет рабочие процессы с высокой степенью автономии.

**Примеры рабочих процессов:** решение вопроса клиента, бронирование ресторана, коммит в репозиторий, создание отчёта.

**Важно:** если LLM не управляет выполнением процесса, а лишь обрабатывает отдельные шаги (например, чат-бот, классификатор), это не агент.

### Характеристики агента:

1. Использует LLM для принятия решений и управления процессом. Понимает завершённость задачи, может исправить действия или вернуть контроль человеку при ошибке.

2. Имеет доступ к инструментам (API, UI) и выбирает подходящие в зависимости от текущего состояния задачи, действуя в рамках защитных механизмов (guardrails).

## Когда стоит создавать агента?

Создание агентов - это переосмысление того, как системы принимают решения и справляются со сложностью.

В отличие от классической автоматизации, **агенты полезны там, где правило-подобные системы не справляются.**

**Пример:** традиционная система выявляет мошенничество по шаблонам, а агент анализирует контекст, улавливает нетипичные сигналы и действует как "опытный следователь".

### Идеальные кейсы для агентов:

1. **Сложные решения:** работа с неоднозначностями (например, возвраты в поддержке).

2. **Сложные правила:** системы с громоздкими условиями (например, проверка поставщиков).

3. **Неструктурированные данные:** понимание текста, диалога, документов (например, страховые заявления).

‍
{{cta}}

## Основы проектирования агентов

Базовые компоненты агента:

1. **Модель** - LLM, принимающая решения.

2. **Инструменты** - API, функции, UI-действия.

3. **Инструкции** - описание поведения и ограничений.

### Пример (Python):

python

CopyEdit

‍

### Выбор моделей

Разные модели подходят для разных задач: не всегда нужна самая "умная".

**Подход:**

- Постройте прототип на самой сильной модели.

- Потом пробуйте заменить задачи на менее дорогие модели.

### Принципы:

1. Запускайте eval-тесты.

2. Используйте лучшие модели для важной логики.

3. Оптимизируйте стоимость и задержку, снижая модель, где возможно.

[Руководство по выбору моделей OpenAI](https://platform.openai.com/docs/guides/model-selection)

### Определение инструментов

Инструменты - это API и функции, которые агент может вызывать.

Если API нет, используйте UI-интеракции, как делает человек.

### Типы инструментов:

| Тип | Назначение | Примеры |

| --- | --- | --- |

| Данные | Получение контекста | Поиск в базе, PDF, интернет |

| Действия | Изменение состояния | Email, обновление CRM |

| Оркестрация | Вызов других агентов как инструментов | агент-писатель, агент-исследователь |

### Пример:

python

CopyEdit

‍

### Настройка инструкций

Чёткие инструкции - залог успеха. Чем конкретнее - тем меньше ошибок.

### Лучшие практики:

- Используйте существующие регламенты и инструкции.

- Разбивайте задачи на пошаговые действия.

- Определяйте чёткие действия и результаты.

- Учитывайте исключения и варианты (например, если пользователь не дал данные).

### Пример генерации инструкций:

text

CopyEdit

"Вы эксперт по написанию инструкций для LLM-агента. Преобразуйте следующий документ из базы знаний в пошаговые инструкции в виде списка. Убедитесь, что всё чётко и без двусмысленностей."

### Оркестрация

Оркестрация - это структура выполнения задач агентом или группой агентов.

### Варианты:

1. **Одиночный агент** - выполняет весь процесс.

2. **Множественные агенты** - делят обязанности и вызывают друг друга.

### Одиночный агент

Управляет всеми инструментами и логикой. Работает в цикле до завершения задачи.

python

CopyEdit

Agents.run(agent, [UserMessage("What's the capital of the USA?")])

‍

Можно использовать шаблоны:

python

CopyEdit

"You are a call center agent talking to {{user_first_name}}. Their complaints are about {{user_complaint_categories}}..."

‍

### Когда делить на несколько агентов:

- Сложная логика (много условий).

- Перегрузка инструментов.

- Разделение по задачам (поиск, генерация, верификация и т.п.)

### Множественные агенты

### Шаблоны:

1. **Менеджер** - центральный агент вызывает подчинённых.

2. **Децентрализация** - агенты передают друг другу контроль.

### Паттерн менеджера

python

CopyEdit

‍

### Децентрализованный паттерн

python

CopyEdit

‍

## Защитные механизмы (Guardrails)

Guardrails - это меры для обеспечения безопасности, конфиденциальности и корректности.

**Типы защит:**

- **Классификатор релевантности** - отклоняет не по теме.

- **Фильтр безопасности** - защищает от prompt injection.

- **PII фильтр** - проверяет на утечку персональных данных.

- **Модерация** - фильтрует токсичный контент.

- **Оценка риска инструментов** - при высоком риске - подтверждение от человека.

- **Фильтры и блоклисты** - регулярные выражения, ограничения по длине.

- **Валидация ответа** - проверка соответствия бренду и тону общения.

### Пример Guardrail на отток клиента:

python

CopyEdit

‍

### Вмешательство человека

Иногда агент не справляется - нужен человек. Это особенно важно вначале, для сбора ошибок и улучшения.

**Когда вмешиваться:**

- Превышен лимит попыток.

- Высокий риск действия (например, возврат денег).

## Заключение

Агенты - это новый этап автоматизации, где системы:

- Рассуждают,

- Действуют через инструменты,

- Выполняют сложные задачи с высокой автономией.

### Советы:

1. Начинайте с одного агента и постепенно расширяйтесь.

2. Обеспечьте безопасность с помощью guardrails.

3. Используйте модели, инструменты и инструкции с умом.

4. Ориентируйтесь на итерации и улучшения.

## Дополнительные ресурсы:

- [API-платформа](https://openai.com/api/)

- [OpenAI для бизнеса](https://openai.com/business/)

- [Истории OpenAI](https://openai.com/stories/)

- [ChatGPT Enterprise](https://openai.com/chatgpt/enterprise/)

- [Безопасность OpenAI](https://openai.com/safety/)[‍](https://platform.openai.com/docs/overview)‍

- ‍[Документация разработчика](https://platform.openai.com/docs/overview)

{{cta}}