19–30%рабочего дня уходит на поиск информации (McKinsey / IDC) — это и есть рынок, который закрывает RAG

74% → 89%recall@10: доля случаев, когда верный ответ попадает в топ результатов, после добавления реранкинга (Databricks)

+33–40%точность ответов от cross-encoder реранкинга за +~120 мс задержки (исследование RAG)

40–50%рутинных обращений закрывает поддержка с источниками в ответе, освобождая людей (RAG support benchmark)

Отраслевые решения

Что можно сделать на RAG

Все решения

Возможности

Возможности RAG

Источники: вики, регламенты, продуктовые данные, базыЧанкинг + эмбеддингиВекторное хранилище (pgvector / Qdrant)Запрос пользователяRetrieval: top-k кандидатовРеранкинг (cross-encoder): top-nLLM с заземлённым контекстомОтвет + ссылка на источник (provenance)

Линейная схема анти-галлюцинационного контура. Слева источники знаний (вики, регламенты, продуктовые данные, базы) → чанкинг и эмбеддинги → векторное хранилище (pgvector / Qdrant). Запрос пользователя идёт в retrieval (top-k кандидатов) → cross-encoder реранкинг (top-n лучших) → LLM получает только отобранный контекст → ответ с ссылкой на источник. Модель отвечает ТОЛЬКО по retrieved-контексту, а не по своей памяти; стрелка provenance ведёт от ответа обратно к исходному документу. Контур слабосвязанный — каждый блок (хранилище, retrieval, реранкер, LLM) заменяем независимо.

Retrieval поверх корпоративных источников

Модель отвечает по вашим документам, вики и базам, а не по «памяти» из интернета — сотрудник получает ответ за секунды вместо часов поиска по 19–30% потерянного дня.

Grounding и ссылки на источник

Каждый ответ показывает, из какого документа он взят — ответы проверяемы, а галлюцинации отсекаются на уровне архитектуры, а не уговоров модели.

Векторное хранилище (pgvector / Qdrant)

Семантический поиск по миллионам фрагментов: находит ответ по смыслу, а не по совпадению слов. pgvector — когда данные уже в Postgres, Qdrant — для нагруженного поиска с фильтрами.

Чанкинг и подготовка контента

Документы режутся на осмысленные фрагменты с метаданными — модель получает «меньше, но точнее» контекста, что напрямую поднимает релевантность и снижает стоимость запроса.

Реранкинг (cross-encoder)

Второй этап переупорядочивает кандидатов по реальной релевантности: recall@10 растёт с 74% до 89%, точность ответов — на 33–40% за ~120 мс. Высокий ROI при минимальной задержке.

Кэш выверенных ответов

Поверх RAG держим кэш заранее проверенных ответов на частые и критичные вопросы — система отдаёт готовый ответ, минуя ретрив, что ещё снижает галлюцинации. Это не llm-wiki: там знание заранее компилируется в выверенную базу и читается без поиска чанков (подход памяти Sloy). RAG и llm-wiki — разные слои и совмещаются.

RAG для поддержки и сотрудников

40–50% рутинных обращений закрываются автоматически с источником в ответе; внутренний ассистент сокращает время поиска регламента с минут до секунд.

Слабосвязанный, отчуждаемый стек

Хранилище, retrieval и модель разнесены: можно сменить LLM или векторную БД, не переписывая всё. Решение легко передать между командами и подрядчиками — без vendor-lock.

Оценка качества и анти-галлюцинации

Метрики precision@K, provenance coverage и hallucination rate встроены в пайплайн — качество ответов измеряется, а не декларируется, и не деградирует молча после изменений.

Подход

Как мы внедряем RAG

Без модификаций ядра

Не форкаем и не патчим ядро RAG. RAG остаётся на стандартной обновляемой версии — бизнес-логику выносим в отдельные микросервисы рядом, поэтому обновления платформы не ломают ваши доработки.

Международные стандарты, а не велосипеды

Там, где есть зрелое международное решение, используем его, а не изобретаем собственный протокол или платформу. Прежде чем писать код — изучаем, как задача уже решена в индустрии.

Отчуждаемость

Решение слабосвязанное и задокументированное: его можно передать между командами и подрядчиками без переписывания. Вы не привязаны к нам.

Совместимость с AI

RAG в AI-контуре

Grounding для любой LLM

RAG-слой подаёт проверенный контекст в модель (GPT, Claude, open-source) — заземляет ответы на ваши данные независимо от того, какую LLM вы используете сегодня и сменили завтра.

Связка с MCP / контекстным слоем

Корпоративную базу знаний подключаем к агентам через MCP как стандартный источник: RAG отвечает за «что знаем», MCP — за «как агент это берёт». Оба слоя отчуждаемы.

Работа за LLM & Security Gateway

Retrieval и обращения к модели проходят через шлюз: маршрутизация моделей, бюджеты, observability и обфускация ПДн перед отправкой — корпоративные знания не утекают наружу.

Фундамент для AI-агентов

Агенты, которые обслуживают пользователей и вводят данные, опираются на RAG как на источник истины — это превращает «болтливого» ассистента в инструмент, отвечающий по фактам.

Увязка с платформой Sloy

Sloy — корпоративная память: знание заранее компилируется в llm-wiki и читается без ретрива («No RAG»). RAG подключается к Sloy вторым слоем — на свежие и редкие факты, которых нет в выверенной базе. Grounding и провенанс работают под несколькими агентами и сценариями.

Новости

Что нового в RAG

Все новости

2026-07-16
NVIDIA выпустил Nemotron 3 Embed — открытые embedding-модели, №1 на RTEB
8B-модель набрала 78.5% на RTEB и 75.5% на MMTEB Retrieval — первое место в общем зачёте. 1B-вариант даёт 72.4% на RTEB (на 27% меньше ошибок против предыдущей 1B-версии), NVFP4-квантование сохраняет 99%+ точности BF16 при 2x throughput. Веса и рецепты обучения открыты, доступны на Hugging Face.

у Claude нет собственных открытых embedding-весов, retrieval-слой зависит от стороннего Voyage AI Anthropic Claude →
2026-07-16
LightOn выпустил мультимодальный reranker с одной шкалой релевантности для текста и сканов
LightOn-rerank-LW-2B (2B, LoRA-адаптер на Qwen3.5) ранжирует текстовые пассажи и сканы документов одной моделью и одной шкалой — 62.66 NDCG@10 на ViDoRe V3 против 59.18 у Qwen3-VL-Reranker-2B и 59.40 у jina-reranker-m0. 4B-вариант (64.69) обходит Qwen3-VL-Reranker-8B (64.23) вдвое меньшим числом параметров. Веса открыты на Hugging Face.

встроенный hybrid retrieval Elasticsearch (ELSER) текстовый — сканы/изображения на единой шкале релевантности LightOn закрывает отдельным reranker-слоем поверх Elasticsearch →
2026-05-19
Hugging Face выпустил семейство Ettin Reranker — 6 открытых cross-encoder моделей от 17M до 1B
17M-модель обходит 33M ms-marco-MiniLM-L12-v2 на +0.051 NDCG@10 (MTEB) вдвое меньшим числом параметров; 150M — сильнейший mid-tier reranker до 600M, обходит 596M Qwen3-Reranker-0.6B; 1B повторяет качество 1.54B teacher-модели (разница 0.0001 NDCG@10) при 2.4x более быстром инференсе. Apache 2.0, веса открыты.
2026-03-03
Isaacus выпустил Legal RAG Bench — end-to-end бенчмарк RAG для юрдокументов
4876 пассажей Judicial College of Victoria Criminal Charge Book + 100 экспертных вопросов добавлены в Massive Legal Embedding Benchmark (MLEB, октябрь 2025) — оценка не только retrieval, но и генерации ответа целиком.