19–30%рабочего дня уходит на поиск информации (McKinsey / IDC) — это и есть рынок, который закрывает RAG

74% → 89%recall@10: доля случаев, когда верный ответ попадает в топ результатов, после добавления реранкинга (Databricks)

+33–40%точность ответов от cross-encoder реранкинга за +~120 мс задержки (исследование RAG)

40–50%рутинных обращений закрывает поддержка с источниками в ответе, освобождая людей (RAG support benchmark)

Отраслевые решения

Что можно сделать на RAG

Все решения

Возможности

Возможности RAG

Источники: вики, регламенты, продуктовые данные, базыЧанкинг + эмбеддингиВекторное хранилище (pgvector / Qdrant)Запрос пользователяRetrieval: top-k кандидатовРеранкинг (cross-encoder): top-nLLM с заземлённым контекстомОтвет + ссылка на источник (provenance)

Линейная схема анти-галлюцинационного контура. Слева источники знаний (вики, регламенты, продуктовые данные, базы) → чанкинг и эмбеддинги → векторное хранилище (pgvector / Qdrant). Запрос пользователя идёт в retrieval (top-k кандидатов) → cross-encoder реранкинг (top-n лучших) → LLM получает только отобранный контекст → ответ с ссылкой на источник. Модель отвечает ТОЛЬКО по retrieved-контексту, а не по своей памяти; стрелка provenance ведёт от ответа обратно к исходному документу. Контур слабосвязанный — каждый блок (хранилище, retrieval, реранкер, LLM) заменяем независимо.

Retrieval поверх корпоративных источников

Модель отвечает по вашим документам, вики и базам, а не по «памяти» из интернета — сотрудник получает ответ за секунды вместо часов поиска по 19–30% потерянного дня.

Grounding и ссылки на источник

Каждый ответ показывает, из какого документа он взят — ответы проверяемы, а галлюцинации отсекаются на уровне архитектуры, а не уговоров модели.

Векторное хранилище (pgvector / Qdrant)

Семантический поиск по миллионам фрагментов: находит ответ по смыслу, а не по совпадению слов. pgvector — когда данные уже в Postgres, Qdrant — для нагруженного поиска с фильтрами.

Чанкинг и подготовка контента

Документы режутся на осмысленные фрагменты с метаданными — модель получает «меньше, но точнее» контекста, что напрямую поднимает релевантность и снижает стоимость запроса.

Реранкинг (cross-encoder)

Второй этап переупорядочивает кандидатов по реальной релевантности: recall@10 растёт с 74% до 89%, точность ответов — на 33–40% за ~120 мс. Высокий ROI при минимальной задержке.

Кэш выверенных ответов

Поверх RAG держим кэш заранее проверенных ответов на частые и критичные вопросы — система отдаёт готовый ответ, минуя ретрив, что ещё снижает галлюцинации. Это не llm-wiki: там знание заранее компилируется в выверенную базу и читается без поиска чанков (подход памяти Sloy). RAG и llm-wiki — разные слои и совмещаются.

RAG для поддержки и сотрудников

40–50% рутинных обращений закрываются автоматически с источником в ответе; внутренний ассистент сокращает время поиска регламента с минут до секунд.

Слабосвязанный, отчуждаемый стек

Хранилище, retrieval и модель разнесены: можно сменить LLM или векторную БД, не переписывая всё. Решение легко передать между командами и подрядчиками — без vendor-lock.

Оценка качества и анти-галлюцинации

Метрики precision@K, provenance coverage и hallucination rate встроены в пайплайн — качество ответов измеряется, а не декларируется, и не деградирует молча после изменений.

Подход

Как мы внедряем RAG

Без модификаций ядра

Не форкаем и не патчим ядро RAG. RAG остаётся на стандартной обновляемой версии — доработки выносим в отдельные модули или сервисы. Перед обновлением проверяем совместимость модулей и интеграций на тестовом контуре.

Международные стандарты, а не велосипеды

Там, где есть зрелое международное решение, используем его, а не изобретаем собственный протокол или платформу. Прежде чем писать код — изучаем, как задача уже решена в индустрии.

Отчуждаемость

Решение слабосвязанное и задокументированное: его можно передать между командами и подрядчиками без переписывания. Вы не привязаны к нам.

Совместимость с AI

RAG в AI-контуре

Grounding для любой LLM

RAG-слой подаёт проверенный контекст в модель (GPT, Claude, open-source) — заземляет ответы на ваши данные независимо от того, какую LLM вы используете сегодня и сменили завтра.

Связка с MCP / контекстным слоем

Корпоративную базу знаний подключаем к агентам через MCP как стандартный источник: RAG отвечает за «что знаем», MCP — за «как агент это берёт». Оба слоя отчуждаемы.

Работа за LLM & Security Gateway

Retrieval и обращения к модели проходят через шлюз: маршрутизация моделей, бюджеты, observability и обфускация ПДн перед отправкой — корпоративные знания не утекают наружу.

Фундамент для ИИ-агентов

Агенты, которые обслуживают пользователей и вводят данные, опираются на RAG как на источник истины — это превращает «болтливого» ассистента в инструмент, отвечающий по фактам.

Увязка с платформой Sloy

Sloy — корпоративная память: знание заранее компилируется в llm-wiki и читается без ретрива («No RAG»). RAG подключается к Sloy вторым слоем — на свежие и редкие факты, которых нет в выверенной базе. Grounding и провенанс работают под несколькими агентами и сценариями.

Новости

Что нового в RAG

Все новости

2026-08-21
Papers with Code: гибридный поиск на 110k+ статей через HF Inference/Jobs/Buckets
Продакшн-пример RAG-инфры: PostgreSQL full-text + семантика на Qwen3-Embedding-0.6B (256-мерные Matryoshka-векторы), эмбеддинг корпуса батчами на HF Jobs (L4, ~75 статей/сек), Storage Buckets как версионированный слой между compute и БД, объединение через Reciprocal Rank Fusion с fallback на lexical-only при таймауте.

здесь батч-джобы вместо стриминга — офлайн-переиндексация, не realtime pipeline Apache Kafka →
2026-08-18
Sentence Transformers v6.0: multi-vector (late interaction) энкодеры
Новый класс MultiVectorEncoder — ColBERT-подобный late interaction поверх dense/sparse моделей уже в библиотеке. Точнее на нюансах (токен-в-токен MaxSim вместо сжатия в один вектор), но индекс на порядки тяжелее: 311.5 МБ vs 7.5 МБ dense на 4874 пассажах Natural Questions. 40+ открытых чекпойнтов (LateOn, mLateOn, ColBERT, ColPali) на HF Hub.
2026-04-09
Sentence Transformers v5.4: мультимодальные эмбеддинги и реранкеры
Единый API для энкодинга и сравнения текста, изображений, аудио и видео одной моделью; реранкеры тоже стали мультимодальными (Qwen3-VL, BAAI BGE-VL, NVIDIA Nemotron — все открытые веса). Паттерн retrieve-and-rerank теперь работает поверх смешанного контента — база под RAG по визуальным документам и скриншотам, а не только тексту.
2025-09-04
EmbeddingGemma: компактная embedding-модель Google для RAG
EmbeddingGemma-300M (открытые веса, Apache 2.0) — топ MTEB multilingual среди моделей до 500M, контекст 2048 токенов, Matryoshka-эмбеддинги с усечением с 768 измерений. На медицинском домене файнтюн обошёл более крупный Qwen3-Embedding-0.6B: 0.8862 против 0.8493 NDCG@10.