Решения

Интеграции для обмена данными между IT-системами

Проектируем обмен данными между системами с помощью ESB, ETL и DWH, чтобы интеграции были управляемыми и масштабируемыми.

Наши клиенты

Клиенты и партнеры

Capital Group
ФСК
Самолёт
Точно
Dogma
Сбер Сити
FM Logistic
Danone
Рельеф-Центр
Pandora
Кенгуру
Saint-Gobain
Askona
FIX PRICE
Снежная Королева
Музторг
ТВОЕ
Greenway
Polaris
Campari
Яндекс
Лента
Международный бренд парфюмерии и косметики
Такси 369
РАЭК
EKF
ЛЭТУАЛЬ
Inventive Retail Group

Интеграции

Меняйте одну систему, не переписывая остальные

Интеграционный контур закрывает четыре болезни жёсткого обмена: потерю данных, каскад доработок, перегрузку источников и неконсистентность. ESB, Kafka и n8n решают разные задачи.

50потоков за 6 месяцев — ориентир скорости для ESB-проекта
48потоков на производстве с целевой слабосвязанной схемой
16xбыстрее могут запускаться типовые интеграции по сравнению с кодом

ESB

Маршрутизация, преобразование, гарантированная доставка и low-code сопровождение legacy-обменов.

Kafka

Durable log: событие хранится, перечитывается, несколько потребителей читают в своём темпе.

n8n

Быстрая оркестрация процесса и AI-шагов там, где не нужен тяжёлый event streaming.

источникконтракт данныхESB/Kafka/n8nмониторингпотребители

Интеграция систем — это организованный обмен данными между CRM, ERP, 1С, складом, сайтом и маркетплейсами: определено, кто источник каждой сущности, в каком виде она передаётся, с какой частотой и что происходит при отказе одной из систем. API-интеграция — один из способов такого обмена: подключение к программному интерфейсу конкретной системы. Разница практическая: API отвечает на вопрос «как достучаться до данных», интеграция систем — на вопрос «как устроен обмен во всём контуре».

Набор API сам по себе управляемого обмена не даёт: пока ETL-логика и хранение живут внутри самих систем, каждая новая связь добавляет зависимость, а отказ одного сервиса останавливает соседние. Мы выносим передачу в отдельный слой — ESB, ETL и хранилище (DWH или Data Lake), — чтобы системы перестали знать друг о друге, обмен стал наблюдаемым, а замена одной системы не тянула за собой каскад правок в остальных.

Ниже — типы интеграции и когда какой подходит, схема обмена через шину и хранилище, наш стек инструментов и ответы на частые вопросы об интеграции систем.

200+систем «1С:Розница», подключённых через единый API в одном из проектов
48потоков обмена, запущенных на ESB для производственного предприятия
1–2 мес.типовой срок проекта по risk-free-модели
>100 сообщений/минпропускная способность высоконагруженного потока без масштабирования источника

Что соединяем в единую IT-экосистему

Обмен «точка-точка» против шины данных

Обмен «точка-точка»

  • При отказе одной из систем данные теряются: источник считает сообщение переданным, а получатель его не принял.
  • Источник отдаёт данные как есть - каждый потребитель преобразует их под свой формат, любое изменение источника вызывает каскад правок.
  • Потребители дублируют запросы в систему-источник и перегружают её; чаще всего это старая монолитная система.
  • API внутри системы-источника: её недоступность блокирует всех потребителей сразу.

ESB и хранилище

  • При обрыве связи сообщение считается необработанным и передаётся в следующем проходе.
  • Изменение ERP или другой системы затрагивает только коннекторы «источник-хранилище», для потребителей всё остаётся без изменений.
  • Потребители обращаются в хранилище - нагрузка на источник снижается без доработок системы и без увеличения ресурсов.
  • API-коннекторы вынесены в отдельный сервис: они работают независимо от источника и держат высокую нагрузку.

Типы интеграции: точка-точка, брокер, ESB и iPaaS

Тип интеграции определяет не скорость первой разработки, а стоимость владения контуром. Разница между типами - в том, где относительно систем находятся ETL-функции и хранилище данных: чем ближе они к самим системам, тем сильнее системы зависят друг от друга.

Тип интеграцииКогда подходитЧем платитеГде ломается
«Точка-точка» — прямая связь двух системДве-три системы и простая логика: коробочные API и коннекторы позволяют запуститься быстроДёшево на старте, но ETL и хранение остаются внутри самих систем, и каждая новая связь добавляется рукамиСистемы знают друг о друге слишком много: недоступность источника останавливает потребителя, а новое поле в карточке запускает каскад правок во всех связанных интеграциях
Брокер сообщений — Kafka, RabbitMQ и аналогиСобытийный обмен, где важно не потерять сообщение и видеть ретроспективу доставкиИнфраструктура брокера и договорённость о едином формате: контракт «цементируется», менять его дорогоБрокер отдаёт очередь целиком — получатель забирает лишние данные и фильтрует их сам; после простоя брокера источник переотправляет всё накопленное
Шина данных (ESB) — отдельный слой ETL и хранилищМного систем и потоков, нужны фильтрация под потребителя, контроль нагрузки и независимость систем друг от другаАнализ архитектуры и проектирование до старта: основная часть бюджета уходит на подготовку, а не на кодЛомается от неверных границ: если переложить на промежуточный слой бизнес-логику, слабая связанность снова превращается в монолит
iPaaS — интеграционная платформа как облачный сервисSaaS-ландшафт и типовые сценарии, когда нужны визуальный конструктор и быстрое развёртываниеПодписка и зависимость от вендора: логика обмена и данные живут в его контуреУпирается в нетиповые сценарии и требования к размещению данных; сложную трансформацию всё равно приходится описывать руками

Развёрнутое сравнение с плюсами и минусами каждого типа - в статье Как выбрать тип интеграции. Как выбор типа влияет на связанность контура, разобрано в материале Интеграции для слабо связанной архитектуры, а сравнение конкретных продуктов - в обзоре ESB-решения на российском рынке.

Четыре задачи обмена, которые решает наш подход

Исключаем потерю данных при обмене

При обмене «точка-точка» в момент отказа одной из систем данные могут теряться: одна система считает сообщение переданным, когда вторая его не получила. Мы настраиваем интеграции так, что при обрыве связи сообщение считается необработанным и будет передано в следующем проходе.

Меняем IT-системы без изменения остальных

В старом подходе любое изменение источника влечёт каскад правок всех связанных потоков. У нас изменение ERP или любой другой системы затрагивает только коннекторы «источник-хранилище» - для всех потребителей всё остаётся без изменения.

Снижаем нагрузку без доработок и ресурсов

Одни и те же данные нужны разным системам, и потребители дублируют запросы в источник, увеличивая нагрузку. Потребители обращаются в хранилище, поэтому нагрузка на основной источник снижается без доработок самой системы и увеличения ресурсов.

API как отдельный сервис

Для подключения множества однотипных потребителей (например, розниц) API часто создаётся внутри системы, и её недоступность становится проблемой для всех. Мы создаём API-коннекторы не внутри сервиса, а отдельным сервисом - они работают независимо от источника и выдерживают высокую нагрузку.

Как устроен обмен через ESB и хранилище

Источники → хранилище → потребители

Системы-источники

ERP / 1Сосновные данные
CRMклиенты, сделки
Маркетплейсы и сайтызаказы, товары

Шина данных (ESB) + хранилище

Коннекторы «источник-хранилище»независимые микросервисы
DWH / Data Lakeобщее структурированное хранилище
Мониторинг и логированиеконтроль каждого потока

Потребители

Розницы и сервисычерез API-коннекторы
BI / аналитикаотчёты из готовых данных
Компоненты ESB не зависят друг от друга и могут работать на разных серверах в разных локациях. Отказ обмена любой из систем затрагивает только эту систему — всё остальное продолжает работать.

Доказываем на примере 1С: доступна любая логика трансформации

С готовым хранилищем данных внедрение BI становится проще

Внедряя ESB, мы создаём общее структурированное хранилище данных предприятия: Data Warehouse (DWH). К такому хранилищу легко подключить любую систему аналитики и выгрузки отчётов - все данные уже готовы. Архитектуру хранилища строим так, что формирование отчётов по большому массиву информации не снижает скорость ежедневного обмена данными.

Система мониторинга контролирует работу каждого потока

  1. Логируем ключевые этапы работы каждого потока.

  2. Если случится ошибка, которая требует реакции, вы получите сообщение в Telegram с описанием ошибки и ссылкой на подробности.

  3. Вы реагируете на инциденты проактивно, а не по обращениям пользователей.

  4. Оператор техподдержки точно знает, где и что пошло не по сценарию, - это помогает решить инцидент быстрее.

  5. Мы развернём систему мониторинга с нуля либо настроим мониторинг в вашей инфраструктуре.

Оценить, где ИИ даст эффект в вашем процессе

Типовая схема работы

  1. 01

    Проектирование слабо связанной архитектуры

    Анализируем действующую IT-архитектуру (ASIS), прорабатываем обмены по ключевым сущностям, проектируем архитектуру TOBE, готовим roadmap перехода, рекомендации по инструментам и документацию. Вы получаете план перехода с учётом особенностей бизнеса.

  2. 02

    Перевод самых актуальных потоков

    BPMN-схемы процессов, разворачивание и настройка компонент (ETL, хранилище, логирование, мониторинг), настройка коннекторов, сбор логов, документирование и обучение. Это решает 80% проблем обмена данными между системами.

  3. 03

    Перевод остальных потоков для наполнения хранилища

    BPMN-схемы процессов, настройка коннекторов, сбор логов и мониторинга, документирование и обучение. Вы получаете единый механизм обмена всего предприятия и полноту данных для аналитики.

Подбираем проверенные продукты с открытым кодом

Используем opensource-решения, поэтому клиенты сокращают расходы на лицензии без риска ограничений со стороны законодательства разных стран. Если у вас есть предпочтения, можем работать и с другими продуктами, в том числе с платной лицензией.

Стек инструментов под обмен данными

ETL

Talend (ETL)

Графическая low-code-студия для создания коннекторов, входит в Salesforce. Используем версию Community Edition.

DevOps

GitLab

Веб-инструмент жизненного цикла DevOps с открытым кодом: контроль версий и настройка прав доступа (ролей).

БД

PostgreSQL

Объектно-реляционная СУБД с открытым кодом - хранилище данных, активная разработка ведётся более 35 лет.

Логи

Elastic Stack

Хранение, анализ и поиск по логам на платформе Elasticsearch - корпоративная безопасность и наблюдаемость.

Мониторинг

Grafana

Дашборды о состоянии потоков: визуализация и анализ данных «из коробки» по широкому спектру источников.

Стек

Брокеры и BI на выбор

ActiveMQ, RabbitMQ, Kafka; ETL - Ballerina, Nifi, Datareon, WSO2, MuleSoft; БД - MongoDB, Hadoop, Arenadata; BI - Yandex DataLens, Redash, Google Data Studio, Microsoft Power BI.

Когда нужен собственный веб-сервис, а не обмен между готовыми системами

Часть задач не ложится ни в одну из существующих систем: расчёт, витрина для партнёра, публичный калькулятор. Такие сервисы мы разрабатываем и подключаем к тому же интеграционному контуру.

Расчётные сервисы и калькуляторы

Стоимость доставки, конфигуратор, предварительная смета: логика живёт в отдельном сервисе и вызывается сайтом, CRM и личным кабинетом одинаково, без дублирования правил в каждом канале.

API для партнёров и внешних систем

Публикуем контракт (REST, GraphQL или SOAP там, где этого требует контрагент), закрываем аутентификацией и лимитами, документируем. Партнёр интегрируется по спецификации, а не по переписке.

Порталы и личные кабинеты

Клиентский или подрядный кабинет как отдельное приложение поверх учётного контура: заявки, статусы, документы - без выдачи внешним пользователям доступа в 1С или ERP.

Не трогаем «тяжёлые» системы

Новая логика выносится в сервис рядом, а не в доработку ERP. Обновление платформы перестаёт быть риском для кастомной функциональности.

Куда идти дальше

Инструменты интеграции

Чем строим обмен и в каких задачах каждый инструмент оправдан.

  • DATAREON - корпоративная шина данных
  • Apache Kafka - событийный обмен
  • Talend ESB - джобы и трансформации
  • MuleSoft - переиспользуемые API
  • n8n - быстрая оркестрация процессов

Разобраться глубже

Разборы для тех, кто выбирает подход и проектирует обмен сам.

FAQ

Частые вопросы об интеграции систем

Что такое интеграция систем и чем она отличается от API-интеграции?

Интеграция систем - это организованный обмен данными между CRM, ERP, 1С, складом, сайтом и маркетплейсами: определено, кто источник каждой сущности, в каком виде она передаётся, с какой частотой и что происходит при отказе. API-интеграция - один из способов такого обмена: подключение к программному интерфейсу конкретной системы. API отвечает на вопрос «как достучаться до данных», интеграция систем - на вопрос «как устроен обмен во всём контуре». Набор API сам по себе управляемого обмена не даёт: без отдельного слоя передачи каждая новая связь добавляет зависимость между системами.

Какие бывают типы интеграции и как выбрать?

Основных типов четыре: «точка-точка», брокер сообщений, шина данных (ESB) и iPaaS. Различаются они тем, где относительно систем находятся ETL-функции и хранилище: при «точке-точке» и то и другое внутри самих систем, у брокера наружу вынесено хранение очереди, у ESB отделены и ETL-слой, и контур хранилищ. Выбор идёт от числа систем и потоков, требований к отказоустойчивости и от того, кто будет сопровождать обмен после запуска. Сравнение по четырём критериям - в таблице выше, развёрнутый разбор - в статье Как выбрать тип интеграции.

Чем ESB отличается от «точки-точки» и от брокера?

В интеграции «точка-точка» системы обмениваются напрямую и вынуждены знать о формате, скорости и доступности друг друга. Брокер выносит наружу хранение сообщений, но ETL-логика остаётся на стороне систем, а очередь отдаётся получателю целиком - фильтровать её приходится ему самому. ESB разделяет все три роли: система генерирует и потребляет данные, ETL-слой передаёт их в нужном виде, хранилище хранит. Поэтому шина фильтрует поток под конкретного потребителя и регулирует нагрузку на источник, а отказ одной системы не блокирует остальные. Оценка трёх типов по пяти критериям слабой связанности - в статье Интеграции для слабо связанной архитектуры.

Что делать, если у системы нет API?

Отсутствие API не закрывает интеграцию - меняется цена поддержки. Порядок выбора идёт от самого надёжного контракта к самому хрупкому: официальный API или webhook, затем регламентный файловый обмен (CSV, XML, SFTP, почта), затем CLI или SDK, затем собственный адаптер, и только в последнюю очередь browser automation для редких операций. Чем ниже уровень, тем меньше гарантий даёт вендор и тем больше мониторинга нужно с вашей стороны. Разбор всех уровней с примерами - в статье Интеграция без API: как подключить закрытую систему.

Из чего складывается стоимость и сроки интеграционного проекта?

Стоимость определяют число подключаемых систем, число сущностей в обмене, наличие готового доступа и сервера, а также режим передачи: пакетный обмен дешевле real-time. Проект идёт этапами - анализ текущей архитектуры, проектирование целевой схемы, перевод самых актуальных потоков, затем остальных, - и основная часть бюджета уходит не на код, а на анализ и проектирование до старта. Порядок сумм по своему ландшафту можно прикинуть в калькуляторе стоимости интеграционных потоков; результат, срок и стоимость мы фиксируем в документах до начала работ.

Как не потерять данные при обмене?

Потеря возникает там, где источник считает сообщение переданным, а получатель его не принял, - типичная ситуация для прямого обмена «точка-точка». Мы строим потоки так, что при обрыве связи сообщение остаётся необработанным и уходит в следующем проходе, а коннектор проверяет контракт системы - полноту и корректность данных - до отправки потребителю. Ключевые этапы каждого потока логируются: при ошибке, которая требует реакции, приходит сообщение в Telegram с описанием и ссылкой на подробности.

Материал

Таблица сравнения типов интеграций

Мы оценили, как три популярных типа интеграций влияют на качество IT-контура, и собрали результат в компактную таблицу сравнения. Отправьте заявку и получите файл бесплатно.

  • три типа интеграций в одном сравнении
  • влияние на качество IT-контура
  • бесплатно по заявке
Получить таблицу сравнения

Кейсы

Кейсы интеграций и ESB

Читать все

Отзывы

Отзывы клиентов по интеграционным проектам

Все отзывы

Команда KT.Team — зрелый партнер в разработке. Очень четко организован деливери-процесс, особенно стоит отметить слаженное взаимодействие внутри инженерной команды. Если команда видит, что процесс разработки нужно докрутить, она это делает. На этапе обсуждения команда вникает в суть задач, стремится понять бизнес-контекст. Работа нацелена не на формальное выполнение ТЗ, а на решение реальной проблемы. Благодаря сильной инженерной экспертизе и продуктовому мышлению, команде можно доверять не только реализацию, но и архитектуру всей системы.

Вадим Миженский Вадим МиженскийРуководитель управления разработки цифровых продуктов, ГК ФСК

Группа компаний Музторг успешно сотрудничает с командой KT.Team уже более двух лет. Нам очень помогает высокий профессионализм наших партнеров, умение сочетать четкую организацию проектной работы с минимизацией формальных ограничений. Отдельно хотел бы отметить доброжелательность и открытость сотрудников KT.Team.

Дмитрий Савельев Дмитрий СавельевСоветник правления по цифровому развитию, Музторг

Вы задали высокие стандарты взаимодействия с подрядчиками. После вас общение с другими вызывает ощущение несоответствия ожиданиям.

Дмитрий Столбов Дмитрий СтолбовCEO, Экосистема MechTech

Мы сотрудничаем с kt.team больше года и за это время прошли длинный путь — от быстрого запуска небольшого сайта до ознакомительного каталога и нескольких интеграций. Команда оперативно реагировала на наши запросы и дополнения к ТЗ, вместе мы протестировали несколько гипотез и выбрали самые рабочие. Всё это не помешало сообща создать проект с современным дизайном и функционалом, удобным как для пользователей, так и для сотрудников Maxxium.

Андрей ИвановРуководитель департамента цифровой трансформации, Maxxium

We came to KT.Team with a request to set up a platform to easily connect clients, carriers and WMS in FM Logistic France. The result was successively achieved, and by now we have onboarded a big client on the new platform — it's a great result! I'd like to especially note very good reactivity and professionalism of the project managers, devs and ops who always help us.

Eric DuboilleDirecteur Expertise E-Commerce, FM France SAS, FM Logistic

Вы знаете наш бизнес лучше, чем мы сами!

Максим Манхаев Максим МанхаевФаундер, Такси 369

Обсудить решение: Интеграциидля обмена данными между…

Отправить через: