项目简介

Exchangis是一个轻量级的、高扩展性的数据交换平台,支持对结构化及无结构化的异构数据源之间的数据传输,在应用层上具有数据权限管控、节点服务高可用和多租户资源隔离等业务特性,而在数据层上又具有传输架构多样化、模块插件化和组件低耦合等架构特点。

Exchangis的传输交换能力依赖于其底层聚合的传输引擎,其顶层对各类数据源定义统一的参数模型,每种传输引擎对参数模型进行映射配置,转化为引擎的输入模型。每聚合一种引擎,都将增加Exchangis一类特性,对某类引擎的特性强化,都是对Exchangis特性的完善。默认聚合以及强化Alibaba的DataX传输引擎。

核心特点

  • 数据源管理以绑定项目的方式共享自己的数据源;设置数据源对外权限,控制数据的流入和流出。
  • 多传输引擎支持传输引擎可横向扩展;当前版本完整聚合了离线批量引擎DataX、部分聚合了大数据批量导数引擎SQOOP
  • 近实时任务管控快速抓取传输任务日志以及传输速率等信息,实时关闭任务;可根据带宽状况对任务进行动态限流
  • 支持无结构化传输DataX框架改造,单独构建二进制流快速通道,适用于无数据转换的纯数据同步场景。
  • 任务状态自检监控长时间运行的任务和状态异常任务,及时释放占用的资源并发出告警

与现有的系统的对比

对现有的一些数据交换工具和平台的对比:

数据交换平台_从零开始理解大数据架构之数据交换平台-编程知识网

整体设计

架构设计

数据交换平台_从零开始理解大数据架构之数据交换平台-编程知识网

项目开源地址:https://gitee.com/WeBank/Exchangis