MySQL数据 实时同步到Kafka --Binlog canal、Maxwell、Kafka Connect 实现MySQL增量同步

1、需求分析 早期业务借助Sqoop将Mysql中的数据同步到Hive、hdfs来进行数据分析,使用过程当中也带来了一些问题:html 虽然Sqoop支持增量同步但还属于粗粒度的离线同步,没法知足下游数仓实时性的需求(可能一个小时,或者一天)  每次同步Sqoop以sql的方式向Mysql发出数据请求也在必定程度上对Mysql带来必定的压力 同时Hive对数据更新的支持也相对较弱,因为Hive自己
相关文章
相关标签/搜索