canal 1.1.2 发布，阿里 MySQL Binlog 增量订阅&消费组件 - OSCHINA

安宇雨 - 随手采集
2019-09-11 14:27:28
随手采集
0000-未整理-等待研究

canal 1.1.2 已发布，更新内容如下：

功能新增

支持mysql8.0的binlog解析【BinlogChange(MySQL8)】
canal提供内置的客户端能力【ClientAdapter】

同步到HBase wiki
同步到Rdb(支持mysql/pg/oracle/sqlserver) wiki
同步到ES wiki
目前adapter为支持更多常见的目标存储，会处于快速迭代中，不同版本之间会有接口调整，请及时关注文档

RocketMQ消息支持直接投递至aliyun ons(RocketMQ云服务) #1169

功能重构

MQ消息发送的配置相关从mq.yml调整至canal.properties，支持了auto scan的能力，请关注最新的配置文档 wiki

小需求&bugfix

修复mysql binlog文件名解析乱码问题 #1189
修复修复TableMeta TSDB在每天定时snapshot因filter变化导致失败 #1168
修复canal docker支持MQ模式启动失败问题 #1087
修复TableMeta TSDB支持int display width不一致问题 #1100
修复rocketmq&kafka 发送消息失败时回滚后继续提交的问题 #1104
修复alter rename 的ddl 类型解析错误的问题 #1103
修复FlatMessage 中data过滤掉了 value null的column #1120
优化aliyun rds oss binlog下载的能力，支持基于位点自动回溯 #1076

canal 是阿里巴巴 MySQL 数据库 Binlog 的增量订阅&消费组件。

早期，阿里巴巴 B2B 公司因为存在杭州和美国双机房部署，存在跨机房同步的业务需求。不过早期的数据库同步业务，主要是基于 trigger 的方式获取增量变更，不过从2010年开始，阿里系公司开始逐步的尝试基于数据库的日志解析，获取增量变更进行同步，由此衍生出了增量订阅&消费的业务，从此开启了一段新纪元。

ps. 目前内部版本已经支持 mysql 和 oracle 部分版本的日志解析，当前的 canal 开源版本支持5.7及以下的版本(阿里内部 mysql 5.7.13, 5.6.10, mysql 5.5.18 和 5.1.40/48 )

基于日志增量订阅&消费支持的业务：