温馨提示:文本由机器自动转译,部分词句存在误差,以视频为准
00:00
数据同步平台Miss call整库实时同步到Doris,您还有整库实时同步配置繁琐又费时的烦恼吗?今天All data带您体验这个操作简易高效的同步方式。同步前先查看原端的数据情况,Test tends这个数据表有13条数据,Test card的这个数据表有10条数据,现在查看目标端是否已有数据表,通过关键字快速搜索没有找到数据表,这两个表在目标端不存在。现在打开数据同步平台,创建整控实时同步任务,这里创建任务前检查源端和目标端数据源是否能正常连接,前置检查没问题后,现在可以正式创建数据整。
01:00
库实时同步,这里选择整库同步,选择source节点,拖拽到操作区中并双击进行设置。整库同步下只有多表同步模式可选。这里设置从哪个数据库读取哪些数据表。这里是一次从MYSQL读多少行数据,每次网络传输抓取多少行。这里注意如果这两个数值设置过大,会导致任务运行超时或内存溢出。这里设置是每条数据只同步一次,不重复,不丢失。这里任务设置持续运行,同步完成后,数据实时更新会自动同步,设置完成后记得要检查模型输入和输出是否一致。
02:00
这里输入表和输出表的字段结构需要一致,数据同步才精准无误。选择SK拖拽到操作区,并按source到sink的顺序连接起来。这里设置处理好的数据要送到哪个数据库以及怎么连接数据用什么格式写进去。这个设置了直接把新数据追加到表的末尾,这个设置了如果数据表不存在,则创建表后再写入数据。最后这里设置工作模式是实时模式,点击保存即可完成。
03:00
在列表中找到同步任务,点击运行开始同步,开始运行后再同步任务。实例中根据任务类型点击实时同步,这里可以随时暂停或恢复运行。点击进入查看同步的详细情况,这里清晰显示读取和写入数据的数量。这里可以查看读取速率和处理速率。现在返回数据源管理,查看目标端是否同步成功。目标端显示已创建数据表并同步数据。现在在云端两个数据表里写入新的数据,目标端会进行实时同步。
04:00
现在原端两个表都各新增了两条数据,现在到目标端刷新查看实时同步情况,这里显示目标端两个数据表都实时同步了原端的新数据。至此,整库实时同步成功。通过Miss calll整库实时同步到Doris的优点,不影响MYSQL性能,秒级实时同步,分析能力强,一次配置整库复用过程中,MYSQL管事物,Doris管分析,互不干扰,数据始终最新,适合数据量大,要求查询快,要求数据新的业务。
我来说两句