【 使用环境 】测试环境
【 OB or 其他组件 】OMS
【 使用版本 】V432
OMS做数据迁移是显示存在冲突数据
按主键查询源端目标端都只有一条数据,这个冲突数据是怎么产生的,是否需要处理?
【 使用环境 】测试环境
【 OB or 其他组件 】OMS
【 使用版本 】V432
主键冲突了,要设置冲突处理策略
这个问题涉及到回复和分钟的平衡,根据我的经验,适当调整oms迁移MySQL到ob会有帮助。
判断下 冲突的主键 数据是怎么 再 源库保存的。 一般来时单表不可能存在主键冲突的。
分析过原因后,尽量在源端进行数据清洗后,抽取。
分析下主键冲突的行 数值相同的列 和不同的列。 那个最新保留,历史的删除
源端不存在重复数据,怎么确认是数据问题还是其他的问题?
现在源端库里 这个主键table_id=445339 这个应该有了吧 现在要插入的这个条数据 主键冲突了吧
不知道具体情况是什么,看链路是增量同步中,没有报错,也看不到错误日志,只是在链路上增量同步这个节点可以看到有冲突数据,下载后发现有几万条,涉及多个表,都是有主键的。想知道这个冲突数据是怎么产生的有没有影响。
链路创建以来,没有增量同步数据产生,是不是这个问题出现在全量迁移的截断。
你看一下组件监控 看一下 看着也是没有延迟的 增量组件下的日志发一下看看
/home/ds/run/{组件ID}/logs
| 错误日志 | error.log |
|---|---|
| 程序运行日志 | connector.log |
增量sink写入的数据(仅有pk) msg/connector_sink_msg.log
这个应该新版本OMS偏误导性的信息,遇到过类似场景,最终判断这个是一个中间状态的数据不一致(全量数据迁移和增量数据回放这个衔接阶段产生的数据会有差异)
所以其实这部分数据不一致不影响最终一致性。