oms迁移MySQL到ob,存在冲突数据

【 使用环境 】测试环境
【 OB or 其他组件 】OMS
【 使用版本 】V432


OMS做数据迁移是显示存在冲突数据

按主键查询源端目标端都只有一条数据,这个冲突数据是怎么产生的,是否需要处理?

3 个赞

主键冲突了,要设置冲突处理策略

1 个赞

这个问题涉及到回复和分钟的平衡,根据我的经验,适当调整oms迁移MySQL到ob会有帮助。

1 个赞
  1. 判断下 冲突的主键 数据是怎么 再 源库保存的。 一般来时单表不可能存在主键冲突的。
    分析过原因后,尽量在源端进行数据清洗后,抽取。

  2. 分析下主键冲突的行 数值相同的列 和不同的列。 那个最新保留,历史的删除

1 个赞

源端不存在重复数据,怎么确认是数据问题还是其他的问题?

1 个赞

现在源端库里 这个主键table_id=445339 这个应该有了吧 现在要插入的这个条数据 主键冲突了吧

1 个赞

不知道具体情况是什么,看链路是增量同步中,没有报错,也看不到错误日志,只是在链路上增量同步这个节点可以看到有冲突数据,下载后发现有几万条,涉及多个表,都是有主键的。想知道这个冲突数据是怎么产生的有没有影响。
链路创建以来,没有增量同步数据产生,是不是这个问题出现在全量迁移的截断。

1 个赞

你看一下组件监控 看一下 看着也是没有延迟的 增量组件下的日志发一下看看
/home/ds/run/{组件ID}/logs

错误日志 error.log
程序运行日志 connector.log

增量sink写入的数据(仅有pk) msg/connector_sink_msg.log

这个应该新版本OMS偏误导性的信息,遇到过类似场景,最终判断这个是一个中间状态的数据不一致(全量数据迁移和增量数据回放这个衔接阶段产生的数据会有差异)

所以其实这部分数据不一致不影响最终一致性。

1 个赞