oceanbase存储向量时的小数(位数)精度问题

我创建了一个存储embedding向量的表,用存储过程中的一个举例子。
存储前的数据是: 0.92631793
在数据查看存储结果后变成了0.926318
自动进行了四舍五入。我看文档里面也没有相关的介绍和说明。

2 个赞

缺点就是生态太脆弱,遇到故障没有地方

3 个赞

使用的ob是哪个版本 具体的版本号发一下 相关的操作截图看看

2 个赞

抱歉,这几天没看消息,刚看到.


版本应该是:4.3.5.2

插入前;


执行的sql:

结果显示:

插入时候的0.123456789,变成了0.1234567

3 个赞

查询不到版本

3 个赞

芯片钥匙扣

3 个赞

关于回复的讨论很有价值,特别是在oceanbase存储向量时的小数场景下,合理使用位数是关键。

3 个赞

用小数存储最好用digital的类型吧,浮点型不大安全啊

3 个赞

精度问题如何取舍

2 个赞

不好不正确

1 个赞

芯芯阿姨说的话

1 个赞

可以找官方原厂咨询

最后怎么样了

1 个赞

88990077

1 个赞

8877005566

1 个赞

8855223366

看看看看

1 个赞

惭愧,还没搞过OB的向量。