TDengine icon indicating copy to clipboard operation
TDengine copied to clipboard

Use float or double type to store data, the loss of precision is a little heavy

Open 1084077463 opened this issue 1 year ago • 1 comments

tdengine版本:3.2.2.0

将数据类型设置为float或者double类型的时候,存储电表相关数据存在精度损失,并且对电表电量进行sum时候,结果也有精度损失。

aab5e7ec8ab66dde113a3d709040aa3

只有将数据类型换成nchar的时候可以解决这个问题,但是会无法sum做计算操作。有没有什么好的方案可以解决这个问题,类似于decimal数据类型或者其他方案进行解决。

1084077463 avatar Jan 04 '24 06:01 1084077463

后续 round 函数 有计划支持保留小数位

企业版会推出 Decimal 数据类型

yu285 avatar Jan 23 '24 03:01 yu285