number-precision icon indicating copy to clipboard operation
number-precision copied to clipboard

times 计算问题

Open caijf opened this issue 6 years ago • 0 comments

NP.times(9999999999999.46, 100) // 999999999999945.9

这个结果是否有问题?

使用 big.js 计算结果为 999999999999946

可以参考我写的 JS浮点数计算测试

caijf avatar Dec 19 '19 13:12 caijf