js脚本中取余精度问题

小扈 发布于 2012/08/07 13:37
阅读 1K+
收藏 0

如:123.12 % 10 我所想要的值为 3.12,但js得出来的却为3.120000000045,多出来的这些不能忽略。。。

加载中
0
愤怒的晃晃
愤怒的晃晃
再调用一下 toFixed() 方法试试
愤怒的晃晃
愤怒的晃晃
回复 @布瑞屋 : 厄,应该用的是四舍六入五成双的银行家算法。
布瑞屋
toFixed在IE6下有bug,所以不建议使用,请看下面的代码: alert( (0.00542).toFixed(2) ); //ie6中是0.00
0
小扈
小扈

引用来自“麦克默菲、”的答案

再调用一下 toFixed() 方法试试
求详解,我试了一下,貌似会出错
0
a
aopop

这个调用下 toFixed()方法就行了吧,留2位小数,toFixed(2)
0
小扈
小扈

引用来自“aopop”的答案


这个调用下 toFixed()方法就行了吧,留2位小数,toFixed(2)
不可以进行四舍五入的,因为不确定精确到几位,我做的是修约数处理,也就是采用的是“进舍规则”,里面的修约间隔(也就是精确到哪一位)是不确定的
0
DeepKolos
DeepKolos

(3.12*1000)/1000

在网上找的,

伏地猫
伏地猫
方法蛮好的。
返回顶部
顶部