1
回答
Ruby中怎么解决Float型十进制小数运算问题
百度AI开发者大赛带你边学边开发,赢100万奖金,加群:418589053   
在Ruby和Java中,Float类形为了运算的迅速使用了二进制小数来近似表示十进制小数,这就存在圆整错误,如0.3-0.2==0.1返回false,Java中可以用BigDecimal类型解决,Ruby要怎么解决呢?
举报
casoc
发帖于4年前 1回/305阅
顶部