VB 表达式计算误差

sunyh 发布于 2010/08/24 08:53
阅读 207
收藏 1

修改后的代码

Dim temp As Variant

temp = tElm1.Content * 10 ^ L1 + 0.5 * Sgn(tElm1.Content)

temp = Fix(temp)

tElm1.Content = temp / 10 ^ L1

修改前的代码

tElm1.Content = Fix(tElm1.Content * 10 ^ L1 + 0.5 * Sgn(tElm1.Content))/ 10 ^ L1

 

后面的写法竟然会产生误差  不知道是什么原因!!

加载中
0
pizigou
pizigou

tElm1.Content = Fix(tElm1.Content * 10 ^ L1 + 0.5 * Sgn(tElm1.Content)/ 10 ^ L1)

这样写 

0
hikari
hikari

可能是机器代码执行顺序的问题,你写的是vb代码,真正执行的代码是机器代码,原因可以在编译后执行的代码中找到。

0
sunyh
sunyh

vb 编译后的执行代码 。。。找不到。。

还要去反编译?

返回顶部
顶部