绿林网页 发表于 2012-8-11 16:03:03

哦，谢谢大家，那有没有修正的办法？

珜羽 发表于 2012-8-11 17:54:38

绿林网页 发表于 2012-8-11 16:03 static/image/common/back.gif
哦，谢谢大家，那有没有修正的办法？

抱歉说错了   

是因为0.56转换的二进制是无限的。float的存储位数有限。。。

你试试看0.0000152587890625这个数。。。

这个数虽然长，但是能用有限长的二进制表示.同时在float的表示位数之内。



贴上0.56的前32位二进制：0.1000 1111 0101 1100 0010 1000 1111 0000...
页: 1 [2]
查看完整版本: 此算式何解