试试把1.2转换成二进制数
所在版块：求学狮城 发贴时间：2006-08-09 01:02

用户信息
复制本帖HTML代码
高亮: 今天贴 X 昨天贴 X 前天贴 X 
in IEEE standard, the double precision number 1.2 is represented by 0x3ff3333333333333 (8byte), and you have a round-off error.

for more details:
http://en.wikipedia.org/wiki/IEEE_754

.
欢迎来到华新中文网，踊跃发帖是支持我们的最好方法!

　相关帖子 我要回复↙ ↗回到正文
一个编程的小问题 － EnyaLinn 　2006-08-09 00:49 (220 bytes , 721reads )
taken from wiki:Scheme_(programming language) － simon 　2008-09-02 18:19 (687 bytes , 463reads )
"平方１．２，结果是1.2100000000000002" means you got a typo, :P － 香陵居士 　2006-08-15 18:49 (0 bytes , 327reads )
试试把1.2转换成二进制数 － hash 　2006-08-09 01:02 (186 bytes , 414reads )