| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 1360 人关注过本帖
标题:库函数的BUG???
只看楼主 加入收藏
StarWing83
Rank: 8Rank: 8
来 自:仙女座大星云
等 级:贵宾
威 望:19
帖 子:3951
专家分:748
注 册:2007-11-16
收藏
得分:0 
你们老师真强……
浮点数是一个二进制规范,所以取舍都是在二进制层面的,和十进制的数字会有些些的不同。
比如0.1这个数字在十进制上是个精确数,但是在二进制里面,这是个循环小数,不可能取得精确值。所以不同精度转换下,可能会造成误差。LZ的例子应该也是同样的原因。

专心编程………
飞燕算法初级群:3996098
我的Blog
2008-05-15 00:21
快速回复:库函数的BUG???
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.023853 second(s), 8 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved