| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 1079 人关注过本帖, 1 人收藏
标题:运行结果为什么是这个?
只看楼主 加入收藏
yd30000
Rank: 1
等 级:新手上路
帖 子:37
专家分:0
注 册:2008-12-3
收藏
得分:0 
原来如此...


2的负n次方怎么可能那么精确呢!


TKS
2008-12-06 20:14
starcool
Rank: 1
等 级:新手上路
帖 子:23
专家分:0
注 册:2008-11-13
收藏
得分:0 
单精度在机器中存放很容易出现偏差的。算法不同都可能导致不同的结果,所以说一般某个单精度的数和0的关系不用直接<或 >来表示,而是绝对值fabs(xx)小于一个足够小的量1e-6
2008-12-06 21:13
快速回复:运行结果为什么是这个?
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.025240 second(s), 7 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved