| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 1109 人关注过本帖
标题:我使用“%”运算时出了问题,求助!
只看楼主 加入收藏
guozong3
Rank: 1
等 级:新手上路
帖 子:2
专家分:0
注 册:2004-10-17
收藏
 问题点数:0 回复次数:2 
我使用“%”运算时出了问题,求助!

计算时结果与书上的不一致

……

double a=18.4;

double b=a%4;

……

运行结果

b= 2.3999999999999986

(13个9)而书上给的结果是

b=2.4

请问这是怎么回事?是书上错了吗?

搜索更多相关主题的帖子: 运算 
2004-10-18 20:27
铁血天娇
Rank: 1
等 级:新手上路
帖 子:14
专家分:0
注 册:2004-10-31
收藏
得分:0 

不知道呀,我也是这样的,有哪位能告诉我什么原因吗?


2004-10-31 18:43
铁血天娇
Rank: 1
等 级:新手上路
帖 子:14
专家分:0
注 册:2004-10-31
收藏
得分:0 

经研究得出结果,因为底层的数据是通过移位实现的,所以得出的结果会有偏差,

不信,你就可以用减法试试,也是一样的,你用20.9-20也会得到的是0.8999999999986


2004-11-07 04:29
快速回复:我使用“%”运算时出了问题,求助!
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.021398 second(s), 7 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved