| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 553 人关注过本帖
标题:这么简单的问题怎么这么难??不信你来试试
只看楼主 加入收藏
zjp410
Rank: 1
等 级:新手上路
帖 子:3
专家分:0
注 册:2006-6-30
收藏
 问题点数:0 回复次数:4 
这么简单的问题怎么这么难??不信你来试试

double ApexRate=0.69;
double x=0;

x=ApexRate+0.2; //0.8899999999999999
x=ApexRate+10000; //10000.69

x=ApexRate-0.2; //0.48999999999999994
x=ApexRate-10000; //-9999.31

x=ApexRate*0.2; //0.13799999999999998
x=ApexRate*10000; //6899.9999999999991

x=ApexRate/0.2; //3.4499999999999997
x=ApexRate/10000; //0.000069

谁能解释一下这是怎么回事吗?

搜索更多相关主题的帖子: double 
2006-06-30 08:38
noshow
Rank: 2
等 级:新手上路
威 望:4
帖 子:1127
专家分:0
注 册:2006-4-21
收藏
得分:0 
这个是机器的精度问题
记得以前老师讲过银行的数字表示问题
比如1不是1而是0.99999999999999999999
因为计算机表示0直接二进制0就可以
但是表示小数的时候是移位法和加权法
当时听了个大概
并没有完全理解
好象说银行界有一个著名案例
就是一个高级程序员钻这个空子
每次把很小的钱指向自己的帐户
好几年才给一个很有经验的会计发现
这只能说明一个问题
计算机不是万能的

洗耳恭听高人的见解中...

[此贴子已经被作者于2006-6-30 10:31:12编辑过]


此号自封于2006年11月30日
2006-06-30 09:27
xxxxx52
Rank: 4
等 级:贵宾
威 望:13
帖 子:689
专家分:0
注 册:2006-4-30
收藏
得分:0 
这叫挖社会主义墙角阿

好的资料下载网站http:///in.asp?id=xuelion2006 嘿嘿帮点一下拉~
2006-06-30 10:16
DancerDan
Rank: 1
等 级:新手上路
帖 子:11
专家分:0
注 册:2006-7-5
收藏
得分:0 

这个问题确实应该研究一下。

为中国的GIS而奋斗终生。第四届SuperMap超图大赛。
2006-07-07 19:11
月夜枫华
Rank: 4
等 级:贵宾
威 望:12
帖 子:437
专家分:42
注 册:2006-1-2
收藏
得分:0 

计算机计算浮点数时,由于精度的不同,经常出现这样问题.
只能在写程序的时候注意一下了.


2006-07-07 21:21
快速回复:这么简单的问题怎么这么难??不信你来试试
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.025152 second(s), 9 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved