| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 445 人关注过本帖
标题:本人是初学者,请问在double中的精度丢失原因及问题怎么解决?
只看楼主 加入收藏
笨蛋的承诺
Rank: 1
等 级:新手上路
帖 子:4
专家分:0
注 册:2012-11-21
结帖率:50%
收藏
已结贴  问题点数:20 回复次数:4 
本人是初学者,请问在double中的精度丢失原因及问题怎么解决?
例如我在做题时,定义了double a,b,c;d=b*b-4*a*c;如果a,b,c分别是5,-2,0.2;d应该等于0;但是为什么结果却是,小于0 ,谢谢,求指点~
搜索更多相关主题的帖子: double 
2012-12-02 12:22
TonyDeng
Rank: 20Rank: 20Rank: 20Rank: 20Rank: 20
等 级:贵宾
威 望:304
帖 子:25859
专家分:48889
注 册:2011-6-22
收藏
得分:10 
浮点数不能用==做相等判断

授人以渔,不授人以鱼。
2012-12-02 12:26
笨蛋的承诺
Rank: 1
等 级:新手上路
帖 子:4
专家分:0
注 册:2012-11-21
收藏
得分:0 
回复 2楼 TonyDeng
判断相等与否只能限于int内?那这个地方该怎么处理一下?
2012-12-02 12:34
TonyDeng
Rank: 20Rank: 20Rank: 20Rank: 20Rank: 20
等 级:贵宾
威 望:304
帖 子:25859
专家分:48889
注 册:2011-6-22
收藏
得分:0 
浮点数在计算机内部的储存,不是你认为的那样精确,这是二进制储存模式决定的。你可以用与零的接近量来作不等式判断,总之,回避使用==,多利用不等号。你可以判断大于、小于的情形,那么两种if都不成立的,它自然归入属于零那部分,用else来处理。

授人以渔,不授人以鱼。
2012-12-02 12:41
azzbcc
Rank: 19Rank: 19Rank: 19Rank: 19Rank: 19Rank: 19
来 自:江西财经大学
等 级:贵宾
威 望:81
帖 子:3293
专家分:12919
注 册:2012-11-4
收藏
得分:10 
丢失原因是精度数的存储方式
处理方法: == 0 改为 <= 0.00...01


[fly]存在即是合理[/fly]
2012-12-02 12:43
快速回复:本人是初学者,请问在double中的精度丢失原因及问题怎么解决?
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.018173 second(s), 7 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved