| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 350 人关注过本帖
标题:新人求解。数据处理问题
取消只看楼主 加入收藏
zhw409998126
Rank: 1
等 级:新手上路
帖 子:3
专家分:0
注 册:2012-7-14
结帖率:0
收藏
已结贴  问题点数:10 回复次数:2 
新人求解。数据处理问题
p1 = a * A / (a - A);
p2 = b * B / (b - B);
p3 = c * C / (c - C);
x4 = (p1 * x1 + p2 * x2 + p3 * x3) / (p1 + p2 + p3);
y4 = (p1 * y1 + p2 * y2 + p3 * y3) / (p1 + p2 + p3);
计算过程中,从监视里看
p1 = 0 p3=0 p2 = 0.00000000000000012246063538223773
p1 * x1 + p2 * x2 + p3 * x3 = 0.00000000000000012246063538223773
导致结果x4 = 1 而事实x4 = 0 。请问该如何解决这个问题?

这些变量都是double型的
搜索更多相关主题的帖子: double 如何 
2012-07-14 23:04
zhw409998126
Rank: 1
等 级:新手上路
帖 子:3
专家分:0
注 册:2012-7-14
收藏
得分:0 
如何让这些微小量等于0?
2012-07-14 23:15
zhw409998126
Rank: 1
等 级:新手上路
帖 子:3
专家分:0
注 册:2012-7-14
收藏
得分:0 
回复 3楼 peach5460
嗯,知道了。float表示的精度范围有限,需要用一个极小的区间比较~谢谢啦
2012-07-15 09:41
快速回复:新人求解。数据处理问题
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.015195 second(s), 8 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved