| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 619 人关注过本帖
标题:关于数据的计算问题
只看楼主 加入收藏
wqm54335
Rank: 1
等 级:新手上路
帖 子:2
专家分:0
注 册:2007-1-29
收藏
 问题点数:0 回复次数:2 
关于数据的计算问题
我在程序中碰到这样也情况,例如
明明
MAX=0.6589 MIN=-0.6589
我的本意是使他们相加等于0 即MAX+MIN=0
但是怎么搞得 (MAX+MIN )= 2.2204e-016
我头都大 了,我到底该怎么做
还有就是怎样让指数形式的数例如2.2204e-016以小数形式的显示 如 0.XXXXXXXXX
搜索更多相关主题的帖子: 数据 
2007-07-18 22:34
尘埃122
Rank: 5Rank: 5
等 级:贵宾
威 望:16
帖 子:127
专家分:0
注 册:2006-8-31
收藏
得分:0 

你把输出格式重新定制下试试 :)

format long g

一般当数据大于1000或小于1时系统会默认用科学记数法表示,若坚持用整数部分加小数部分的格式来显示,可在指定格式后加 g


2007-07-19 09:04
abingchem
Rank: 6Rank: 6
等 级:贵宾
威 望:24
帖 子:716
专家分:0
注 册:2004-12-30
收藏
得分:0 
这个就是数值计算的舍入问题了,它没办法搞成0,只能近似,你看什么时候所得值小于eps就要小心一点了,或者你用符号计算

此人已消失
2007-07-20 08:12
快速回复:关于数据的计算问题
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.026933 second(s), 7 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved