| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 634 人关注过本帖
标题:float的有效数字的问题
只看楼主 加入收藏
玉面小熊001
Rank: 1
等 级:新手上路
帖 子:17
专家分:0
注 册:2012-12-27
结帖率:100%
收藏
已结贴  问题点数:10 回复次数:5 
float的有效数字的问题
这是一个正确的C语言程序
图片附件: 游客没有浏览图片的权限,请 登录注册

Alt,F5后出现这个结果
明明是123.0000088+99.0000088
就算是保留六位小数,那也应该是222.000016啊
为什么是222.000015啊
这是怎么算的?

搜索更多相关主题的帖子: C语言 
2012-12-29 22:29
玉面小熊001
Rank: 1
等 级:新手上路
帖 子:17
专家分:0
注 册:2012-12-27
收藏
得分:0 
以下是引用玉面小熊001在2012-12-29 22:29:39的发言:

这是一个正确的C语言程序
Alt,F5后出现这个结果
明明是123.0000088+99.0000088
就算是保留六位小数,那也应该是222.000016啊
为什么是222.000015啊
这是怎么算的?




程序在这里木有链接上
图片附件: 游客没有浏览图片的权限,请 登录注册
2012-12-29 22:30
TonyDeng
Rank: 20Rank: 20Rank: 20Rank: 20Rank: 20
等 级:贵宾
威 望:304
帖 子:25859
专家分:48889
注 册:2011-6-22
收藏
得分:0 
不要幻想计算机的浮点运算跟手算一样精确,float/double都做不到。

授人以渔,不授人以鱼。
2012-12-29 22:44
尹金魁2031
Rank: 3Rank: 3
来 自:河南省南阳市
等 级:论坛游侠
帖 子:156
专家分:162
注 册:2012-12-29
收藏
得分:0 
这个没有必要担心,我们需要的数据一般要求不了那么高的精度。
2012-12-30 21:24
wp231957
Rank: 20Rank: 20Rank: 20Rank: 20Rank: 20
来 自:神界
等 级:贵宾
威 望:423
帖 子:13688
专家分:53332
注 册:2012-10-18
收藏
得分:10 
各位请测试一下以下代码
程序代码:
#include <stdio.h>

int main()
{
    double a=123.000088;
    double b=99.000088;
    printf("%lf+%lf=%lf\n",a,b,a+b);
    double c=123.00008888;
    double d=99.00008888;
    printf("%.8lf+%.8lf=%.8lf\n",c,d,c+d);
    return 0;
    /*
        样例输出:
        123.000088+99.000088=222.000176
        123.00008888+99.00008888=222.00017776
    */
} 



DO IT YOURSELF !
2012-12-31 09:28
wp231957
Rank: 20Rank: 20Rank: 20Rank: 20Rank: 20
来 自:神界
等 级:贵宾
威 望:423
帖 子:13688
专家分:53332
注 册:2012-10-18
收藏
得分:0 
能用double的 尽量用double  除非要求使用float

DO IT YOURSELF !
2012-12-31 09:35
快速回复:float的有效数字的问题
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.026026 second(s), 8 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved