| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 401 人关注过本帖
标题:数据精度
只看楼主 加入收藏
woshizhuyich
Rank: 2
等 级:论坛游民
威 望:1
帖 子:5
专家分:20
注 册:2012-10-3
收藏
 问题点数:0 回复次数:1 
数据精度
小弟最近在用eclipse学习fortran

一个十行小程序,数据精度想不通

program main
    implicit none
    real(4) :: a
    real(8) :: b
    a = 0.12
    print *, 'a=',a
    b = 0.12
    print *, 'b=',b
end program main

结果是:
 a=  0.12000000   
 b=  0.11999999731779099  

b的精度更高不是应该更精确吗?

求大家帮忙啊
2013-07-26 04:53
rjsp
Rank: 20Rank: 20Rank: 20Rank: 20Rank: 20
等 级:版主
威 望:528
帖 子:9007
专家分:53942
注 册:2011-1-18
收藏
得分:0 
显示显示的位数不同,导致四舍五入的位数不同

假设 a = 0.119999997000000000
假设 b = 0.119999997317790987
是 b 表示 0.12 比a更精确吧?

如果 a 显示8位有效数,那就是 0.12000000
如果 b 显示18位有效数,那就是 0.11999999731779099
2013-07-26 08:34
快速回复:数据精度
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.010548 second(s), 7 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved