|
网站首页
|
业界新闻
|
小组
|
威客
|
人才
|
下载频道
|
博客
|
代码贴
|
在线编程
|
编程论坛
|
登录
注册
短消息
我发表的主题
我参与的主题
我收藏的贴子
我上传的附件
我下过的附件
编辑个人资料
我的博客
用户控制面板
搜索
道具
恢复默认风格
碧海青天
秋意盎然
棕红预览
粉色回忆
蓝雅绿
紫色淡雅
青青河草
e点小镇
橘子红了
红红夜思
水晶紫色
雪花飘飘
新年快乐
风格
短消息
论坛展区
帮助
编程论坛
→
开发语言
→
『 C语言论坛 』
→ 数据精度
我的收件箱(0)
欢迎加入我们,一同切磋技术
用户名:
密 码:
共有
404
人关注过本帖
标题:
数据精度
只看楼主
加入收藏
woshizhuyich
等 级:
论坛游民
威 望:
1
帖 子:5
专家分:20
注 册:2012-10-3
楼主
收藏
问题点数:0 回复次数:1
数据精度
小弟最近在用eclipse学习fortran
一个十行小程序,数据精度想不通
program main
implicit none
real(4) :: a
real(8) :: b
a = 0.12
print *, 'a=',a
b = 0.12
print *, 'b=',b
end program main
结果是:
a=
0.12000000
b=
0.11999999731779099
b的精度更高不是应该更精确吗?
求大家帮忙啊
2013-07-26 04:53
举报帖子
使用道具
赠送鲜花
rjsp
等 级:
版主
威 望:
528
帖 子:9032
专家分:54061
注 册:2011-1-18
第
2
楼
收藏
得分:0
显示显示的位数不同,导致四舍五入的位数不同
假设 a = 0.119999997000000000
假设 b = 0.119999997317790987
是 b 表示 0.12 比a更精确吧?
如果 a 显示8位有效数,那就是 0.12000000
如果 b 显示18位有效数,那就是 0.11999999731779099
2013-07-26 08:34
举报帖子
使用道具
赠送鲜花
2
1/1页
1
快速回复:
数据精度
数据加载中...
关于我们
|
广告合作
|
编程中国
|
清除Cookies
|
TOP
|
手机版
编程中国
版权所有,并保留所有权利。
Powered by
Discuz
, Processed in 0.016419 second(s), 7 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved