| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 1578 人关注过本帖
标题:输出单精度数据不准确
只看楼主 加入收藏
生气通天
Rank: 1
等 级:新手上路
帖 子:10
专家分:0
注 册:2017-11-30
结帖率:100%
收藏
已结贴  问题点数:20 回复次数:4 
输出单精度数据不准确
图片附件: 游客没有浏览图片的权限,请 登录注册

我知道是六位小数,为什么不是21.60000+一个随机数?

[此贴子已经被作者于2017-12-5 09:47编辑过]

搜索更多相关主题的帖子: 输出 单精度 数据 小数 随机数 
2017-12-05 09:34
北宫天漓
Rank: 2
等 级:论坛游民
帖 子:16
专家分:71
注 册:2017-12-2
收藏
得分:0 
  因为对于浮点数来说,他是没有运算精度的,表面上他给你输出的值是21.599998,实际他在计算机内部储存的这个值是位数很长的数,例如:21.599998979468489915649879754987798789(我随便打的),而21.60000则是一个四舍五入的结果。
2017-12-05 10:29
生气通天
Rank: 1
等 级:新手上路
帖 子:10
专家分:0
注 册:2017-11-30
收藏
得分:0 
回复 2楼 北宫天漓
如果输入3.4  5  就是17.000000就是准确的结果,它是怎么算的
2017-12-05 11:27
北宫天漓
Rank: 2
等 级:论坛游民
帖 子:16
专家分:71
注 册:2017-12-2
收藏
得分:20 
回复 3楼 生气通天
  抱歉回的晚了
  你看看这两张图就是了:
图片附件: 游客没有浏览图片的权限,请 登录注册

图片附件: 游客没有浏览图片的权限,请 登录注册
2017-12-05 21:09
生气通天
Rank: 1
等 级:新手上路
帖 子:10
专家分:0
注 册:2017-11-30
收藏
得分:0 
回复 4楼 北宫天漓
谢谢
2017-12-06 09:09
快速回复:输出单精度数据不准确
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.018606 second(s), 9 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved