| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 870 人关注过本帖
标题:float 精度2^23和范围2^128的关系,2^23~2^128之间的数不能准确表示吗?
只看楼主 加入收藏
baliying
Rank: 1
等 级:新手上路
帖 子:1
专家分:0
注 册:2018-4-29
结帖率:0
收藏
已结贴  问题点数:20 回复次数:1 
float 精度2^23和范围2^128的关系,2^23~2^128之间的数不能准确表示吗?
精度是指的步进值吗,不理解,请举例说明!!!!!!
搜索更多相关主题的帖子: float 精度 范围 关系 表示 
2018-04-29 12:30
九转星河
Rank: 19Rank: 19Rank: 19Rank: 19Rank: 19Rank: 19
来 自:长长久久
等 级:贵宾
威 望:52
帖 子:5023
专家分:14003
注 册:2016-10-22
收藏
得分:20 
这个和float的储存空间大小有关,正常来说一个float占4个字节,看整数部分占多少个位,数部分占多少个位,2^23=8388608也就是7位小数,四舍五入可以精确到小数点6位也就是说明了float可以保留6位有效小数~

[code]/*~个性签名:bug是什么意思?bug是看上去没有可能的东西实际上是有可能做到的 就是这样~2018-08-08更~*/[/code]
2018-04-29 21:33
快速回复:float 精度2^23和范围2^128的关系,2^23~2^128之间的数不能准确表示吗 ...
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.014382 second(s), 8 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved