| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 846 人关注过本帖
标题:浮点数的存储为什么不精准 求简单讲解
只看楼主 加入收藏
hjywyj
Rank: 11Rank: 11Rank: 11Rank: 11
等 级:小飞侠
威 望:3
帖 子:1114
专家分:2611
注 册:2010-4-14
收藏
得分:0 
回复 10楼 jcw08120110
我的意思是:不知道我的想法对不
3.5,整数部分转换为二进制是11,小数部分是1
3.33,整数部分是11,小数部分是010101000111101011100001010001111010111000010100011111
超过了32位的存储范围。所以精确度不够。
2011-08-17 16:03
jcw08120110
Rank: 8Rank: 8
来 自:南京
等 级:蝙蝠侠
帖 子:272
专家分:742
注 册:2009-6-8
收藏
得分:1 
回复 11楼 hjywyj
图片附件: 游客没有浏览图片的权限,请 登录注册

就是这样的 存储时先转为2进制;然后精度泄露;运算时转为10进制;这时已经不是原来的那个数了~ 精度已经泄露了 是转换成2进制时泄露掉的!

君生我未生 我生君以老
2011-08-17 16:23
风生钧起
Rank: 4
来 自:江西
等 级:业余侠客
帖 子:383
专家分:246
注 册:2011-7-26
收藏
得分:0 
楼主 我是瞎扯  我也不是很懂 尽自己所知道的 为参考(误导你了)  

他们都是对的  好好学习 !

谁是你师傅 我都还是菜

[ 本帖最后由 风生钧起 于 2011-8-17 18:53 编辑 ]

墨一世红颜倾醉己    霁天谁与话风流

修仙``````````````````````````````````````````````
2011-08-17 17:51
zh77
Rank: 2
来 自:江苏
等 级:论坛游民
帖 子:84
专家分:22
注 册:2011-8-5
收藏
得分:0 
回复 13楼 风生钧起
en 师父啊  碰巧 我 也看懂了一些
2011-08-17 18:20
zh77
Rank: 2
来 自:江苏
等 级:论坛游民
帖 子:84
专家分:22
注 册:2011-8-5
收藏
得分:0 
回复 12楼 jcw08120110
谢谢   我懂了
2011-08-17 18:21
zh77
Rank: 2
来 自:江苏
等 级:论坛游民
帖 子:84
专家分:22
注 册:2011-8-5
收藏
得分:0 
回复 11楼 hjywyj
谢谢 我懂了
2011-08-17 18:21
快速回复:浮点数的存储为什么不精准 求简单讲解
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.015207 second(s), 9 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved