| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 603 人关注过本帖
标题:计算机浮点型数据的表示
只看楼主 加入收藏
wp231957
Rank: 20Rank: 20Rank: 20Rank: 20Rank: 20
来 自:神界
等 级:贵宾
威 望:423
帖 子:13688
专家分:53332
注 册:2012-10-18
收藏
得分:0 
看不懂就记住就好了  就相当于死记硬背

DO IT YOURSELF !
2014-10-10 13:05
vvvcuu
Rank: 9Rank: 9Rank: 9
等 级:贵宾
威 望:12
帖 子:353
专家分:1253
注 册:2014-4-22
收藏
得分:4 
回复 10 楼 我的红雨滴
你试试把1/3表示成二进制.

所有的二进制数字都可以表示成十进制的,而十进制的一些数字却没法表示成二进制(说有限的二进制数字更准确一些,毕竟内存是有限的,表示无限可用的),比如0.1。

对于C程序(说计算机更确切一些)来说, 只能使用有限的内存来粗略的表示一下数字,所以必然会对有些数字造成一定的舍入误差.

因此,1.0/3*3的结果并不是1,而是0.999999。

[ 本帖最后由 vvvcuu 于 2014-10-10 14:56 编辑 ]

代码测试环境:  WinXP+C-Free5.0.
2014-10-10 14:55
快速回复:计算机浮点型数据的表示
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.058287 second(s), 8 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved