| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 1031 人关注过本帖
标题:为什么第1个值不等于1,第2个值等于1?
只看楼主 加入收藏
yuma
Rank: 12Rank: 12Rank: 12
来 自:银河系
等 级:贵宾
威 望:37
帖 子:1934
专家分:3012
注 册:2009-12-22
结帖率:89.13%
收藏
 问题点数:0 回复次数:2 
为什么第1个值不等于1,第2个值等于1?
为什么第1个值不等于1,第2个值等于1?
如果你说VB给他四舍五入了,有什么验证方法可以证明吗?

Private Sub Form_Load()
Debug.Print 0.33333333333333 * 3     '值为: 0.99999999999999
Debug.Print "0.3333333333333333" * 3     '值为: 1
End Sub


[此贴子已经被作者于2023-1-10 10:55编辑过]

搜索更多相关主题的帖子: End Sub 等于 Debug Print 
2022-10-30 18:34
风吹过b
Rank: 20Rank: 20Rank: 20Rank: 20Rank: 20
等 级:贵宾
威 望:364
帖 子:4947
专家分:30084
注 册:2008-10-15
收藏
得分:0 
1、根据ieee754国际标准,常用的浮点数有两种格式
(1)单精度浮点数(single)
(2)双精度浮点数(double)
2、相同点:它们都用来表示带有小数部分的实数,一般都用于科学计算,都由阶码和尾数构成。
3、不同点:
(1)单精度浮点数占用4个字节(32位)存储空间,包括符号位1位,阶码8位,尾数23位。其数值范围为3.4e-38~3.4e+38,单精度浮点数最多有7位十进制有效数字,单精度浮点数的指数用“e”或“e”表示。单精度浮点数有多种表示形式:±n.n(小数形式)
(2)双精度浮点数占用8个字节(64位)存储空间,包括符号位1位,阶码11位,尾数52位。其数值范围为1.7e-308~1.7e+308,双精度浮点数最多有15或16位十进制有效数字,双精度浮点数的指数用“d”或“d”表示。双精度浮点数科学记数法格式


然后你点一下你的数据有多少位有效数据,超出了就会自动四舍五入上去。


授人于鱼,不如授人于渔
早已停用QQ了
2022-10-30 20:46
cwa9958
Rank: 20Rank: 20Rank: 20Rank: 20Rank: 20
等 级:版主
威 望:76
帖 子:278
专家分:1357
注 册:2006-6-25
收藏
得分:0 
这两个都不会等于1
2022-10-31 08:15
快速回复:为什么第1个值不等于1,第2个值等于1?
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.017568 second(s), 8 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved