| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 755 人关注过本帖
标题:大家测试一个有趣的现象,double型反而没有single型精确
只看楼主 加入收藏
ggyy66
Rank: 1
等 级:新手上路
帖 子:427
专家分:0
注 册:2007-8-14
结帖率:86.25%
收藏
已结贴  问题点数:20 回复次数:3 
大家测试一个有趣的现象,double型反而没有single型精确
大家测试一个有趣的现象,double型反而没有single型精确???
[code=SQL]
Private Sub Command1_Click()
    Dim a As Double
    Dim b As Single
    a = 89.13!
    b = 89.13!
    Debug.Print "a --- " & a
    Debug.Print "b --- " & b
End Sub
'
'a ---89.129997253418
'b ---89.13
[/code]
我不解的是为什么,single反而比double精确度高,怪。
搜索更多相关主题的帖子: double single 现象 
2009-09-01 11:32
promising
Rank: 3Rank: 3
来 自:上海
等 级:论坛游侠
帖 子:87
专家分:147
注 册:2009-8-31
收藏
得分:14 

为什么赋值
a = 89.13!
b = 89.13!
而不是
a = 89.13
b = 89.13数值类型转换、精度转换是会产生误差的。

向前走着……
2009-09-01 11:42
ggyy66
Rank: 1
等 级:新手上路
帖 子:427
专家分:0
注 册:2007-8-14
收藏
得分:0 
以下是引用promising在2009-9-1 11:42的发言:

为什么赋值
a = 89.13!
b = 89.13!
而不是
a = 89.13
b = 89.13数值类型转换、精度转换是会产生误差的。
这就是加!测试有这个问题,所以问呀?

2009-09-01 13:06
promising
Rank: 3Rank: 3
来 自:上海
等 级:论坛游侠
帖 子:87
专家分:147
注 册:2009-8-31
收藏
得分:0 
搞研究啊
恩,总会有人知道的。

向前走着……
2009-09-01 21:06
快速回复:大家测试一个有趣的现象,double型反而没有single型精确
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.019008 second(s), 10 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved