| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 497 人关注过本帖
标题:问一个简单问题,关于数据计算的.
只看楼主 加入收藏
wudimp
Rank: 1
等 级:新手上路
帖 子:15
专家分:0
注 册:2005-12-19
收藏
 问题点数:0 回复次数:4 
问一个简单问题,关于数据计算的.
Private Sub Command1_Click()
Dim a As Single
Dim b As Single
Dim c As Single
a = 45.3
b = 45
c = a - b
Print c
End Sub
为什么输出结果是0.2999992,而不是0.3?
搜索更多相关主题的帖子: 简单问题 数据 Sub SingleDim Click 
2007-03-26 09:24
wudimp
Rank: 1
等 级:新手上路
帖 子:15
专家分:0
注 册:2005-12-19
收藏
得分:0 
如果换成1.3-1结果就是正确的,换成10.3-10结果就成了0.3000002了.搞不懂啊!
2007-03-26 09:25
huangwy
Rank: 1
等 级:新手上路
威 望:2
帖 子:297
专家分:0
注 册:2007-3-23
收藏
得分:0 

因为你的数据类型是Single
如果你要精确的计算,应该使用其他的类型,比如货币类型

2007-03-26 10:45
purana
Rank: 16Rank: 16Rank: 16Rank: 16
来 自:广东-广州
等 级:版主
威 望:66
帖 子:6039
专家分:0
注 册:2005-6-17
收藏
得分:0 
对的.

我的msn: myfend@
2007-03-26 11:17
chenzhanpeng
Rank: 1
等 级:新手上路
帖 子:271
专家分:0
注 册:2007-1-5
收藏
得分:0 
单精度型默认输出七位小数

生在蓝天下,共同成长进步。(:
2007-03-26 17:13
快速回复:问一个简单问题,关于数据计算的.
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.021163 second(s), 9 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved