|
网站首页
|
业界新闻
|
小组
|
威客
|
人才
|
下载频道
|
博客
|
代码贴
|
在线编程
|
编程论坛
|
登录
注册
短消息
我发表的主题
我参与的主题
我收藏的贴子
我上传的附件
我下过的附件
编辑个人资料
我的博客
用户控制面板
搜索
道具
恢复默认风格
碧海青天
秋意盎然
棕红预览
粉色回忆
蓝雅绿
紫色淡雅
青青河草
e点小镇
橘子红了
红红夜思
水晶紫色
雪花飘飘
新年快乐
风格
短消息
论坛展区
帮助
编程论坛
→
开发语言
→
『 VB6论坛 』
→ 问一个简单问题,关于数据计算的.
我的收件箱(0)
欢迎加入我们,一同切磋技术
用户名:
密 码:
共有
498
人关注过本帖
标题:
问一个简单问题,关于数据计算的.
只看楼主
加入收藏
wudimp
等 级:
新手上路
帖 子:15
专家分:0
注 册:2005-12-19
楼主
收藏
问题点数:0 回复次数:4
问一个简单问题,关于数据计算的.
Private Sub Command1_Click()
Dim a As Single
Dim b As Single
Dim c As Single
a = 45.3
b = 45
c = a - b
Print c
End Sub
为什么输出结果是0.2999992,而不是0.3?
搜索更多相关主题的帖子:
简单问题
数据
Sub
SingleDim
Click
2007-03-26 09:24
举报帖子
使用道具
赠送鲜花
wudimp
等 级:
新手上路
帖 子:15
专家分:0
注 册:2005-12-19
第
2
楼
收藏
得分:0
如果换成1.3-1结果就是正确的,换成10.3-10结果就成了0.3000002了.搞不懂啊!
2007-03-26 09:25
举报帖子
使用道具
赠送鲜花
huangwy
等 级:
新手上路
威 望:
2
帖 子:297
专家分:0
注 册:2007-3-23
第
3
楼
收藏
得分:0
因为你的数据类型是Single
如果你要精确的计算,应该使用其他的类型,比如货币类型
2007-03-26 10:45
举报帖子
使用道具
赠送鲜花
purana
来 自:广东-广州
等 级:
版主
威 望:
66
帖 子:6039
专家分:0
注 册:2005-6-17
第
4
楼
收藏
得分:0
对的.
我的msn: myfend@
2007-03-26 11:17
举报帖子
使用道具
赠送鲜花
chenzhanpeng
等 级:
新手上路
帖 子:271
专家分:0
注 册:2007-1-5
第
5
楼
收藏
得分:0
单精度型默认输出七位小数
生在蓝天下,共同成长进步。(:
2007-03-26 17:13
举报帖子
使用道具
赠送鲜花
5
1/1页
1
快速回复:
问一个简单问题,关于数据计算的.
数据加载中...
关于我们
|
广告合作
|
编程中国
|
清除Cookies
|
TOP
|
手机版
编程中国
版权所有,并保留所有权利。
Powered by
Discuz
, Processed in 0.043196 second(s), 7 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved