|
网站首页
|
业界新闻
|
小组
|
威客
|
人才
|
下载频道
|
博客
|
代码贴
|
在线编程
|
编程论坛
|
登录
注册
短消息
我发表的主题
我参与的主题
我收藏的贴子
我上传的附件
我下过的附件
编辑个人资料
我的博客
用户控制面板
搜索
道具
恢复默认风格
碧海青天
秋意盎然
棕红预览
粉色回忆
蓝雅绿
紫色淡雅
青青河草
e点小镇
橘子红了
红红夜思
水晶紫色
雪花飘飘
新年快乐
风格
短消息
论坛展区
帮助
编程论坛
→
开发语言
→
『 VB6论坛 』
→ 新手求教, 为什么double 0.9999 + -1 会是9.9999999E
我的收件箱(0)
欢迎加入我们,一同切磋技术
用户名:
密 码:
共有
1915
人关注过本帖
标题:
新手求教, 为什么double 0.9999 + -1 会是9.9999999E
只看楼主
加入收藏
SummerWalden
等 级:
新手上路
帖 子:3
专家分:0
注 册:2018-7-23
结帖率:
100%
楼主
收藏
已结贴
√
问题点数:20 回复次数:4
新手求教, 为什么double 0.9999 + -1 会是9.9999999E
请问下大佬为什么double a = -1 + 0.9999 结果是 9.9999999999E???????
如果用Currency就没这毛病
Currency a = -1 + 0.9999 = -0.0001
[此贴子已经被作者于2018-11-24 17:22编辑过]
搜索更多相关主题的帖子:
double
结果
毛病
2018-11-24 17:17
举报帖子
使用道具
赠送鲜花
SummerWalden
等 级:
新手上路
帖 子:3
专家分:0
注 册:2018-7-23
第
2
楼
收藏
得分:0
补充一下:
如果声明是
Dim a as double
Dim b as double
Dim c as currency
(a和c的任何一个是currency就是正确结果, 全是double就是错的)
b = 0.9999
c = -1
a = b + c
这样结果就是正确的
如果把c换成double结果就是9.999999
这为啥?????
[此贴子已经被作者于2018-11-24 17:30编辑过]
2018-11-24 17:28
举报帖子
使用道具
赠送鲜花
风吹过b
等 级:
贵宾
威 望:
364
帖 子:4947
专家分:30084
注 册:2008-10-15
第
3
楼
收藏
得分:10
浮点数的舍入误差。
至于 Currency,你翻一下 数据类型说明。
这是一个整数类型啊。
授人于鱼,不如授人于渔
早已停用QQ了
2018-11-24 17:29
举报帖子
使用道具
赠送鲜花
风吹过b
等 级:
贵宾
威 望:
364
帖 子:4947
专家分:30084
注 册:2008-10-15
第
4
楼
收藏
得分:10
不同数据类型运算时,会转换成同一类型
都是 double 时,按 doblie 运算。存在舍入误差。
有 Currency时,按 Currency 运算。这个不存在舍入误差的。
授人于鱼,不如授人于渔
早已停用QQ了
2018-11-24 17:32
举报帖子
使用道具
赠送鲜花
SummerWalden
等 级:
新手上路
帖 子:3
专家分:0
注 册:2018-7-23
第
5
楼
收藏
得分:0
回复 3楼 风吹过b
谢了
2018-11-24 17:33
举报帖子
使用道具
赠送鲜花
5
1/1页
1
快速回复:
新手求教, 为什么double 0.9999 + -1 会是9.9999999E
数据加载中...
关于我们
|
广告合作
|
编程中国
|
清除Cookies
|
TOP
|
手机版
编程中国
版权所有,并保留所有权利。
Powered by
Discuz
, Processed in 0.782977 second(s), 8 queries.
Copyright©2004-2025, BCCN.NET, All Rights Reserved