| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 1849 人关注过本帖
标题:新手求教, 为什么double 0.9999 + -1 会是9.9999999E
只看楼主 加入收藏
SummerWalden
Rank: 1
等 级:新手上路
帖 子:3
专家分:0
注 册:2018-7-23
结帖率:100%
收藏
已结贴  问题点数:20 回复次数:4 
新手求教, 为什么double 0.9999 + -1 会是9.9999999E
请问下大佬为什么double a = -1 + 0.9999 结果是 9.9999999999E???????
如果用Currency就没这毛病
Currency a = -1 + 0.9999 = -0.0001


[此贴子已经被作者于2018-11-24 17:22编辑过]

搜索更多相关主题的帖子: double 结果 毛病 
2018-11-24 17:17
SummerWalden
Rank: 1
等 级:新手上路
帖 子:3
专家分:0
注 册:2018-7-23
收藏
得分:0 
补充一下:

如果声明是
Dim a as double
Dim b as double
Dim c as currency
(a和c的任何一个是currency就是正确结果, 全是double就是错的)

b = 0.9999
c = -1
a = b + c
这样结果就是正确的
如果把c换成double结果就是9.999999
这为啥?????



[此贴子已经被作者于2018-11-24 17:30编辑过]

2018-11-24 17:28
风吹过b
Rank: 20Rank: 20Rank: 20Rank: 20Rank: 20
等 级:贵宾
威 望:364
帖 子:4938
专家分:30047
注 册:2008-10-15
收藏
得分:10 
浮点数的舍入误差。
至于 Currency,你翻一下 数据类型说明。
这是一个整数类型啊。

授人于鱼,不如授人于渔
早已停用QQ了
2018-11-24 17:29
风吹过b
Rank: 20Rank: 20Rank: 20Rank: 20Rank: 20
等 级:贵宾
威 望:364
帖 子:4938
专家分:30047
注 册:2008-10-15
收藏
得分:10 
不同数据类型运算时,会转换成同一类型
都是 double 时,按 doblie 运算。存在舍入误差。
有 Currency时,按 Currency 运算。这个不存在舍入误差的。

授人于鱼,不如授人于渔
早已停用QQ了
2018-11-24 17:32
SummerWalden
Rank: 1
等 级:新手上路
帖 子:3
专家分:0
注 册:2018-7-23
收藏
得分:0 
回复 3楼 风吹过b
谢了
2018-11-24 17:33
快速回复:新手求教, 为什么double 0.9999 + -1 会是9.9999999E
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.029171 second(s), 8 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved