| 网站首页 | 业界新闻 | 群组 | 交易 | 人才 | 下载频道 | 博客 | 代码贴 | 编程论坛
共有 225 人关注过本帖
标题:新手求教, 为什么double 0.9999 + -1 会是9.9999999E
只看楼主 加入收藏
SummerWalden
Rank: 1
等 级:新手上路
帖 子:3
专家分:0
注 册:2018-7-23
结帖率:100%
  已结贴   问题点数:20  回复次数:4   
新手求教, 为什么double 0.9999 + -1 会是9.9999999E
请问下大佬为什么double a = -1 + 0.9999 结果是 9.9999999999E???????
如果用Currency就没这毛病
Currency a = -1 + 0.9999 = -0.0001


[此贴子已经被作者于2018-11-24 17:22编辑过]

2018-11-24 17:17
SummerWalden
Rank: 1
等 级:新手上路
帖 子:3
专家分:0
注 册:2018-7-23
  得分:0 
补充一下:

如果声明是
Dim a as double
Dim b as double
Dim c as currency
(a和c的任何一个是currency就是正确结果, 全是double就是错的)

b = 0.9999
c = -1
a = b + c
这样结果就是正确的
如果把c换成double结果就是9.999999
这为啥?????



[此贴子已经被作者于2018-11-24 17:30编辑过]

2018-11-24 17:28
风吹过b
Rank: 20Rank: 20Rank: 20Rank: 20Rank: 20
等 级:版主
威 望:230
帖 子:4333
专家分:26458
注 册:2008-10-15
  得分:10 
浮点数的舍入误差。
至于 Currency,你翻一下 数据类型说明。
这是一个整数类型啊。

授人于鱼,不如授人于渔
早已停用QQ了
2018-11-24 17:29
风吹过b
Rank: 20Rank: 20Rank: 20Rank: 20Rank: 20
等 级:版主
威 望:230
帖 子:4333
专家分:26458
注 册:2008-10-15
  得分:10 
不同数据类型运算时,会转换成同一类型
都是 double 时,按 doblie 运算。存在舍入误差。
有 Currency时,按 Currency 运算。这个不存在舍入误差的。

授人于鱼,不如授人于渔
早已停用QQ了
2018-11-24 17:32
SummerWalden
Rank: 1
等 级:新手上路
帖 子:3
专家分:0
注 册:2018-7-23
  得分:0 
回复 3楼 风吹过b
谢了
2018-11-24 17:33







关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.021749 second(s), 8 queries.
Copyright©2004-2018, BCCN.NET, All Rights Reserved