| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 440 人关注过本帖
标题:请教在VB中两数差存在问题
只看楼主 加入收藏
kdahai
Rank: 1
等 级:新手上路
帖 子:3
专家分:0
注 册:2006-5-27
收藏
 问题点数:0 回复次数:2 
请教在VB中两数差存在问题
大家好!
请问在VB中如下问题
(1)
aa = 0.15
bb = 0.149999999999999
cc = aa - bb '两个数的差不是1E-16

(2)
mm = 8.05000000000001 ' 小数点后保留14位
nn = 7.90000000000001 '小数点后保留14位
pp = mm - nn
Print "pp="; pp '结果存在问题,小数点保留了15位,而且结果不是0.15
希望得到大家回答,谢谢了!
e_mail leiz_liuhaisheng@yahoo.com.cn
2006-09-21 09:12
zmetero11
Rank: 1
等 级:新手上路
帖 子:123
专家分:0
注 册:2006-2-5
收藏
得分:0 
在VB中,当某个数小于1E-x,x是整数时,系统会根据原数据的精度来确定是不是应该赋值为0

黑色的羽翼笼罩与夜月中,守护...不变<-\^/
2006-09-21 16:14
leon2
Rank: 3Rank: 3
等 级:新手上路
威 望:7
帖 子:731
专家分:0
注 册:2005-3-18
收藏
得分:0 
mm,nn,pp 都必须声明成 double 型变量
2006-09-23 00:42
快速回复:请教在VB中两数差存在问题
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.027398 second(s), 9 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved