| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 664 人关注过本帖
标题:[求助]关于数值问题?
只看楼主 加入收藏
wy9614
Rank: 1
等 级:新手上路
帖 子:15
专家分:0
注 册:2005-7-28
收藏
 问题点数:0 回复次数:6 
[求助]关于数值问题?
前两天作了一个程序,其中定义了一个整数,可是计算结果却出现了错误,
dim k as integer
k=15 / 6
……
结果k=2,又试了其它的数值,发现2.5、4.5、6.5等都给取整了,而1.5、3.5、5.5等却四舍五入了,这是为什么?

[此贴子已经被作者于2006-6-21 8:08:00编辑过]

搜索更多相关主题的帖子: 数值 
2006-06-19 16:17
Viviwei
Rank: 6Rank: 6
等 级:贵宾
威 望:20
帖 子:344
专家分:0
注 册:2006-4-11
收藏
得分:0 
典型的定义方面的问题,问题在于你定义的数据的类型
1、整数型常量
(1)整型(Integer):表示-32768至32767之间的整数
例如:10 110 20
(2)长整型(Long):
表示-2,147,483,648至2,147,483,647之间的整数

2、实数
1)单精度实型(Single):有效数为7位
2)双精度实型(Double):有效数为15位

很简单,带小数点的属于实数.所以你将定义成single就可以出小数位了!~当然,为取位数更多,你也可以取双精度!~


爱上思考,爱上编程,爱上.net!
2006-06-19 20:09
wy9614
Rank: 1
等 级:新手上路
帖 子:15
专家分:0
注 册:2005-7-28
收藏
得分:0 

我想楼主错误理解了我的问题,按.net的理论,既然定义成整型,那么结果应该四舍五入才对,而出现这样的结果难道是.net的毛病吗?

2006-06-20 08:38
Viviwei
Rank: 6Rank: 6
等 级:贵宾
威 望:20
帖 子:344
专家分:0
注 册:2006-4-11
收藏
得分:0 

建议你先好好的看下C语言!~
这样的除以是只取整的,不成在什么四舍五入!~他在计算的过程中是忽略小数位的!~


爱上思考,爱上编程,爱上.net!
2006-06-20 09:51
czw123
Rank: 1
等 级:新手上路
帖 子:30
专家分:0
注 册:2006-6-9
收藏
得分:0 

/ 和 \ 是不一样的意思吧

2006-06-20 17:05
wy9614
Rank: 1
等 级:新手上路
帖 子:15
专家分:0
注 册:2005-7-28
收藏
得分:0 
不好意思,我打错了,已经更正了!
2006-06-21 08:08
wy9614
Rank: 1
等 级:新手上路
帖 子:15
专家分:0
注 册:2005-7-28
收藏
得分:0 
难道是.net程序的错误吗?为什么偶数的会取整,而奇数的却进位,不知道大家有没有试过?
2006-06-22 07:59
快速回复:[求助]关于数值问题?
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.057450 second(s), 8 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved