| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 582 人关注过本帖
标题:asp 函数中 有 长整型 函数吗?
只看楼主 加入收藏
g25280171
Rank: 1
等 级:新手上路
帖 子:6
专家分:0
注 册:2011-5-20
结帖率:0
收藏
已结贴  问题点数:10 回复次数:2 
asp 函数中 有 长整型 函数吗?
int  只能计算出 10位数以内  有 长整型的函数吗?
下面函数 提示溢出  
<%
for i=0 to 13
x=int(10000000000/16^i) mod 16
response.write ("区间值:"&x&"<BR>")
next
 %>
搜索更多相关主题的帖子: 计算 asp 
2011-05-21 17:16
dzt0001
Rank: 13Rank: 13Rank: 13Rank: 13
等 级:蒙面侠
威 望:5
帖 子:1281
专家分:4998
注 册:2005-10-12
收藏
得分:5 
主要不是int的问题,关键是mod的问题,mod运算只支持整形数字(Integer和Long),不支持单精度和双精度数(Single和Double)
Integer   -32,768到32,767
Long   -2,147,483,648到2,147,483,647

当i=0时,int()括弧中的数字是10000000000已经超出整形数字的范围,变成了单精度数字类型,用int转换后还是10000000000单精度数字,无法进行mod运算。

----我怎能在别人的苦难面前转过脸去----
2011-05-21 21:06
liang198207
Rank: 5Rank: 5
等 级:职业侠客
帖 子:70
专家分:300
注 册:2011-5-10
收藏
得分:5 
Clng    处理的范围也是21亿之内,像你这么无限的加0测试估计到100亿也会提示溢出的
2011-05-21 21:07
快速回复:asp 函数中 有 长整型 函数吗?
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.034523 second(s), 7 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved