| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 1440 人关注过本帖
标题:vfp整型最大值
只看楼主 加入收藏
TonyDeng
Rank: 20Rank: 20Rank: 20Rank: 20Rank: 20
等 级:贵宾
威 望:304
帖 子:25859
专家分:48889
注 册:2011-6-22
收藏
得分:0 
以下是引用taohua300在2013-7-19 11:44:51的发言:

但能计算正确的值远远超过了32位整数所能表达的值(4294967295)

m.i = 1000000000000000 - 1
? m.i

m.i = 10000000000000000 - 1
? m.i

这个算的是浮点数,53位的。

授人以渔,不授人以鱼。
2013-07-19 11:57
taohua300
Rank: 12Rank: 12Rank: 12
来 自:光
等 级:贵宾
威 望:14
帖 子:1636
专家分:3906
注 册:2009-3-11
收藏
得分:0 
m.i = 4294967295 - 1
? m.i

结果也是浮点

个性太多,无法显示
2013-07-19 11:59
taohua300
Rank: 12Rank: 12Rank: 12
来 自:光
等 级:贵宾
威 望:14
帖 子:1636
专家分:3906
注 册:2009-3-11
收藏
得分:0 
当m.i为无符号整型时,最大值是 0xffffffff
有符号时,最大值为 2147483647
m.i使用有符号整型

但直接m.i = 100000000000000
?m.i

结果还是显示整型

个性太多,无法显示
2013-07-19 12:01
TonyDeng
Rank: 20Rank: 20Rank: 20Rank: 20Rank: 20
等 级:贵宾
威 望:304
帖 子:25859
专家分:48889
注 册:2011-6-22
收藏
得分:0 
你自己设置默认的小数位为零而已:
图片附件: 游客没有浏览图片的权限,请 登录注册

授人以渔,不授人以鱼。
2013-07-19 12:03
ntxscwk
Rank: 5Rank: 5
等 级:职业侠客
威 望:4
帖 子:118
专家分:352
注 册:2012-6-23
收藏
得分:20 
找不到变量?
2013-07-19 15:49
taohua300
Rank: 12Rank: 12Rank: 12
来 自:光
等 级:贵宾
威 望:14
帖 子:1636
专家分:3906
注 册:2009-3-11
收藏
得分:0 
小数位数没有设置
默认的

个性太多,无法显示
2013-07-20 13:30
TonyDeng
Rank: 20Rank: 20Rank: 20Rank: 20Rank: 20
等 级:贵宾
威 望:304
帖 子:25859
专家分:48889
注 册:2011-6-22
收藏
得分:0 
我14楼显示正常,你不正常咯。你自以为没设置而已。

授人以渔,不授人以鱼。
2013-07-20 13:32
taohua300
Rank: 12Rank: 12Rank: 12
来 自:光
等 级:贵宾
威 望:14
帖 子:1636
专家分:3906
注 册:2009-3-11
收藏
得分:0 
m.i = 1000000000000000 - 1
? m.i

m.i = 1000000000000000
? m.i - 1

这样两个结果还是有些不同的

个性太多,无法显示
2013-07-20 13:35
TonyDeng
Rank: 20Rank: 20Rank: 20Rank: 20Rank: 20
等 级:贵宾
威 望:304
帖 子:25859
专家分:48889
注 册:2011-6-22
收藏
得分:20 
看看这个图就会明白:
图片附件: 游客没有浏览图片的权限,请 登录注册

授人以渔,不授人以鱼。
2013-07-20 13:53
TonyDeng
Rank: 20Rank: 20Rank: 20Rank: 20Rank: 20
等 级:贵宾
威 望:304
帖 子:25859
专家分:48889
注 册:2011-6-22
收藏
得分:0 
图片附件: 游客没有浏览图片的权限,请 登录注册

授人以渔,不授人以鱼。
2013-07-20 13:56
快速回复:vfp整型最大值
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.029996 second(s), 9 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved