| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 898 人关注过本帖
标题:发现一个怪问题:43480010002696700+8=43480010002696710
只看楼主 加入收藏
qjbzjp
Rank: 13Rank: 13Rank: 13Rank: 13
来 自:尧的故乡
等 级:贵宾
威 望:48
帖 子:1914
专家分:4397
注 册:2007-3-14
结帖率:90.48%
收藏
已结贴  问题点数:50 回复次数:13 
发现一个怪问题:43480010002696700+8=43480010002696710
今天回复网友的问题时,发现一个怪问题:
43480010002696700+8=43480010002696710  而不是等于43480010002696708

我想可能是VFP的数据精度控制在16位。
用超过16位的数据测试,确实有问题。
请各位高手解答。
2013-10-29 19:28
jinnee99
Rank: 1
等 级:新手上路
帖 子:17
专家分:5
注 册:2013-10-12
收藏
得分:5 
四舍五入了
2013-10-29 19:45
tlliqi
Rank: 19Rank: 19Rank: 19Rank: 19Rank: 19Rank: 19
等 级:贵宾
威 望:204
帖 子:15453
专家分:65956
注 册:2006-4-27
收藏
得分:0 
试了下 是这样

有图
图片附件: 游客没有浏览图片的权限,请 登录注册
2013-10-29 20:08
wp231957
Rank: 20Rank: 20Rank: 20Rank: 20Rank: 20
来 自:神界
等 级:贵宾
威 望:423
帖 子:13688
专家分:53332
注 册:2012-10-18
收藏
得分:5 
超出int的范围了

DO IT YOURSELF !
2013-10-29 20:10
hu9jj
Rank: 20Rank: 20Rank: 20Rank: 20Rank: 20
来 自:红土地
等 级:贵宾
威 望:400
帖 子:11773
专家分:43421
注 册:2006-5-13
收藏
得分:5 
都是天文数字

活到老,学到老!http://www.(该域名已经被ISP盗卖了)E-mail:hu-jj@
2013-10-29 20:34
tlliqi
Rank: 19Rank: 19Rank: 19Rank: 19Rank: 19Rank: 19
等 级:贵宾
威 望:204
帖 子:15453
专家分:65956
注 册:2006-4-27
收藏
得分:20 
一、VFP6.0的性能指标:

记录的最大长度:64K字节。
表文件的最大长度:2G 字节。
表中字段数:255个。
在内存中打开的表的最大个数:255个。
数据表的最大记录数:9亿个。
字符型字段的最大长度:255字节。
数值型字段表示十进制数的最大位数:20位。
浮点型字段表示十进制数的最大位数:20位。
数值计算时最多可以精确的位数:16位。
整数的最大值: +2 147 483 647。
整数的最小值: -2 147 483 647。
定义的内存变量的最多个数: 65 000。
数组下标的最大值: 65 000。
DO 调用命令最多可以嵌套的层数:118层。
READ命令最多可以嵌套的层数:5层。
结构化程序设计命令的最大嵌套层数:384层。
在自定义的过程或者函数中可以传递参数的最大值:27。
报表页面可以定义的最大长度:20英寸。
报表分组的最大层数:118层。
可以同进打开浏览窗口的最大个数:255个。
每一行命令的最大长度:8192字节。
每一个宏替换的最大长度:8192字节。

2013-10-30 08:20
taifu945
Rank: 12Rank: 12Rank: 12
等 级:贵宾
威 望:80
帖 子:1545
专家分:3298
注 册:2012-7-6
收藏
得分:15 
同意4、6楼的话。看上去是整数相加,但由于超出了整数的处理范围,所以自动变成浮点数相加。但浮点数也要在可处理的位数范围内,超过这个范围就会发生计算结果不符合常理。
2013-10-30 09:01
qjbzjp
Rank: 13Rank: 13Rank: 13Rank: 13
来 自:尧的故乡
等 级:贵宾
威 望:48
帖 子:1914
专家分:4397
注 册:2007-3-14
收藏
得分:0 
以下是引用tlliqi在2013-10-30 08:20:35的发言:

一、VFP6.0的性能指标:
……
数值计算时最多可以精确的位数:16位。
整数的最大值: +2 147 483 647。
整数的最小值: -2 147 483 647。
……还真是精确到16位。

相互学习,互相交流,共同提高。
2013-10-30 09:47
taohua300
Rank: 12Rank: 12Rank: 12
来 自:光
等 级:贵宾
威 望:14
帖 子:1636
专家分:3906
注 册:2009-3-11
收藏
得分:0 

?43480010002696700+100

你看结果

个性太多,无法显示
2013-10-30 13:44
qjbzjp
Rank: 13Rank: 13Rank: 13Rank: 13
来 自:尧的故乡
等 级:贵宾
威 望:48
帖 子:1914
专家分:4397
注 册:2007-3-14
收藏
得分:0 
第十六位上加减就不正确了:
?43480010002696700+110


相互学习,互相交流,共同提高。
2013-10-30 14:12
快速回复:发现一个怪问题:43480010002696700+8=43480010002696710
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.016968 second(s), 8 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved