| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 898 人关注过本帖
标题:发现一个怪问题:43480010002696700+8=43480010002696710
取消只看楼主 加入收藏
qjbzjp
Rank: 13Rank: 13Rank: 13Rank: 13
来 自:尧的故乡
等 级:贵宾
威 望:48
帖 子:1914
专家分:4397
注 册:2007-3-14
结帖率:90.48%
收藏
已结贴  问题点数:50 回复次数:2 
发现一个怪问题:43480010002696700+8=43480010002696710
今天回复网友的问题时,发现一个怪问题:
43480010002696700+8=43480010002696710  而不是等于43480010002696708

我想可能是VFP的数据精度控制在16位。
用超过16位的数据测试,确实有问题。
请各位高手解答。
2013-10-29 19:28
qjbzjp
Rank: 13Rank: 13Rank: 13Rank: 13
来 自:尧的故乡
等 级:贵宾
威 望:48
帖 子:1914
专家分:4397
注 册:2007-3-14
收藏
得分:0 
以下是引用tlliqi在2013-10-30 08:20:35的发言:

一、VFP6.0的性能指标:
……
数值计算时最多可以精确的位数:16位。
整数的最大值: +2 147 483 647。
整数的最小值: -2 147 483 647。
……还真是精确到16位。

相互学习,互相交流,共同提高。
2013-10-30 09:47
qjbzjp
Rank: 13Rank: 13Rank: 13Rank: 13
来 自:尧的故乡
等 级:贵宾
威 望:48
帖 子:1914
专家分:4397
注 册:2007-3-14
收藏
得分:0 
第十六位上加减就不正确了:
?43480010002696700+110


相互学习,互相交流,共同提高。
2013-10-30 14:12
快速回复:发现一个怪问题:43480010002696700+8=43480010002696710
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.053589 second(s), 8 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved