|
网站首页
|
业界新闻
|
小组
|
威客
|
人才
|
下载频道
|
博客
|
代码贴
|
在线编程
|
编程论坛
|
登录
注册
短消息
我发表的主题
我参与的主题
我收藏的贴子
我上传的附件
我下过的附件
编辑个人资料
我的博客
用户控制面板
搜索
道具
恢复默认风格
碧海青天
秋意盎然
棕红预览
粉色回忆
蓝雅绿
紫色淡雅
青青河草
e点小镇
橘子红了
红红夜思
水晶紫色
雪花飘飘
新年快乐
风格
短消息
论坛展区
帮助
编程论坛
→
数据库技术
→
『 VFP论坛 』
→ 发现一个怪问题:43480010002696700+8=43480010002696710
我的收件箱(0)
欢迎加入我们,一同切磋技术
用户名:
密 码:
共有
898
人关注过本帖
标题:
发现一个怪问题:43480010002696700+8=43480010002696710
只看楼主
加入收藏
qjbzjp
来 自:尧的故乡
等 级:
贵宾
威 望:
48
帖 子:1914
专家分:4397
注 册:2007-3-14
结帖率:
90.48%
楼主
收藏
已结贴
√
问题点数:50 回复次数:13
发现一个怪问题:43480010002696700+8=43480010002696710
今天回复网友的问题时,发现一个怪问题:
43480010002696700+8=43480010002696710
而不是等于43480010002696708
我想可能是VFP的数据精度控制在16位。
用超过16位的数据测试,确实有问题。
请各位高手解答。
2013-10-29 19:28
举报帖子
使用道具
赠送鲜花
jinnee99
等 级:
新手上路
帖 子:17
专家分:5
注 册:2013-10-12
第
2
楼
收藏
得分:5
四舍五入了
2013-10-29 19:45
举报帖子
使用道具
赠送鲜花
tlliqi
等 级:
贵宾
威 望:
204
帖 子:15453
专家分:65956
注 册:2006-4-27
第
3
楼
收藏
得分:0
试了下 是这样
有图
图片附件: 游客没有浏览图片的权限,请
登录
或
注册
2013-10-29 20:08
举报帖子
使用道具
赠送鲜花
wp231957
来 自:神界
等 级:
贵宾
威 望:
423
帖 子:13688
专家分:53332
注 册:2012-10-18
第
4
楼
收藏
得分:5
超出int的范围了
DO IT YOURSELF !
2013-10-29 20:10
举报帖子
使用道具
赠送鲜花
hu9jj
来 自:红土地
等 级:
贵宾
威 望:
400
帖 子:11857
专家分:43421
注 册:2006-5-13
第
5
楼
收藏
得分:5
都是天文数字
活到老,学到老!http://www.(该域名已经被ISP盗卖了)E-mail:hu-jj@
2013-10-29 20:34
举报帖子
使用道具
赠送鲜花
tlliqi
等 级:
贵宾
威 望:
204
帖 子:15453
专家分:65956
注 册:2006-4-27
第
6
楼
收藏
得分:20
一、VFP6.0的性能指标:
记录的最大长度:64K字节。
表文件的最大长度:2G 字节。
表中字段数:255个。
在内存中打开的表的最大个数:255个。
数据表的最大记录数:9亿个。
字符型字段的最大长度:255字节。
数值型字段表示十进制数的最大位数:20位。
浮点型字段表示十进制数的最大位数:20位。
数值计算时最多可以精确的位数:16位。
整数的最大值: +2 147 483 647。
整数的最小值: -2 147 483 647。
定义的内存变量的最多个数: 65 000。
数组下标的最大值: 65 000。
DO 调用命令最多可以嵌套的层数:118层。
READ命令最多可以嵌套的层数:5层。
结构化程序设计命令的最大嵌套层数:384层。
在自定义的过程或者函数中可以传递参数的最大值:27。
报表页面可以定义的最大长度:20英寸。
报表分组的最大层数:118层。
可以同进打开浏览窗口的最大个数:255个。
每一行命令的最大长度:8192字节。
每一个宏替换的最大长度:8192字节。
2013-10-30 08:20
举报帖子
使用道具
赠送鲜花
taifu945
等 级:
贵宾
威 望:
80
帖 子:1545
专家分:3298
注 册:2012-7-6
第
7
楼
收藏
得分:15
同意4、6楼的话。看上去是整数相加,但由于超出了整数的处理范围,所以自动变成浮点数相加。但浮点数也要在可处理的位数范围内,超过这个范围就会发生计算结果不符合常理。
2013-10-30 09:01
举报帖子
使用道具
赠送鲜花
qjbzjp
来 自:尧的故乡
等 级:
贵宾
威 望:
48
帖 子:1914
专家分:4397
注 册:2007-3-14
第
8
楼
收藏
得分:0
以下是引用
tlliqi
在2013-10-30 08:20:35的发言:
一、VFP6.0的性能指标:
……
数值计算时最多可以精确的位数:16位。
整数的最大值: +2 147 483 647。
整数的最小值: -2 147 483 647。
……还真是精确到16位。
相互学习,互相交流,共同提高。
2013-10-30 09:47
举报帖子
使用道具
赠送鲜花
taohua300
来 自:光
等 级:
贵宾
威 望:
14
帖 子:1636
专家分:3906
注 册:2009-3-11
第
9
楼
收藏
得分:0
?43480010002696700+100
你看结果
个性太多,无法显示
2013-10-30 13:44
举报帖子
使用道具
赠送鲜花
qjbzjp
来 自:尧的故乡
等 级:
贵宾
威 望:
48
帖 子:1914
专家分:4397
注 册:2007-3-14
第
10
楼
收藏
得分:0
第十六位上加减就不正确了:
?43480010002696700+110
相互学习,互相交流,共同提高。
2013-10-30 14:12
举报帖子
使用道具
赠送鲜花
14
1/2页
1
2
快速回复:
发现一个怪问题:43480010002696700+8=43480010002696710
数据加载中...
关于我们
|
广告合作
|
编程中国
|
清除Cookies
|
TOP
|
手机版
编程中国
版权所有,并保留所有权利。
Powered by
Discuz
, Processed in 0.017710 second(s), 8 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved