|
网站首页
|
业界新闻
|
小组
|
威客
|
人才
|
下载频道
|
博客
|
代码贴
|
在线编程
|
编程论坛
|
登录
注册
短消息
我发表的主题
我参与的主题
我收藏的贴子
我上传的附件
我下过的附件
编辑个人资料
我的博客
用户控制面板
搜索
道具
恢复默认风格
碧海青天
秋意盎然
棕红预览
粉色回忆
蓝雅绿
紫色淡雅
青青河草
e点小镇
橘子红了
红红夜思
水晶紫色
雪花飘飘
新年快乐
风格
短消息
论坛展区
帮助
编程论坛
→
数据库技术
→
『 VFP论坛 』
→ 发现一个怪问题:43480010002696700+8=43480010002696710
我的收件箱(0)
欢迎加入我们,一同切磋技术
用户名:
密 码:
共有
898
人关注过本帖
标题:
发现一个怪问题:43480010002696700+8=43480010002696710
取消只看楼主
加入收藏
qjbzjp
来 自:尧的故乡
等 级:
贵宾
威 望:
48
帖 子:1914
专家分:4397
注 册:2007-3-14
结帖率:
90.48%
楼主
收藏
已结贴
√
问题点数:50 回复次数:2
发现一个怪问题:43480010002696700+8=43480010002696710
今天回复网友的问题时,发现一个怪问题:
43480010002696700+8=43480010002696710
而不是等于43480010002696708
我想可能是VFP的数据精度控制在16位。
用超过16位的数据测试,确实有问题。
请各位高手解答。
2013-10-29 19:28
举报帖子
使用道具
赠送鲜花
qjbzjp
来 自:尧的故乡
等 级:
贵宾
威 望:
48
帖 子:1914
专家分:4397
注 册:2007-3-14
第
2
楼
收藏
得分:0
以下是引用
tlliqi
在2013-10-30 08:20:35的发言:
一、VFP6.0的性能指标:
……
数值计算时最多可以精确的位数:16位。
整数的最大值: +2 147 483 647。
整数的最小值: -2 147 483 647。
……还真是精确到16位。
相互学习,互相交流,共同提高。
2013-10-30 09:47
举报帖子
使用道具
赠送鲜花
qjbzjp
来 自:尧的故乡
等 级:
贵宾
威 望:
48
帖 子:1914
专家分:4397
注 册:2007-3-14
第
3
楼
收藏
得分:0
第十六位上加减就不正确了:
?43480010002696700+110
相互学习,互相交流,共同提高。
2013-10-30 14:12
举报帖子
使用道具
赠送鲜花
3
1/1页
1
快速回复:
发现一个怪问题:43480010002696700+8=43480010002696710
数据加载中...
关于我们
|
广告合作
|
编程中国
|
清除Cookies
|
TOP
|
手机版
编程中国
版权所有,并保留所有权利。
Powered by
Discuz
, Processed in 0.053589 second(s), 8 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved