求教数值计算的精确度问题 - VFP论坛

| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛 |

编程论坛 → 数据库技术 → 『 VFP论坛』 → 求教数值计算的精确度问题

我的收件箱(0)

欢迎加入我们，一同切磋技术

共有 409 人关注过本帖

标题：求教数值计算的精确度问题

取消只看楼主加入收藏

fdxxhjc

等　级：新手上路
帖　子：305
专家分：0
注　册：2014-4-10
结帖率：73.44%

楼主

已结贴√ 问题点数：20 回复次数：1

求教数值计算的精确度问题

我有一个原表.dbf，内有一个字段（变量），这个字段下有512条记录，分别计算这512条记录的一次的和，二次和以及三次的和，这三个和求下来一次、二次的值与软件maple计算的结果一致，但三次和的值两者不一样，并用其他软件验证后是maple软件计算的结果是正确的，而VFP的结果是个近似值，请教这样不是vfp的计算结果最近会有误差了吗