| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 345 人关注过本帖
标题:运算偏差
取消只看楼主 加入收藏
牛哥192
Rank: 1
等 级:新手上路
帖 子:3
专家分:0
注 册:2011-6-12
结帖率:100%
收藏
已结贴  问题点数:20 回复次数:2 
运算偏差
编了一个材积计算的程序,但结果果有偏差,4M,20CM的材种是0.16,计算得出是0.152。请帮一帮。
源代码如下 :
local ll as numeric  ,dd as numeric,nn as numeric,v1 as numeric,vv11 as numeric,vv1 as numeric,vv as numeric,cai as numeric
SET DECIMALS TO 4
SET FIXED ON     

ll=thisform.text1.value
 dd=thisform.text2.value
 nn=thisform.text3.value
 IF ll<10.1
   IF dd>12
       vv1=1000*0.000125*ll*(14-ll)*(14-ll)*(dd-10)
       vv11=round(vv1,3)
       v1=dd+0.5*ll+0.005*ll*ll+vv11/1000
       vv=7854*ll*v1*v1/100000000
       cai=nn*(int(vv*1000+0.5))/1000
      
       thisform.text4.value  =cai      
   ELSE
     IF dd>7
       v1=dd+0.45*ll+0.2
       vv=0.7854*ll*v1*v1/10000
       cai=nn*(int(vv*1000+0.5))/1000
       thisform.text4.value  =cai      
     ENDIF
   ENDIF
    v1=dd+0.45*ll+0.2
    vv=0.7854*ll*v1*v1/10000
 ELSE
    IF dd>7
      v1=dd+0.5*ll
      vv=0.8*ll*v1*v1/10000
      cai=nn*(int(vv*1000+0.5))/1000
      thisform.text4.value  =cai      
    ELSE
      v1=dd+0.5*ll
      vv=0.8*ll*v1*v1/10000
    ENDIF
ENDIF
cai=nn*(int(vv*10000+0.5))/10000
thisform.text4.value  =cai      
搜索更多相关主题的帖子: 源代码 
2011-06-12 16:51
牛哥192
Rank: 1
等 级:新手上路
帖 子:3
专家分:0
注 册:2011-6-12
收藏
得分:0 
楼上,您好,我改了后,计算精度还是一样,没有变化。请指教!
2011-06-13 08:20
牛哥192
Rank: 1
等 级:新手上路
帖 子:3
专家分:0
注 册:2011-6-12
收藏
得分:0 
计算的结果是:0.1521,这是用每一个分支计算的,别的分支计算都对,应该是个编程技巧问题。请大师指教!
2011-06-13 08:24
快速回复:运算偏差
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.060581 second(s), 8 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved