| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 689 人关注过本帖
标题:关于VB计算精确度的问题~~~求解答
只看楼主 加入收藏
孙东东007
Rank: 1
等 级:新手上路
帖 子:45
专家分:0
注 册:2015-4-9
结帖率:77.78%
收藏
已结贴  问题点数:10 回复次数:10 
关于VB计算精确度的问题~~~求解答
这个计算结果明显是错误的,可是代码也正确啊,是精确度有问题么?应该怎么弄呢?
图片附件: 游客没有浏览图片的权限,请 登录注册
2015-05-22 14:26
wp231957
Rank: 20Rank: 20Rank: 20Rank: 20Rank: 20
来 自:神界
等 级:贵宾
威 望:423
帖 子:13688
专家分:53332
注 册:2012-10-18
收藏
得分:2 
代码呢???  明显是错误的也敢说“可是代码也正确啊”

DO IT YOURSELF !
2015-05-22 14:28
孙东东007
Rank: 1
等 级:新手上路
帖 子:45
专家分:0
注 册:2015-4-9
收藏
得分:0 
Private Sub Command1_Click()
D = Val(Text7.Text)
P0 = 1.18 / D ^ 0.5
Text4.Text = P0
End Sub

Private Sub Command2_Click()
Text4.Text = ""
Text7.Text = ""
End Sub
2015-05-22 14:29
wp231957
Rank: 20Rank: 20Rank: 20Rank: 20Rank: 20
来 自:神界
等 级:贵宾
威 望:423
帖 子:13688
专家分:53332
注 册:2012-10-18
收藏
得分:2 
我这里没问题:

程序代码:
 Private Sub Button4_Click(ByVal sender As System.Object, ByVal e As System.EventArgs) Handles Button4.Click
        Dim D As Double
        Dim P0 As Double
        D = Val(TextBox3.Text)
        P0 = 1.18 / D ^ 0.5
        TextBox4.Text = P0
    End Sub

DO IT YOURSELF !
2015-05-22 14:36
孙东东007
Rank: 1
等 级:新手上路
帖 子:45
专家分:0
注 册:2015-4-9
收藏
得分:0 
看起来好深奥,我是菜鸟,应该把这些代码放在哪呀?放在计算按钮里么?
2015-05-22 15:06
wp231957
Rank: 20Rank: 20Rank: 20Rank: 20Rank: 20
来 自:神界
等 级:贵宾
威 望:423
帖 子:13688
专家分:53332
注 册:2012-10-18
收藏
得分:2 
我没有vb6环境  那个神马一系列变量不用dim定义 你都能直接用吗

DO IT YOURSELF !
2015-05-22 15:07
孙东东007
Rank: 1
等 级:新手上路
帖 子:45
专家分:0
注 册:2015-4-9
收藏
得分:0 
好吧~~~我承认我没明白你什么意思,我之前那个代码就可以计算,但是计算有些大的数值的时候就不对了,比如根号里输入100就可以正确地算出来了,但是输入大点的数值就不行了,你在帮我看看呗,我用的是VB6.0
2015-05-22 15:11
wmf2014
Rank: 19Rank: 19Rank: 19Rank: 19Rank: 19Rank: 19
等 级:贵宾
威 望:216
帖 子:2039
专家分:11273
注 册:2014-12-6
收藏
得分:2 
你把text4宽度拉宽点就看到真正的结果了,是科学计数法造成的。

能编个毛线衣吗?
2015-05-22 15:18
孙东东007
Rank: 1
等 级:新手上路
帖 子:45
专家分:0
注 册:2015-4-9
收藏
得分:0 
回复 8楼 wmf2014
还是不行~~
2015-05-22 15:20
wmf2014
Rank: 19Rank: 19Rank: 19Rank: 19Rank: 19Rank: 19
等 级:贵宾
威 望:216
帖 子:2039
专家分:11273
注 册:2014-12-6
收藏
得分:2 
回复 9楼 孙东东007
Private Sub Command1_Click()
D = Val(Text7.Text)
P0 = 1.18 / D ^ 0.5
Text4.Text = Format(P0, "0.00000")   '调整下格式吧,就看到正确答案了,你的答案是1.96666666666667E-02,由于太长,显示不出来
End Sub

Private Sub Command2_Click()
Text4.Text = ""
Text7.Text = ""
End Sub

能编个毛线衣吗?
2015-05-22 16:13
快速回复:关于VB计算精确度的问题~~~求解答
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.045259 second(s), 8 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved