| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 689 人关注过本帖
标题:关于VB计算精确度的问题~~~求解答
取消只看楼主 加入收藏
孙东东007
Rank: 1
等 级:新手上路
帖 子:45
专家分:0
注 册:2015-4-9
结帖率:77.78%
收藏
已结贴  问题点数:10 回复次数:5 
关于VB计算精确度的问题~~~求解答
这个计算结果明显是错误的,可是代码也正确啊,是精确度有问题么?应该怎么弄呢?
图片附件: 游客没有浏览图片的权限,请 登录注册
2015-05-22 14:26
孙东东007
Rank: 1
等 级:新手上路
帖 子:45
专家分:0
注 册:2015-4-9
收藏
得分:0 
Private Sub Command1_Click()
D = Val(Text7.Text)
P0 = 1.18 / D ^ 0.5
Text4.Text = P0
End Sub

Private Sub Command2_Click()
Text4.Text = ""
Text7.Text = ""
End Sub
2015-05-22 14:29
孙东东007
Rank: 1
等 级:新手上路
帖 子:45
专家分:0
注 册:2015-4-9
收藏
得分:0 
看起来好深奥,我是菜鸟,应该把这些代码放在哪呀?放在计算按钮里么?
2015-05-22 15:06
孙东东007
Rank: 1
等 级:新手上路
帖 子:45
专家分:0
注 册:2015-4-9
收藏
得分:0 
好吧~~~我承认我没明白你什么意思,我之前那个代码就可以计算,但是计算有些大的数值的时候就不对了,比如根号里输入100就可以正确地算出来了,但是输入大点的数值就不行了,你在帮我看看呗,我用的是VB6.0
2015-05-22 15:11
孙东东007
Rank: 1
等 级:新手上路
帖 子:45
专家分:0
注 册:2015-4-9
收藏
得分:0 
回复 8楼 wmf2014
还是不行~~
2015-05-22 15:20
孙东东007
Rank: 1
等 级:新手上路
帖 子:45
专家分:0
注 册:2015-4-9
收藏
得分:0 
回复 10楼 wmf2014
解决了,谢谢啦~~~~
2015-05-22 16:35
快速回复:关于VB计算精确度的问题~~~求解答
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.026683 second(s), 9 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved