| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 619 人关注过本帖
标题:几个关于数值的问题(又有一个新问题)
只看楼主 加入收藏
十足新手
Rank: 1
等 级:新手上路
帖 子:75
专家分:0
注 册:2006-9-22
收藏
 问题点数:0 回复次数:4 
几个关于数值的问题(又有一个新问题)
问题一
字符型变量a="0.0001"
为什么val(a)的返回值是0.00
怎样实现返回数值型的0.0001
问题二
数值型的b=160000000000.0000怎样便成
字符型的160000000000
我用了str(b,12,0)和str(b)但是返回的是1.6000000E12
问题三(新)
(8790000000000000-8240000000000000)*(1.65-1.60)/(1.60-1.70)+8790000000000000
的计算值为什么是8515000000000001
最后为什么是1呀
以上问题请各位大虾不吝赐教

[此贴子已经被作者于2006-10-27 18:41:19编辑过]

搜索更多相关主题的帖子: 数值 
2006-10-26 21:07
Tiger5392
Rank: 12Rank: 12Rank: 12
等 级:贵宾
威 望:88
帖 子:2775
专家分:2237
注 册:2006-5-17
收藏
得分:0 

问题一:与set deci to有关。你采用set deci to 10看看?

问题二:?str(b,12)结果没有问题。倒是str(b)有问题。


感言:学以致用。 博客:http://www./blog/user14/65009/index.shtml email:Tiger5392@
2006-10-26 22:46
啸凡
Rank: 8Rank: 8
等 级:贵宾
威 望:45
帖 子:1356
专家分:885
注 册:2006-2-22
收藏
得分:0 
SET DECIMALS TO [nDecimalPlaces]
参数
nDecimalPlaces
指定要显示的最少的小数点位数。默认值是 2 位小数。最大为 18 位小数,最少是 0。
其实,这些东西很基础,帮助文件上也说得很明白,还请楼主多看看帮助文件,绝对有好处。

两人行已有我师……
2006-10-27 08:11
十足新手
Rank: 1
等 级:新手上路
帖 子:75
专家分:0
注 册:2006-9-22
收藏
得分:0 
谢谢二位高手的赐教,前两个问题已经解决
2006-10-27 18:42
Tiger5392
Rank: 12Rank: 12Rank: 12
等 级:贵宾
威 望:88
帖 子:2775
专家分:2237
注 册:2006-5-17
收藏
得分:0 
VFP处理整数的最大位数为16位,即个位是不精确的。产生那样的误差是正常的。当你将原来的大数换成15位计算,结果是什么?

[此贴子已经被作者于2006-10-28 0:10:23编辑过]



感言:学以致用。 博客:http://www./blog/user14/65009/index.shtml email:Tiger5392@
2006-10-28 00:09
快速回复:几个关于数值的问题(又有一个新问题)
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.015949 second(s), 7 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved