请教 :小数取到16位有效值的问题
要小数点后16位有效小数点,但vfp好像只能取到有效13位小数,比如300除1.05=285.7142857142857 ,但我实际小需要的值是300除1.05=285.714285714285714 (多出两位有效小数) 如果SET DECIMALS TO 18 也返回不了16位小数 它显示成285.714285714285700 VB中有很好的解决办法:如下
Dim a As Variant
a = 22
a = a / 7
Debug.Print a
上述代码的运行结果为 3.14285714285714,这是双精度浮点数的精度极限(15位有效数字)。
如果代码改为:
Dim a As Variant
a = CDec(22)
a = a / 7
Debug.Print a
则显示结果为:3.1428571428571428571428571429