1、百度了一个,结果是先那指数转化为分数,分子用来计算整数次幂,然后分母进行开方。
2、最近刚看到一个等式 0.99999....(9循环) = 1
并且给出了一个粗略的证明。。。
所以。。。。。
计算机存在舍入误差,双精度占8个字节,64位,15位有效数据,并不是说计算机计算时只有15位有效数据,这15位仅仅是输出的精度。
英特尔的cpu计算浮点的时候内部精度是80位,输出输入还是64位(百度知乎的)。所以最后一位向前四舍五入就会导致这个误差被舍入了。
[此贴子已经被作者于2021-2-18 00:22编辑过]
Private Sub Form_Load() Debug.Print 0.3 ^ 0.3 Dim a As Double, b As Double, c As Double, d As Double, e As Double Dim f As Double, g As Double, h As Double, i As Double, j As Double Dim k As Double a = 0.3 ^ 3 b = Sqr(a) c = Sqr(b) d = Sqr(c) e = Sqr(d) f = Sqr(e) g = Sqr(f) h = Sqr(g) i = Sqr(h) j = Sqr(i) k = Sqr(j) Debug.Print k End Sub
[此贴子已经被作者于2021-2-23 18:55编辑过]