1.798174才是對的～後面少個4就不對了～

3F E6 2A 91 是我依照b值再去運算出來的結果～

[ 本帖最后由 yz1025 于 2013-4-11 19:57 编辑 ]

我看了，在内存里面就是 3F E6 2A 91,你之前的一个截图里面也可以看到b的内存值啊

這問題先前部門內部有討論過～系統用VB6並依照IEEE754規範～
進行二進制處理後出來的值～和呼叫API等於VC6的處理就是不一樣～

TmpStrToDBL = CDbl(TmpStr)
LogNum = 10 ^ Log10(TmpStrToDBL)
IEEE32bit = sign * CSng(Mid(CStr(TmpStrToDBL / LogNum), 1, 9) * LogNum)

 
ptr1 = VarPtr(IEEE32bit)
ptr2 = VarPtr(tmpb(0))

 
CopyMemory ByVal ptr2, ByVal ptr1, 4
Debug.Print "new. " & tmpb(0) & " " & tmpb(1) & " " & tmpb(2) & " " & tmpb(3)

這次我直接全程用VC6處理～差異還是在～

所以我之前有问过怎么直接把内存的3F E6 2A 91撷取出来～这样我就不用手动转换了～

不过直接看内存资料～同一个值1.798174～
原始是3F E6 2A 90 (这我第一篇就写了)
变成是3F E6 2A 91
连内存资料都不同就已无力回天了～

没学过vb，不知道你们这段代码要怎样数据

收到的鲜花

• yz1025 于 2013-04-11 20:21 送鲜花  10朵   附言：写这么多才给20分～多少补贴一点～

想开一点只要确认不是我程式造成的误差问题～
就没我的事了～只是纠结～郁闷～
STDF<->ATDF两个档案互转程序今天完成了～

这段是在VB6中呼叫API处理符点数的程序～速度快～
原本是一步一脚印的用字节阵列以二进位方式算的～
程序相较之下有点长～所以没贴上～速度慢～差距将进30倍～
但是用API（VC6）会和系统有误差～所以就搁置了～

底层算是完成一半吧～再来就是要建模了～底层完成后～
就要开始设计使用者介面～程式流程控制～后段的资料分析运算～

3F E6 2A 90 是 1.7981739....
3F E6 2A 91 是 1.7981740....
这两数保留6位小数后都是 1.798174
在你第一篇帖子的代码里，把 1072048784 传换成 float 后，内存还是 3F E6 2A 90
然后把字符串A  "1.798174"转成float后内存是 3F E6 2A 91
这两个内存值在保留6位小数输出时都是1.798174，这没什么错的啊

就这么结贴了啊，我还没搞明白你们对浮点数是经过了怎么样的处理才导致误差的出现呢