我定义了一个字符类型数组shuzu(1 to 1000,1 to 2)
然后从数据库中取出date和weight的数据
date 是nvarchar类型的
weight 是numeric类型的(5位有效数字,3位小数)
然后是这样赋值的

shuzu(1,1) = rs!date
shuzu(1,2) = rs!weight

前面我从数据库中取出了一个数值型的数据赋给了sweight
然后让sweight - shuzu(1,2)(这样减行不?还是需要在shuzu(1,2)前面加上val)
假设 sweight = 66.5 ,shuzu(1,2) = "65.56"

然后把他们减的差显示出来为什么是:0.9399999999999998 而不是0.94呢
该怎么改才能让他显示0.94?
谢谢!

MsgBox Format(CDbl(sweight) - CDbl(shuzu(1,2)), "##.#0")

如果保留3位小数的话
"##.#0"换成"##.#00"

嗯,谢谢!
我想问一下为什么
就算我用val(shuzu(1,2))
sweight的值为65.6
val(shuzu(1,2))的值为64.66
然后用sweight - val(shuzu(1,2))
结果却是0.9399999999999998
而不是0.94呢??

首先,为什么会出现这个情况,我个人观点是这样:Double类型可以存储范围最大的数字.在内存中占用8个字.所以它的精度是很差的,这样导致计算的时候存在误差.
这个问题不光是在VB里面有,我在C#.NET2005里面也遇到过这样的问题.

嗯.
在内存中占用8个字节吧
weight在SQL中是numeric类型的(5位有效数字,3位小数)
把它取出来放在string型数组中不会影响他的值吧?
然后再把他取出来转化成数值型.我用的是val转化的.我设置断点看他的值也是64.66
看sweight的值也是65.6
但是他们相减后差却不是0.94
面是0.9399999999999998
他们相减的时候是按double类型减的吗?
那怎样做才能让他显示0.94???

就是像上面那样就行是不?
先试试.

LZ可以试下:
MsgBox Format(val(sweight) - val(shuzu(1,2)), "##.#0")

两位版主的建议都试了.
不管是CDbl还是val

不好意思.按回车了.
结果都是 .940
怎样让他显示0.940
to_char()吗??