我定义了一个字符类型数组shuzu(1 to 1000,1 to 2)
然后从数据库中取出date和weight的数据
date 是nvarchar类型的
weight 是numeric类型的(5位有效数字,3位小数)
然后是这样赋值的

shuzu(1,1) = rs!date
shuzu(1,2) = rs!weight

前面我从数据库中取出了一个数值型的数据赋给了sweight
然后让sweight - shuzu(1,2)(这样减行不?还是需要在shuzu(1,2)前面加上val)
假设 sweight = 66.5 ,shuzu(1,2) = "65.56"

然后把他们减的差显示出来为什么是:0.9399999999999998 而不是0.94呢
该怎么改才能让他显示0.94?
谢谢!

嗯,谢谢!
我想问一下为什么
就算我用val(shuzu(1,2))
sweight的值为65.6
val(shuzu(1,2))的值为64.66
然后用sweight - val(shuzu(1,2))
结果却是0.9399999999999998
而不是0.94呢??

嗯.
在内存中占用8个字节吧
weight在SQL中是numeric类型的(5位有效数字,3位小数)
把它取出来放在string型数组中不会影响他的值吧?
然后再把他取出来转化成数值型.我用的是val转化的.我设置断点看他的值也是64.66
看sweight的值也是65.6
但是他们相减后差却不是0.94
面是0.9399999999999998
他们相减的时候是按double类型减的吗?
那怎样做才能让他显示0.94???

就是像上面那样就行是不?
先试试.

两位版主的建议都试了.
不管是CDbl还是val

不好意思.按回车了.
结果都是 .940
怎样让他显示0.940
to_char()吗??

Format(val(sweight) - val(shuzu(1,2)), "#0.0##")
这样就行.
不过再问一下format()里面的参数.0和#区别.
上面我写的这个是不是形式最少是x.x这样
如果结果整数部分有2位那么就显示整数部分就显示2位
如果结果整数部分有1位那么就显示整数部分就显示1位
同理小数部分也是至少显示1位,如果有两位就显示2位,如果有3位就显示3位是不???

嗯,应该是这样.谢谢了!

我也"服"了.
LS,谢谢了!!