数据精度的问题
我在做数学计算时公式是这样的csng(textbox1.text)-csng(textbox2.text),我输入12.33和12,为什么得出的结果却是0.32999999,却不是0.33,为什么用csng(textbox1.text-textbox2.text)得出的结果就是0.33了,为什么了;同样这两个式子用double类型:cdbl(textbox1.text)-cdbl(textbox2.text)和cdbl(textbox1.text-textbox2.text)算出的结果却是一样的,都是0.33,这又为什么了?
还有single在保持小数点后3位,最大可以多大,double在保持小数点后6位最大是多少
[此贴子已经被作者于2006-11-13 20:17:44编辑过]