Dx对数值计算的影响?
我在一个平面测量软件的开发过程中,要使用相关的数值计算,同时使用DirectX来显示相关的计算结果,在此过程中,发现当启用DirectX后,double的计算精度会发生变化,从而导致数值计算结果不准。或者,在数值计算软件中,不能使用DirectX?环境: 2005 SP2;或 2008
语言:C#
DirectX版本:C#开发版(9.0C版),版本号:1.0.2902.0
详细的计算过程及代码,请见附件。
Dx对数值计算的影响.rar
(17.5 KB)