| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 547 人关注过本帖
标题:Dx对数值计算的影响?
只看楼主 加入收藏
hexc67892
Rank: 1
等 级:新手上路
帖 子:4
专家分:0
注 册:2011-8-16
收藏
 问题点数:0 回复次数:1 
Dx对数值计算的影响?
我在一个平面测量软件的开发过程中,要使用相关的数值计算,同时使用DirectX来显示相关的计算结果,在此过程中,发现当启用DirectX后,double的计算精度会发生变化,从而导致数值计算结果不准。或者,在数值计算软件中,不能使用DirectX?
环境: 2005 SP2;或 2008
语言:C#
DirectX版本:C#开发版(9.0C版),版本号:1.0.2902.0

详细的计算过程及代码,请见附件。
Dx对数值计算的影响.rar (17.5 KB)

搜索更多相关主题的帖子: DirectX double 版本号 影响 测量 
2011-08-16 11:36
hexc67892
Rank: 1
等 级:新手上路
帖 子:4
专家分:0
注 册:2011-8-16
收藏
得分:0 
DirectX要切换FPU到float以获得高性能。
DirectX会切换FPU到单精度以获得更高的性能。你可以在device设备创建时用CreateFlags.FpuPreserve来禁止这个行为。
2011-08-26 21:28
快速回复:Dx对数值计算的影响?
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.039176 second(s), 8 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved