|
网站首页
|
业界新闻
|
小组
|
威客
|
人才
|
下载频道
|
博客
|
代码贴
|
在线编程
|
编程论坛
|
登录
注册
短消息
我发表的主题
我参与的主题
我收藏的贴子
我上传的附件
我下过的附件
编辑个人资料
我的博客
用户控制面板
搜索
道具
恢复默认风格
碧海青天
秋意盎然
棕红预览
粉色回忆
蓝雅绿
紫色淡雅
青青河草
e点小镇
橘子红了
红红夜思
水晶紫色
雪花飘飘
新年快乐
风格
短消息
论坛展区
帮助
编程论坛
→
.NET专区
→
『 C# 论坛 』
→ Dx对数值计算的影响?
我的收件箱(0)
欢迎加入我们,一同切磋技术
用户名:
密 码:
共有
548
人关注过本帖
标题:
Dx对数值计算的影响?
只看楼主
加入收藏
hexc67892
等 级:
新手上路
帖 子:4
专家分:0
注 册:2011-8-16
楼主
收藏
问题点数:0 回复次数:1
Dx对数值计算的影响?
我在一个平面测量软件的开发过程中,要使用相关的数值计算,同时使用DirectX来显示相关的计算结果,在此过程中,发现当启用DirectX后,double的计算精度会发生变化,从而导致数值计算结果不准。或者,在数值计算软件中,不能使用DirectX?
环境: 2005 SP2;或 2008
语言:C#
DirectX版本:C#开发版(9.0C版),版本号:1.0.2902.0
详细的计算过程及代码,请见附件。
Dx对数值计算的影响.rar
(17.5 KB)
搜索更多相关主题的帖子:
DirectX
double
版本号
影响
测量
2011-08-16 11:36
举报帖子
使用道具
赠送鲜花
hexc67892
等 级:
新手上路
帖 子:4
专家分:0
注 册:2011-8-16
第
2
楼
收藏
得分:0
DirectX要切换FPU到float以获得高性能。
DirectX会切换FPU到单精度以获得更高的性能。你可以在device设备创建时用CreateFlags.FpuPreserve来禁止这个行为。
2011-08-26 21:28
举报帖子
使用道具
赠送鲜花
2
1/1页
1
快速回复:
Dx对数值计算的影响?
数据加载中...
关于我们
|
广告合作
|
编程中国
|
清除Cookies
|
TOP
|
手机版
编程中国
版权所有,并保留所有权利。
Powered by
Discuz
, Processed in 0.021029 second(s), 9 queries.
Copyright©2004-2025, BC-CN.NET, All Rights Reserved