| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 1613 人关注过本帖
标题:怎样进行数值精度控制?
只看楼主 加入收藏
woody390
Rank: 1
等 级:新手上路
帖 子:14
专家分:0
注 册:2006-9-21
收藏
 问题点数:0 回复次数:4 
怎样进行数值精度控制?
哈哈还有个问题!各位大师:
有没有办法控制整个程序的数值取值精度呢?我算了个线型方程,得到的数据便没有办法融入原来的矩阵了.怎么办?
若每个数据算出后都用vpa太麻烦了吧
搜索更多相关主题的帖子: 精度 数值 
2006-09-26 15:06
abingchem
Rank: 6Rank: 6
等 级:贵宾
威 望:24
帖 子:716
专家分:0
注 册:2004-12-30
收藏
得分:0 
vpa并不影响你计算的精度,只是显示出来的位数会随之改变
如果得到的数据没有办法融入原来的矩阵,可能是算法有问题,或者编程中出现了小错误,再仔细检查检查:)

此人已消失
2006-09-26 22:02
woody390
Rank: 1
等 级:新手上路
帖 子:14
专家分:0
注 册:2006-9-21
收藏
得分:0 
我用double控制了一下就有结果了,呵呵
2006-09-28 09:02
abingchem
Rank: 6Rank: 6
等 级:贵宾
威 望:24
帖 子:716
专家分:0
注 册:2004-12-30
收藏
得分:0 
double不是控制啊,那是matlab默认的数值计算格式

此人已消失
2006-09-28 09:09
woody390
Rank: 1
等 级:新手上路
帖 子:14
专家分:0
注 册:2006-9-21
收藏
得分:0 
是呀?我只是在计算完线型方程后把结果用double限制了一下就能用了
2006-09-28 09:17
快速回复:怎样进行数值精度控制?
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.020698 second(s), 7 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved