| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 1098 人关注过本帖
标题:关于小数点的求助
只看楼主 加入收藏
roy_1010
Rank: 1
等 级:新手上路
帖 子:1
专家分:0
注 册:2006-6-23
收藏
 问题点数:0 回复次数:2 
关于小数点的求助
最近 用matlab作了一些矩阵的 计算,但发现 计算分析的结果与计算机模拟的有些出入:
初始值都为 0 时 ,和仿真的结果一样,但当改变输入值时,有些出入
怀疑 问题出在:数字后没加 小数点
请问:1 要在什么情况下加小数点
2 matlab 的精度如何控制(或者说是小数点后精确到几位是如何控制的)

先谢谢各位大虾 了!
搜索更多相关主题的帖子: 计算机 matlab 小数点 如何 
2006-06-23 16:07
dongmatlab
Rank: 1
等 级:新手上路
帖 子:10
专家分:0
注 册:2006-6-26
收藏
得分:0 

format long 的小数点16位
format short 的小数点4位

2006-06-26 20:23
abingchem
Rank: 6Rank: 6
等 级:贵宾
威 望:24
帖 子:716
专家分:0
注 册:2004-12-30
收藏
得分:0 

不知道你做的是哪一类的计算,但显示精度与计算结果的精度是没有联系的
改变初始值导致了结果改变,可能是算法的稳定性问题,也可能就是对应的结果


此人已消失
2006-06-26 21:00
快速回复:关于小数点的求助
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.021704 second(s), 9 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved