| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 1331 人关注过本帖
标题:关于有效数字的设定
只看楼主 加入收藏
faint0431
Rank: 1
等 级:新手上路
帖 子:2
专家分:0
注 册:2006-5-22
收藏
 问题点数:0 回复次数:1 
关于有效数字的设定
似乎之前没人问过这个问题

matlab计算时会出现很多数字
其中一些完全可以化为0,但是很可能他会给你一个分式
比如说
A=[7378594726559/3758949277738504593792739495 412/987
312987 7378594726559/3758949277738504593792739495 ]

其中7378594726559/3758949277738504593792739495 是10的-15次方
如果我想他显示为0
该怎么办??
怎么办?
怎么办?
没人知道~~
搜索更多相关主题的帖子: 数字 matlab 分式 时会 
2006-05-23 10:24
abingchem
Rank: 6Rank: 6
等 级:贵宾
威 望:24
帖 子:716
专家分:0
注 册:2004-12-30
收藏
得分:0 

你用的什么版本的呢?6.5里没有这个问题
我把你的东西粘贴过去是这样的:
>> A=[7378594726559/3758949277738504593792739495 412/987
312987 7378594726559/3758949277738504593792739495 ]

A =

1.0e+005 *

0.0000 0.0000
3.1299 0.0000

>> A

A =

1.0e+005 *

0.0000 0.0000
3.1299 0.0000

>> format long
>> A

A =

1.0e+005 *

0.00000000000000 0.00000417426545
3.12987000000000 0.00000000000000


此人已消失
2006-05-23 20:20
快速回复:关于有效数字的设定
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.016684 second(s), 9 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved