| 编程中国 | 业界新闻 | 技术文章 | 视频教程 | 下载频道 | 程序源码 | 个人空间 | 编程论坛
全能ASP/PHP/ASP.NET主机,支持月付专业 MSSQL 数据库空间,支持月付专业 MySQL 数据库空间,支持月付学习型 ASP/PHP/ASP.NET 主机 30元/年
高端软件开发 = 年薪十万不是梦赛孚耐:软件保护加密专家身份认证令牌USB KEY 
共有 641 人关注过本帖
标题:关于有效数字的设定
收藏  订阅  推荐  打印 
faint0431
Rank: 1
等级:新手上路
帖子:2
积分:120
注册:2006-5-22
关于有效数字的设定

似乎之前没人问过这个问题

matlab计算时会出现很多数字
其中一些完全可以化为0,但是很可能他会给你一个分式
比如说
A=[7378594726559/3758949277738504593792739495 412/987
312987 7378594726559/3758949277738504593792739495 ]

其中7378594726559/3758949277738504593792739495 是10的-15次方
如果我想他显示为0
该怎么办??
怎么办?
怎么办?
没人知道~~
搜索更多相关主题的帖子: 数字  matlab  分式  时会  
2006-5-23 10:24
abingchem
Rank: 12Rank: 12Rank: 12
等级:贵宾
威望:24
帖子:716
积分:7466
注册:2004-12-30

你用的什么版本的呢?6.5里没有这个问题
我把你的东西粘贴过去是这样的:
>> A=[7378594726559/3758949277738504593792739495 412/987
312987 7378594726559/3758949277738504593792739495 ]

A =

1.0e+005 *

0.0000 0.0000
3.1299 0.0000

>> A

A =

1.0e+005 *

0.0000 0.0000
3.1299 0.0000

>> format long
>> A

A =

1.0e+005 *

0.00000000000000 0.00000417426545
3.12987000000000 0.00000000000000


此人已消失
2006-5-23 20:20
关于我们 | 广告合作 | 编程中国 | 清除Cookies | Archiver | WAP | TOP

编程中国 版权所有,并保留所有权利。鲁ICP备08000592号
Powered by Discuz, Processed in 0.049053 second(s), 9 queries.
Copyright©2004-2008, BCCN.NET, All Rights Reserved