关于有效数字的设定

faint0431 发布于 2006-05-23 10:24， 1334 次点击

似乎之前没人问过这个问题

matlab计算时会出现很多数字
其中一些完全可以化为0,但是很可能他会给你一个分式
比如说
A=[7378594726559/3758949277738504593792739495 412/987
312987 7378594726559/3758949277738504593792739495 ]

其中7378594726559/3758949277738504593792739495 是10的-15次方
如果我想他显示为0
该怎么办??
怎么办?
怎么办?
没人知道~~

1 回复

abingchem2006-05-23 20:20

你用的什么版本的呢？6.5里没有这个问题
我把你的东西粘贴过去是这样的：
>> A=[7378594726559/3758949277738504593792739495 412/987
312987 7378594726559/3758949277738504593792739495 ]

A =

1.0e+005 *

0.0000 0.0000
3.1299 0.0000

>> A

A =

1.0e+005 *

0.0000 0.0000
3.1299 0.0000

>> format long
>> A

A =

1.0e+005 *

0.00000000000000 0.00000417426545
3.12987000000000 0.00000000000000