编程论坛 → Matlab

怎样进行数值精度控制?

woody390 发布于 2006-09-26 15:06， 1626 次点击

哈哈还有个问题!各位大师:
有没有办法控制整个程序的数值取值精度呢?我算了个线型方程,得到的数据便没有办法融入原来的矩阵了.怎么办?

若每个数据算出后都用vpa太麻烦了吧

4 回复

abingchem2006-09-26 22:02

vpa并不影响你计算的精度，只是显示出来的位数会随之改变
如果得到的数据没有办法融入原来的矩阵，可能是算法有问题，或者编程中出现了小错误，再仔细检查检查：）

woody3902006-09-28 09:02

我用double控制了一下就有结果了，呵呵

abingchem2006-09-28 09:09

double不是控制啊，那是matlab默认的数值计算格式

woody3902006-09-28 09:17

是呀？

我只是在计算完线型方程后把结果用double限制了一下就能用了