注册 登录
编程论坛 Matlab

关于数据的计算问题

wqm54335 发布于 2007-07-18 22:34, 633 次点击
我在程序中碰到这样也情况,例如
明明
MAX=0.6589 MIN=-0.6589
我的本意是使他们相加等于0 即MAX+MIN=0
但是怎么搞得 (MAX+MIN )= 2.2204e-016
我头都大 了,我到底该怎么做
还有就是怎样让指数形式的数例如2.2204e-016以小数形式的显示 如 0.XXXXXXXXX
2 回复
#2
尘埃1222007-07-19 09:04

你把输出格式重新定制下试试 :)

format long g

一般当数据大于1000或小于1时系统会默认用科学记数法表示,若坚持用整数部分加小数部分的格式来显示,可在指定格式后加 g

#3
abingchem2007-07-20 08:12
这个就是数值计算的舍入问题了,它没办法搞成0,只能近似,你看什么时候所得值小于eps就要小心一点了,或者你用符号计算
1