数值分析 笔记

第一章

有效位数的计算方法

n是有效位数。
已知x*和误差限就可以算出n
在这里插入图片描述

例如:3.14 的m是0 ,误差限=0.001~=0.1x10^-2 所以误差线的次数为-2
n=0-(-2)+1=3

3.1416 m=0,误差线=0.00001,次数为-4,n=5.

猜你喜欢

转载自blog.csdn.net/qq_42641977/article/details/120431043
今日推荐