最小一乘法及最小二乘法简单比较.pdfVIP

有关“平均”的概念（及这些概念真正的内涵）：

算术平均数几何平均数调和平均数中位数

关于它们之间关系不等式及其推导证明

/////////////////////////////////////////////////////

区别最小一乘法最小二乘法

由到

最小二乘法与最小一乘法均是进行回归分析的方法

/////////////////////////////////////////////////////

最小一乘法leastabsolutedeviation

最小一乘法只要求各实测回归直线的纵向距离的绝对值之和为最小

它不要求随机误差服从正态分布，“稳健性”比最小二乘法好

在数据随机误差不服从正态分布时，本法的统计性能优于最小二乘法

/////////////////////////////////////////////////////

最小二乘法

“赋予误差的平方和为极小,则意味着在这些误差之间建立了

一种均衡性,它阻止于极端情形所施加的影响。这非常好地应用于揭

示最接近真实情形的系统状况。”

/////////////////////////////////////////////////////

最小二乘法与最小一乘法的区别

异常值对回归线的影响:

,,

在回归分析的最小二乘法估计中远离中心的突出点对参数的

计算结果有较大的影响。这样,就好理解下面的问题:在歌手电视大奖赛上,10个评委亮分

之后,为什么要去掉最高分和最低分了。而在最小一乘法估计中,异常值的影响一

般较小。

//////////////////////////////////////////////////////////////

①对于一维情况

设有n个数a，a，…，a，要找一个数x反映这组数

12n

的总的情况，使得x和这n个数的偏差x-a，x-a，…，

12

x-a在总体上说来尽可能地小。

n

区别：

2

n(xa)n(xa)

ii

i1i1

为何是一个,而不是另一个?

偏差有正有负,直接相加会正负相消,而导致不能反映总体的情况

2dDn

n2(xa)

D(xa)

设i1i，则dxi1i

dDaaa

0x12n0

令dx即n

x为n个数a,a,…,a的算术平均值

12n

n(xa)0

住：算术平均数x满足i1i的性质

n

Dxa

再如,