第3章 统计建模与参数估计_第7节-参数估计方法二：最大似然估计（MLE）.pdfVIP

七、参数估计⽅法⼆：最⼤似然估计（MLE）

7.1MLE的基本思想与直觉理解学

7.1.1问题背景：为什么需要估计参数？数

修

7.1.2最⼤似然估计的核⼼思想必

习

7.1.3数学定义与推理过程学

器

机

7.1.4⼀个例⼦：伯努利分布的最⼤似然估计

-

壮

7.1.5MLE的直观图像（⼏何理解）

大

s

o

7.1.6⼩结c

7.2对数似然函数的推导与优化

7.2.1为什么使⽤对数似然函数？

7.2.2推导过程示例：正态分布

7.2.3⼀般推导与多参数情况

7.2.4Python实现：对数似然优化

7.2.5对数似然的⼏何特性：凸性与最优化

7.2.6⼩结

7.3MLE案例讲解：硬币、正态、Poisson

7.3.1伯努利分布：硬币正反概率估计

7.3.2正态分布：均值和⽅差未知

7.3.3Poisson分布：事件计数建模学

7.3.4案例总结表数

7.4Python实践：从样本估计参数到模型拟合修

必

7.4.1总体流程框架习

学

7.4.2案例：正态分布模型拟合器

机

-

7.4.3数学准备壮

大

s

7.4.4Python实践：完整实现

o

c

7.4.5补充：拟合评估指标

7.4.6⼩结

7.5MLE的统计性质（⽆偏性、⼀致性、渐近正态性）

7.5.1⽆偏性：估计值的期望是否等于真值？

7.5.2⼀致性：样本量趋于⽆穷，是否趋近真值？

7.5.3渐近正态性：⼤样本下分布近似正态

7.5.4⼩结：MLE的性质对⽐

七、参数估计⽅法⼆：最⼤似然估计（MLE）学

数

修

必

7.1MLE的基本思想与直觉理解习

学