06凸优化理论与应用_统计估计解释.ppt

信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn 信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn 信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn * 凸优化理论与应用 第6章 统计估计 信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn * 概率分布的参数估计 问题描述 若似然函数为凹函数，则优化问题为凸优化问题。 随机变量的概率密度为 ，其中 为概率分布的参数，且参数未知。参数估计的目标就是通过一些已知样本估计获得参数的最优近似值。 为样本观测值； 为对数似然函数； 信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn * 具有独立同分布噪声的线性测量 线性测量模型： 为观测值或测量值； 为未知参数向量； 独立同分布噪声，其概率密度为 。 似然函数为 最大似然估计问题为： 信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn * 例 高斯白噪声 对数似然函数： 区间 上均匀分布的噪声： 对数似然函数： 信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn * 逻辑回归 随机变量 的