10.1 HMM.pdfVIP

隐马尔科夫模型简介 应冬文 中国科学院声学研究所 从聚类说起 • 实例：外星人对地球天气的研究 – 没有“阴、晴、雨”天的概念。 – 试图通过统计的方法来研究天气。 – 温度、湿度、光照传感器采集数据。 • 分析手段：非监督聚类 – 统计特征：地球自转一周为一个时刻。 – 每个时刻的温度、湿度、光照的平均值为特征向量。 – 方式：LBG聚类或者模糊聚类。 – 根据信息论方法设定聚类数目（3类）。 – 自动形成三个聚类中心（对应人类晴天、阴天、雨天）。 – 天气自动识别：比较感知特征与聚类中心的距离，或者某 天特征向量属于三个聚类的似然度。 聚类中的问题 • 聚类的特点 – 打乱样本的时间顺序，聚类结果仍然不变。 – 普通的聚类中，时间相关信息丢失。 • 问题 – 局部辨识度差：如果某一天的气候特征离三个聚类中心的距 离差不多？或者某天的气候特征属于三个聚类的似然度相差 不大？ – 天气具有很高的时间相关性，无法利用聚类模型实施预测。 • 怎么办？ – 从全局时间出发，考虑一个时间序列。 – 挖掘时间信息，从时间相关性中寻求答案。 – 利用已知的天气情况预测未来的天气。 HMM的数学描述 • 已知T个时刻的观察值序列： （每个观 察值对应温度、光照、湿度三维特征向量） • 对应T个时刻的聚类标识——状态序列： – （例如“阴阴晴晴晴雨雨雨”） • 双重随机过程 – Markov链描述状态之间的转移（天气之间的变化） – 状态和观察值之间的对应关系 q1 q2 q3 qT P O | q P O | q P O | q  1 1   2 2   3 3  P O | q  T T  O O O O 1 2 3 T HMM模型参数 • 转移概率及矩阵  1 a 11  晴 a21 1  1 a  = 阴 3 2 a22 13 a12 2 a23 3 2 3 雨 1 a