统计学复习答案1-5.docxVIP

传统的统计模式识别体系是什么？ 基于确定性推理 一分类方法 回归分析（基于最小二乘法） 线性分类器（感知机，logistic回归，支持向量机） 非线性分类器（多层感知机，核支持向量机） 二特征生成（无监督学习） 流形学习（把维数降低）稀疏表示（把维数增高） 深度学习（卷积神经网络，自解码神经网络） 聚类算法 三、理论分析 复杂度分析 泛化能力分析 基于概率原理 一分类算法 基于贝叶斯决策理论（基于分类损失最小角度） 二特征生成 深度学习（基于玻尔兹曼机方法） 具有概率的PCA（概率神经网络） 三数据的概率表达 含参模型（EM算法），不含参模型（数据独立） 概率图模型（马尔可夫链） 【附加】物理环境、数据获取/感知、预处理、特征提取、训练数据、特征提取/选择、模型学习/估计、后处理、分类、决策。 什么是生成模型？判别模型？及其他们各自的特点？ 【附加】生成模型又叫产生式模型，估计的是联合概率分布。通过学习联合概率分布P(x,y)，然后求出条件概率分布P(Y|X)作为预测模型，P(Y|X)= P(x,y)/P(X)模型表达了输入X，与产生Y的生成关系。 （用于随机生成的观察值建模，特别是在给定某些隐藏参数情况下。在机器学习中，或用于直接对数据建模（用概率密度函数对观察到的draw建模），或作为生成条件概率密度函数的中间步骤。通过使用贝叶斯rule可以从生成模型中得到条件分布。） 判别