统计自然语言处理基本概念讲解材料.pptVIP

统计自然语言处理基本概念;模型; ;;样本空间(Sample Space);试验(Experiment);事件(Event);事件的概率;举例;概率空间;概率空间图示;联合事件;条件概率;概率的乘法原理;独立和条件独立;独立和条件独立;Bayes’ Rule;Bayes举例;随机变量(Random Variable);期望Expectation;概率分布;协方差和相关系数;参数估计Parameter Estimation;参数估计;估计器;参数估计;极大似然估计;随机过程;马尔可夫过程;信息论;信息;信息论;自信息量;互信息Mutual Information;熵(Entropy);熵的公式;熵的例子;好书店，差书店;;;混乱度Perplexity;联合熵和条件熵;条件熵;熵的性质;熵的编码意义;编码实例;语言的熵;各种语言的熵;Kullback-Leibler距离;KL距离（相对熵）;平均互信息;;互信息的性质;交叉熵Cross-Entropy;交叉熵;条件交叉熵;;举例;;交叉熵的使用;;数据集分类;;测试集;;;性能评价;;;;谢谢！