信息论基础与机器学习应用:熵、相对熵与互信息.pdf

信息论基础与机器学习应用:熵、相对熵与互信息.pdf

本章目录

l机器学习背景介绍

l信息熵

l联合熵、条件熵

l相对熵、互信息

l交叉熵

l微分熵(连续型分布)

l机器学习案例分析:决策树算法

本讲目录

l机器学习背景介绍

l信息熵

l联合熵、条件熵

l相对熵、互信息

l交叉熵

l微分熵(连续型分布)

l机器学习案例分析:决策树算法

相对熵

除微分熵以外,本节均假定随机变量为离散型随机变量

相对熵(RelativeEntropy),也

文档评论(0)

1亿VIP精品文档

相关文档