1. 您所在位置：
  2. 网站首页
  3. 文档分类
  4. 高等教育
  5. 理学

信息论中熵及其应用概述.pdfVIP

  • 0
  • 0
  • 约1.82万字
  • 约 34页
  • 2026-05-12 发布于北京
  • 举报

信息论中熵及其应用概述.pdf

    信息论中的熵(entropy)

    ⚫热力学中的熵:是表示分子状态程度

    的量

    ⚫信息论中的熵：用来描述信源的不确定性

    的大小

    ⚫经常使用的熵概念有下列几种：

    ⚫信息熵

    ⚫交叉熵

    ⚫相对熵克劳德ꞏ德ꞏ香农（ClaudeElwoodShannon，

    —）是数学家、

    ⚫条件熵信息论的创始人。1936年获得密歇根大学学士学

    位。1940年在麻省理工学院获得和博士，

    1941年进入贝尔工作。香农提出了信息熵的

    ⚫互信息概念，为信息论和数字通信奠定了基础。

    您可能关注的文档

    最近下载

    文档评论（0）

    1亿VIP精品文档

    更多 >

    相关文档

    更多 >