2026年信息熵理论及其应用理解题目.docxVIP

第PAGE页共NUMPAGES页

2026年信息熵理论及其应用理解题目

一、单选题（共10题，每题2分，计20分）

1.信息熵理论最早由哪位科学家提出？

A.香农

B.爱因斯坦

C.海森堡

D.莫奇利

2.在信息论中，信息熵的单位是什么？

A.比特（bit）

B.赫兹（Hz）

C.焦耳（J）

D.帕斯卡（Pa）

3.以下哪个场景最适用于信息熵理论的应用？

A.音乐创作

B.金融市场预测

C.搜索引擎排序

D.医疗诊断系统

4.若某随机事件有3个等概率发生的结果，其信息熵为多少？

A.1bit

B.2bits

C.3bits

D.4bits

5.信息熵越高，表示信息的确定性如何？

A.越高

B.越低

C.不变

D.无法判断

6.在数据压缩中，信息熵的大小直接影响哪种算法的效率？

A.赫夫曼编码

B.LZW编码

C.算法设计模式

D.并行计算

7.以下哪个领域不常用信息熵理论进行分析？

A.通信工程

B.生物学

C.物理学

D.历史学

8.若某信息的概率分布为P(X)=0.5，P(Y)=0.5，其信息熵为多少？

A.0bits

B.1bit

C.0.5bits

D.-1bit

9.在机器学习中，信息增益的概念与信息熵的哪个特性相关？

A.可加性

B.对称性

C.