我们已经开发出的通信系统模型.pdfVIP

Idont 第7 章 程序 我们已经开发出的通信系统模型，如图7.1 所示，其中假定数据源发出抽象实体流。通 路可以是一个物理通道，它处于空间中不同点之间，或者是一块存储信息以备将来所用的内 存，或者是一个以某种方式处理信息的计算过程。 图7.1 ：精细通信系统 本章中我们给出一个抽象模型，它足够一般化到可以表示每个方块，并为这样的模型定 义输入信息、输出信息、信息损失、噪声和共有信息。我们提出了将这样两个连接在一起的 方块中的噪声和损失联系在一起的公式。 因为每个方块都用某种方法处理信息，它被称为处理器，它做的事情称为程序。在此我 们讨论的程序是 离散的：从一个互斥概率的离散集合中将输入选出；同一时间只能产生一个。输出 是另外的互斥值离散集合中的一个。 有限的：从概率的有限集中选择输入；同一时间只能选择一个。类似地，输出是另 外的有限集中的一个。 无记忆的：程序于某时刻在输入端开始，输出一个基于那个输入而不是前面任何输 入的输出。 非确定的：当多次给程序提供相同输入时，程序可能产生不同的输出 （该模型对确 定性程序仍然有效）。 有损失的：不太可能通过观察输出状态确定输入状态（该模型对无损失程序仍然有 效）。 我们的这种程序的模型在概念上非常简单和普通。对于复杂的程序它用到实际计算是比 较困难的。原因是输入和输出是根据互斥事件集表示出的。如果事件把信号描述为比如 5 根导线，每根都可以携带高或低的电压来表示布尔值 1 或0，那么就会有32 种可能事件。 当此程序表示有大量原子的物理系统状态演变时，可能的输入状态数量的“指数爆炸”就变 得更严重了。例如一摩尔气体中的分子数量是阿伏加德罗常数N A 6.02 ×1023 。如果每个 原子都有一个与之相联的布尔变量的话，就有2 乘以那个数那么多种状态。为了人们在脑海 中对这些有一个印象，自从宇宙大爆炸以来的微秒数目被认为小于5 ×1023 。 作者：Paul Penfield, Jr. 版本 1.0.2 ，2003 年3 月18 日。Copyright ©2003 麻省理工学院 7.1 程序模型 程序的一个盒式模型如图7.2 所示。一个程序通常有n 个输入和m 个输出，其中n 和m 为整数。 图7.2 ：程序模型 我们假设一个程序的每个可能的输入状态可以生成一个以上的输出状态。对每个输入i， 将输入生成输出j 的概率表示为cji 。这些参数可以看成一个表格或矩阵，有多少输入状态 就有多少行，有多少输出状态就有多少列。用i 作为输入状态的索引，j 作为输出状态的索 引，把与输入i 的选择相关的事件表示为A ，与输出j 相关的事件表示为 。 B i j 这个“转移参数”c 是程序的属性，而不是驱动程序比如把输入提供给程序的事物的 ji 属性。所以从一方面说这些参数是概率，但又不依赖于输入p (A ) 的概率分布。所以我们 i 用p 以外的字母表示它们。 转移参数处于0 和1 之间，对每个i，因为每个可能的输入事件恰好有一个输出事件被 选择，故所有输出索引j 的和为1。 0 ≤c ≤1 （7.1 ）