Page 48 - 信息的脉络
P. 48
·信息的脉络·
构造出全字加法器等。第二个原则是“功能抽象”，如早期的计算机使用电磁继
电器来实现逻辑门和逻辑运算。香农的伟大洞见就是将逻辑门电路与布尔代数结
合起来的功能抽象。
1948 年，香农另一篇开创性的论文——《通信的数学原理》发表，这篇论文
则奠定了信息论这个新领域的基础，标志着信息论的诞生。信息论的主要观点体
现在：①信息与不确定性密切相关。不确定性可以通过统计可能信息的数量加以
度量，如果仅有一条可能的信息，那么其中就不存在不确定性，因而也就不包含
信息；②有一些信息出现的可能性比其他信息要大，也就是出现的概率相对较高；
③将信息从一点传送到另一点的困难程度非常重要；④信息是熵，香农的理论以
概率论为工具，信息熵是概率论意义上的熵。
香农在《通信的数学原理》中阐述了两个定理，分别探讨的是信息量和信息
的质量。
第一个定理涉及信息的压缩，并想回答以下问题：编码一条信息所需的最少
符号数量是多少？第二个定理涉及信息的传输，并想回答以下问题：为了在终点
处获取从起点出发的准确信息，需要哪些必要条件？
为了回答这两个问题，香农首先对通信的环境进行了建模：
一个通信系统必须包含以下要素：
①信源是指产生讯息的人或机器。这里的讯息可以简单如一个字符序列，就
像在电报或电传中的情形；也可以表达成时间及其他变量的数学函数。
②发送器对信息进行编码以得到合适的信号，如电话机将声压转换成模拟电
流，电报将字符编码成点、划和停顿，更复杂的讯息可能会经过采样、压缩、量
化和交错等操作。
③信道。传输信号所使用的媒介。
④接收器执行发送器的逆操作，对讯息解码，或从信号中提取出讯息。
• 32 •
