Page 50 - 信息的脉络

·信息的脉络·
机科学乃至哲学都产生了巨大的影响。
此外，在香农的示意图中，还有一个方格与其他要素同样显著，那就是噪声，
毕竟这对工程师来说避无可避。这涵盖了一切会削弱信号的东西，有些事先可预测，
有些则不可预测，如多余的附加信号、明显的错误、随机干扰、静电、天电、干涉、
失真等。最早发现这个问题的是贝尔实验室一位名叫哈里·尼奎斯特的工程师，

他发现，如果要想不失真地恢复一个无线电信号，只要采用的频率足够高就可以
做到，也就是需要采集这个信息中足够多的样点。具体来讲就是如果一个无线电
信号的频谱中最高的频率是 F，那么采样的频率是 2F，那么就能不失真的恢复原

来的信号。这个定律被称为尼奎斯特 - 香农采样定理。
香农从数学上证明了采样定理的正确性，并给出了当一个通信信道的带宽为
B 时，这个信道所能传递的信息 C 的上限，即信道容量：
C=B×log（1+S/N）

其中，S 和 N 分别代表信号的强度和噪声的强度，S/N 就是信噪比。
香农证明，在任何一个信道中，无论怎样对编码进行“优化”，信息的传输
率 R 永远都不可能超过信道的容量 C。这是香农第二定律。

在《通信的数学原理》发表之前，长达一个世纪的常识与反复进行的工程试
验都认为通信必然会伴有噪声，这是物理世界要求我们付出的代价。然而香农证
明了信道噪声是可以被克服的，由 A 点发出的信息总是可以在 B 点被完全接收。
香农向工程师提供了使信息数字化并将其可靠发送的概念工具，直到他证实噪声
可控之前，该结论一直被当作不可能实现的理想主义。一名工程师对此惊叹不已：

“他怎么会有这样的洞察力，甚至怎么会想到这种可能性，我完全不知道。”
香农预见了在给定条件下的通信的极限，我们的技术通常达不到那些极限，
即信道的容量，那么我们能否找到一个方法，充分利用信道的容量呢？香农对这

个问题给出了肯定的回答，他认为总能找到一种行之有效的编码方法，让信息的
传输率无限接近信道的容量而不出错，这就如同我们总有一种编码的方式，可以
将信息压缩到信息熵的大小一样。这是香农第三定律。
最后需要指出的是，香农选择了一个测量单位。就像卡路里可以量化热交换

一样，香农提出的“比特”（bit，也叫位）的概念用于测量信息量。比特是一个
二进制数字，可以取 0 或 1 的值。这一名称的选择其实特别考究，因为它可以被
视为英文“binary digit”（二进制数字）的组合，也可以是一个文字游戏，英文中
的“a liitle bit”表示“一点点”的意思。

香农的三个定律奠定了信息传输和存储的理论基础，并且指出了信息产业
的发展方向。对香农所作出的贡献的评价，俄罗斯数学家安德雷·柯尔莫哥洛夫

• 34 •