;
但是,通信工程师们却为此犯了愁。
他们需要先把这些文字信息编码成电子信息。
然后,再通过翻译、压缩、控制等等手段,使其能够在电线中以光速传播。
在这个过程中,不管是机器的计算要求,还是业务的收费要求,都需要清晰地知道信息的量到底有多少。
那么“五种糕点”和“六种芒果”哪个表述的信息量更大呢?
或者,再来个更极端的例子,一张只有5个字的白纸,和一张只有500字的白纸,哪个的信息量更大?
早期电报刚开始运营时,收费是直接按照所发字的数量来收。
五个字比一个字贵。
这就会引起疑问。
“难道发五个字比一个字就更费电吗?”
这其中就涉及到了信息量的问题。
这个问题在普通人看起来十分简单,但如果想要从科学上进行严格证明那就非常困难了。
后来,随着计算机理论的出现,科学家们对于信息定量的需求越来越迫切。
于是,信息论诞生了。
它是专门研究信息的理论。
真实历史上,1948年,美国数学家、密码学家香农发表了一篇震惊学界的论文:《通信的数学理论》。
在这篇论文里,香农首次提出了“信息熵”的概念。
他借鉴了热力学中关于熵的概念,把信息中排除了冗余信息后的平均信息量称为“信息熵”。
&
本章未完,请点击下一页继续阅读! 第2页 / 共10页