“信息量” 到底有多大?

前言

生活中,我们常说 “啊,这个信息量很大呀!”。但所谓信息量大,到底有多大?可以量化吗?根据香农的理论,答案是肯定的。

信息量的度量

信息量实际上是事件不确定度的度量,越不确定的事件,对其的描述就包含越多信息。
举例来说,“明天太阳东边升起”,这句话是没有任何信息量的,因为我们都知道太阳总是东升西落。 继续阅读“信息量” 到底有多大?