信息论

數學理論,來自於機率論和統計學領域
(重定向自信息理论

信息论(英語:information theory)是应用数学電子學计算机科学的一个分支,涉及信息的量化、存储和通信等。信息论是由克劳德·香农发展,用来找出信号处理通信操作的基本限制,如数据压缩、可靠的存储和数据传输等。自创立以来,它已拓展应用到许多其他领域,包括统计推断、自然语言处理密码学神经生物学[1]、进化论[2]和分子编码的功能[3]生态学的模式选择[4]、热物理[5]量子计算语言学、剽窃检测[6]模式识别异常检测和其他形式的数据分析[7]

是信息的一个关键度量,通常用一条消息中需要存储或传输一个符号英语Symbol rate的平均比特数来表示。熵衡量了预测随机变量的值时涉及到的不确定度的量。例如,指定擲硬幣的结果(两个等可能的结果)比指定掷骰子的结果(六个等可能的结果)所提供的信息量更少(熵更少)。

信息论将信息的传递作为一种统计现象来考虑,给出了估算通信信道容量的方法。信息传输和信息压缩是信息论研究中的两大领域。这两个方面又由信道编码定理信源-信道隔离定理相互联系。

信息论的基本内容的应用包括无损数据压缩(如ZIP文件)、有损数据压缩(如MP3JPEG)、信道编码(如数字用户线路DSL))。这个领域处在数学统计学计算机科学物理学神经科学電機工程學的交叉点上。信息论对航海家深空探测任务的成败、光盘的发明、手机的可行性、互联网的发展、语言学和人类感知的研究、对黑洞的了解,以及许多其他领域都影响深远。信息论的重要子领域有信源编码信道编码算法复杂性理论算法信息论資訊理論安全性信息度量等。

简述

编辑

信息论的主要内容可以类比人类最广泛的交流手段——语言来阐述。

一种简洁的语言(以英语为例)通常有两个重要特点: 首先,最常用的词(比如"a"、"the"、"I")应该比不太常用的词(比如"benefit"、"generation"、"mediocre")要短一些;其次,如果句子的某一部分被漏听或者由于噪声干扰(比如一辆车辆疾驰而过)而被误听,听者应该仍然可以抓住句子的大概意思。而如果把电子通信系统比作一种语言的话,这种健壮性robustness)是不可或缺的。将健壮性引入通信是通过信道编码完成的。信源编码和信道编码是信息论的基本研究课题。

注意这些内容同消息的重要性之间是毫不相干的。例如,像“多谢;常来”这样的客套话與像“救命”这样的紧急请求在说起来、或者写起来所花的时间是差不多的,然而明显后者更重要,也更有实在意义。信息论却不考虑一段消息的重要性或内在意义,因为这些是数据的质量的问题而不是数据量(数据的长度)和可读性方面上的问题,后者只是由概率这一因素单独决定的。

信息的度量

编辑

信息熵

编辑

美國數學家克劳德·香农被称为“信息论之父”。人们通常将香农于1948年10月发表于《贝尔系统技术学报英语Bell System Technical Journal》上的论文《通信的数学理论英语A Mathematical Theory of Communication》作为现代信息论研究的开端。这一文章部分基于哈里·奈奎斯特拉尔夫·哈特利英语Ralph Hartley於1920年代先後發表的研究成果。在该文中,香农给出了信息熵的定义:

 

其中 為有限个事件x的集合, 是定义在 上的随机变量。信息熵是随机事件不确定性的度量。

信息熵与物理学中的热力学熵有着紧密的联系:

 

其中S(X)為熱力學熵,H(X)為信息熵, 波茲曼常數。 事實上這個關係也就是廣義的波茲曼熵公式,或是在正則系綜內的熱力學熵表示式。如此可知,玻尔兹曼吉布斯在统计物理学中对熵的工作,啟發了信息論的熵。

信息熵是信源編碼定理中,壓縮率的下限。若編碼所用的資訊量少於信息熵,則一定有資訊的損失。香农在大數定律渐进均分性英语Asymptotic equipartition property的基础上定義了典型集英语Typical set和典型序列。典型集是典型序列的集合。因為一个独立同分布的 序列属于由 定义的典型集的機率大約為1,所以只需要将屬於典型集的无记忆 信源序列编为唯一可译碼,其他序列隨意編碼,就可以達到幾乎無損失的壓縮。

例子

编辑

設有一個三個面的骰子,三面分別寫有  為擲得的數,擲得各面的概率為

 

 

聯合熵與條件熵

编辑

聯合熵Joint Entropy)由熵的定義出發,計算聯合分布的熵:

 

條件熵Conditional Entropy),顧名思義,是以條件機率 計算:

 

貝氏定理,有 ,代入聯合熵的定義,可以分離出條件熵,於是得到聯合熵與條件熵的關係式:

 

链式法則

编辑

可以再對聯合熵與條件熵的關係做推廣,假設現在有 個隨機變量 ,重複分離出條件熵,有:

 

其直觀意義如下:假如接收一段數列 ,且先收到 ,再來是 ,依此類推。那麼收到 後總訊息量為 ,收到 後總訊息量為 ,直到收到 後,總訊息量應為 ,於是這個接收過程給出了链式法則。

互信息

编辑

互信息Mutual Information)是另一有用的信息度量,它是指两个事件集合之间的相关性。两个事件  的互信息定义为:

 

其意義為, 包含 的多少資訊。在尚未得到 之前,對 的不確定性是 ,得到 後,不確定性是 。所以一旦得到 ,就消除了 的不確定量,這就是  的資訊量。

如果 互為獨立,則 ,於是 

又因為 ,所以

 

其中等號成立條件為  是一個雙射函數。

互信息与G检验英语G-test以及皮尔森卡方檢定有着密切的联系。

应用

编辑

信息论被广泛应用在:

参考文献

编辑
  1. ^ F. Rieke, D. Warland, R Ruyter van Steveninck, W Bialek. Spikes: Exploring the Neural Code. The MIT press. 1997. ISBN 978-0262681087. 
  2. ^ cf. Huelsenbeck, J. P., F. Ronquist, R. Nielsen and J. P. Bollback (2001) Bayesian inference of phylogeny and its impact on evolutionary biology, Science 294:2310-2314
  3. ^ Rando Allikmets, Wyeth W. Wasserman, Amy Hutchinson, Philip Smallwood, Jeremy Nathans, Peter K. Rogan, Thomas D. Schneider页面存档备份,存于互联网档案馆), Michael Dean (1998) Organization of the ABCR gene: analysis of promoter and splice junction sequences, Gene 215:1, 111-122
  4. ^ Burnham, K. P. and Anderson D. R. (2002) Model Selection and Multimodel Inference: A Practical Information-Theoretic Approach, Second Edition (Springer Science, New York) ISBN 978-0-387-95364-9.
  5. ^ Jaynes, E. T. (1957) Information Theory and Statistical Mechanics页面存档备份,存于互联网档案馆), Phys. Rev. 106:620
  6. ^ Charles H. Bennett, Ming Li, and Bin Ma (2003) Chain Letters and Evolutionary Histories页面存档备份,存于互联网档案馆), Scientific American 288:6, 76-81
  7. ^ David R. Anderson. Some background on why people in the empirical sciences may want to better understand the information-theoretic methods (PDF). November 1, 2003 [2010-06-23]. (原始内容 (pdf)存档于2011-07-23). 

外部链接

编辑