霍夫曼编码

(重定向自哈夫曼编码

霍夫曼編碼(英語:Huffman Coding),又譯為哈夫曼编码赫夫曼编码,是一種用於无损数据压缩熵編碼(權編碼)演算法。由美國計算機科學家大衛·霍夫曼David Albert Huffman)在1952年發明。

這個句子“this is an example of a huffman tree”中得到的字母頻率來建構霍夫曼樹。句中字母的編碼和頻率如圖所示。編碼此句子需要135 bit(不包括保存树所用的空間)
字母 頻率 編碼
space 7 111
a 4 010
e 4 000
f 3 1101
h 2 1010
i 2 1000
m 2 0111
n 2 0010
s 2 1011
t 2 0110
l 1 11001
o 1 00110
p 1 10011
r 1 11000
u 1 00111
x 1 10010

簡介编辑

计算机資料處理中,霍夫曼編碼使用變長編碼表對源符號(如文件中的一個字母)進行編碼,其中變長編碼表是通過一種評估來源符號出現機率的方法得到的,出現機率高的字母使用較短的編碼,反之出現機率低的則使用較長的編碼,這便使編碼之後的字符串的平均長度、期望值降低,從而達到無損壓縮數據的目的。

例如,在英文中,e的出現機率最高,而z的出現概率則最低。當利用霍夫曼編碼對一篇英文進行壓縮時,e極有可能用一個位元來表示,而z則可能花去25個位元(不是26)。用普通的表示方法時,每個英文字母均占用一個字節,即8個位元。二者相比,e使用了一般編碼的1/8的長度,z則使用了3倍多。倘若我們能實現對於英文中各個字母出現概率的較準確的估算,就可以大幅度提高無損壓縮的比例。

霍夫曼樹又稱最優二叉樹,是一種帶權路徑長度最短的二叉樹。所謂樹的帶權路徑長度,就是樹中所有的葉結點的權值乘上其到根結點的路徑長度(若根結點爲0層,葉結點到根結點的路徑長度爲葉結點的層數)。樹的路徑長度是從樹根到每一結點的路徑長度之和,記爲WPL=(W1*L1+W2*L2+W3*L3+...+Wn*Ln),N個權值Wi(i=1,2,...n)構成一棵有N個葉結點的二叉樹,相應的葉結點的路徑長度爲Li(i=1,2,...n)。可以證明霍夫曼樹的WPL是最小的。

歷史编辑

1951年,霍夫曼在麻省理工學院(MIT)攻讀博士學位,他和修讀信息論課程的同學得選擇是完成學期報告還是期末考試。導師羅伯特·法諾(Robert Fano)出的學期報告題目是:尋找最有效的二進制編碼。由於無法證明哪個已有編碼是最有效的,霍夫曼放棄對已有編碼的研究,轉向新的探索,最終發現了基於有序頻率二叉樹編碼的想法,並很快證明了這個方法是最有效的。霍夫曼使用自底向上的方法構建二叉樹,避免了次優算法香農-范諾編碼(Shannon–Fano coding)的最大弊端──自頂向下構建樹。

1952年,於論文《一種構建極小多餘編碼的方法》(A Method for the Construction of Minimum-Redundancy Codes)中發表了這個編碼方法。

問題定義與解法编辑

 
Fig.1
 
Fig.2霍夫曼編碼演算步驟, 左右树排列顺序可以加限制或不加限制
 
Fig.3

廣義编辑

  • 給定
一組符號(Symbol)和其對應的權重值(weight),其權重通常表示成概率(%)。
  • 欲知
一組二元的前置碼,其二元碼的長度為最短。

狹義编辑

  • 輸入
符號集合 ,其S集合的大小為 
權重集合 ,其W集合不為負數且 
  • 輸出
一組編碼 ,其C集合是一組二進制編碼且  相對應的編碼, 
  • 目標
  的加權的路徑長,對所有編碼 ,則 

範例编辑

霍夫曼樹常處理符號編寫工作。根據整組資料中符號出現的頻率高低,決定如何給符號編碼。如果符號出現的頻率越高,則給符號的碼越短,相反符號的號碼越長。假設我們要給一個英文單字"F O R G E T"進行霍夫曼編碼,而每個英文字母出現的頻率分別列在Fig.1

演算過程编辑

(一)進行霍夫曼編碼前,我們先建立一個霍夫曼樹。

⒈將每個英文字母依照出現頻率由小排到大,最小在左,如Fig.1
⒉每個字母都代表一個終端節點(葉節點),比較F.O.R.G.E.T六個字母中每個字母的出現頻率,將最小的兩個字母頻率相加合成一個新的節點。如Fig.2所示,發現FO的頻率最小,故相加2+3=5。
⒊比較5.R.G.E.T,發現RG的頻率最小,故相加4+4=8。
⒋比較5.8.E.T,發現5E的頻率最小,故相加5+5=10。
⒌比較8.10.T,發現8T的頻率最小,故相加8+7=15。
⒍最後剩10.15,沒有可以比較的對象,相加10+15=25。

最後產生的樹狀圖就是霍夫曼樹,參考Fig.2
(二)進行編碼

1.給霍夫曼樹的所有左鏈結'0'與右鏈結'1'。
2.從樹根至樹葉依序記錄所有字母的編碼,如Fig.3

實現方法编辑

資料壓縮编辑

實現霍夫曼編碼的方式主要是創建一個二元樹和其節點。這些樹的節點可以儲存在陣列裡,陣列的大小為符號(symbols)數的大小n,而節點分别是終端節點(葉節點)與非終端節點(內部節點)。

一開始,所有的節點都是終端節點,節點內有三個欄位:

1.符號(Symbol)

2.權重(Weight、Probabilities、Frequency)

3.指向父節點的鏈結(Link to its parent node)

而非終端節點內有四個欄位:

1.權重(Weight、Probabilities、Frequency)

2.指向兩個子節點的 鏈結(Links to two child node)

3.指向父節點的鏈結(Link to its parent node)

基本上,我們用'0'與'1'分別代表指向左子節點與右子節點,最後為完成的二元樹共有n個終端節點與n-1個非終端節點,去除了不必要的符號並產生最佳的編碼長度。

過程中,每個終端節點都包含著一個權重(Weight、Probabilities、Frequency),兩兩終端節點結合會產生一個新節點,新節點的權重是由兩個權重最小的終端節點權重之總和,並持續進行此過程直到只剩下一個節點為止。

實現霍夫曼樹的方式有很多種,可以使用優先佇列(Priority Queue)簡單達成這個過程,給與權重較低的符號較高的優先順序(Priority),演算法如下:

⒈把n個終端節點加入優先佇列,則n個節點都有一個優先權Pi,1 ≤ i ≤ n

⒉如果佇列內的節點數>1,則:

⑴從佇列中移除兩個最小的Pi節點,即連續做兩次remove(min(Pi), Priority_Queue)
⑵產生一個新節點,此節點為(1)之移除節點之父節點,而此節點的權重值為(1)兩節點之權重和
⑶把(2)產生之節點加入優先佇列中

⒊最後在優先佇列裡的點為樹的根節點(root)

而此演算法的時間複雜度( Time Complexity)為O(n log n);因為有n個終端節點,所以樹總共有2n-1個節點,使用優先佇列每個迴圈須O(log n)。

此外,有一個更快的方式使時間複雜度降至線性時間(Linear Time)O(n),就是使用兩個佇列(Queue)創件霍夫曼樹。第一個佇列用來儲存n個符號(即n個終端節點)的權重,第二個佇列用來儲存兩兩權重的合(即非終端節點)。此法可保證第二個佇列的前端(Front)權重永遠都是最小值,且方法如下:

⒈把n個終端節點加入第一個佇列(依照權重大小排列,最小在前端)

⒉如果佇列內的節點數>1,則:

⑴從佇列前端移除兩個最低權重的節點
⑵將(1)中移除的兩個節點權重相加合成一個新節點
⑶加入第二個佇列

⒊最後在第一個佇列的節點為根節點

雖然使用此方法比使用優先佇列的時間複雜度還低,但是注意此法的第1項,節點必須依照權重大小加入佇列中,如果節點加入順序不按大小,則需要經過排序,則至少花了O(n log n)的時間複雜度計算。

但是在不同的狀況考量下,時間複雜度並非是最重要的,如果我們今天考慮英文字母的出現頻率,變數n就是英文字母的26個字母,則使用哪一種演算法時間複雜度都不會影響很大,因為n不是一筆龐大的數字。

資料解壓縮编辑

簡單來說,霍夫曼碼樹的解壓縮就是將得到的前置碼(Prefix Huffman code)轉換回符號,通常藉由樹的追蹤(Traversal),將接收到的位元串(Bits stream)一步一步還原。但是要追蹤樹之前,必須要先重建霍夫曼樹;某些情況下,如果每個符號的權重可以被事先預測,那麼霍夫曼樹就可以預先重建,並且儲存並重複使用,否則,傳送端必須預先傳送霍夫曼樹的相關資訊給接收端。

最簡單的方式,就是預先統計各符號的權重並加入至壓縮之位元串,但是此法的運算量花費相當大,並不適合實際的應用。若是使用Canonical encoding,則可精準得知樹重建的資料量只占B2^B位元(其中B為每個符號的位元數(bits))。如果簡單將接收到的位元串一個位元一個位元的重建,例如:'0'表示父節點,'1'表示終端節點,若每次讀取到1時,下8個位元則會被解讀是終端節點(假設資料為8-bit字母),則霍夫曼樹則可被重建,以此方法,資料量的大小可能為2~320位元組不等。雖然還有很多方法可以重建霍夫曼樹,但因為壓縮的資料串包含"trailing bits",所以還原時一定要考慮何時停止,不要還原到錯誤的值,如在資料壓縮時時加上每筆資料的長度等。

基本性質编辑

考量到不同的應用領域以及該領域的平均性質,將會使用不同的通用機率,又或者,這個機率是可以從被壓縮文本中的實際頻率所取得。

最佳化编辑

原始的霍夫曼演算法是一個符號與符號間已知輸入機率分佈的最佳編碼方式,也就是說將不相關的符號個別編碼為如此的資料串流。然而,當符號間的限制被捨棄或是質量機率函數是未知的時候,如此方式則並非最佳化。此外,當這些符號之間不是互相獨立,且分佈不相同的時候,單一一個符號可能不足以實現最佳化。在這種情況之下,算術編碼可能比起霍夫曼編碼會有更佳的壓縮能力。

雖然上述兩種方法都可以組合任意數量的符號以實現更高效的編碼效果,並且通常適應於實際的輸入統計層面,但儘管最簡單的版本比霍夫曼編碼更慢且更複雜,算術編碼不會顯著增加其計算或算法複雜度。當輸入概率不是精確已知或在流內顯著變化時,這種靈活性特別有用。然而,霍夫曼編碼通常更快,並且算術編碼在歷史上是專利問題的一些主題。因此,許多技術歷來避免使用有利於霍夫曼和其他前綴編碼技術的算術編碼。截至2010年中期,隨著早期專利的到期,這種替代霍夫曼編碼的最常用技術已經進入公有領域。

對於具有均勻概率分佈的一組符號,以及作為2的冪之成員,霍夫曼編碼等同於簡單的二進位制編碼,例如 ASCII 編碼。這反映了如此的事實:無論壓縮方法是什麼,這種輸入都不可能進行壓縮,或只是說對數據無所作為,比起壓縮才是才是最佳選擇。

在任何情況下,霍夫曼編碼在所有方法中是最佳的方式,其中每個輸入符號是具有二元機率的已知獨立且相同分佈的隨機變量。前綴碼,特別是霍夫曼編碼,往往在小字母表上產生較差的效率,其中概率通常落在這些最佳(二元)點之間。當最可能符號的概率遠超過0.5時,可能發生霍夫曼編碼的最壞情況,使低效率的上限無限制。

在使用霍夫曼編碼的同時,有兩種相關的方法可以解決這種特定的低效問題。將固定數量的符號組合在一起(阻塞)通常會增加(並且永不減少)壓縮。隨著塊的大小接近無窮大,霍夫曼編碼理論上接近熵限制,即最佳壓縮。然而,阻塞任意大的符號組是不切實際的,因為霍夫曼代碼的複雜性在要編碼的可能性的數量上是線性的,這是在塊的大小中呈指數的數字。這限制了在實踐中完成的阻塞量。

廣泛使用的實際替代方案是行程編碼。該技術在熵編碼之前增加一步,特別是對重複符號進行執行次數的計數,然後對其進行編碼。對於伯努力(Bernoulli)過程的簡單情況,哥倫(Golomb)編碼在編碼遊程長度的前綴碼中是最佳的,這是通過霍夫曼編碼技術證明的事實。使用改進的霍夫曼編碼的傳真機採用類似的方法。但是,遊程編碼並不像其他壓縮技術那樣適應許多輸入類型。

變化编辑

霍夫曼編碼有衍生出許多的許多變化,其中一些使用類似霍夫曼的算法,而其他一些算法找到最佳前綴碼(例如,對輸出施加不同的限制)。注意,在後一種情況下,該方法不需要像霍夫曼那樣,實際上甚至不需要到多項式複雜度。

多元樹霍夫曼編碼编辑

多元樹霍夫曼編碼演算法使用字母集 {0, 1, ... , n − 1} ,來構建一棵 n 元樹。霍夫曼在他的原始論文中考慮了這種方法。這與二進制(n=2)算法僅有的差別,就是它每次把 n 個最低權的符號合併,而不僅是兩個最低權的符號。倘若 n ≥ 2, 則並非所有源字集都可以正確地形成用於霍夫曼編碼的多元樹。在這些情況下,必須添加額外的零概率佔位符。這是因為該樹必須為滿的 n 叉樹,所以每次合併會令符號數恰好減少 (n -1), 故這樣的 n 叉樹存在當且僅當源字的數量模 (n -1) 餘 1. 對於二進制編碼,任何大小的集合都可以形成這樣的二叉樹,因為 n -1 = 1.

自適應霍夫曼編碼编辑

自適應霍夫曼編碼的變化,涉及基於源符號序列中的最近實際頻率動態地計算概率,以及改變編碼樹結構以匹配更新的概率估計。它在實踐中很少使用,因為更新樹的成本使其比優化的自適應算術編碼慢,後者更靈活並且具有更好的壓縮。

霍夫曼模板演算法编辑

在霍夫曼編碼的實現中,通常會使用權重表示數值概率,但是上面給出的算法不需要這樣;它只需要權重形成一個完全有序的可交換么半群,這意味著一種訂購權重和添加權重的方法。霍夫曼模板算法使人們能夠使用任何類型的權重(成本,頻率,權重對,非數字權重)和許多組合方法之一(不僅僅是加法),這個問題首先應用於電路設計。

長度限制霍夫曼編碼/最小變異霍夫曼編碼编辑

長度限制霍夫曼編碼编辑

長度受限的霍夫曼編碼是一種變體,其目標仍然是實現最小加權路徑長度,但是存在另外的限制,即每個碼字的長度必須小於給定常數。包合併算法通過一種與霍夫曼演算法非常相似的簡單貪婪方法解決了這個問題。

不相等成本霍夫曼編碼编辑

在標準的霍夫曼編碼問題中,假設集合中構成碼字的每個符號具有相同的傳輸成本:長度為N位的碼字總是具有N的成本,無論多少這些數字是0,有多少是1,等等。在這個假設下工作時,最小化消息的總成本和最小化數字總數是相同的。

具有不等字母成本的霍夫曼編碼是沒有這種假設的概括:由於傳輸介質的特性,編碼字母表的字母可能具有不均勻的長度。一個例子是摩爾斯電碼的編碼字母表,其中'破折號'比'點'需要更長的發送時間,因此傳輸時間中破折號的成本更高。目標仍然是最小化加權平均碼字長度,但僅僅最小化消息使用的符號數量已經不夠了。沒有算法以與傳統霍夫曼編碼相同的方式或相同的效率來解決這個問題,儘管它已經由卡普(Karp)解決,其解決方案已經針對哥林(Golin)的整數成本的情況進行了改進。

最佳字母二元樹编辑

在標準霍夫曼編碼問題中,假設任何碼字可以對應於任何輸入符號。在字母表中,輸入和輸出的字母順序必須相同。

規範霍夫曼編碼编辑

如果對應於按字母順序排列的輸入的權重是按數字順序排列的,則霍夫曼代碼具有與最佳字母代碼相同的長度,這可以從計算這些長度中找到,從而不需要使用胡 - 塔克(Hu-Tucker)編碼。由數字(重新)有序輸入產生的代碼有時被稱為規範霍夫曼代碼,並且由於易於編碼/解碼,通常是實踐中使用的代碼。用於找到該代碼的技術有時被稱為霍夫曼 - 香農 - 法諾編碼,因為它像霍夫曼編碼一樣是最優的,但是在重量概率上是字母的,例如香農 - 法諾編碼。

資料長度编辑

設符號集合   發生的機率 ,  編碼的長度

  • 熵(Entropy):亂度
 

ex:
 
 
 
 
第三與第四個範例,同樣是五種組合,機率分布越集中,則亂度越少

  • 霍夫曼碼平均長度
 
  • 霍夫曼碼的長度
Shannon編碼定理:       ,若使用 進位的編碼

霍夫曼碼的平均編碼長度:  為資料長度

       

範例编辑

  • 當有100個位子,有白色佔60%、咖啡色佔20%,藍色和紅色各佔10%,則該如何分配才能最優化此座位?

(a)direct:
假設結果為:白色為00、咖啡色01,藍色10和紅色11個bits 則結果為:100*2 = 200bits
(b)huffman code: (must be satisfy the following conditions,if not change the node)
(1) 所有碼皆在Coding Tree的端點,再下去沒有分枝(滿足一致解碼跟瞬間解碼)
(2) 機率越大,code length越短;機率越小,code length越長
(3) 假設 是第L層的node, 是第L+1層的node

 必須滿足

假設結果為:白色佔0、咖啡色10,藍色110和紅色111個bits
則結果為:60*1+20*2+20*3=160bits

相互比較兩個結果huffman code 整整少了40bits的儲存空間。

示範程式编辑

 1 // 以下為C++程式碼,在G++下編譯通過
 2 // 僅用於示範如何根據權值建構霍夫曼樹,
 3 // 沒有經過性能上的優化及加上完善的異常處理。
 4 #include <cstdlib>
 5 #include <iostream>
 6 #include <deque>
 7 #include <algorithm>
 8 
 9 using namespace std;
10 
11 const int size = 10;
12 struct node {                               // 霍夫曼樹節點結構
13     unsigned key;                           // 保存權值
14     node *lchild;                           // 左孩子指針
15     node *rchild;                           // 右孩子指針
16 };
17 deque<node *> forest;
18 deque<bool> code;                           // 此處也可使用bitset
19 node *ptr;
20 int frequency[size] = {0};
21 
22 void printCode(deque<bool> ptr);            // 用於輸出霍夫曼編碼
23 
24 bool compare( node *a, node *b) {
25     return a->key < b->key;
26 }
27 int main(int argc, char *argv[]) {
28     for (int i = 0; i < size; i++) {
29         cin >> frequency[i];                // 輸入10個權值
30         ptr = new node;
31         ptr->key = frequency[i];
32         ptr->lchild = NULL;
33         ptr->rchild = NULL;
34         forest.push_back(ptr);
35     } // 形成森林,森林中的每一棵樹都是一個節點
36     // 從森林構建霍夫曼樹
37     for (int i = 0; i < size - 1; i++) {
38         sort(forest.begin(), forest.end(), compare);
39         ptr = new node;
40         // 以下代碼使用下標索引隊列元素,具有潛在危險,使用時請注意
41         ptr->key = forest[0]->key + forest[1]->key;
42         ptr->lchild = forest[0];
43         ptr->rchild = forest[1];
44         forest.pop_front();
45         forest.pop_front();
46         forest.push_back(ptr);
47     }
48     ptr = forest.front(); // ptr是一個指向根的指針
49     system("PAUSE");
50     return EXIT_SUCCESS;
51 }
52 
53 void printCode(deque<bool> ptr) {
54     // deque<bool>
55     for (int i = 0; i < ptr.size(); i++) {
56         if (ptr[i])
57             cout << "1";
58         else
59             cout << "0";
60     }
61 }

哈夫曼编码c代码编辑

huffman.h文件

 1 #ifndef __HUFFMAN_H__
 2 #define __HUFFMAN_H__
 3 #include<stdio.h>
 4 #include<stdlib.h>
 5 #include<string.h>
 6 
 7 #define START printf("=====start=====\n")
 8 #define END printf("=====end=====\n")
 9 #define toByte(n) ((n) / 8 + ((n) % 8 > 0))
10 
11 typedef struct HuffListNode HuffListNode,*hufflistnodep;
12 typedef struct HuffNode HuffNode,*huffnodep;
13 typedef struct HuffTree HuffTree,*hufftreep;
14 typedef struct HuffCode HuffCode,*huffcodep;
15 typedef struct HuffList HuffList,*hufflistp;
16 typedef struct HuffResult HuffResult,*huffresultp;
17 typedef struct HuffCode HuffBuf,*huffbufp;  //缓存类型
18 
19 struct HuffListNode{
20     huffnodep node;     //huffman节点
21     hufflistnodep next; //后继节点
22 };  //huffman频率节点
23 
24 struct HuffList{
25     hufflistnodep head;         //头结点
26     int keys[256];              //键值字典
27     int size;                   //链表长度
28 };
29 
30 struct HuffNode{
31     int key;            //键
32     int weight;         //权重
33     huffnodep left;     //左节点
34     huffnodep right;    //右节点
35 };  //huffman节点
36 
37 struct HuffCode{
38     char* code; //huffman code
39     int size;   //huffman code size
40 };
41 
42 struct HuffTree{
43     huffnodep root;         //根
44     huffcodep codes[256];   //key对应的代码
45     int size;               //大小
46 };  //huffman树
47 
48 struct HuffResult{
49     char* code;      //生成的代码
50     hufftreep tree;  //对应的哈夫曼树
51 };
52 
53 #ifndef __BOOLEAN__
54 #define __BOOLEAN__
55 typedef enum{
56     FALSE = 0,
57     TRUE = 1,
58 }Boolean;
59 #endif
60 
61 huffnodep huffnode(int key,int weight); //初始化huffman节点
62 hufflistp hufflist();   //初始化hufflist
63 Boolean insertHuffNode(hufflistp list,huffnodep node);  //向指定的节点链表添加一个节点
64 huffnodep shiftHuffNode(hufflistp list);    //删除第一个节点
65 hufftreep hufftree(hufflistp list);   //构建一棵huffman tree
66 huffbufp getFileBuf(const char* filename); //获取文件的buf
67 hufftreep genhuffcodes(hufftreep tree,huffnodep node,char codes[],int idx);  //获取当前节点之下的节点的huffman编码
68 hufflistp getHuffListByFile(const char* filename); //根据文件创建huffman链表
69 hufflistp getHuffListByBuf(huffbufp buf); //根据文件buf创建huffman链表
70 huffcodep getHuffCode(hufftreep tree,int key);  //获取指定键值的huffcode
71 huffresultp getHuffCodesByFile(const char* filename);     //获取文件的huffman code
72 huffresultp getHuffCodesByBuf(huffbufp buf);    //通过buf获取codes
73 huffbufp getOriginBuf(huffresultp result);       //从result中解析出原始的字符串
74 huffbufp str2bin(char* str); //二进制字符串转二进制数组
75 int putOriginToFile(huffresultp result,const char* filename);   //将result存储到filename中
76 char* bin2str(huffbufp buf);    //二进制数组转二进制字符串
77 huffbufp readHuffFile(const char* filename); //解析huff文件
78 #endif

huffman.c文件:

  1 #include "huffman.h"
  2 
  3 huffnodep huffnode(int key,int weight){
  4     huffnodep ret = (huffnodep)malloc(sizeof(HuffNode));
  5     ret->key = key;
  6     ret->weight = weight;
  7     ret->left = ret->right = NULL;
  8 
  9     return ret;
 10 }
 11 
 12 hufflistp hufflist(){
 13     hufflistp ret = (hufflistp)malloc(sizeof(HuffList));
 14     ret->head = NULL;
 15     memset(ret->keys,0,sizeof(ret->keys[0])*256);
 16     ret->size = 0;
 17 
 18     return ret;
 19 }
 20 
 21 Boolean insertHuffNode(hufflistp list,huffnodep node){
 22     if(list == NULL || node == NULL || node->weight <= -256) return FALSE;
 23     hufflistnodep cur = list->head;
 24     hufflistnodep* rootp = &(list->head);
 25     hufflistnodep* last = NULL; //当前指针的前驱指针
 26     hufflistnodep tmp = (hufflistnodep)malloc(sizeof(HuffListNode));
 27     tmp->node = node;
 28     tmp->next = NULL;
 29     if(node->key >= 0 && node->key < 256){
 30         list->keys[node->key] = node->weight;   //添加key到keys字典
 31     }
 32     list->size++;
 33 
 34     for(;cur != NULL  && cur->node->weight < node->weight; cur = cur->next){
 35         last = rootp;
 36         rootp = &(cur->next);
 37     }
 38 
 39     tmp->next = cur;
 40     if(last == NULL){   //第一个元素
 41         list->head = tmp;
 42     }else{  //向当前节点前面插入tmp节点
 43         (*last)->next = tmp;
 44     }
 45 
 46     return TRUE;
 47 }
 48 
 49 huffnodep shiftHuffNode(hufflistp list){
 50     if(list == NULL || list->head == NULL) return NULL;
 51     huffnodep ret = list->head->node;
 52     hufflistnodep next = list->head->next;
 53     free(list->head);
 54     list->head = next;
 55     list->size--;
 56 
 57     return ret;
 58 }
 59 
 60 //通过huffman list构建
 61 hufftreep hufftree(hufflistp list){
 62     hufftreep tree = (hufftreep)malloc(sizeof(HuffTree));
 63     tree->root = NULL;
 64     tree->size = 0;
 65     memset(tree->codes,0,sizeof(tree->codes));
 66 
 67     huffnodep a = NULL;
 68     huffnodep b = NULL;
 69     huffnodep c = NULL;
 70     tree->size = 2 * list->size - 1;
 71     while(list->size > 1){  //hufflistp长度大于1
 72         a = shiftHuffNode(list);
 73         b = shiftHuffNode(list);
 74         c = huffnode(-256,a->weight+b->weight);    //新的节点
 75         c->left = a;
 76         c->right = b;
 77         insertHuffNode(list,c); //将c压回list
 78     }
 79     tree->root = c;
 80 
 81     //生成所有key的huffman编码
 82     char codes[8092];   //huffman编辑路径
 83 
 84     return genhuffcodes(tree,tree->root,codes,0);
 85 }
 86 
 87 //获取文件内容的BUF
 88 huffbufp getFileBuf(const char* filename){
 89     FILE* fp = fopen(filename,"r");
 90     if(fp == NULL) return NULL;
 91     fseek(fp,0L,SEEK_END);
 92     int len = ftell(fp);
 93     rewind(fp); //重设
 94     huffbufp ret = (huffbufp)malloc(sizeof(HuffBuf));
 95     ret->code = (char*)malloc(len+1);
 96     ret->size = len;
 97     fread(ret->code,1,len,fp);
 98     fclose(fp);
 99 
100     return ret;
101 }
102 
103 hufftreep genhuffcodes(hufftreep tree,huffnodep node,char codes[],int idx){
104     if(tree == NULL || node == NULL){   //到达底部
105         return NULL;
106     }
107 
108     if(node->left == NULL && node->right == NULL){  //叶子节点
109         int key = node->key;
110         huffcodep code = (huffcodep)malloc(sizeof(HuffCode));
111         code->code = (char*)malloc(idx+1);
112         code->size = idx;
113         memcpy(code->code,codes,code->size);
114         code->code[code->size] = '\0';
115         tree->codes[key] = code;
116     }{
117         codes[idx] = '1'; //右
118         genhuffcodes(tree,node->right,codes,idx+1);
119         codes[idx] = '0'; //左
120         genhuffcodes(tree,node->left,codes,idx+1);
121     }
122 
123     return tree;
124 }
125 
126 //通过文件生成huffman list
127 hufflistp getHuffListByFile(const char* filename){
128     huffbufp buf = getFileBuf(filename);
129     if(buf == NULL) return NULL;
130 
131     hufflistp list = getHuffListByBuf(buf);
132     free(buf->code);
133     buf->code = NULL;
134     free(buf);
135     buf = NULL;
136 
137     return list;
138 }
139 
140 hufflistp getHuffListByBuf(huffbufp buf){
141     if(buf == NULL || buf->code == NULL) return NULL;
142 
143     char* code = buf->code;
144 
145     hufflistp list = hufflist();
146     for(int i = 0; code[i] != '\0'; i++){
147         unsigned char ch = code[i];
148         list->keys[ch]++;
149     }
150 
151     for(int i = 0; i < 256; i++){
152         if(list->keys[i] > 0){   //插入存在的字符
153             insertHuffNode(list,huffnode(i,list->keys[i]));
154         }
155     }
156 
157     return list;
158 }
159 
160 huffcodep getHuffCode(hufftreep tree,int key){
161     if(key < 256 && key >= 0 && tree->codes[key] > 0){
162         return tree->codes[key];
163     }
164     return NULL;
165 }
166 
167 huffresultp getHuffCodesByFile(const char* filename){
168     huffbufp buf = getFileBuf(filename);   //文件缓存
169     return getHuffCodesByBuf(buf);
170 }
171 
172 huffresultp getHuffCodesByBuf(huffbufp buf){
173     huffresultp result = (huffresultp)malloc(sizeof(HuffResult));
174     result->code = NULL;
175 
176     if(buf == NULL) return NULL;
177 
178     hufflistp list = getHuffListByBuf(buf); //huffman list
179 
180     result->tree = hufftree(list);
181     int buf_len = buf->size;
182     int len = 0;
183     for(int i = 0; buf->code[i] != '\0'; i++){
184         int key = (unsigned char)buf->code[i];
185         huffcodep code = getHuffCode(result->tree,key);
186         if(code == NULL){
187             printf("LLL:%c{%d}\n",key,key);
188             return NULL;
189         }
190         len+=code->size;
191     }
192     result->code = (char*)malloc(len+1);
193     result->code[0] = '\0';
194     for(int i = 0; buf->code[i] != '\0'; i++){
195         unsigned char key = buf->code[i];
196         huffcodep code = getHuffCode(result->tree,key);
197         strncat(result->code,code->code,code->size);
198     }
199 
200     return result;
201 }
202 
203 huffbufp getOriginBuf(huffresultp result){
204     if(result == NULL || result->code == NULL || result->tree == NULL) return NULL;
205     hufftreep tree = result->tree;
206     char* code = result->code;
207     int len = 0;
208     for(int i = 0; code[i] != '\0';){
209         huffnodep root = tree->root;    //根节点
210         while(root->left != NULL && root->right != NULL && code[i] != '\0'){   //双子节点存在
211             root = (code[i] == '0' ? root->left : root->right);
212             i++;
213         }
214         if((root->left != NULL || root->right != NULL) && code[i] == '\0'){ //错误
215             return NULL;
216         }
217         len++;
218         // printf("解析:%c{%s}\n",root->key,tree->codes[root->key]->code);
219     }
220 
221     huffbufp ret = (huffbufp)malloc(sizeof(HuffBuf));
222     ret->code = (char*)malloc(len+1);
223     ret->code[0] = '\0';
224     ret->size = len;
225 
226     int idx = 0;
227     for(int i = 0; code[i] != '\0';){
228         huffnodep root = tree->root;    //根节点
229         while(root->left != NULL && root->right != NULL && code[i] != '\0'){   //双子节点存在
230             root = (code[i] == '0' ? root->left : root->right);
231             i++;
232         }
233         ret->code[idx++] = root->key;
234     }
235     ret->code[idx] = '\0';
236 
237     return ret;
238 }
239 
240 int putOriginToFile(huffresultp result,const char* filename){
241     if(result == NULL) return 0;
242     // printf("res1[%d]:%s\n",(int)strlen(result->code),result->code);
243     // huffbufp b = str2bin(result->code);
244     // printf("%d\n",b->size);
245     // printf("res2:%s\n",bin2str(b));
246     // return 0;
247 
248     huffbufp buf = str2bin(result->code);   //huffman code转成buf
249     int i = 0;
250     int len = 0;    
251     for(i = 0; i < 256; i++){
252         if(result->tree->codes[i] > 0){ //
253             len+= 5+result->tree->codes[i]->size;   //key[1]:len[4]:size
254         }
255     }
256     huffbufp keys = (huffbufp)malloc(sizeof(HuffBuf));
257     keys->code = (char*)malloc(len);
258     keys->size = 0;
259     //获取keys
260     int idx = 0;
261     for(i = 0; i < 256; i++){
262         if(result->tree->codes[i] > 0){ //
263             keys->code[idx++] = i;    //key
264             int len = result->tree->codes[i]->size;
265             memcpy(keys->code+idx,&len,4);    //key size
266             // printf("%c[%d]:%d{%s}\n",i,i,len,result->tree->codes[i]->code);
267             idx+=4;
268             huffbufp tmp = str2bin(result->tree->codes[i]->code);
269             // printf("%d,%d\n",tmp->code[0],tmp->size);
270             int tsize = toByte(tmp->size);
271             memcpy(keys->code+idx,tmp->code,tsize);
272             idx+=tsize;
273         }
274     }
275 
276     keys->size = idx;   //诸多键的总空间
277     
278     //写出标准文件
279     //HUF\n
280     //size: 4b
281     //keys
282     //size: 4b
283     //codes
284     FILE* fp = fopen(filename,"w");
285     if(fp == NULL) return -1;
286     fwrite("HUF\n",1,4,fp);
287     fwrite(&idx,1,4,fp);    //size
288     fwrite(keys->code,1,keys->size,fp); //写入code
289     fwrite(&(buf->size),1,4,fp);    //size
290     fwrite(buf->code,1,toByte(buf->size),fp);
291     fclose(fp);
292 
293     return 4+4+keys->size+4+buf->size;
294 }
295 
296 
297 huffbufp str2bin(char* str){ //二进制字符串转二进制数组
298     // printf("bin:%s\n",str);
299     if(str == NULL) return NULL;
300     huffbufp buf = (huffbufp)malloc(sizeof(HuffBuf));
301     int l = strlen(str);
302     int size = (l / 8) + (l % 8 > 0);
303 
304     buf->code = (char*)malloc(l);
305     memset(buf->code,0,l);
306     for(int i = 0; i < l; i++){
307         int idx = i/8;
308         int bi = i%8;
309         buf->code[idx] |= (str[i] == '0' ? 0:1) << bi;
310     }
311     buf->size = l;
312 
313     return buf;
314 }
315 
316 char* bin2str(huffbufp buf){
317     char* ret = (char*)malloc(buf->size+1);
318     for(int i = 0; i < buf->size; i++){
319         int idx = i / 8;
320         int offset = i % 8;
321         ret[i] = (buf->code[idx] & (0x01 << offset)) ? '1' : '0';
322     }
323     ret[buf->size] = '\0';
324 
325     return ret;
326 }
327 
328 huffbufp readHuffFile(const char* filename){
329     huffbufp buf = getFileBuf(filename);
330     if(buf == NULL) return NULL;
331 
332     if(memcmp(buf->code,"HUF\n",4) != 0) return NULL;   //文件不以BUF\n开头
333     huffresultp result = (huffresultp)malloc(sizeof(HuffResult));
334     //BUF\n
335     //key size
336     int key_size = *(int*)(buf->code+4);
337     int base = 8; //偏移量
338     hufftreep tree = (hufftreep)malloc(sizeof(HuffTree));
339     tree->root = NULL;
340     tree->size = 0;
341     huffcodep* codes = tree->codes;   //key对应代码
342     memset(codes,0,sizeof(huffcodep)*256);
343     
344     int oft = 0;
345     for(;oft < key_size;){
346         int offset = base+oft;
347         unsigned char key = buf->code[offset];
348         // printf("%d[%c]\n",key,key);
349         int size = *(int*)(buf->code+offset+1); //长度
350         int byte = toByte(size);
351         huffbufp htmp = (huffbufp)malloc(sizeof(HuffBuf));
352         //键对应代码
353         htmp->code = buf->code+offset+5;    //缓存代码
354         htmp->size = size;  //缓存大小
355         // printf("[%c]%d\n",key,key);
356         huffcodep tmp = (huffcodep)malloc(sizeof(HuffCode));
357         tmp->size = size;   //key的大小
358         tmp->code = bin2str(htmp);
359         tree->codes[key] = tmp;
360         tree->size++;   //树的大小增加
361         huffnodep root = tree->root;
362         if(root == NULL){
363             tree->root = huffnode(-256,0);
364             root = tree->root;
365         }
366         for(int i = 0; i < tmp->size; i++){
367             char ch = tmp->code[i];
368             huffnodep node = NULL;
369             if(ch == '0'){
370                 node = root->left;
371                 if(node == NULL){
372                     node = huffnode(-256,0);
373                 }
374                 root->left = node;
375             }else{
376                 node = root->right;
377                 if(node == NULL){
378                     node = huffnode(-256,0);
379                 }
380                 root->right = node;
381             }
382             if(i == tmp->size - 1)
383                 node->key = key;
384             root = node;
385         }
386         oft+=5+byte;
387     }
388 
389     huffbufp tmp = (huffbufp)malloc(sizeof(HuffBuf));
390     tmp->code = buf->code+base+oft+4;
391     tmp->size = *(int*)(buf->code+base+oft);
392     // printf("tmp size:%d\n",tmp->size);
393     result->tree = tree;
394     result->code = bin2str(tmp);
395     // printf("%s\n",result->code);
396 
397     // for(int i = 0; i < 256; i++){
398     //     if(codes[i]!=NULL){
399     //         printf("%c[%d]:%s\n",i,i,codes[i]->code);
400     //     }
401     // }
402 
403     return getOriginBuf(result);
404 }

程序演示主文件:

 1 #include"huffman.h"
 2 
 3 int main(){
 4     huffbufp buf = (huffbufp)malloc(sizeof(HuffBuf));
 5 
 6     buf->code = "this is just a test!";
 7     buf->size = strlen(buf->code);
 8     huffresultp result = getHuffCodesByBuf(buf);    //获取编码结果
 9     printf("huffman: %s\n",result->code);
10 
11     huffbufp origin = getOriginBuf(result); //通过编码获取原始数据
12     printf("origin: %s\n",origin->code);
13 
14     return 0;
15 }

參考文獻编辑

  • Thomas H. Cormen, Charles E. Leiserson, Ronald L. Rivest, and Clifford Stein. Introduction to Algorithms, Second Edition. MIT Press and McGraw-Hill, 2001. ISBN 0-262-03293-7. Section 16.3, pp. 385–392.

外部連結编辑