2
T
表 10.1 シャノン-ファノ符号の例
Px (x) ai ai の2進表示 h = -log Pi]符号語
0
C
0.4
0.0 0.0
1
A 0.3
0.4
2
E
0.2
0.7
3
B
0.09
0.9
4 D 0.01 0.99
I
0.0110
0.101100
0.11100
0.11111101...
2
2
3
4
IC
7
A B C DE
Px (x) 0.3 0.09 0.4 0.01 0.2
00
例 10.1 いま, 情報源アルファベット X={A,B,C,D,E} について,
各シンボルの出現確率が下表のように与えられているとする.
01
101
1110
1111110
このとき, シャノン-ファノ符号を構成するプロセスを表 10.1 に示す.
この符号の平均符号語長はLsF=2.43 [bit] である. この情報源のエン
トロピーは H(X)=1.89 [bit] であるから, 符号語長に無駄があること
がわかる.実際, この場合, D に対する符号語長は4にしても差し支え
ない.