Question

37458

符号語長についてです。
どのように計算したら表の値になりますか？
-logP_iなので-log0.4ではないのでしょうか？

2
T
表 10.1 シャノン-ファノ符号の例
Px (x) ai ai の2進表示 h = -log Pi]符号語
0
C
0.4
0.0 0.0
1
A 0.3
0.4
2
E
0.2
0.7
3
B
0.09
0.9
4 D 0.01 0.99
I
0.0110
0.101100
0.11100
0.11111101...
2
2
3
4
IC
7
A B C DE
Px (x) 0.3 0.09 0.4 0.01 0.2
00
例 10.1 いま, 情報源アルファベット X={A,B,C,D,E} について,
各シンボルの出現確率が下表のように与えられているとする.
01
101
1110
1111110
このとき, シャノン-ファノ符号を構成するプロセスを表 10.1 に示す.
この符号の平均符号語長はLsF=2.43 [bit] である. この情報源のエン
トロピーは H(X)=1.89 [bit] であるから, 符号語長に無駄があること
がわかる.実際, この場合, D に対する符号語長は4にしても差し支え
ない.

Answer 1

ゲスト

-logP_i ではなく、⌈-logP_i⌉となっています。
これは天井関数というもので、-logP_i未満でない最小の整数という意味になります。

Answer 2

あ

P_iとP_X(x)がごっちゃになってますよ

37458

つまりどういうことでしょうか、どこを計算すれば良いのでしょうか？

あ

表のは出現確率であって、今回は与えられるものです。計算するものではありません。

37458

正規確率の話ではなく、符号語長の話です。

37458

正規確率→出現確率

あ

上の表についてだったのですね。
写真にはP_iがのってないので、答えようがないです。
とりあえず出現確率とP_iは別物だと思います。

37458

分かりづらくてすみません。ですが問題文これだけなのでどうしようもないですね。

あ

符号長も与えられているものだと思います。
符号長の無駄に関する話なので、あまり気にしなくてもいいかもしれません。