⌋ ⌉ ⌊ ⌈ - - - = qq q q p p T 1 0 0 0 1 0 0 0 1 ⌋ ⌉ ⌊ ⌈ -

情報理論 小テスト(4)
2014/12/9
1.
次の条件を満たす通信路の通信路線図、通信路行列をかけ。
(1) 入力の符号アルファベットが 0, 1 から成り、確率 p で 0 が 1、1 が 0 に変化し、0, 1 のいずれ
も確率 p で消失する
(2) 入力の符号アルファベットが 0, 1 から成り、確率 p a で 0 が 1 に変化し、確率 pb で 1 が 0 に変
化する。消失はおこらない
(3) 入力の符号アルファベットが 0, 1, 2 から成り、確率 p で 0 が 1 に変化する。1 と 2 は変化せず、
確率 q で消失する
(1)
1  2 p
T 
 p
p
p 
p 1  2 p 
1 2 p
p
0
p
0
x
p
p
1
1
1 2 p
(2)
pa 
1  pa
T 
1  pb 
 pb
1  pa
0
0
pa
pb
1
1  pb
1
1 p
p
0
(3)
p
0
0
1  p
T   0
1 q
0
q 
 0
0 1  q q 
0
1
1 q
1
q
1 q
2
q
2
x
情報理論 小テスト(4)
2014/12/9
※
通信路行列では、縦方向が入力、横方向が出力にあたる。正解は一通りではなく、消失にあたるも
のをどの列にするかは自由。通信路線図でも、出力側の消失に当たる点は図が見やすくなるように
配置すればよい。
2.
以下の文の空欄に入るものを選択肢から選び、番号を書け。
通信路に入る入力信号の事象系を X 、出力信号の事象系を Y としたとき、受信者が出力信号を調べ
た後では、入力に関する不確定さは条件付きエントロピー(A)で表わされる。一方、出力信号を調べ
ることによって入力信号について得られる情報は相互情報量(B)となる。通信路の性能が良いほど相
互情報量(B)は大きくなり、通信路で変化・消失が全くおこらない理想的な通信路では相互情報量は
入力のエントロピー(C)に等しくなり、逆にすべての情報が失われるような通信路では相互情報量は
(D)になる。
この相互情報量は入力信号 X と通信路自身の双方の影響を受ける。通信路の性能を表わす量に通信
路容量があり、これは相互情報量の(E)に相当する量である。
[1] H  X 
[6] H  XY 
[11] 最小値
(A) [4] H  X | Y 
(B) [7] I  X , Y 
(C) [1] H  X 
(D) [8] 0
(E) [12] 最大値
[2] H Y 
[7] I  X , Y 
[12] 最大値
[3] H Y | X 
[4] H  X | Y 
[5] I  XY 
[8] 0
[9] 1/2
[10] 1
情報理論 小テスト(4)
2014/12/9
3.
以下の文の空欄に入るものを選択肢から選び、番号を書け。
p 
1  p
 に通して誤り訂正を行うと、5 つのうち(A)個以上の信
 p 1  p
5 倍の反復符号を通信路 T  

号が変化したときに誤ったものに復元される。そうなる確率は p 10  15 p  6 p
3
2
 であり、 p が十
分に小さければこれは p の (A)次に比例するものとして扱える。この確率のことを(B)と呼び、こ
れが通信路の性能の指標の1つになる。一方、誤り検出では元々の 1 つの信号に対応する 5 つの信
号を受信したときに一つでも異なっているものがある場合は(C)の要求を行う。そのため、1 回目の
送信で正しい結果が得られる確率は(D)、誤った結果になる確率は(E)になるが、(C)を繰り返して
最終的に誤った結果になる確率、すなわち(B)は p
1  p 
5
5

 p 5 となり、 p が小さいときは誤り
訂正の場合にくらべてずっと(F)。
[1]変化率
[6] p
5
[11]再送信
(A) [4] 3
(B) [2] 誤り率
(C) [11] 再送信
(D) [8] 1  p 
5
(E) [6] p
5
(F) [10] 小さい
[2]誤り率
[3]2
[7] 1  p
[8] 1  p 
5
[12]送受信
5
[4]3
[5]4
[9]大きい
[10]小さい