情報通信と符号化

復習
畳み込み
標本化定理
量子化
情報通信と符号化
韓 承鎬
電気通信大学
第八回目
1 / 24
復習
畳み込み
標本化定理
量子化
周期方形波のスペクトル
信号の周期性と離散特性
インパルス信号
方形波信号のスペクトル
周期信号の場合:
(T = K τ )
K ↗ ⇒ スペクトルの間隔
が狭くなる
1
τ
−T
−
τ
2
0 τ
2
T
K ↗ ⇒|yn | ↘
( )
包絡線は sinc nπ
K に従って
変化
t
(nπ (n + 1)π] の中に K 本,
ω = 2nπ
τ で0
1
0.8
0.6
非周期の場合:
0.4
0.2
F (ω) = sinc
0
−0.2
−4pi
−3pi
−2pi
−pi
0
pi
2pi
3pi
( ωτ )
2
4pi
ω = ± n2π
τ , n = 1, 2, · · · の時に 0
2 / 24
復習
畳み込み
標本化定理
量子化
周期方形波のスペクトル
信号の周期性と離散特性
インパルス信号
非周期連続信号(時間)
X(f )
x(t)
1
τ
Sa (πf τ )
−
τ
2
0
τ
2
t
···
−
2
1
0
−
τ
τ
1
τ
2
τ
···
f
対応関係
非周期 ⇔ 連続
連続 ⇔ 非周期
3 / 24
復習
畳み込み
標本化定理
量子化
周期方形波のスペクトル
信号の周期性と離散特性
インパルス信号
周期連続信号(時間)
x(t)
1
τ
f0 =
−T
−
τ
2
0
τ
2
T
t
1
T
0
f
対応関係
周期 ⇔ 離散
連続 ⇔ 非周期
4 / 24
復習
畳み込み
標本化定理
量子化
周期方形波のスペクトル
信号の周期性と離散特性
インパルス信号
非周期離散信号(時間)
x(nTs )
Ts
0
t
fs =
1
Ts
対応関係
非周期 ⇔ 連続
離散 ⇔ 周期
5 / 24
復習
畳み込み
標本化定理
量子化
周期方形波のスペクトル
信号の周期性と離散特性
インパルス信号
周期離散時間信号(時間)
x(nTs )
1
τ
Ts
f0 =
−
−T
τ
2
0
τ
2
1
T
t
T
fs =
1
Ts
対応関係
周期 ⇔ 離散
離散 ⇔ 周期
6 / 24
復習
畳み込み
標本化定理
量子化
周期方形波のスペクトル
信号の周期性と離散特性
インパルス信号
インパルス信号の性質
積分は 1
∫
∞
δ(t)dt = 1
−∞
積分区間が 0 を含まないと 0
{
∫ τ
1; τ > 0
δ(t)dt = u(τ ) =
0; τ < 0
−∞
インパルス信号が非ゼロの値をとる時の f (x)
∫ ∞
∫ ∞
f (t)δ(t)dt = f (0) ⇒
f (t)δ(t − t1 )dt = f (t1 )
−∞
−∞
スペクトルは均等に広がる
F (ω) = 1, − ∞ < ω < ∞
7 / 24
復習
畳み込み
標本化定理
量子化
周期方形波のスペクトル
信号の周期性と離散特性
インパルス信号
周期インパルス信号のスペクトル
x(t)
1
τ
f0 =
−T
−
0
τ
2
τ
2
T
1
T
0
t
f
τ → ∞ とすると、周期インパルス信号のスペクトルが求まる
S(f )
s(t)
1
0
t
Ts
0
fs =
1
Ts
f
8 / 24
復習
畳み込み
標本化定理
量子化
電気回路での応用例
定義と類似演算
演算の図
性質
電気回路での応用例
x(t)
h(t)
0
0
t
t
線形システムのインパルス応答
入力信号
目的
信号 x(t) が入力された時の出力を求めたい
9 / 24
復習
畳み込み
標本化定理
量子化
電気回路での応用例
定義と類似演算
演算の図
性質
出力の求め方
1
t=
∑∞
i=0 (ρ
+ i∆),0 ≤ ρ < ∆
x(t)
∆
x(t) =
x(i∆)
∞
∑
x(ρ + i∆)
···
x(i∆)∆
i=0
2
x(i∆) を用いて,x(ρ + i∆) を近似
x(ρ + i∆) ≈ x(i∆),
0
∆ · · · i∆
···
t
3
0≤ρ<∆
i∆ から ρ + i∆ までの入力信号の
強度は x(i∆)∆
10 / 24
復習
畳み込み
標本化定理
量子化
4
電気回路での応用例
定義と類似演算
演算の図
性質
信号 x(t) の時刻 i∆ ≤ t < ρ + i∆ での入力に起因する出力
x(i∆)h(t − i∆)∆
5
x(t) の入力に起因する出力
r (t) ≈
∞
∑
x(i∆)h(t − i∆)∆
i=0
6
∆ → 0 と極限を取れば
r (t) =
7
lim
∆→0
∞
∑
x(i∆)h(t − i∆)∆
i=0
τ = i∆ とすると,dτ = ∆ となり
∫ ∞
r (t) =
x(τ )h(t − τ )dτ
0
11 / 24
復習
畳み込み
標本化定理
量子化
電気回路での応用例
定義と類似演算
演算の図
性質
畳み込み演算の一般式
t < 0 の場合、h(t) = 0 とすると
r (t) := ∫
x(t) ∗ h(t)
∞
=
x(τ )h(t − τ )dτ
−∞
畳み込みに類似した演算
多項式の乗算
(ax 2 + bx + c)(αx 2 + βx + γ)
確率変数の和
X , Y ∼ 二項分布、X + Y はどんな分布?
12 / 24
復習
畳み込み
標本化定理
量子化
電気回路での応用例
定義と類似演算
演算の図
性質
畳み込み演算の操作
h(t)
x(t)
0
0
t
t
(a)
(b)
x(τ )
h(t − τ )
h(−τ )
0
τ
t
(c)
x(t) の信号は t 軸と同じ形で τ 軸に持ってくる
13 / 24
復習
畳み込み
標本化定理
量子化
電気回路での応用例
定義と類似演算
演算の図
性質
畳み込み演算の操作
h(t)
x(t)
0
0
t
t
(a)
(b)
x(τ )
h(t − τ )
h(−τ )
0
τ
t
(c)
h(t) の信号は縦軸を中心に左右反転させて τ 軸に反映させる
13 / 24
復習
畳み込み
標本化定理
量子化
電気回路での応用例
定義と類似演算
演算の図
性質
畳み込み演算の操作
h(t)
x(t)
0
0
t
t
(a)
(b)
x(τ )
h(t − τ )
h(−τ )
0
τ
t
(c)
r (t) を求める時に,h(τ ) のゼロ点を x(τ ) のゼロ点より t 離れたと
13 / 24
ころにおく
復習
畳み込み
標本化定理
量子化
電気回路での応用例
定義と類似演算
演算の図
性質
畳み込み演算の操作
h(t)
x(t)
0
0
t
t
(a)
(b)
x(τ )
h(t − τ )
h(−τ )
0
τ
t
(c)
以上の操作で二つの信号が重なっている部分の面積を求める
13 / 24
復習
畳み込み
標本化定理
量子化
電気回路での応用例
定義と類似演算
演算の図
性質
畳み込みの性質
交換則:x1 (t) ∗ x2 (t) = x2 (t) ∗ x1 (t)
分配則:x1 (t) ∗ [x2 (t) + x3 (t)] = x1 (t) ∗ x2 (t) + x1 (t)x3 (t)
結合則:[x1 (t) ∗ x2 (t)] ∗ x3 (t) = x1 (t) ∗ [x2 (t) ∗ x3 (t)]
インパルス信号との畳み込み:x(t) ∗ δ(t) = x(t)
畳み込み信号のフーリエ変換
信号 r (t) = x(t) ∗ h(t) に対して,R(ω) := F [r (t)] とすると
R(ω) = X (ω)H(ω)
が成り立つ.ただし,X (ω) := F [x(t)], H(ω) := F [h(t)] である.
14 / 24
復習
畳み込み
標本化定理
量子化
標本化定理
証明
標本化定理
Theorem
標本化定理情報信号 x(t) の帯域を B とすると,時間間隔
1
Ts ≤ 2B
で抽出した標本から情報信号を完全に復元できる.
15 / 24
復習
畳み込み
標本化定理
量子化
標本化定理
証明
標本化定理の証明
時間領域
周波数領域
X(f )
x(t)
仮定
x(t) は周期 Ts のインパルス信号
によって離散化
0
0
t
(a)
情報信号
f
B
標本化された信号
r (t) = x(t)s(t)
S(f )
s(t)
時間領域の積
⇕
周波数領域の畳み込み
0
0
t
Ts
(b)
周期インパルス信号
fs =
1
Ts
f
16 / 24
復習
畳み込み
標本化定理
量子化
標本化定理
証明
r(t) = x(t)s(t)
時間領域
0
t
周波数領域
R(f ) = X(f ) ∗ S(f )
fs =
0
B
1
Ts
f
fs ≥ 2B ならば,周波数領域で X (f ) が混ざらない
17 / 24
復習
畳み込み
標本化定理
量子化
標本化定理
証明
信号の復元
周波数領域
1
フィルター R(f )
X(f ) = R(f )P (f )
{
0
f
fs
x(t) = r(t) ∗ p(t)
時間領域
0
P(f ) =
1; f ≤ fs
0; f > fs
情報信号の復元
X (f ) = R(f )P(f )
t
時間領域の積
⇕
周波数領域の畳み込み
18 / 24
復習
畳み込み
標本化定理
量子化
量子化
線形量子化
線形量子化器の量子化ビット数と雑音の関係
必要性
サンプリングした信号 x(nTs ) ∈ R は,実数の値を取るので,
ディジタル方式で送信することができない
R が非可算集合なので、x(nTs ) を可算集合 X の内にある要
素 xn ∈ X に変換する必要がある.
xn の確率分布によっては X は必ずしも有限の要素を持つ必
要がないが,ここでは信号空間が |X | < ∞ となる有限集合
と仮定
19 / 24
復習
畳み込み
標本化定理
量子化
量子化
線形量子化
線形量子化器の量子化ビット数と雑音の関係
量子化と量子化雑音
Definition
量子化標本化された信号 x(nTs ) から有限集合内の xn への変換
Definition
量子化雑音量子化関数 Q(x) を用いて,xn ≈ Q(x(nTs )), xn ∈ X ,
の信号に変換した場合
qn = x(nTs ) − xn
量子化関数の最適化
x(nTs )∼PX (x) とおくと、Q̂(x) := arg minQ(x) σ 2 。ただし、
∫
2
∞
σ :=
−∞
[x − Q(x)]2 PX (x)dx
20 / 24
復習
畳み込み
標本化定理
量子化
量子化
線形量子化
線形量子化器の量子化ビット数と雑音の関係
線形量子化
Definition
線形量子化標本化された信号 x(nTs ) から有限集合内の xn への
変換
Definition
量子化雑音有限集合 X 内の要素を等間隔に配置して量子化する方
法を線形量子化と呼び,最小の間隔を量子化ステップ幅と呼ぶ.
∆=
min
x,x ′ ∈X ,x̸=x ′
{|x − x ′ |}
小数点以下を四捨五入する関数 round(x) を用いると
(x )
∆
Q(x) := round
∆
21 / 24
復習
畳み込み
標本化定理
量子化
量子化
線形量子化
線形量子化器の量子化ビット数と雑音の関係
線形量子化器の入出力特性
xn
3∆
2∆
∆
x(nTs )
−5∆/2 −3∆/2−∆/2 ∆/2 3∆/2 5∆/2
−∆
−2∆
−3∆
22 / 24
復習
畳み込み
標本化定理
量子化
量子化
線形量子化
線形量子化器の量子化ビット数と雑音の関係
線形量子化雑音
線形量子化の量子化雑音は ∆/2 を超えない
量子化ステップ ∆ が十分小さく,量子化レベル N = |X | は
十分大きいと仮定
定義により
N−1
∑ ∫ xn +∆/2
σ2 =
PX (x)(x − xn )2 dx
n=0
xn −∆/2
∆ は十分に小さいため,区間 [xn − ∆/2 xn + ∆/2] で PX (x)
は P(xn ) と同じであるとみなす
線形量子化雑音
∫ ∆/2
N−1
N−1
∑
∆2
∆2 ∑
PX (xn )∆ =
σ2 =
PX (xn )
y 2 dy =
12
12
−∆/2
n=0
n=0
23 / 24
復習
畳み込み
標本化定理
量子化
量子化
線形量子化
線形量子化器の量子化ビット数と雑音の関係
線形量子化器の量子化ビット数と雑音の関係
量子化レベルは N = 2M
最大値と ∆ の関係
∆ = 2 max{|x(nTs )|}/2M
標本値 x(nTs ) の取りうる値を [−2M−1 ∆ 2M−1 ∆] で一様分布
であると仮定
信号の電力
∫ 2M−1 ∆
1
22M ∆2
x 2 dx =
M
12
2 ∆ −2M−1 ∆
量子化器の信号対雑音比
E {x(nTs )2 }
= 22M ≈ 6M[dB]
σ2
量子化ビットが 1 ビット増えると信号対雑音比は 6dB 改善
S/N =
24 / 24