Seminar zur Vorlesung „Informationstheorie und Codierung“
3 „Quellencodierung“
3.1 Markovquelle
Gegeben sei eine Modellierung des Wetters in Form einer Markovquelle, die durch den Graph
in Abbildung 1 dargestellt ist.
0,1
0,6
Regen
Sonne
0,2
0,3
0,45
0,05
0,15
0,35
Wolken
0,8
Abbildung 1: Wetterzustandsmodell
Es ist Freitag und wir haben Wolken.
a) Wie groß ist die Wahrscheinlichkeit, dass sich das Wetter in den Nächsten Tagen wie
folgt entwickelt:
Sonne, Wolken, Wolken, Regen, Wolken
b) Wie groß ist die Wahrscheinlichkeit, dass es am Montag regnet?
c) Berechnen Sie die ergodischen Zustandswahrscheinlichkeiten.
d) Berechnen Sie die Entropie HM dieser Quelle im stationären Zustand.
e) Geben Sie eine redundanzarme Codierung für diese Quelle an.
f) Codieren Sie ausgehend vom Zustand Wolken den Wetterverlauf
Sonne, Wolken, Wolken, Regen, Wolken
mit Hilfe der redundanzarmen Codierung aus der Teilaufgabe e).
g) Decodieren Sie die Sequenz 1110101100 ausgehend vom Zustand Sonne mit Hilfe der
redundanzarmen Codierung aus der Teilaufgabe e).
h) Warum wird die Angabe des Ausgangspunktes benötigt?
Dr. Maik Debes & M. Sc. Silvia Krug
Fachgebiet „Kommunikationsnetze“
Seminar zur Vorlesung „Informationstheorie und Codierung“
3.2 Bernoulliquelle
Gegeben sei eine Bernoulliquelle, deren Symbole mit folgenden Wahrscheinlichkeiten auftreten:
Si
pi
a
0,15
b
0,14
c
0,3
d
0,1
e
0,12
f
0,08
g
0,06
h
0,05
Tabelle 1: Auftrittswahrscheinlichkeiten
a) Berechnen Sie den Informationsgehalt Ii der einzelnen Symbole.
b) Wie groß sind H0 und H für diese Quelle?
c) Geben Sie eine Shannon-Fano-Codierung für die Symbole dieser Quelle an. Wie groß ist
hierbei die Redundanz?
d) Geben Sie eine Huffman-Codierung für die Symbole dieser Quelle an. Wie groß ist hierbei
die Redundanz?
3.3 Binärquelle
Gegeben sei eine diskrete Binärquelle mit unabhängigen Zeichen und den Auftrittswahrscheinlichkeiten p1 = 0, 2 und p2 = 0, 8. Zu bestimmen ist die Coderedundanz bei einer Optimalcodierung nach dem Shannon-Fano-Verfahren.
a) Für die gegebene Binärquelle,
b) Für die erweiterte Quelle mit m = 2,
c) Für die erweiterte Quelle mit m = 3.
3.4 Arithmetische Codierung
Die Bitfolge 01011 wurde durch arithmetische Codierung erzeugt. Es ist bekannt, dass diese
aus vier Zeichen des Alphabets X = {a, b, c, d} besteht. Die Buchstaben besitzen folgende
Auftrittswahrscheinlichkeiten: p(a) = 0, 4; p(b) = 0, 2; p(c) = 0, 1; p(d) = 0, 3
a) Decodieren Sie die Zeichenfolge.
b) Ist eine Decodierung auch dann möglich, wenn die Anzahl der übertragenden Zeichen
nicht bekannt ist?
c) Welche Zeichenfolge würde sich ergeben, wenn der Decoder fünf Zeichen auswertet?
Dr. Maik Debes & M. Sc. Silvia Krug
Fachgebiet „Kommunikationsnetze“
© Copyright 2025 ExpyDoc
