Notizen zu maßtheoretischen Grundlagen der

Notizen zu maßtheoretischen Grundlagen
der Wahrscheinlichkeitstheorie
Wintersemester 2015/16
R. Neininger
Inhaltsverzeichnis
1 Maßtheoretische Grundlagen
1
Mengensysteme und Maße . . . . . . . . . . . . . .
2
Beispiele von messbaren Räumen und Maßräumen
3
Messbare Abbildungen . . . . . . . . . . . . . . . .
4
Integration . . . . . . . . . . . . . . . . . . . . . .
5
Produktmaße und Satz von Fubini . . . . . . . . .
6
Maße mit Dichten und Satz von Radon-Nikodym .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
2
2
5
8
10
12
13
2 Grundbegriffe der Wahrscheinlichkeitstheorie
7
Zufallsvariable und deren Verteilungen . .
8
Erwartungswerte . . . . . . . . . . . . . .
9
Konvergenz von Zufallsvariablen . . . . .
10 Stochastische Unabhängigkeit . . . . . . .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
15
15
16
19
19
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Im Folgenden werden einige wahrscheinlichkeitstheoretische Grundbegriffe im Kontext
der Maß- und Integrationstheorie zusammengestellt, um auf die Vorlesung Höhere Sto”
chastik“ vorzubereiten.
1
1 Maßtheoretische Grundlagen
1 Maßtheoretische Grundlagen
1 Mengensysteme und Maße
Im folgenden sei Ω stets eine nichtleere Menge.
Definition 1.1. Eine nichtleere Familie A von Teilmengen von Ω heißt Algebra (auf Ω),
falls für alle A, B ∈ A gilt:
Ac := Ω \ A, A ∩ B, A ∪ B ∈ A.
Eine Algebra heißt σ-Algebra, falls zusätzlich für jede Folge (Ai )i≥1 in A gilt:
[
Ai ∈ A.
i≥1
Bemerkung 1. Jede Algebra enthält ∅ und Ω. Jede σ-Algebra enthält mit einer Folge
(Ai )i≥1 auch deren Durchschnitt ∩i≥1 Ai .
Lemma 1.2. Sei I 6= ∅ eine beliebige Indexmenge.
Sind Ai für i ∈ I Algebren (auf Ω), so ist ∩i∈I Ai Algebra (auf Ω).
Sind Ai für i ∈ I σ-Algebren (auf Ω), so ist ∩i∈I Ai σ-Algebra (auf Ω).
Beispiel 1. {∅, Ω} sowie die Potenzmenge P(Ω) sind σ-Algebren.
Sei I := {∅, R} ∪ {(a, b] : −∞ < a < b < ∞} ∪ {(−∞, b] : b ∈ R} ∪ {(a, ∞) : a ∈ R} sowie
A die Menge aller endlichen Vereinigungen paarweise disjunkter Mengen aus I. Dann ist
A eine Algebra auf R, aber keine σ-Algebra.
Bemerkung 2. Ein Mengensystem A ist genau dann eine σ-Algebra, falls gelten:
[
(a) Ω ∈ A, (b) A ∈ A ⇒ Ac ∈ A, (c) (Ai )i≥1 Folge in A ⇒
Ai ∈ A.
i≥1
Lemma 1.3. Sei C ein beliebiges System von Teilmengen von Ω. Dann gibt es eine
kleinste Algebra A(C) und eine kleinste σ-Algebra σ(C), die C enthalten. Die Systeme
A(C) und σ(C) heißen die von C erzeugte Algebra bzw. die von C erzeugte σ-Algebra.
Bemerkung 3. Kleinste Algebra A(C), die C enthält, bedeutet, dass gelten: C ⊂ A(C)
sowie für jede Algebra A mit C ⊂ A gilt A(C) ⊂ A.
Definition 1.4. Ist A eine σ-Algebra mit A = σ(C), so heißt C Erzeugendensystem von
A. Ein System C von Teilmengen (von Ω) heißt ∩-stabil (lies: schnittstabil), falls für alle
A, B ∈ C gilt: A ∩ B ∈ C.
Definition 1.5. Ein System D von Teilmengen (von Ω) heißt Dynkin-System, falls
(a) Ω ∈ D,
(b) D ∈ D ⇒ Dc ∈ D,
(c) (Di )i≥1 Folge paarweise disjunkter Mengen in D ⇒
[
i≥1
gelten.
2
Di ∈ D.
1 Maßtheoretische Grundlagen
Bemerkung 4. Es gilt stets ∅ ∈ D. Ein Dynkin-System ist abgeschlossen unter endlicher
Vereinigung paarweise disjunkter Mengen. Für C ⊂ P(Ω) existiert analog zu Lemma 1.3
ein kleinstes Dynkin-System d(C), das C enthält.
Satz 1.6. Ist ein Dynkin-System ∩-stabil, so ist es eine σ-Algebra.
Satz 1.7. Ist C ein ∩-stabiles Mengensystem, so gilt d(C) = σ(C).
Definition 1.8. Ein Inhalt µ auf einer Algebra A ist eine Abbildung µ : A → [0, ∞] mit
den Eigenschaften µ(∅) = 0 und µ(A ∪ B) = µ(A) + µ(B) für alle A, B ∈ A mit A ∩ B = ∅.
Ein Inhalt heißt σ-endlich, falls eine Folge (Bi )i≥1 in A existiert mit Ω = ∪i≥1 Bi und
µ(Bi ) < ∞ für alle i ≥ 1. Ein Inhalt µ heißt σ-additiv, falls für jede Folge (Ai )i≥1
paarweise disjunkter Mengen in A mit ∪i≥1 Ai ∈ A gilt
!
∞
∞
[
X
µ
Ai =
µ(Ai ).
i=1
i=1
Ein σ-additiver Inhalt, der auf einer σ-Algebra definiert ist, heißt Maß. Ein Maß µ mit
µ(Ω) = 1 heißt Wahrscheinlichkeitsmaß (kurz W-Maß).
Bemerkung 5. Es gelten die üblichen Rechenregeln für das Symbol ∞. Für a ∈ R ist
a + ∞ = ∞ + a = ∞, es ist ∞ + ∞ = ∞. (Später wird auch die Konvention 0 · ∞ := 0
verwendet).
Ein σ-additiver Inhalt auf einer Algebra heißt auch Prämaß.
Lemma 1.9. Sei µ ein Inhalt auf einer Algebra A.
(a) µ ist monoton, d.h. für A, B ∈ A mit A ⊂ B gilt µ(A) ≤ µ(B).
(b) µ ist endlich additiv, d.h. für paarweise disjunkte Mengen A1 , . . . , An ∈ A gilt
!
n
n
X
[
µ(Ai ).
µ
Ai =
i=1
i=1
(c) µ ist endlich subadditiv, d.h. für A1 , . . . , An ∈ A gilt
!
n
n
[
X
µ
Ai ≤
µ(Ai ).
i=1
i=1
Satz 1.10. Sei µ ein Maß auf einer σ-Algebra F.
(a) µ ist stetig von oben, d.h. für jede fallende Folge (Ai )i≥1 in F mit µ(An ) < ∞ für
ein n ∈ N gilt
!
∞
\
µ
Ai = lim µ(Ai ).
i→∞
i=1
3
1 Maßtheoretische Grundlagen
(b) µ ist stetig von unten, d.h. für jede aufsteigende Folge (Ai )i≥1 in F gilt
!
∞
[
µ
Ai := lim µ(Ai ).
i→∞
i=1
(c) µ ist σ-subadditiv, d.h. für beliebige Folgen (Ai )i≥1 in F gilt
!
∞
∞
[
X
µ
Ai ≤
µ(Ai ).
i=1
i=1
Bemerkung 6. Eine Folge (Ai )i≥1 heißt aufsteigend, falls A1 ⊂ A2 ⊂ · · · , sowie absteigend, falls A1 ⊃ A2 ⊃ · · · . Wir schreiben dafür auch Ai ↑ bzw. Ai ↓.
Lemma 1.11. Sei µ ein endlicher Inhalt auf einer Algebra A. Dann sind äquivalent:
(a) µ ist σ-additiv (d.h. ein Prämaß)
(b) µ ist stetig in der leeren Menge, d.h. für jede Folge (Ai )i≥1 in A mit Ai ↓ ∅ gilt
µ(Ai ) → 0 für i → ∞.
Satz 1.12. (Fortsetzungssatz von Carathéodory) Sei µ0 ein σ-endliches Prämaß
auf einer Algebra A auf Ω. Dann gibt es genau ein Maß µ auf σ(A), das µ0 fortsetzt,
d.h. mit µ(A) = µ0 (A) für alle A ∈ A.
Bemerkung 7. Im Beweis des Fortsetzungssatzes von Carathéodory wird das Maß µ
wie folgt konstruiert: Zunächst wird durch
∞
∞
X
[
∗
µ (A) := inf
µ0 (An ) A ⊂
An , An ∈ A , A ∈ P(Ω),
n=1
n=1
ein äußeres Maß µ∗ definiert, d.h. eine monotone, σ-subadditive Mengenfunktion µ∗ :
P(Ω) → [0, ∞]. Es gilt µ(A) = µ∗ (A) für alle A ∈ A. Die Elemente des Mengensystems
A∗ := {A ⊂ Ω | ∀ Q ⊂ Ω : µ∗ (Q) ≥ µ∗ (Q ∩ A) + µ∗ (Q ∩ Ac )}
heißen µ∗ -messbar. Es ist leicht zu zeigen, dass A ⊂ A∗ gilt. Man kann nun ferner
zeigen, dass A∗ eine σ-Algebra ist und dass die Einschränkung von µ∗ auf A∗ ein Maß
ist. Wegen σ(A) ⊂ A∗ ist die Einschränkung von µ∗ auf σ(A) dann ein Maß µ wie im
Fortsetzungssatz von Carathéodory gewünscht. Die Eindeutigkeit von µ folgt mit Satz
1.13, da µ0 σ-endlich ist.
Satz 1.13. (Eindeutigkeitssatz) Sei C ein ∩-stabiles Erzeugendensystem einer σAlgebra F sowie µ und ν Maße auf F, die auf C übereinstimmen. Existiert eine Folge
(Bi )i≥1 in C mit Bi ↑ Ω und µ(Bi ) < ∞ für alle i ≥ 1, so gilt µ = ν.
4
1 Maßtheoretische Grundlagen
Bemerkung 8. Insbesondere stimmen zwei endliche Maße µ und ν, die auf einem ∩stabilen Erzeugendensystem übereinstimmen und für die µ(Ω) = ν(Ω) < ∞ gilt, auf
der erzeugten σ-Algebra überein. Speziell stimmen zwei W-Maße µ und ν, die auf einem
∩-stabilen Erzeugendensystem übereinstimmen, auf der erzeugten σ-Algebra überein.
Definition 1.14. Sei A eine σ-Algebra auf Ω. Dann heißt (Ω, A) messbarer Raum sowie
die Elemente von A messbare Mengen. Ist (Ω, A) ein messbarer Raum und µ ein Maß
auf A, so heißt (Ω, A, µ) Maßraum. Ist µ(Ω) < ∞, so heißt der Maßraum endlich. Gilt
µ(Ω) = 1, so heißt der Maßraum Wahrscheinlichkeitsraum (kurz W-Raum).
Definition 1.15. Sei (Ω, A, µ) ein Maßraum. Eine Menge A ⊂ Ω heißt µ-Nullmenge,
falls ein F ∈ A exisitiert mit A ⊂ F und µ(F) = 0. Der Maßraum heißt vollständig, falls
A alle µ-Nullmengen enthält.
Lemma 1.16. Sind Ai für i ∈ N µ-Nullmengen, so ist ∪i≥1 Ai eine µ-Nullmenge.
2 Beispiele von messbaren Räumen und Maßräumen
Wie in Beispiel 1 bezeichne I das Mengensystem
I = {∅, R} ∪ {(a, b] : −∞ < a < b < ∞} ∪ {(−∞, b] : b ∈ R} ∪ {(a, ∞) : a ∈ R}
sowie für d ∈ N
Id := {I1 × · · · × Id | I1 , . . . , Id ∈ I}.
Definition 2.1. B := σ(I) heißt die σ-Algebra der Borelschen Mengen in R (oder
Borelsche σ-Algebra). Ebenso heißt Bd = σ(Id ) die σ-Algebra der Borelschen Mengen
in Rd .
Lemma 2.2. Die folgenden Mengensysteme sind Erzeugendensysteme der Borelschen
σ-Algebra in R:
(a) {(−∞, t] | t ∈ R},
(b) Die Menge aller Intervalle in R.
Die folgenden Mengensysteme sind Erzeugendensysteme von Bd :
(c) Die offenen Teilmengen des Rd ,
(d) Die abgeschlossenen Teilmengen des Rd ,
(e) Die kompakten Teilmengen des Rd .
Produkträume
Aus messbaren Räumen können Produkte gebildet werden. Seien dazu (Ωi , Ai ) für i ∈ I
messbare Räume mit beliebiger Indexmenge I. Wir betrachten im kartesischen Produkt
×i∈I Ωi folgende Teilmengen: Für k ∈ I und A ∈ Ak sei
{k}
(1)
A := x = (xi )i∈I ∈
Ωi xk ∈ A
i∈I
×
5
1 Maßtheoretische Grundlagen
Definition 2.3. Die σ-Algebra σ({A{k} : k ∈ I, A ∈ Ak }), die von den Mengen A(k)
erzeugt wird, heißt Produkt-σ-Algebra auf ×i∈I Ωi . Sie wird mit ⊗i∈I Ai bezeichnet. Der
messbare Raum (×i∈I Ωi , ⊗i∈INAi ) heißt Produktraum. Sind (Ωi , Ai ) identisch gleich (Ω, A),
so schreibt man auch (ΩI , A I ) für den Produktraum.
Bemerkung 9. Die Mengen der Form (1) bilden kein ∩-stabiles Erzeugendensystem.
Man betrachtet deshalb die Mengen aller endlichen Durchschnitte von Mengen der Form
(1): Für endliche Teilmengen J ⊂ I und Aj ∈ Aj für j ∈ J seien
J
A := x = (xi )i∈I ∈
Ωi xj ∈ Aj für j ∈ J ,
i∈I
J
Ωi J ⊂ I endlich, Aj ∈ Aj für j ∈ J .
E := A ⊂
i∈I
×
×
Die Mengen AJ heißen endlichdimensionale Zylinder. Das System E der endlichdimensionalen Zylinder ist ∩-stabil, und es gilt
O
Ai = σ(E).
i∈I
Konstruktion von Maßen auf (R, B)
Wir betrachten Funktionen F : R → R, die rechtsseitig stetig und monoton wachsend
sind. Es seien
F(∞) := lim F(s) ∈ R ∪ {+∞},
s→∞
F(−∞) := lim F(s) ∈ R ∪ {−∞}.
s→−∞
Für die Intervalle aus Beispiel 1 erklären wir Werte wie folgt: Für (s, t] mit −∞ ≤ s <
t < ∞ sei
µ((s, t]) := F(t) − F(s).
Ferner seien µ((s, ∞)) := F(∞) − F(s), µ(R) := F(∞) − F(−∞) und µ(∅) = 0. Sodann
kann µ zu einem Inhalt auf der Algebra A(I) aus Beispiel 1 fortgesetzt werden: Für
A = ∪ki=1 Ii mit Ii ∈ I und Ii ∩ Ij = ∅ für i 6= j sei
µ(A) :=
k
X
µ(Ii ).
i=1
Der Inhalt µ ist σ-endlich, da
R=
∞
[
(−i, i]
und
µ((−i, i]) = F(i) − F(−i) < ∞.
i=1
Lemma 2.4. µ : A(I) → [0, ∞] ist ein Prämaß.
6
1 Maßtheoretische Grundlagen
Nach dem Satz 1.12 von Carathéodory kann µ eindeutig zu einem Maß auf σ(A(I)) =
σ(I) = B fortgesetzt werden.
Bemerkung 10. Man nennt monoton wachsende, rechtsseitig stetige Funktionen F :
R → R wegen voriger Konstruktion auch maßerzeugende Funktionen.
Definition 2.5. Wählt man in voriger Konstruktion F(t) = t für t ∈ R, so heißt das
resultierende Maß Lebesgue-Maß auf B. Für allgemeine rechtsseitig stetige und monoton
wachsende Funktionen F heißt das resultieren Maß Lebesgue-Stieltjes-Maß zu F.
Um mit der vorigen Konstruktion Wahrscheinlichkeitsmaße zu erhalten, muss F(∞) −
F(−∞) = 1 gelten. Da nur die Zuwächse von F relevant sind (nicht die absoluten Werte),
können wir annehmen, dass
lim F(t) = 1
t→∞
und
lim F(t) = 0
t→−∞
(2)
gelten.
Definition 2.6. Eine Funktion F : R → R, die rechtsseitig stetig und monoton wachsend
ist sowie mit (2), heißt Verteilungsfunktion.
Bemerkung 11. In manchen Darstellungen wird die Forderung der rechtsseitigen Stetigkeit durch die der linksseitigen Stetigkeit ersetzt. In diesen Fällen wird statt mit
rechtseitig abgeschlossenen Intervallen (s, t] mit linksseitig abgeschlossenen Intervallen
[s, t) gearbeitet.
Satz 2.7. Zu jeder Verteilungsfunktion F existiert genau ein W-Maß auf (R, B) mit
µ((−∞, t]) = F(t),
t ∈ R.
Ist umgekehrt ein W-Maß µ auf (R, B) gegeben, so ist die Funktion t 7→ µ((−∞, t]) eine
Verteilungsfunktion.
Diskrete Maße
Sei wieder Ω eine beliebige Menge sowie {xi ∈ Ω | i ∈ I} eine höchstens abzählbare
Teilmenge verschiedener Punkte in Ω sowie ai ∈ [0, ∞) für i ∈ I. Für jede σ-Algebra A
auf Ω ist durch
X
µ(A) :=
ai 1A (xi ), A ∈ A,
(3)
i∈I
ein Maß definiert. Hierbei bezeichnet
1A (x) =
1, x ∈ A,
0, x ∈
/ A,
die Indikatorfunktion von A. Falls {xi } ∈ A für i ∈ I, so ist µ σ-endlich. Derartige Maße
heißen
diskret. Die ai heißen dann Gewichte oder Punktmassen der Punkte xi . Im Falle
P
i∈I ai = 1 ist µ ein W-Maß. Im Falle I = {x} für ein x ∈ Ω und a = 1, also µ(A) = 1A (x)
heißt µ Dirac-Maß
P(in x) und wird auch mit δx bezeichnet. Man
P schreibt dann für µ wie
in (3) auch µ = i∈I ai δxi . Im Spezialfall Ω = N und µ = n∈N δn heißt µ Zählmaß,
da es die Punkte einer Teilmenge von N zählt.
7
1 Maßtheoretische Grundlagen
3 Messbare Abbildungen
Definition 3.1. Seien (Ω, A) und (Ω 0 , A 0 ) messbare Räume. Eine Abbildung f : Ω → Ω 0
heißt A-A 0 -messbar, falls
f−1 (A 0 ) := {f−1 (A) | A ∈ A 0 } ⊂ A
gilt. Sind die relevanten σ-Algebren A und A 0 aus dem Zusammenhang klar, so sagt man
einfach, f sei messbar. Ist f : Ω → R, so heißt f A-messbar (oder kurz messbar), falls f
A-B-messbar ist.
Bemerkung 12. Wir betrachten auch numerische Funktionen f : Ω → R, wobei R :=
R ∪ {∞} ∪ {−∞}. Auf R wird meist die σ-Algebra B, die von B ∪ {∞} ∪ {−∞} erzeugt
wird, verwendet. Eine A-B-messbare numerische Funktion heißt auch kurz messbare,
numerische Funktion.
Lemma 3.2. Sei f : Ω → Ω 0 wie in Definition 3.1. Ist C ein Erzeugendensystem von A 0 ,
d.h. A 0 = σ(C), so ist f genau dann A-A 0 -messbar, falls f−1 (C) ⊂ A.
Lemma 3.3. Seien (Ω1 , A1 ), (Ω2 , A2 ), (Ω3 , A3 ) messbare Räume und f1 : Ω1 → Ω2 ,
f2 : Ω2 → Ω3 messbare Abbildungen. Dann ist die Komposition f2 ◦ f1 : Ω1 → Ω3
messbar.
Lemma 3.4. Sei (Ω, A) ein messbarer Raum und (fn )n≥1 eine Folge messbarer, numerischer Funktionen. Dann sind
lim inf fn
n→∞
und
lim sup fn
n→∞
messbare, numerische Funktionen. Sind fn reellwertig und existiert lim inf n→∞ fn , so ist
diese Funktion messbar, ebenso lim supn→∞ fn . Existiert für eine Folge (fn )n≥1 reellwertiger messbarer Funktionen f : = limn→∞ fn , so ist f messbar.
Lemma 3.5. Sind f, g : Ω → R messbare Funktionen, so sind auch f + g, fg, αf mit
α ∈ R messbar. Gilt g(ω) 6= 0 für alle ω ∈ Ω, so ist auch f/g messbar. Jede konstante
Funktion ist messbar. Ist A ∈ A, so ist 1A : Ω → R messbar.
Lemma 3.6. Jede stetige Abbildung f : Rn → Rm ist Bn -Bm -messbar.
Lemma 3.7. Sei f : Ω → R eine messbare Funktion. Dann sind f+ := max{f, 0}, f− :=
max{−f, 0} und |f| messbar. Die Funktionen f+ und f− heißen Positivteil bzw. Negativteil
von f.
Definition 3.8. Sei (Ω, A) ein messbarer Raum. Eine Funktion
f=
n
X
ai 1Ai
i=1
mit n ∈ N, a1 , . . . , an ∈ R und A1 , . . . , An ∈ A heißt einfache Funktion oder Elementarfunktion.
8
1 Maßtheoretische Grundlagen
Bemerkung 13. Die Menge der einfachen Funktionen ist abgeschlossen gegenüber folgender Operationen: Sind f, g einfache Funktionen und α ∈ R, so sind αf, f + g, fg,
max{f, g} sowie min{f, g} einfache Funktionen.
Lemma 3.9. Jede nichtnegative, messbare, numerische Funktion f ist punktweiser Grenzwert einer aufsteigenden Folge (fn )n≥1 nichtnegativer einfacher Funktionen.
Bemerkung 14. Im Fall f(ω) = limn→∞ fn (ω) = ∞ bedeutet dies, dass (fn (ω))n≥1
bestimmt divergent ist, d.h. für alle K > 0 ein n0 ∈ N existiert mit fn (ω) ≥ K für alle
n ≥ n0 .
Satz 3.10. Sei (Ω, A) ein messbarer Raum und Γ eine Menge nichtnegativer, messbarer,
numerischer Funktionen, für die gelten:
(a) f, g ∈ Γ , a, b ∈ R+ ⇒ af + bg ∈ Γ ,
(b) (fn )n≥1 Folge in Γ mit fn ↑ f ⇒ f ∈ Γ ,
(c) 1A ∈ Γ für alle A ∈ A.
Dann ist Γ die Menge aller nichtnegativen, messbaren, numerischen Funktionen.
Bemerkung 15. Satz 3.10 wird häufig verwendet, um Eigenschaften messbarer numerischer Funktionen zu zeigen. Man weist zunächst die Eigenschaft für Indikatorfunktionen
nach und zeigt dann, dass die Eigenschaft erhalten bleibt beim Bilden endlicher Linearkombinationen mit positiven Koeffizienten sowie beim Bilden aufsteigender Grenzwerte. Satz 3.10 liefert dann, dass die Eigenschaft für alle nichtnegativen, messbaren,
numerischen Funktionen gilt. Eine derartige Vorgehensweise wird auch als algebraische
Induktion bezeichnet.
Bezeichnungen
Ist f : Ω → Ω 0 eine Abbildung und A 0 eine σ-Algebra auf Ω 0 , so bezeichnet σ(f) :=
f−1 (A 0 ) = {f−1 (A) | A ∈ A 0 } die von f erzeugte σ-Algebra (auf Ω). Sind fi : Ω → Ωi
Abbildungen und Ai σ-Algebren auf Ωi für i ∈ I mit beliebiger Indexmenge I. Dann
bezeichnet
!
[
σ(fi )
σ(fi | i ∈ I) := σ
i∈I
die von (fi )i∈I auf Ω erzeugt σ-Algebra.
Ferner verwenden wir für Funktionen bzw. Abbildungen f die in der Stochastik üblichen
Schreibweisen
{f ≤ x} := {ω ∈ Ω | f(ω) ≤ x},
x ∈ R,
{f ∈ A} := {ω ∈ Ω | f(ω) ∈ A},
A ⊂ Ω0
sowie ähnliche Schreibweisen.
9
1 Maßtheoretische Grundlagen
4 Integration
In diesem Abschnitt sei (Ω, A, µ) stets ein σ-endlicher Maßraum.
P
Definition 4.1. Sei f = ni=1 ai 1Ai eine nichtnegative, einfache Funktion. Dann wird
das Integral von f definiert durch
Z
Z
f dµ := f(ω) dµ(ω) :=
n
X
ai µ(Ai ).
(4)
i=1
Sei f : Ω → [0, ∞] messbar und (fn )n≥1 eine Folge nichtnegativer, einfacher Funktionen
mit fn ↑ f. Dann wird das Integral von f definiert durch
Z
Z
Z
f dµ := f(ω) dµ(ω) := lim fn dµ ∈ [0, ∞].
(5)
n→∞
R
Bemerkung 16. Zum Nachweis, dass f dµ in (4) wohldefiniert ist, zeigt man, dass die
rechte Seite unabhängig von der Wahl der
von f als einfache Funktion ist,
PDarstellung P
0
dass also für zulässige Darstellungen f = ni=1 ai 1Ai = ni=1 ai0 1Ai0 gilt:
n
X
0
ai µ(Ai ) =
n
X
i=1
ai0 µ(Ai0 ).
i=1
Ebenso weißt man für (5) nach, dass die rechte Seite unabhängig von der Wahl der
approximierenden Folge ist.
Für nichtnegative, messbare, numerische Funktionen ist das Integral stets definiert. Es
kann den Wert ∞ haben.
Bemerkung 17. Wir haben die folgenden Eigenschaften:
R
(a) Ist µ({f = ∞}) > 0, so ist f dµ = ∞.
(b) Sind f, g nichtnegative, einfache Funktionen und a, b ≥ 0, so ist af + bg eine
nichtnegative, einfache Funktion und es gilt die Linearität des Integrals:
Z
Z
Z
af + bg dµ = a f dµ + b g dµ.
Für nichtnegative, einfache Funktionen f, g mit f ≤ g gilt die Monotonie des Integrals:
Z
Z
f dµ ≤ g dµ.
(c) Die Linearität und Monotonie des Integrals aus Bemerkung 17 (b) übertragen sich
durch Grenzübergang auf nichtnegative, messbare Funktionen.
10
1 Maßtheoretische Grundlagen
Definition 4.2. Eine messbare, numerische Funktion f : Ω → R heißt µ-integrierbar,
falls
Z
|f| dµ < ∞.
Bemerkung
18. Wegen |f| = f+ + f− ist dies äquivalent dazu, dass
R −
f dµ < ∞.
R
f+ dµ < ∞ und
Definition 4.3. Sei f eine µ-integrierbare Funktion. Dann ist das Integral von f definiert
durch
Z
Z
Z
+
f dµ := f dµ − f− dµ.
Ist A ∈ A, so ist:
Z
Z
f dµ := 1A f dµ
A
das Integral von f über A.
Bemerkung 19. Das hier für µ-integrierbare Funktionen definierte Integral heißt auch
Lebesgue-Integral.
Bemerkung 20. Falls f µ-integrierbar ist, so schreibt man f ∈ L1 (Ω, A, µ) oder kurz f ∈
L1 (µ) oder nur f ∈ L1 . Mit L1 (Ω, A, µ) wird der Raum der µ-integrierbaren Funktionen
bezeichnet.
Satz 4.4. Für f, g ∈ L1 (Ω, A, µ) gelten:
R
R
(a) f ≤ g ⇒ f dµ ≤ g dµ.
R
R
R
(b) a, b ∈ R ⇒ af + bg ∈ L1 (Ω, A, µ) und af + bg dµ = a f dµ + b g dµ.
R
R
R
(c) A, B ∈ A mit A ∩ B = ∅ ⇒ A∪B f dµ = A f dµ + B f dµ.
R
(d) N ∈ A mit µ(N) = 0 ⇒ N f dµ = 0.
(e) Ist f messbare Funktion und g ∈ L1 (Ω, A, µ) mit |f| ≤ g, so ist f ∈ L1 (Ω, A, µ).
Bemerkung 21. Eine Eigenschaft in Bezug auf Elemente von Ω gilt µ-fast überall
(kurz: µ-f.ü.), falls die Menge A der ω ∈ Ω, für die die Eigenschaft nicht gilt, eine
µ-Nullmenge ist. Ist µ ein W-Maß, so sagt man auch µ-fast sicher (kurz: µ-f.s.). Sind
etwa f und g messbare Funktionen, so bedeutet f = g µ-f.ü. also, dass gilt: µ({f 6= g}) =
µ({ω ∈ Ω | f(ω) 6= g(ω)}) = 0. (Beachte, dass {f 6= g} eine messbare Menge ist.) Man
sagt auch, dass die Eigenschaft für µ-fast alle ω ∈ Ω gelte.
Lemma 4.5. Seien f, g ∈ L1 (Ω, A, µ). Dann gelten:
R
R
(a) f = g µ-f.ü ⇒ f dµ = g dµ.
R
R
(b) f ≤ g und f dµ = g dµ ⇒ f = g µ-f.ü.
11
1 Maßtheoretische Grundlagen
Bemerkung 22.RGilt für Rf, g ∈ L1 (Ω, A, µ), dass f = g µ-fast überall, so gilt gemäß Lemma 4.5 (a), dass f dµ = g dµ. Ändern einer Funktion auf (messbaren) µ-Nullmengen
hat also keinen Einfluss auf das Integral der Funktion. Für die Äquivalenzrelation
f∼g
:⇐⇒
f = g µ-fast überall
auf L1 (Ω, A, µ) bezeichnet man den Quotientenraum mit
L1 (Ω, A, µ) := L1 (Ω, A, µ)/ ∼
oder kurz auch L1 (µ) oder nur L1 . Wir können dann auch das Integral für Elemente aus
L1 (Ω, A, µ) definieren als Integral eines beliebigen Repräsentanten der Äquivalenzklasse.
Satz 4.6. (Satz von der monotonen Konvergenz; Satz von B. Levi) Sei (fn )n≥1
eine Folge nichtnegativer, messbarer, numerischer Funktionen mit fn ↑ f µ-f.ü. Dann gilt
Z
Z
lim fn dµ = f dµ.
n→∞
Korollar 4.7. Sei f eine nichtnegative, messbare, numerische Funktion und (Ai )i≥1 eine
Folge paarweise disjunkter Mengen in A. Dann gilt
Z
XZ
f dµ =
f dµ.
S
Ai
i∈N
i∈N
Ai
Satz 4.8. (Lemma von Fatou) Sei (fn )n≥1 eine Folge nichtnegativer, messbarer, numerischer Funktionen. Dann gilt
Z
Z
lim inf fn dµ ≤ lim inf fn dµ.
n→∞
n→∞
Satz 4.9. (Satz von der majorisierten Konvergenz; Satz von Lebesgue) Sei
(fn )n≥1 eine Folge µ-integrierbarer Funktionen. Es existiere ein g ∈ L1 (Ω, A, µ) mit
|fn | ≤ g für alle n ∈ N. Falls f = limn→∞ fn µ-f.ü. existiert, so gilt f ∈ L1 (Ω, A, µ) und
Z
Z
lim fn dµ = f dµ.
n→∞
5 Produktmaße und Satz von Fubini
In diesem Abschnitt seien stets (Ω1 , A1 ) und (Ω2 , A2 ) messbare Räume.
Nach Bemerkung 9 wird die Produkt-σ-Algebra A1 ⊗ A2 auf Ω1 × Ω2 vom ∩-stabilen
Mengensystem {A1 × A2 | A1 ∈ A1 , A2 ∈ A2 } erzeugt.
(1)
Definition 5.1. Sei f : Ω1 × Ω2 → R eine Funktion. Für ω1 ∈ Ω1 sei fω1 : Ω2 → R
(1)
(2)
durch fω1 (ω2 ) = f(ω1 , ω2 ) für alle ω2 ∈ Ω2 definiert. Für ω2 ∈ Ω2 sei fω2 : Ω1 → R
(2)
(1)
(2)
durch fω2 (ω1 ) = f(ω1 , ω2 ) für alle ω1 ∈ Ω1 definiert. Die Funktionen fω1 , fω2 heißen
(1)
Schnitte von f. Für A ⊂ Ω1 × Ω2 sei analog Aω1 := {ω2 ∈ Ω2 | (ω1 , ω2 ) ∈ A} und
(2)
Aω2 := {ω1 ∈ Ω1 | (ω1 , ω2 ) ∈ A}.
12
1 Maßtheoretische Grundlagen
Lemma 5.2. Sei f : Ω1 × Ω2 → R eine A1 ⊗ A2 -messbare Funktion. Für alle ω2 ∈ Ω2
(1)
(2)
sind die Schnitte fω2 A1 -messbar. Für alle ω1 ∈ Ω1 sind die Schnitte fω1 A2 -messbar.
Satz 5.3. Seien µ1 , µ2 σ-endliche Maße auf (Ω1 , A1 ) bzw. (Ω2 , A2 ). Dann existiert genau
ein Maß µ auf A1 ⊗ A2 mit
µ(A1 × A2 ) = µ1 (A1 )µ2 (A2 )
für alle A1 ∈ A1 und A2 ∈ A2 . Das Maß µ heißt Produktmaß von µ1 und µ2 und wird
mit µ1 ⊗ µ2 bezeichnet.
Satz 5.4. (Satz von Tonelli/Fubini) Sei f : Ω1 ×Ω2 → R eine messbare, numerische
Funktion, die nichtnegativ oder µ1 ⊗ µ2 -integrierbare ist. Dann gilt:
Z
ZZ
f dµ1 ⊗ µ2 =
f(ω1 , ω2 ) dµ1 (ω1 ) dµ2 (ω2 )
(6)
ZZ
=
f(ω1 , ω2 ) dµ2 (ω2 ) dµ1 (ω1 ).
(7)
Bemerkung 23. Man beachte, dass das innere Integral in (6) und (7) jeweils nur bis
auf eine µ2 - bzw. µ1 -Nullmenge definiert zu sein braucht: Für µ1 -fast alle ω1 ∈ Ω1
(1)
(2)
ist die Funktion fω1 µ2 -integrierbar und für µ2 -fast alle ω2 ∈ Ω2 ist die Funktion fω2
µ1 -integrierbar. Wegen Bemerkung 22 ist das äußere Integral jeweils trotzdem definiert.
Bemerkung 24. Der Fall nichtnegativer Funktionen in Satz 5.4 wird üblicherweise als
Satz von Tonelli bezeichnet, der Fall µ1 ⊗ µ2 -integrierbarer Funktionen als Satz von
Fubini.
6 Maße mit Dichten und Satz von Radon-Nikodym
In diesem Abschnitt sei (Ω, A, µ) ein σ-endlicher Maßraum.
Satz 6.1. Sei f : Ω → [0, ∞) messbar. Dann wird durch
Z
ν(A) := f dµ, A ∈ A,
A
ein σ-endliches Maß auf (Ω, A) definiert. Für jede Menge A ∈ A mit µ(A) = 0 gilt
ν(A) = 0.
R
Definition 6.2. Ein Maß ν mit ν(A) = A f dµ für alle A ∈ A heißt Maß mit µ-Dichte
f. Ist ν ein Maß mit einer µ-Dichte f, so ist f µ-f.ü. eindeutig bestimmt. Man schreibt
dann für ν auch fµ.
Definition 6.3. Sei (Ω, A) ein messbarer Raum sowie µ und ν Maße auf A. Das Maß
ν heißt absolutstetig bezüglich µ, falls
∀ A ∈ A : µ(A) = 0 ⇒ ν(A) = 0
gilt. Man schreibt dann ν µ.
13
1 Maßtheoretische Grundlagen
Satz 6.4. (Satz von Radon-Nikodym) Seien µ und ν Maße auf (Ω, A), und µ sei
σ-endlich. Es gilt ν µ genau dann, wenn ν ein Maß mit einer µ-Dichte f ist.
Bemerkung 25. Man nennt die µ-f.ü. eindeutige Dichte f in Satz 6.4 auch die RadonNikodym-Ableitung von ν bezüglich µ und schreibt
f=
dν
.
dµ
Bemerkung 26. Die Existenz einer µ-Dichte f für ν impliziert nach Satz 4.4 (d), dass
ν µ. Umgekehrt kann im Fall ν µ die Existenz einer µ-Dichte grob wie folgt
nachgewiesen werden: Im Spezialfall, dass µ und ν endliche Maße sind, betrachte man
G := {g : Ω → [0, ∞] | g messbar und gµ ≤ ν},
R
wobei gµ ≤ ν bedeutet, dass (gµ)(A) = A g dµ ≤ ν(A) für alle A ∈ A gilt. Es gilt
G 6= ∅, und man kann zeigen, dass aus g, h ∈ G folgt, dass sup{g, h} ∈ G. Damit und mit
Satz 4.6 von der monotonen
Konvergenz kann man dann zeigen, dass die Abbildung I :
R
G → [0, ∞), g 7→ g dµ ein Maximum, etwa in f ∈ G, annimmt. Es lässt sich schließlich
nachweisen, dass f eine µ-Dichte von ν ist. Im allgemeinen Fall σ-endlicher Maße kann
man Ω passend zerlegen, um die Aussage auf den Fall endlicher Maße zurückzuführen.
Satz 6.5. Gelte ν µ mit µ-Dichte f.
(a) Ist g : Ω → [0, ∞] messbare, numerische Funktion, so gilt
Z
Z
g dν = gf dµ.
(b) Ist g : Ω → R messbar, so gilt g ∈ L1 (Ω, A, ν) genau dann, wenn gf ∈ L1 (Ω, A, µ).
In diesem Falle gilt
Z
Z
g dν =
14
gf dµ.
2 Grundbegriffe der Wahrscheinlichkeitstheorie
2 Grundbegriffe der Wahrscheinlichkeitstheorie
7 Zufallsvariable und deren Verteilungen
Im folgenden sei (Ω, A, P) stets ein W-Raum.
Definition 7.1. Sei (Ω 0 , A 0 ) ein messbarer Raum. Eine A-A 0 -messbare Abbildung X :
Ω → Ω 0 heißt Zufallsvariable. Falls (Ω 0 , A 0 ) = (R, B), so heißt X reellwertige Zufallsvariable. Falls (Ω 0 , A 0 ) = (Rd , Bd ), so heißt X d-dimensionaler Zufallsvektor.
Bemerkung 27. Eine Abbildung X = (X1 , . . . , Xn ) : Ω → Rd ist ein d-dimensionaler
Zufallsvektor genau dann, wenn X1 , . . . , Xd reellwertige Zufallsvariable sind.
Definition 7.2. Sei X : (Ω, A, P) → (Ω 0 , A 0 ) Zufallsvariable. Dann wird durch
PX : A 0 → [0, 1],
A 0 7→ P(X−1 (A 0 ))
die Verteilung von X definiert. Man schreibt auch X(P), PX oder L(X) für PX . PX ist ein
W-Maß auf (Ω 0 , A 0 ).
Definition 7.3. Sei f : (Ω, A, µ) → (Ω 0 , A 0 ) eine messbare Abbildung mit einem Maßraum (Ω, A, µ). Dann heißt f(µ) : A 0 → [0, ∞], A 0 7→ µ(f−1 (A 0 )) das Bildmaß von µ
unter f. Es ist f(µ) ein Maß auf (Ω 0 , A 0 ).
Satz 7.4. (Transformationssatz) Sei f : (Ω, A, µ) → (Ω 0 , A 0 ) messbar und ϕ : Ω 0 →
R eine nichtnegative, messbare, numerische Funktion. Dann gilt
Z
Z
ϕ df(µ) = ϕ ◦ f dµ.
(8)
Ist ϕ reellwertig, so ist ϕ genau dann f(µ)-integrierbar, wenn ϕ ◦ f µ-integrierbar ist. In
diesem Fall gilt ebenfalls (8).
Bemerkung 28. Ist speziell X : (Ω, A, P) → (Ω 0 , A 0 ) Zufallsvariable und ϕ wie in Satz
7.4, so hat (8) die Form
Z
Z
ϕ dPX = ϕ(X) dP.
Definition 7.5. Ist X eine reellwertige Zufallsvariable, so heißt
FX : R → [0, 1],
t 7→ P({X ≤ t}) = PX ((−∞, t])
Verteilungsfunktion von X.
Definition 7.6. EineRmessbare Funktion f : R → R+
0 heißt Wahrscheinlichkeitsdichte
(kurz W-Dichte), falls f dλ = 1 gilt mit dem Lebesgue-Maß λ. Eine W-Dichte f definiert
gemäß Definition 6.2 ein W-Maß auf (R, B):
Z
A 7→ µ(A) := f dλ, A ∈ B.
A
Hat die Verteilung von PX einer reellen Zufallsvariable X eine λ-Dichte f, so sagt man,
X habe die Dichte f.
15
2 Grundbegriffe der Wahrscheinlichkeitstheorie
Beispiel 2. Die Standardnormalverteilung auf (R, B) ist ein W-Maß mit W-Dichte
1
f(x) = √ exp −x2 /2 ,
2π
x ∈ R.
Die Cauchy-Verteilung (zum Parameter c > 0) ist ein W-Maß auf (R, B) mit W-Dichte
f(x) =
π(c2
c
,
+ x2 )
x ∈ R.
R
d
Definition 7.7. Eine messbare Funktion f : Rd → R+
0 heißt W-Dichte, falls f dλ = 1
d
d
mit dem d-dimensionalen
Lebesgue-Maß λ . Die Dichte definiert ein W-Maß auf (R , Bd )
R
vermöge A 7→ A f dλd , A ∈ Bd.
Beispiel 3. Die Standardnormalverteilung auf (Rd , Bd ) ist ein W-Maß auf (Rd , Bd ) mit
W-Dichte
f(x) = (2π)−n/2 exp −kxk2 /2 , x ∈ Rd ,
wobei für x = (x1 , . . . , xn ) mit kxk =
P
x2i
1/2
die euklidische Norm bezeichnet wird.
Definition 7.8. Eine reelle Zufallsvariable X hat eine diskrete Verteilung, falls PX ein
diskretes Maß auf (R, B) ist, falls also
X
X
PX =
pn δxn mit xn ∈ R, pn ≥ 0 und
pn = 1.
n≥1
n≥1
8 Erwartungswerte
Definition 8.1. Sei X eine reelle Zufallsvariable auf einem W-Raum (Ω, A, P). Ist X ≥ 0
oder X ∈ L1 (Ω, A, P), so heißt
Z
E [X] := E X := X dP
der Erwartungswert von X.
Korollar 8.2. Sei X eine Zufallsvariable in (Ω 0 , A 0 ) und ϕ : Ω 0 → R eine messbare
Funktion. Ist ϕ ≥ 0, so gilt
Z
E [ϕ(X)] = ϕdPX .
(9)
Ist ϕ beliebig, so ist ϕ(X) ∈ L1 (Ω, A, P) genau dann, wenn ϕ ∈ L1 (Ω 0 , A 0 , PX ). In diesem
Falle gilt ebenfalls (9).
Bemerkung 29. Sei X eine (Ω 0 , A 0 )-wertige Zufallsvariable.
16
2 Grundbegriffe der Wahrscheinlichkeitstheorie
(a) Wählen wir in Korollar 8.2 (Ω 0 , A 0 ) = (R, B) und für ϕ die Identität, so folgt,
dass X ∈ L1 (Ω, A, P) genau dann, wenn
Z
|y| dPX (y) < ∞.
Z
In diesem Falle ist
EX =
(b) Ist PX diskret mit PX =
P
n≥1 pn δxn
y dPX (y).
mit xn ∈ R, pn ≥ 0 und
Z
|y| dPX (y) =
X
P
n≥1 pn
= 1, so ist
pn |xn |.
n≥1
P
Es gilt also X ∈ L1 (Ω, A, P) genau dann, wenn n≥1 pn |xn | < ∞. In diesem Falle
gilt
X
X
EX =
xn pn =
xn P({X = xn }).
n≥1
n≥1
(c) Besitzt PX eine Lebesgue-Dichte f, so gilt
Z
Z
X ∈ L1 (Ω, A, P) ⇐⇒ |y| dPX (y) = |y|f(y) dλ(y) < ∞,
und in diesem Falle
Z
E X = yf(y) dλ(y).
Lemma 8.3. Für X, Y ∈ L1 (Ω, A, P) und a, b ∈ R ist aX + bY ∈ L1 (Ω, A, P), und es
gilt die Linearität des Erwartungswerts: E [aX + bY] = aE [X] + bE [Y].
Definition 8.4. Man nennt
Lp (Ω, A, P) := {X : Ω → R | X Zufallsvariable, E [|X|p ] < ∞}.
den Raum der p-fach integrierbaren Zufallsvariablen, p > 0. Analog zu Bemerkung 22
ist
Lp (Ω, A, P) := Lp (Ω, A, P)/ ∼
mit ∼ wie in Bemerkung 22.
Lemma 8.5. Für 0 < p 0 < p gilt Lp (Ω, A, P) ⊂ Lp 0 (Ω, A, P).
Satz 8.6. Es gelten folgende Ungleichungen:
17
2 Grundbegriffe der Wahrscheinlichkeitstheorie
(a) (Markovsche Ungleichung): Sei X ∈ Lp (Ω, A, P) und p > 0. Dann gilt für alle
a>0:
P(|X| ≥ a) ≤ a−p E [|X|p ].
(b) (Cauchy-Schwarz-Ungleichung): Sind X, Y ∈ L2 (Ω, A, P), so ist XY ∈ L1 (Ω, A, P),
und es gilt
E [|XY|] ≤ (E [X2 ]E [Y 2 ])1/2 .
(c) (Höldersche Ungleichung): Seien p, q ≥ 1 mit 1/p + 1/q = 1 sowie X ∈
Lp (Ω, A, P), Y ∈ Lq (Ω, A, P). Dann gilt XY ∈ L1 (Ω, A, P) und
E [|XY|] ≤ (E [|X|p ])1/p (E [|Y|q ])1/q .
Definition 8.7. Sei X ∈ L1 (Ω, A, P). Die Varianz von X ist definiert durch
h
i
Var(X) := E (X − E [X])2 ∈ [0, ∞].
(a) Es gilt Var(X) = E [X2 ] − (E [X])2 .
(b) Es gilt Var(X) < ∞ ⇐⇒ X ∈ L2 (Ω, A, P).
(c) Es gilt Var(X) = 0 ⇐⇒ X = E [X] P-f.s.
(d) (Chebychev Ungleichung): Die Markovsche Ungleichung angewandt auf X −
E [X] mit p = 2 ergibt
P(|X − E [X]| ≥ a) ≤ Var(X)/a2 .
Definition 8.8. Sind X, Y ∈ L1 (Ω, A, P) mit XY ∈ L1 (Ω, A, P), so ist die Kovarianz
zwischen X und Y definiert durch
Cov(X, Y) : = E [XY] − E [X]E [Y] = E [(X − E [X])(Y − E [Y])].
Ist X = (X1 , . . . , Xd ) ein Zufallsvektor mit Xi ∈ L1 (Ω, A, P) und Xi Xj ∈ L1 (Ω, A, P) für
alle i, j ∈ {1, . . . , d}, so ist die Kovarianzmatrix Σ(X) = (σij (X))i,j=1,...,d definiert durch
σij (X) = Cov(Xi , Xj ).
Lemma 8.9. Die Kovarianzmatrix hat folgende Eigenschaften.
(a) Sind X, Y ∈ L2 (Ω, A, P), so ist Cov(X, Y) definiert (d.h. XY ∈ L1 (Ω, A, P)).
(b) Die Kovarianzmatrix ist symmetrisch und positiv semidefinit.
18
2 Grundbegriffe der Wahrscheinlichkeitstheorie
9 Konvergenz von Zufallsvariablen
Im folgenden sei (Xn )n≥1 eine Folge reeller Zufallsvariable, die auf einem gemeinsamen
W-Raum (Ω, A, P) definiert sind.
Definition 9.1. Wir haben:
(a) Eine Folge (Xn )n≥1 konvergiert P-fast sicher (kurz: P-f.s.) gegen eine Zufallsvariable X, falls
P({ lim Xn = X}) = 1.
n→∞
Notation: Xn → X P-f.s.
(b) Eine Folge (Xn )n≥1 in Lp (Ω, A, P) konvergiert im p-ten Mittel, p > 0, gegen eine
Zufallsvariable X ∈ Lp (Ω, A, P), falls
lim E [|Xn − X|p ] = 0.
n→∞
Lp
Notation: Xn −→ X.
(c) Eine Folge (Xn )n≥1 konvergiert in Wahrscheinlichkeit gegen eine Zufallsvariable X,
falls
∀ ε > 0 : lim P(|Xn − X| ≥ ε) = 0.
n→∞
P
Notation: Xn −→ X.
Lp
Satz 9.2. Falls Xn → X P-f.s., so Xn −→ X. Falls Xn −→ X, so Xn −→ X.
P
P
Lemma 9.3. Gelte Xn → X P-f.s. Falls |Xn | ≤ Y P-f.s. mit Y ∈ Lp (Ω, A, P), p > 0, so
Lp
gilt Xn −→ X.
Satz 9.4. Falls Xn −→ X, so existiert eine Teilfolge (Xnk )k≥1 mit Xnk → X P-f.s.
P
Lemma 9.5. Sei (Xn )n≥1 eine Folge reeller Zufallsvariablen mit
lim P(|Xn − Xm | ≥ ε) = 0
n,m→∞
P
für alle ε > 0. Dann existiert eine Zufallsvariable X mit Xn −→ X.
10 Stochastische Unabhängigkeit
Im folgenden sei (Ω, A, P) stets ein W-Raum.
19
2 Grundbegriffe der Wahrscheinlichkeitstheorie
Definition 10.1. Teilsysteme E1 , . . . , En ⊂ A heißen (stochastisch) unabhängig, falls für
alle 1 ≤ i1 < · · · < ik ≤ n und alle Aij ∈ Eij gilt:

P
k
\

Aij  =
j=1
k
Y
P(Aij ).
j=1
Ein System {Ei | i ∈ I} von Teilmengen Ei von A mit beliebiger Indexmenge I heißt
unabhängig, falls je endlich viele Ei unabhängig sind. Ereignisse Ai ∈ A, i ∈ I, heißen
unabhängig, falls das System {{Ai } | i ∈ I} unabhängig ist.
Lemma 10.2. Seien Ei ⊂ A für i ∈ I ∩-stabile Mengensysteme. Ist {Ei | i ∈ I} unabhängig, so ist {σ(Ei ) | i ∈ I} unabhängig.
Korollar 10.3. Seien Ei ⊂ A für i ∈ I unabhängig und ∩-stabil. Es sei (Ik )k∈K eine
Familie von paarweise disjunkten Teilmengen von I. Dann ist die Familie
!
[
σ
Ej k ∈ K
j∈Ik
unabhängig.
Satz 10.4. (0 − 1 Gesetz von Kolmogorov): Sei (An )n≥1 eine Folge von unabhängigen Unter-σ-Algebren von A. (Unter-σ-Algebren bedeutet An ⊂ A und An σ-Algebra
für alle n ≥ 1). Dann gilt
!
∞
∞
\
[
∀ A ∈ T∞ :=
σ
Ak : P(A) ∈ {0, 1}.
n=1
k=n
T∞ heißt die σ-Algebra der terminalen Ereignisse der Folge (An ) oder auch terminale
σ-Algebra der Folge (An ).
Lemma 10.5. Sei T ⊂ A ein Unter-σ-Algebra mit P(A) ∈ {0, 1} für alle A ∈ T. Ist Z eine
R-wertige Zufallsvariable, die T-B-messbar ist, so existiert ein c ∈ R mit P(Z = c) = 1,
d.h. Z ist P-f.s. konstant.
Definition 10.6. Eine Familie {Xi | i ∈ I} von Zufallsvariablen (die alle auf (Ω, A, P)
definiert sind) heißt unabhängig, falls {σ(Xi ) | i ∈ I} eine unabhängiges System ist.
Lemma 10.7. Seien Xi : (Ω, A, P) → (Ωi , Ai ) Zufallsvariablen für i ∈ I.
(a) Ist {Ei | i ∈ I} eine unabhängige Familie von Unter-σ-Algebren von A und Xi
Ei -Ai -messbar für i ∈ I, so ist {Xi | i ∈ I} unabhängig.
(b) Ist {Xi | i ∈ I} unabhängig und ϕi : Ωi → Ωi0 Ai -Ai0 -messbar (mit Ai0 σ-Algebra auf
Ωi0 ), so ist {ϕi ◦ Xi | i ∈ I}, ebenfalls unabhängig.
20
2 Grundbegriffe der Wahrscheinlichkeitstheorie
(c) Die Familie {Xi | i ∈ I} ist genau dann unabhängig, falls für alle n ∈ N, paarweise
verschiedenen i1 , . . . , in ∈ I und beliebigen A1 ∈ Ai1 , . . . , An ∈ Ain gilt:
P(Xi1 ∈ A1 , . . . , Xin ∈ An ) =
n
Y
P(Xij ∈ Aj ).
j=1
Lemma 10.8. Eine Familie {Xi | i ∈ I} reellwertiger Zufallsvariable ist genau dann
unabhängig, wenn für alle n ∈ N, paarweise verschiedenen i1 , . . . , in ∈ I und alle
t1 , . . . , tn ∈ R gilt:
P(Xi1 ≤ t1 , . . . , Xin ≤ tn ) =
n
Y
P(Xij ≤ tj ).
j=1
Lemma 10.9. Seien X und Y reellwertige, unabhängige Zufallsvariable. Dann gilt:
(a) Falls X, Y ≥ 0, so E [XY] = E [X]E [Y].
(b) Falls X, Y ∈ L1 (Ω, A, P), so XY ∈ L1 (Ω, A, P) und E [XY] = E [X]E [Y].
Satz 10.10. Seien Xi , i ∈ I, Zufallsvariable in (Ωi , Ai ). Die Familie {Xi | i ∈ I} ist
unabhängig genau dann, wenn für jedes n ∈ N und paarweise verschiedene i1 , . . . , in ∈ I
gilt
n
O
PXij .
P(Xi ,...,Xin ) =
1
j=1
Bemerkung 30. Sind X und Y unabhängige, reellwertige Zufallsvariable, so erhält man
für die Verteilungsfunktion der Summe X + Y:
Z
P(X + Y ≤ t) = FX (t − y) dPY (y),
wobei FX die Verteilungsfunktion von X bezeichnet.
Haben X und Y λ-Dichten f und g, so hat X + Y die λ-Dichte f ∗ g gegeben durch
Z
f ∗ g(x) = f(y)g(x − y) dλ(y), x ∈ R.
f ∗ g heißt Faltung von f und g.
21