Maßtheoretische Konzepte der Stochastik

Transkript

1 Maßtheoretische Konzepte der Stochastik Sommersemester 2016 Mathias Trabs Universität Hamburg 17. November 2016 Inhaltsverzeichnis 1 Wozu brauchen wir Maßtheorie? in Beispiel. 2 2 σ-algebren und Maße Definitionen und igenschaften Konstruktion von Maßen Dynkinsysteme* Integrationstheorie Messbare Abbildungen Integralkonstruktion L p -Räume und Radon-Nikodym-Dichten Räume integrierbarer Funktionen Satz von Radon-Nikodym und Lebesguescher Zerlegungssatz Produkträume und Übergangskerne ndliche Produktmaße und der Satz von Fubini Anwendung: Stochastische Unabhängigkeit Übergangskerne und abzählbare Produkte Bedingte rwartung Bedingte Wahrscheinlichkeit Definition und igenschaften der bedingten rwartung Martingale Definition und Doob-Zerlegung Stoppzeiten mail: mathias.trabs@uni-hamburg.de 1

2 1 Wozu brauchen wir Maßtheorie? in Beispiel. 1 Betrachten wir n N unabhängige Würfe einer fairen Münze, also den endlichen Wahrscheinlichkeitsraum Ω n := {0, 1} n (mit der Interpretation, dass 0 Kopf entspricht und 1 Zahl versehen mit der Gleichverteilung P n ({ω} = 2 n für jedes ω Ω n. Der Anteil der Würfe mit dem rgebnis Zahl, ist dann gegeben durch S n (ω := 1 n n ω i für alle ω = (ω i i=1,...,n Ω n. i=1 Ist die Münze fair, so sollte S n (ω etwa 1 2 sein. Gleichheit tritt allerdings nur mit verschwindender Wahrscheinlichkeit auf, da für große n Stirlings Approximation (n! 2πn( n e n für n ergibt, dass P 2n ( S2n = 1 2 =2 2n # { ω Ω 2n : ω enthält genau n insen } =2 2n ( 2n n 1 πn. Tatsächlich liefert uns das schwache Gesetz der großen Zahlen lim P n( S n 1 < ε = 1 für alle ε > 0. 2 Intuitiv würde man sogar folgende stärkere Form dieses Konvergenzresultates erwarten: Bezeichne Ω := {0, 1} N := {ω = (ω i i N : ω i {0, 1}, i N} den rgebnisraum eines unendlich langen Münzwurfes. Bemerkung 1.1. Ω = {0, 1} N ist überabzählbar (Übung. Mit der Notation S n (ω := 1 n n i=1 ω i, ω Ω, entspricht das Gesetz der großen Zahlen lim S n(ω = 1 2. Für alle ω Ω gilt dies offensichtlich nicht (z.b. ω = (0, 0, Wir können also höchstens fragen, ob dieser Grenzwert für fast alle Wurffolgen ω Ω gilt. Untersuchen wir also das reignis { ω Ω : lim S n(ω = 1 }. 2 Problem: Der Grenzwert hängt von dem asymptotischen Verhalten der Folge ω ab. Bisher können wir aber nur die Wahrscheinlichkeiten von reignissen, die von endlichen vielen Münzwürfen abhängen, berechnen, genauer P ({ω : (ω 1,..., ω n A} = 2 n #A für alle A Ω n, n N. Die Frage ist also, wie wir Wahrscheinlichkeiten P (A, A F, für zumindest ein Mengensystem F P(Ω von reignissen auf Ω definieren. Als Mindestanforderung sollte gelten A1. F enthält alle reignisse, die nur von endlichen vielen Münzwürfen abhängen, d.h. für alle n N und A Ω n gilt {ω : (ω 1,..., ω n A} F. Auf diesen Mengen ist P definiert durch P ({ω : (ω 1,..., ω n A} = P n (A, A Ω n. 1 Dieser Abschnitt folgt Kapitel 1 aus Breiman, L. (1992. Probability. Classics in Applied Mathematics. Siam, Philadelphia. 2

3 Versuchen wir die Wahrscheinlichkeit von A := {lim Sn (ω 1 2 > 0} abzuschätzen. Bemerke lim S n(ω = lim S m 2(ω. m Für ε > 0 und 1 < m 0 < m 1 definieren wir A ε := { ω : lim m S m 2(ω 1 > ε }, 2 m 1 { A m0,m 1 := ω : S m 2(ω 1 > ε }. 2 m=m 0 Da A m0,m 1 P m 2 1 nur von den ersten m 2 1 Würfen abhängt, folgt aus (A1 und der Subadditivität von P (A m0,m 1 Aus der Chebyshev-Ungleichung folgt eine monoton wach- und damit P (A m0,m 1 1 sende Folge mit dem Grenzwert A m0 := m 1 m=m 0 P m 2 ( Sm > ε. ( P m 2 Sm Var(S m 2 > ε ε 2 = 1 4ε 2 m 2 m1 1 4ε 2 m=m 0 m 1 m 0 A m0,m 1 = Wir benötigen folgende Monotonieannahme. m 2. Für festes m 0 ist (A m0,m 1 m1 m 0 m m 0 { ω : Sm 2(ω 1 2 > ε }. A2. Ist (A n n 1 F eine monotone Folge, d.h. A n A n+1, dann gilt n 1 A n F und ( lim P (A n = P A n. Aus (A2 folgt P (A m0 = lim P (A m 0,m m 1 4ε 2 m 2 1 4ε 2 (m m=m Da lim m S m 2(ω 1 2 > ε genau dann, wenn für alle m 0 ein m m 0 existiert, so dass Sm 2(ω 1 2 > ε, folgt Aε = m A 0 1 m 0. Da (A m0 m0 2 eine fallende Folge von Mengen ist, folgt wieder aus (A2, dass P (A ε = lim P (A 1 m 0 lim m 0 m 0 4ε 2 = 0. m 0 Schließlich stellen wir fest, dass A = { ω : lim m S m 2(ω 1 2 > 0 } = k 1 A 1/k mit wachsender Folge (A 1/k k, so dass erneut (A2 ergibt n 1 P (A = lim k P (A 1/k = 0. Wir haben somit folgendes starkes Gesetz der großen Zahlen für unser Münzwurfexperiment bewiesen: Satz 1.2. rfüllen F und P die Annahmen (A1 und (A2, so gilt P (ω : lim S n (ω = 1 2 = 1. s bleibt die Frage, ob eine Wahrscheinlichkeitsverteilung P existiert, welche die Annahmen (A1 und (A2 erfüllt und ob P durch (A1 und (A2 eindeutig beschrieben wird (was man intuitiv erwarten würde. Die Antwort auf diese Frage liefert Caratheodorys Fortsetzungssatz, dem zentralen Satz der Maßtheorie. 3

4 2 σ-algebren und Maße 2.1 Definitionen und igenschaften Wie bereits bekannt, modellieren wir die Gesamtheit aller möglichen Ausgänge eines Zufallsexperimentes durch eine nichtleere Menge. Die Potenzmenge P( ist definiert als die Menge aller Teilmengen von. Alle uns interessierenden reignisse fassen wir durch ein Mengensystem A aus zusammen. Definition 2.1. in nichtleeres Mengensystem A P( heißt (i Ring, falls für alle A, B A gilt auch A B A und A \ B A. (ii Algebra, falls für alle A, B A gilt A B A und \ A A. (iii σ-algebra, falls A eine Algebra ist und für alle (A n n 1 A gilt n 1 A n A. Satz 2.2. Sei A P(. (i Ist A ein Ring mit A, so ist A auch eine Algebra. (ii Ist A eine Algebra, dann gilt für alle A, B A:, A, A B A, A \ B A. Für A 1,..., A n A gilt stets n A k A und n A k A. (iii Ist A eine σ-algebra und (A n n 1 A, so gilt A n A. n=1 (iv Der Durchschnitt i I A i beliebig vieler σ-algebren A i, i I, ist wieder eine σ-algebra. Beweis. Übung. Beispiel 2.3. Sei eine beliebige nichtleere Menge. (i {, } und P( sind σ-algebren. (ii Sei P( ein beliebiges Mengensystem. Dann ist σ( := { } A : A ist σ-algebra aus mit A (2.1 die kleinste σ-algebra, die umfasst. σ( heißt die von erzeugte σ-algebra. s gilt (Übung : (a Ist A eine σ-algebra aus, so ist A = σ(a. (b Sind, Mengensysteme aus, so folgt aus, dass σ( σ( gilt. (iii Sei Ω n = {0, 1} n bzw. Ω = {0, 1} N der rgebnisraum des (unendlichen Münzwurfexperiments. Das Mengensystem F : = { A Ω : n N, B Ω n, so dass A = {ω Ω : (ω 1,..., ω n B} } = {π 1 n (B : n N, B Ω n } mit der Projektion auf die ersten n Koordinaten π n : Ω Ω n ist eine Algebra, aber keine σ-algebra. 4

5 (iv Sei f : X Y eine Abbildung und A P(Y. Dann definieren wir f 1 (A := {f 1 (A : A A}. Ist A eine σ-algebra auf Y, so ist f 1 (A eine σ-algebra auf X, welche die durch f induzierte σ-algebra genannt wird. Für jedes Mengensystem P(Y gilt (Übung σ(f 1 ( = f 1 (σ(. (v Für n 1 bildet das folgende Mengensystem eine Algebra auf R n : { K Q n := (a k, b k ] :(a k, b k ] := n (a k,l, b k,l ] mit a k,l b k,l, k = 1,..., K, l = 1,..., n l=1 } und (a k, b k ] sind paarweise disjunkt, K N, wobei wir hier (a, ] = (a, für a R setzen. s ist aber keine σ-algebra, denn (n = 1 (0, 1 1 k ] = (0, 1 / A. k 1 (vi Sei (, d ein metrischer (oder topologischer Raum und bezeichne O( die Familie der offenen Teilmengen und C( die Familie der abgeschlossenen Teilmengen. Die von O( erzeugte σ-algebra B := σ(o( heißt Borelsche σ-algebra auf. ine Teilmenge A B wird Borelmenge des metrischen Raumes (, d genannt. s gilt (Übung (a B = σ(c(, (b B R n = σ(q n. Definition 2.4. in Paar (, A, wobei eine nichtleere Menge und A P( eine σ-algebra ist, heißt messbarer Raum. Die lemente von A heißen messbare Mengen. Maße sind Abbildungen von einer σ-algebra nach [0, ], die intuitiv jeder Menge aus der σ-algebra eine Größe zuordnen, bspw. Flächen oder Volumina. s ist intuitiv, dass diese Abbildungen nichtnegativ und additiv sein sollten. In der Stochastik dienen Maße dazu, den reignissen Wahrscheinlichkeiten zuzuordnen, was den Wertebereich von Wahrscheinlichkeitsmaßen auf natürliche Weise auf [0, 1] beschränkt. Definition 2.5. s sei R ein Ring auf. ine Abbildung µ: R [0, ] := [0, { } heißt Inhalt, falls µ( = 0 und falls µ additiv ist, d.h. für disjunkte Mengen A, B R gilt µ(a B = µ(a + µ(b. µ heißt σ-additiv oder σ-inhalt, falls zusätzlich für jede abzählbare Folge (A k k 1 R paarweise disjunkter Mengen aus R mit k 1 A k R gilt ( µ A k = µ(a k. in σ-additiver Inhalt µ: A [0, ] auf einer σ-algebra A heißt Maß auf A. in Tripel (, A, µ aus einer nichtleeren Menge, einer σ-algebra A und einem Maß µ auf A heißt Maßraum. Die Mengen A A mit µ(a = 0 heißen µ-nullmengen. Satz 2.6 (igenschaften von Inhalten und Maßen. Für jeden Inhalt µ: A [0, ] auf einer Algebra A P( gelten folgende Aussagen: (i Für alle A, B A mit A B und µ(a < gilt µ(b \ A = µ(b µ(a, insbesondere µ(a µ(b (Monotonie. 5

6 (ii Für alle A, B A mit µ(a B < gilt µ(a B = µ(a + µ(b µ(a B. (iii Die beiden folgenden igenschaften sind äquivalent: (a Die additive Mengenfunktion µ ist σ-additiv. (b Für jede Folge (A n n 1 A mit A n A n+1, µ(a n < für n 1 und n 1 A n A, gilt ( lim µ(a n = µ A n (Stetigkeit von unten. n 1 (iv Die beiden folgenden igenschaften sind äquivalent: (a Für jede Folge (A n n 1 A mit A n A n+1, n 1, und µ(a 1 < und n 1 A n A, gilt ( lim µ(a n = µ A n (Stetigkeit von oben. n 1 (b Für jede Folge (A n n 1 A mit A n A n+1, n 1, und µ(a 1 < und n 1 A n = gilt lim µ(a n = 0 (Stetigkeit in der leeren Menge. (v Die igenschaften in (iii implizieren (iv. Im Fall µ( < sind die igenschaften in (iii und (iv äquivalent. (vi Ist µ σ-additiv, so gilt für jede Folge (A n A mit n 1 A n A die Ungleichung ( µ n 1 A n µ(a n n=1 (σ-subadditivität. Beweis. (i Wegen B = A (B \ A gilt µ(b = µ(a + µ(b \ A. (ii Folgt aus A B = (A \ B (B \ A (A B. (iii (a (b Definiere B 1 := A 1 und B n := A n \ A n 1 für n 1. Dann gilt n B k = A n und lim µ(a n = lim µ( n B k = ( µ(b k = µ k 1 ( B k = µ (b (a Für paarweise disjunkte (B n n 1 A folgt die σ-additivität aus obiger Zeile mit A n := n B k. (iv Übung. (v Wir zeigen (iii(a (iv(b: Sei (A n n 1 A fallend mit µ(a 1 < und n 1 A n =. Definiere die disjunkten Mengen B n := A n \ A n+1. s gilt A n = k=n B k und k 1 µ(b k = µ(a 1 <. Aus µ(a n = k=n µ(b k folgt die Behauptung. Falls µ( <, so gilt (iv(b (iii(a: Sei (A n A eine Folge disjunkter Mengen mit n 1 A n A. Die Folge B n := k=n A k A ist monoton fallend mit n 1 B n =. Dann gilt µ( ( n A k = lim µ( A k + µ(b n+1 = lim k 1 n k 1 A k. µ(a k + lim µ(b n+1. Da letzterer Grenzwert gegen 0 konvergiert, folgt die σ-additivität. (vi Für die Folge disjunkter Mengen B 1 := A 1 und B n := A n \ n 1 A k gilt n 1 A n = n 1 B n und es folgt aus der σ-additivität und (i µ ( ( A n = µ B n = n 1 n 1 n 1 µ(b n n 1 µ(a n. 6

7 Definition 2.7. in Inhalt µ: A [0, ] auf einer Algebra A über heißt σ-endlich, falls eine Folge ( n n 1 A existiert mit n 1 n = und µ( n < für alle n 1. Gilt µ( <, dann heißt µ endlich. Gilt µ( = 1 für ein Maß µ auf einer σ-algebra A, so nennt man µ Wahrscheinlichkeitsmaß und (, A, µ Wahrscheinlichkeitsraum. Definition 2.8. Sei (, A, µ ein Maßraum. Das Maß µ: A [0, ] heißt vollständig, falls jede Teilmenge einer Nullmenge selbst messbar ist, d.h. ist A A eine Menge vom Maß µ(a = 0 und B A, so gilt B A. Beispiel 2.9. (i Das Zählmaß zählt die Anzahl der lemente einer Menge. Wir definieren µ: P( [0, ] durch { #A, falls A endlich, µ(a := +, sonst. µ ist genau dann σ-endlich, wenn abzählbar ist. µ ist vollständig (da A = P(. Ist endlich, dann ist P (A := #A #, A, ein Wahrscheinlichkeitsmaß, die Gleichverteilung (insbesondere ist P n auf Ω n aus Kaptiel 1 ein Wahrscheinlichkeitsmaß. (ii Sei x ein fixierter Punkt. Das Dirac-Maß entscheidet, ob x in einer Menge liegt oder nicht. Wir definieren δ x : P( [0, ] durch { 1, falls x A, δ x (A = 0, falls x / A. δ x ist ein vollständiges Wahrscheinlichkeitsmaß. (iii Sei (x n n=1 R d eine Folge ohne Häufungspunkte und f : N [0, eine Gewichtsfunktion. Wir definieren µ f : P(R d [0, ] durch µ f (A := f(n. x n A µ f ist ein vollständiges, σ-endliches Maß. Die σ-ndlichkeit folgt, da man R d durch kompakte Kugeln ausschöpfen kann, die jeweils nur endlich viele Folgeglieder x n enthalten können, da (x n n keinen Häufungspunkt hat. 2.2 Konstruktion von Maßen Da man im Allgemeinen nicht einmal alle lemente der σ-algebra eines messbaren Raumes (, A kennt (z.b. Borelmengen, erscheint es hoffnungslos µ(a für alle A A angeben zu können. Wie gelangt man dann aber zum konkreten Maß? Wir verwenden die Konstruktion von Caratheodory. inen σ-inhalt µ auf einem Ring R über nennen wir Prämaß. Unser Ziel ist nun, den zugehörigen Prämaßraum (, R, µ zu einem (vollständigen Maßraum fortzusetzen. Zunächst ein Reduktionsschritt. Definition ine Abbildung µ : P( [0, ] heißt äußeres Maß auf, falls (i µ ( = 0, (ii aus A B für A, B folgt µ (A µ (B (Monotonie, (iii für A n, n 1, gilt µ ( n=1 A n n=1 µ (A n (σ-subadditivität. Definition Sei µ ein äußeres Maß auf P(. ine Teilmenge A heißt µ -messbar, falls für alle Teilmengen B gilt µ (B = µ (A B + µ (A c B. (2.2 Die Menge aller µ -messbaren Teilmengen von bezeichnen wir mit A µ. 7

8 µ -messbare Mengen A zerlegen also jedes B P( in zwei disjunkte Teilmengen, auf denen µ additiv ist. Aufgrund der Subadditivität von µ ist nur für die Messbarkeit zu zeigen. Satz 2.12 (Caratheodory, Sei µ : P( [0, ] ein äußeres Maß, dann ist (, A µ, µ Aµ ein vollständiger Maßraum. Beweis. Schritt 1: A µ ist eine Algebra. Offenbar ist A µ und da (2.2 symmetrisch in A und A c ist, folgt aus A A µ auch A c A µ. Sind A, B A µ, so gilt für alle Q : µ (Q µ (Q A + µ (Q A c µ (Q A + µ (Q A c B + µ (Q A c B c µ ( (Q A (Q A c B + µ (Q (A B c =µ (Q (A B + µ (Q (A B c. Somit ist A B A µ. Schritt 2: Ist (A n n 1 eine Folge disjunkter Mengen aus A µ, so ist A := n 1 A n A µ und µ (A = n 1 µ (A n. (2.3 Für disjunkte Mengen M, N A µ folgt aus (2.2 mit B = Q (M N, dass µ (Q (M N = µ (Q M + µ (Q N. Induktiv folgt für jedes n N µ (Q n A j = j=1 n µ (Q A j. Nach Schritt 1 ist n j=1 A j A µ und wir erhalten für alle Q und alle n N: µ (Q = µ ( Q n j=1 A j + µ ( ( n Q j=1 j=1 A j c n µ (Q A j + µ (Q A c. Also liefert die σ-subadditivität µ (Q µ (Q A j + µ (Q A c µ (Q A + µ (Q A c µ (Q. j=1 Diese Ungleichungskette zeigt A A µ sowie (2.3 im Fall Q = A. Schritt 3: µ ist vollständig. Ist N A µ eine µ -Nullmenge und M N, dann gilt µ (M = 0 und für jedes Q impliziert die Monotonie: µ (Q µ (Q M + µ (Q M c µ (Q N + µ (Q N c = µ (Q. Satz 2.13 (Fortsetzungssatz. Sei µ: R [0, ] ein Inhalt auf einem Ring R über. Wir definieren µ : P( [0, ] durch { { inf µ n=1 (B := µ(a n : B } n=1 A n mit A n R für alle n 1 +, falls Bnicht in einer abzählbaren Vereinigung von Mengen aus Rliegt. Dann gilt: (i µ ist ein äußeres Maß auf (das von µ erzeugte äußere Maß. (ii R A µ. j=1 8

9 (iii Ist µ ein σ-inhalt, so gilt µ = µ R. Beweis. (i Da R und µ 0, gilt µ ( = 0. Ist B 1 B 2, so ist jede Überdeckung von B 2 auch eine Überdeckung von B 1, woraus die Montonie µ (B 1 µ (B 2 folgt. Sei nun (A n n 1 P(. Ist µ (A n = für ein n, so ist die Ungleichung µ ( A n µ (A n n=1 trivial. s sei nun µ (A n < für alle n 1 und sei ε > 0. Für jedes n N gibt es eine Folge (B nk k 1 R, so dass A n k 1 B nk und n=1 µ(b nk µ (A n + ε 2 n. k 1 Nun ist (B nk (n,k N 2 eine abzählbare Familie von Mengen aus R mit n 1 A n n 1 und es folgt µ ( A n µ (B nk ( µ (A n + ε 2 n = µ (A n + ε. n 1 n 1 k 1 n 1 n 1 k 1 B nk Da ε beliebig war, folgt die σ-subadditivität und µ ist ein äußeres Maß. (ii Seien nun A R und B mit µ (B <. Wir wählen (A n R mit B n 1 A n (existiert da µ (B <. Da µ ein Inhalt auf R ist und µ R µ, folgt µ(a n A c n 1 µ(a n = n 1 µ(a n A + n 1 µ (A n A + µ (A n A c n 1 n 1 µ ( A A n + µ ( A c A n n 1 n 1 µ (A B + µ (A c B. Bilden wir das Infimum über alle Überdeckungen (A n n 1 von B, erhalten wir µ (B µ (A B + µ (A c B. (iii Sei nun µ ein σ-inhalt und B R. Nach Definition gilt µ (B µ(b. Für jede Überdeckung (A n n 1 R von B gilt B = n 1 B n mit der Folge (B k k 1 R disjunkter Mengen B 1 := B A 1 und B n := B ( A n \ n 1 A k, n 2. Dann folgt ( µ(b = µ B n = µ(b n µ(a n. n 1 n 1 n 1 Bilden wir das Infimum über alle Überdeckungen, folgt µ(b µ (B. Diese beiden Sätze zeigen, dass jeder Prämaßraum (, R, µ zu einem vollständigen Maßraum (, A µ, µ Aµ fortgesetzt werden kann. Beachte, dass die kleinste Fortsetzung zu einem Maßraum gegeben ist durch (, σ(r, µ mit µ = µ σ(r. Bemerkung Man kann zeigen, dass A µ die Vervollständigung von σ(r ist, d.h. A µ = { A N : A σ(r, N N 0 für ein N 0 σ(r mit µ(n 0 = 0 }. Satz 2.15 (indeutigkeitssatz. s seien µ und ν zwei Maße auf einer σ-algebra A = σ(r über erzeugt von einem Ring R mit (i µ R = ν R und 9

10 (ii es existiert eine wachsende Folge ( n n 1 R mit µ( n = ν( n < für alle n N und n n =, dann gilt µ = ν. Beweis. Für jedes A A = σ(r haben wir eine monotone wachsende Ausschöpfung A = n 1 A n. Aufgrund der Stetigkeit von unten gilt µ(a = lim µ(a n und ν(a = lim ν(a n. s genügt also folgendes zu zeigen: Sei A R und B A eine Teilmenge von A, dann gilt µ(b = µ (B = ν(b mit { µ (B = inf n=1 µ(c n : B n 1 } C n, C n R. Für jede Überdeckung (C n R von B gilt: ( ν(b ν C n ν(c n = µ(c n. n 1 n 1 n 1 Bilden wir das Infimum über alle Überdeckungen, erhalten wir ν(b µ (B. Analog ergibt sich ν(a \ B µ (A \ B. s folgt µ (A = ν(a = ν(b + ν(a \ B µ (B + µ (A \ B µ (A, so dass überall Gleichheit gilt. Insbesondere folgt ν(b = µ (B. Bemerkung Diesen Satz kann man auf einen durchschnittsstabilen rzeuger der σ-algebra statt eines Ringes abschwächen. Korollar Sei µ ein σ-endlicher σ-inhalt auf einem Ring R. Dann existiert genau ein Maß µ auf σ(r, welches µ fortsetzt, d.h. für das µ R = µ gilt. Dieses Maß ist σ-endlich. Beispiel (i Im unendlichen Münzwurfexperiment Ω = {0, 1} N haben wir bereits gesehen, dass F = {πn 1 (B : n N, B Ω n } mit Ω n = {0, 1} n und den Projektionen π n : Ω Ω n eine Algebra ist. Auf F hatten wir P (πn 1 (B := P n (B := 2 n #B für alle n N, B Ω n definiert. Da P n Wahrscheinlichkeitsmaße sind, ist P ein σ-inhalt auf F und wegen Ω = π1 1 ({0, 1} mit P (π1 1 ({0, 1} = P 1({0, 1} = 1 ist P auch normiert (insbesondere σ-endlich. Folglich können wir P zu einem eindeutigen Wahrscheinlichkeitsmaß P auf σ(f fortsetzen. (ii in Radon-Maß auf (R, B R ist ein Maß µ mit µ(b < für alle beschränkten Mengen B B R. Da der Ring { n } Q 1 := (a k, b k ] : a 1 < b 1 < a 2 < b 2 < < a n < b n, n N { } auf R die Borel-σ-Algebra B R erzeugt, wird jedes Radon-Maß durch die Werte µ((a, b], < a b < eindeutig festgelegt. Das Maß λ auf (R, B R mit λ((a, b] = b a für alle < a b < heißt Lebesgue- Maß auf (R, B R. Die xistenz kann man mit Hilfe von Satz 2.13 angewendet auf den Ring Q 1 und das darauf definierte Prämaß µ( n (a k, b k ] = n (b k a k nachweisen. Die Vervollständigung von (R, B R bzgl. λ wird mit (R, L R bezeichnet mit der σ-algebra der Lebesguemessbaren Mengen L R := A µ. 10

11 (iii Aus der mathematischen Stochastik ist bekannt, dass sich jedes Wahrscheinlichkeitsmaß auf (R, B R eindeutig durch seine Verteilungsfunktion F : R [0, 1], F (x = P((, x] beschreiben lässt. Dies folgt auch aus (ii, da P((a, b] = F (b F (a. Umgekehrt kann man ähnlich wie beim Lebesgue-Maß zeigen, dass zu jeder rechtsseitig stetigen, monoton steigenden Funktion F : R [0, 1] mit F ( := lim x F (x = 0 und F ( := lim x F (x = 1 ein Wahrscheinlichkeitsmaß existiert, das F als Verteilungsfunktion hat. In Verallgemeinerung des letzten Beispiels lässt sich zeigen Satz Zu jeder rechtsseitig stetigen, monoton steigenden Funktion G: R R existiert genau ein Radon-Maß (oder Lebesgue-Stieltjes-Maß µ G, so dass µ G ((a, b] = G(b G(a für alle < a b <. G heißt maßdefinierende Funktion zu µ G. Für jedes Radonmaß µ auf (R, B R ist die maßdefinierende Funktion bis auf eine additive Konstante eindeutig bestimmt. ine maßdefinierende Funktion ist gegeben durch G(a := µ((0, a] für a 0 und G(a = µ((a, 0] für a < 0. Beweis. Übung. 2.3 Dynkinsysteme* Definition Sei. in Mengensystem D P( heißt Dynkinsystem über, falls: (i D, (ii für alle A, B D mit A B gilt B \ A D, (iii Für jede Folge diskjunkter Mengen (A n n N D gilt n N A n D. Offensichtlich ist jede σ-algebra ein Dynkinsystem. Umgekehrt gilt Lemma Ist D ein -stabiles Dynkinsystem, so ist D auch eine σ-algebra. Beweis. Wir weisen die igenschaften einer σ-algebra nach. s gilt D und \ A D für jedes A D nach Definition. Sind A, B D, so ist auch A \ B = A \ (A B D und daher auch A B = A (B \ A D. Für (A n n 1 D definieren wir B 1 := A 1 D und B n := A n \ n 1 A k D, so dass (B n n 1 paarweise disjunkt sind mit n 1 A n = n 1 B n D. Sei und P(. Ganz analog zur erzeugten σ-algebra ist das kleinste Dynkin- System, welches umfasst, gegeben durch δ( := {D : D ist Dynkinsystem über mit D}. δ( heißt das von erzeugte Dynkinsystem. Satz Ist P( -stabil, so ist auch δ( -stabil. Insbesondere gilt in diesem Fall δ( = σ(. Beweis. Für jedes C δ( werden wir zeigen, dass δ( D C := {A δ( : A C δ(}. Daraus folgt D C = δ( für jedes C δ(, also ist δ( -stabil und nach Lemma 2.21 eine σ-algebra, d.h. σ( δ(. Anderseits ist jede σ-algebra ein Dynkinsystem, so dass δ( σ( und damit σ( = δ( folgt. Zunächst weisen wir nach, dass D C ein Dynkinsystem ist: (i D C, da C = C δ(. (ii Sind A, B D C mit A B, dann ist (B \ A C = (B C \ (A C δ(. 11

12 (iii Sind (A n n 1 D C paarweise disjunkt, so ist ( n 1 A n C = n 1 (A n C δ(. Für C gilt D C nach Annahme, damit auch δ( D C. Für jedes A δ( und C gilt also A C δ( also C D A. s folgt D A, was δ( D A für jedes A δ( impliziert. Damit lässt sich der indeutigkeitssatz wie folgt verschärfen. Satz 2.23 (indeutigkeitssatz II. s seien µ und ν zwei Maße auf einer σ-algebra A = σ( über erzeugt von einem -stabilen rzeuger mit (i µ = ν und (ii es existiert eine wachsende Folge ( n n 1 mit µ( n = ν( n < für alle n N und n n =, dann gilt µ = ν. Beweis. Für jedes A A = σ( haben wir eine monotone wachsende Ausschöpfung A = n 1 A n. Aufgrund der Stetigkeit von unten gilt µ(a = lim µ(a n und ν(a = lim ν(a n. s genügt also µ(a C = ν(a C für jedes A A und C mit µ(c < zu zeigen. Wir definieren D C := {A A : µ(a C = ν(a C}. Dann ist D C für ein beliebiges C mit µ(c < ein Dynkinsystem: (i D C, denn C = C. (ii Sind A, B D C mit A B, dann gilt µ ( (B \ A C = µ ( (B C \ (A C = µ(b C µ(a C (iii Sind (A n n 1 D c disjunkt, dann folgt ( ( ( µ A n C = µ (A n C = µ(a n C n 1 n 1 n 1 = ν(b C ν(a C = ν((b \ A C. = ( ( ν(a n C = ν n 1 n 1 A n C. Da -stabil, ist D c und damit δ( D C A = σ(. Anderseits folgt δ( = σ( aus Satz 2.22, also D C = A für jedes C. 3 Integrationstheorie Um rwartungswerte, Varianzen, Kovarianzen, etc. von Zufallsgrößen zu berechnen, benötigen wir einen Integralbegriff auf Wahrscheinlichkeitsräumen (, A, µ. Diesen einzuführen und dessen igenschaften kennen zu lernen, ist Ziel dieses Kapitels. Als Integranden werden wir Funktionen f : R := [, ] betrachten, d.h. die Funktionswerte ± sind zugelassen. Bevor wir das (Lebesgue-Integral konstruieren können, lernen wir im ersten Abschnitt die Klasse von Abbildungen kennen, die wir anschließend integrieren wollen. 12

13 3.1 Messbare Abbildungen s seien (, A und (F, B zwei messbare Räume und f : F eine Abbildung. Definition 3.1. Die Abbildung f heißt (A, B-messbar (wenn keine Verwechslungen möglich sind, auch kürzer A-messbar, oder einfach messbar, falls f 1 (B A, d.h. f 1 (B A für alle B B. (3.1 Ist (F, d ein metrischer Raum, so betrachtet man die Borel-σ-Algebra B F und jede (A, B F - messbare Abbildung f : F heißt auch Borel-messbar. Im Allgemeinen ist Messbarkeit schwer nachzuprüfen. Oft hilft folgendes Kriterium: Lemma 3.2. s sei ein rzeuger von B, d.h. B = σ(. Dann ist f (A, B-messbar genau dann, wenn f 1 ( A. (3.2 Beweis. Aus der Messbarkeit von f folgt offensichtlich (3.2. Andererseits folgt aus Beispiel 2.3(iv, dass f 1 (B = f 1 (σ( = σ(f 1 ( σ(a = A. Beispiel 3.3. Gegeben sei der messbare Raum (, A. (i Gilt A 1,..., A n A und a 1,..., a n R \ {0}, so ist f(y = n a k 1 Ak (y, y, (3.3 A-messbar. Funktionen von der Gestalt (3.3 nennen wir einfache Funktionen. Man prüft leicht nach, dass für einfache Funktionen f und g auch αf + βg eine einfache Funktion für alle α, β R ist(siehe unten. (ii Jede stetige Funktion f : R R ist Borel-messbar. Die umgekehrte Implikation gilt nicht, da die Dirichletsche Funktion f(y = 1 Q (y, y R, messbar, aber nirgendwo stetig ist. (iii s seien eine Menge, (F, B ein messbarer Raum und f : F eine Abbildung. Dann ist σ(f := f 1 (B die kleinste σ-algebra A auf, so dass f eine (A, B-messbare Abbildung ist. Wir nennen σ(f die von f erzeugte σ-algebra. (iv s seien f : (, A (F, B und g : (F, B (G, C messbare Abbildungen. Dann ist die zusammengesetzte Abbildung eine (A, C-messbare Abbildung. h: G, y g f(y := g(f(y Der folgende Satz liefert igenschaften messbarer Funktionen. Satz 3.4. s sei (, A ein messbarer Raum. (i f : R d ist genau dann Borel-messbar, wenn für alle x R d gilt {y : f(y x} A. (ii Sind f 1, f 2,..., f n : R reellwertige (A, B R -messbare Funktionen und ist h: R n R d Borel-messbar, so ist h(f 1,..., f n eine A-messbare Funktion. (iii Sind f, g : R Borel-messbar, so sind es auch f + g, f g, max(f, g, min(f, g und, falls g 0, f g. 13

14 (iv Sind f n : R, n 1, Borel-messbar, so sind es auch sup f n, n 1 inf f n, n 1 lim sup f n, lim inf f n (hierbei folgt die Bildung von sup f n, inf f n etc. punktweise, d.h. (sup n f n (y := sup n f n (y. (v Sind f n : R Borel-messbar und konvergiert f n punktweise gegen f, dann ist f Borelmessbar. Beweis. (i folgt direkt aus B R d = σ({(, x], x R d } und Lemma 3.2. (ii Wegen Beispiel 3.3(iv betrachten wir o.b.d.a. die Identitätsabbildung h(x = x, x R n. Da σ({(a, b] = n (a k, b k ] : a, b R n } = B R n, genügt es (f 1 1,..., f 1 n ((a, b] = n f 1 k ((a k, b k ] A für jeden Quader (a, b] zu zeigen. Da f 1,..., f n messbar sind, folgt dies aus der Durchschnittsstabilität von A. (iii folgt aus (ii und Beispiel 3.3(ii. (iv folgt aus { sup f n x } = n n {f n x} und { inf f n x } = n m { inf f n < x + 1 n m } { = fn < x + m} 1 sowie den Darstellungen lim sup f n = inf n 1 sup k n f k und lim inf f n = sup n N inf k n f n. (v s gilt f = lim sup f n = lim inf f n, so dass die Behauptung aus (iv folgt. Die letzte igenschaft lässt sich auf vollständigen Maßräumen etwas abschwächen. Definition 3.5. Sei (, A, µ ein Maßraum. Man sagt: ine igenschaft gilt auf µ-fast überall, falls sie auf \ N gilt, wobei N A eine µ-nullmenge ist. Lemma 3.6. s seien (, A, µ ein vollständiger Maßraum, (f n : R eine Folge A-messbarer Funktionen und f : R. Die Folge (f n konvergiere µ-fast überall gegen f, d.h. lim f n(x = f(x, für alle x \ N, wobei N A, µ(n = 0. Dann ist die Grenzfunktion f ebenfalls A-messbar. Beweis. Übung. Der folgende Satz zeigt, dass man jede messbare Funktion (zerlegbar in zwei nichtnegative Funktionen f = f + f durch einfache Funktionen beliebig genau approximiert werden kann. Dieses Resultat wird zentral für die Konstruktion von Integralen sein. Satz 3.7 (Approximationssatz. Für jede nichtnegative Borel-messbare Funktion f : (, A ([0, ], B [0, ] gibt es eine nichtfallende Folge (f n n 1 einfacher, nichtnegativer, Borel-messbarer Funktionen, die punktweise von unten gegen f konvergiert: 0 f n (y f n+1 (y f(y, n 1, y und lim f n(y = f(y, y. m n Beweis. Sei f : R messbar mit f 0. Für n N definieren wir { k 2 n, falls f(y [k2 n, (k + 12 n und k = 0,..., n2 n 1, f n (y := n, falls f(y n. (3.4 14

15 Schritt 1: (f n n 1 ist eine Folge einfacher Funktionen mit f n f. Setzen wir A n,k :=f 1 ([k2 n, (k + 12 n A, für k = 0,..., n2 n 1, A n :=f 1 ([n, ] A, dann ist die disjunkte Vereinigung von A n und A n,k, k = 0,..., n2 n 1. Weiter können wir f n darstellen als n2 n 1 k f n = 2 1 n A n,k + n1 An, so dass f n einfache Funktionen sind. Schritt 2: (f n n 1 ist monoton wachsend. Wegen [ k 2 n, k + 1 [ 2k 2k + 1 [2k + 1 2(k + 1 = 2 n, 2n+1 2 n+1, 2n+1 2 n+1 gilt A n,k = A n+1,2k A n+1,2k+1. Aus der Definition von f n und f n+1 ergibt sich k=0 f n+1 An+1,2k = 2k 2 n+1 = k 2 n = f n A n,k, f n+1 An+1,2k+1 = 2k n+1 > k 2 n = f n A n,k. Für die Mengen A n = A n+1 f 1 ([n, n + 1 gilt f n+1 An+1 = n + 1 > n = f n An und f n+1 f 1 ([n,n+1 n = f n An. Schritt 3: (f n n 1 konvergiert gegen f. Ist f(x = +, so ist f n (x = n für alle n N und die Behauptung klar. Ist f(x <, so gilt für n N mit f(x < n, dass x / A n, also x n2 n 1 k=0 A n,k. Deshalb gibt es ein k 0, so dass x A n,k0 und somit 0 f(x f n (x < k n k 0 2 n = 2 n. Nun noch eine igenschaft, die es Stochastikern erlaubt, sich auf Wahrscheinlichkeitsmaße auf dem rgebnisraum eines Zufallexperiments zu beschränken, statt den gesamten zugrundeliegenden Wirkmechanismus beschreiben zu müssen. Satz 3.8. s seien (, A, µ ein Maßraum, (F, B ein messbarer Raum und f : (, A (F, B eine messbare Abbildung. Durch µ f (B := µ(f 1 (B, B B, ist auf B ein Maß µ f definiert, das als von f induziertes Maß oder als Bildmaß von f bezeichnet wird. Ist µ endlich, so ist auch µ f endlich. Beweis. s gilt µ f ( = 0 und für jede Folge (B k k 1 F paarweiser diskjunkter Mengen µ f ( k 1 B k = µ (f 1( k 1 ( B k = µ k 1 f 1 (B k = µ(f 1 (B k = µ f (B k. k 1 k 1 Damit f 1 (B A und somit obiger Ausdruck für alle B B wohldefiniert ist, benötigen wir also genau die Messbarkeit von f. Messbare Abbildung X : Ω F auf Wahrscheinlichkeitsräumen (Ω, F, P heißen auch Zufallsvariablen und das Bildmaß P X wird auch Wahrscheinlichkeitsverteilung der Zufallsvariable X genannt. 15

16 3.2 Integralkonstruktion In diesem Abschnitt definieren wir das Integral über messbare Funktionen auf einem Maßraum (, A, µ und studieren die igenschaften dieses Integrals. Um das Integral zu konstruieren, gehen wir in 3 Schritten vor: (i Integral für einfache Funktionen (ii Integral für nichtnegative Funktionen (iii Integral für beliebige messbare Funktionen Definition 3.9. Sei f : R eine einfache, nichtnegative Funktion mit der Darstellung f = m i=1 a i1 Ai für m N, a 1,..., a m > 0 und A 1,..., A m A. Die Zahl fdµ := f(yµ(dy := heißt Integral von f über bezüglich des Maßes µ. m a i µ(a i Man prüft leicht nach, dass diese Definition korrekt ist, d.h. nicht von der Wahl der Darstellung von f als einfache Funktion abhängt (Übung. Satz Seien f, g : R einfache Funktionen. Dann gilt: (i Ist f g, so gilt fdµ gdµ i=1 (Montonie des Integrals. (ii Die Funktion αf + βg für α, β R ist einfach und es gilt (αf + βgdµ = α fdµ + β gdµ (Linearität des Integrals. Beweis. Wir stellen f und g als einfache Funktionen für eine gemeinsame disjunkte Zerlegung dar. O.B.d.A sind f und g gegeben durch Normaldarstellungen f = m a i 1 Ai und g = i=1 n b j 1 Bj, mit a 1,..., a n, b 1,..., b m 0 und (A i i=1,...,m und (B j j=1,...,n sind disjunkte Zerlegungen von (Übung. Dann gilt i=1 j=1 j=1 m n m n f = a i 1 Ai B j und g = b j 1 Ai B j. i=1 j=1 Aus letzterer Darstellung folgen die Behauptungen aus der Definition. Definition Sei (, A, µ ein Maßraum. M + bezeichne die Menge aller nichtnegativen, A- messbaren Funktionen f : [0, ]. Für f M + heißt die Zahl { } fdµ := sup ϕdµ ϕ: R einfach,ϕ f [0, ] Integral von f über bzgl. des Maßes µ. Ist A A, so definiert man das Integral von f über A (bzgl. µ durch fdµ := f1 A dµ. A 16

17 Satz Sei (, A, µ ein Maßraum und seien f, g M +. Dann gilt (i f g auf A A impliziert fdµ gdµ. A A (ii Sind A, B A mit A B, so gilt fdµ fdµ. B (iii Sind A, B A disjunkt, dann gilt A B A fdµ = A fdµ + fdµ. B (iv s gilt fdµ = 0 genau dann, wenn µ({x : f(x > 0} = 0 (d.h. f = 0 µ-fast überall. Beweis. (i-(iii Übung. (iv : Wir setzen A n := {x : f(x 1 n } für n N. Dann gilt A n A n+1 und A := {x : f(x > 0} = n 1 A n. Da f messbar ist, gilt A n A und damit auch A A. Aus den Monotonieeigenschaften (i und (ii folgt 1 0 = fdµ fdµ A n A n n dµ = µ(a n für alle n N. n Also gilt µ(a n = 0 für alle n N. Aus der Stetigkeit des Maßes von unten folgt µ(a = lim µ(a n = 0. : Sei A := {x : f(x > 0} und µ(a = 0. Für jede einfache, nichtnegative Funktion ϕ f gilt dann A ϕ := {x : ϕ(x > 0} A, also µ(a ϕ = 0 und folglich ϕdµ = 0. Aus der Integraldefinition erhält man fdµ = 0. Als nächstes beweisen wir grundlegende Konvergenzeigenschaften für das Integral von Funktionenfolgen. Im Allgemeinen können wir nicht erwarten, dass das Integral der Grenzfunktion gleich dem Grenzwert der Integrale über die Funktionenfolge ist. Beispiel Auf dem Maßraum ([0, 1], B [0,1], λ mit Lebesguemaß λ, betrachten wir die Folge einfacher Funktionen f n : R R +, f n (y = n1 [0,1/n] (y, y R, mit dem punktweisen Grenzwert f : R R + mit f(x = 0 für x 0 und f(0 =. s gilt [0,1] f ndλ = n 1 n = 1, jedoch fdλ = 0 nach Satz 3.12(iv. [0,1] Satz 3.14 (Satz von Beppo Levi über monotone Konvergenz, Sei (, A, µ ein Maßraum, (f n n 1 M + eine monoton wachsende Folge und f : [0, ] die Grenzfunktion f(x := lim f n (x, x. Dann gilt lim f n dµ = fdµ. Beweis. Nach Satz 3.4 ist f messbar. Da f n f n+1 f folgt aus Satz 3.12 f ndµ f n+1dµ fdµ und somit lim f n dµ fdµ. s bleibt die Ungleichung in der anderen Richtung zu zeigen. Sei ϕ f eine einfache Funktion mit der Darstellung ϕ = m α k1 Ak. Sei λ (0, 1 fixiert und B n := {x : λϕ(x f n (x} A. 17

18 Da f n f und λϕ(x < f(x für jedes x mit f(x 0, gilt = n 1 B n und B n B n+1. Die Mengen A k A erfüllen A k = n 1 (A k B n. Aus der Stetigkeit von µ von unten folgt µ(a k = lim µ(a k B n. Nach Definition ist λ ϕdµ = λ m α k µ(a k = lim λ m α k µ(a k B n = lim ( m = lim λϕdµ. B n λα k 1 Ak B n }{{} =1 Ak 1 Bn Nach Definition gilt λϕ f n auf B n. Somit folgt λ ϕdµ lim f n dµ lim B n dµ f n dµ. Bilden wir den Grenzwert λ 1 und das Supremum über alle einfachen Funktionen ϕ f, so erhalten wir fdµ lim f n dµ. Der Approximationssatz 3.7 liefert unmittelbar: Korollar Sei f M +. Dann existiert eine monoton wachsende Folge nichtnegativer, einfacher Funktionen (ϕ n mit ϕ n f und es gilt fdµ = lim ϕ n dµ. Diese äquivalente Darstellung des Integrals messbarer, nichtnegative Funktionen (als Grenzwert der Integrale über eine approximierende Folge einfacher Funktionen wird häufig als Definition von fdµ verwendet. Die Charakterisierung über das Supremum hat den Vorteil, dass die Unabhängigkeit des Integrals von der Auswahl der approximierenden Folge sofort ersichtlich ist. Korollar Sind f, g M + und α, β [0,, so gilt ( αf + βg dµ = α fdµ + β Beweis. Seien (ϕ n n 1 und (ψ n n 1 monoton wachsende Folgen nichtnegativer, einfacher Funktionen mit ϕ n f und ψ n g. Dann ist auch (αϕ n + βψ n n 1 eine wachsende Folge einfacher Funktionen mit lim αϕ n + βψ n = αf + βg. Somit liefert die Linearität des Integrals von einfachen Funktionen (Satz 3.10 (αf + βgdµ = lim (αϕ n + βψ n dµ = lim α ϕ n dµ + lim β ψ n dµ = α fdµ + β gdµ. Korollar Für jede Folge (f n n 1 M + gilt Beispiel n=1 f n dµ = ( f n dµ. n=1 gdµ. 18

19 (i Betrachten wir den Maßraum (N, P(N, µ mit dem Zählmaß µ. Dann gilt für jede Funktion f : N [0, ], dass fdµ = f(n. N n N Dies sieht man wie folgt: Jede Funktion ist messbar, da wir als σ-algebra die Potenzmenge gewählt haben. Mit g n := f(n1 {n} 0 gilt f = n 1 g n. Dann folgt aus den vorangegangen zwei Korollaren N fdµ = n 1 N g n dµ = n 1 f(n 1 {n} dµ = f(nµ({n} = f(n. N n 1 n 1 (ii Sei (, A, µ ein Maßraum und f M +. Wir definieren die Abbildung ν : A [0, ] durch ν(a := f 1 A dµ, für alle A A. Dann gilt (Übung : (a ν ist ein Maß auf (, A, das sogenannte Maß mit der Dichte f bezüglich µ. (b ν ist stetig bezüglich µ im dem Sinn, dass für alle A A mit µ(a = 0 auch ν(a = 0 gilt. (c Ist g M +, so gilt gdν = (f gdµ. Für eine beliebige Folge messbarer, nichtnegativer Funktionen gilt der folgenden Konvergenzsatz: Satz 3.19 (Lemma von Fatou, Sei (, A, µ ein Maßraum, (f n : [0, ] eine Folge A-messbarer Funktionen. Dann gilt lim inf f ndµ lim inf f n dµ. Beweis. Für den Limes Inferior einer Folge gilt lim inf f n = sup inf f k. k n Sei nun g n := inf k n f k. Nach Satz 3.4 ist die Funktion g n A-messbar. Weiterhin gilt g n g n+1 und g n f k für alle k n. Daraus folgt g n dµ f k dµ und damit g n dµ inf f k dµ, n N. k n Wir wenden nun den Satz über monotone Konvergenz auf die Folge (g n an und erhalten lim inf f ndµ = sup g n dµ = lim g ndµ = lim g n dµ n = sup g n dµ sup inf f k dµ = lim inf f n dµ. n n k n Nun werden wir das Integral für eine beliebige A-messbare Funktion f : R definieren. Wir verwenden die Zerlegung n f = f + f, f + = max{0, f}, f (y = max{0, f}, wobei f +, f M +. s gilt außerdem f = f + + f. 19

20 Definition Sei (, A, µ ein Maßraum. ine A-messbare Funktion f : R heißt µ- integrierbar, wenn f +dµ < oder f dµ < gilt (oder beides endlich ist. In diesem Fall ist das Integral von f über bezüglich µ definiert als f +dµ f dµ, falls f +dµ < und f dµ <, f(xµ(dx := fdµ := +, falls f +dµ = und f dµ <,, falls f +dµ < und f dµ =. Wir bezeichnen mit L 1 (µ = L 1 (, A, µ die Menge aller µ-integrierbaren A-messbaren Funktionen f : R mit fdµ <. Ist µ = λ das Lebesguemaß auf (R, L R, so heißt f(xdx := fdλ Lebesgueintegral von R R f. Sei (Ω, A, P ein Wahrscheinlichkeitsraum, also ein Maßraum mit Wahrscheinlichkeitsmaß P, dann heißt [f] := fdp rwartungswert von f unter P. Ω Bemerkung Das Lebesgueintegral beruht auf der Annäherung von messbaren Abbildungen mittels einfacher Funktionen. Diese Approximation durch einfache Funktionen beruht auf einer Zerlegung des Wertebereichs, vgl. Satz 3.7. Im Gegensatz dazu wird das in der Schule gelehrte Riemannintegral von Funktionen f : R R durch eine Zerlegung des Definitionsbereiches konstruiert. Man kann zeigen, dass jede Riemannintegrierbare (z.b. stetige Funktion auf einem Intervall [a, b] auch Lebesgueintegrierbar bzgl. des Lebesguemaßes λ ist und beide Integrale übereinstimmen. Da das Lebesgueintegral auch die Integration bezüglich sehr beliebiger Maße zulässt, ist es sehr viel allgemeiner als das Riemannintegral. Lemma s seien (, A, µ ein Maßraum und f : R eine A-messbare Abbildung. Dann gilt f L 1 (µ genau dann, wenn ein g M + existiert mit f g und gdµ <. g heißt Majorante von f. Beweis. : Ist f L 1 (µ, so gilt f ±dµ <, so dass f = f + + f eine Majorante mit endlichem Integral ist. : Sei nun g M + mit f g und gdµ <, so liefert die Monotonie des Integral über nichtnegative, messbare Funktionen (Satz 3.12, dass f ± dµ f dµ gdµ <. Damit gilt f L 1 (µ. Wir werden nun Rechenregeln für das Integral formulieren und beweisen. Satz Für f, g L 1 (µ gelten folgende Aussagen: (i Für alle α, β R ist αf + βg L 1 (µ und es gilt (αf + βgdµ = α fdµ + β gdµ. (ii Wenn f g, so ist (iii s gilt fdµ gdµ. fdµ f dµ <. (iv Wenn f = g µ-fast überall, d.h. µ({x : f(x g(x} = 0, so ist (v f ist µ-fast überall endlich, d.h. µ({x : f(x = } = 0. fdµ = gdµ. 20

21 Beweis. (i Schritt 1: Ist f = p q mit Funktionen p, q M + mit endlichen Integralen, so gilt fdµ = pdµ qdµ. Aus f = f + f = p q folgt q + f + = p + f und die Additivität des Integrals über M + liefert qdµ + f + dµ = pdµ + f dµ. Da alle Terme endlich sind, folgt hieraus fdµ = f + dµ Schritt 2: f + g L 1 (µ und es gilt (f + gdµ = f dµ = fdµ + gdµ. pdµ qdµ. Die Funktionen p := f + + g + und q := f + g aus M + haben ein endliches Integral und es gilt f + g = p q. Da f + g p + q, folgt aus Lemma 3.22, dass f + g L 1 (, A, µ. Aus Schritt 1 und der Linearität des Integrals über M + folgt (f + gdµ = pdµ qdµ = f + dµ + g + dµ f dµ g dµ = fdµ + gdµ. Schritt 3: αf L 1 (, A, µ und αfdµ = α fdµ. Ist α 0 ist (αf + = αf + und (αf = αf und die Behauptung folgt aus der Linearität des Integrals auf M +. Ist α < 0, gilt (αf + = α f und (αf = α f +. s folgt ( αfdµ = α f dµ f + dµ = α fdµ. (ii Aufgrund der Linearität des Integrals genügt es hdµ 0 für h := g f 0 zu zeigen. Letzteres folgt aus Satz (iii s gilt fdµ = f + dµ f dµ f + dµ + f dµ = (f + + f dµ = f dµ. (iv s genügt fdµ = 0 für jedes messbare f mit f = 0 µ-fast überall zu zeigen. Für ein solches f sind auch f + und f µ-fast überall 0. Nach Satz 3.12 gilt dann f +dµ = f dµ = 0 und somit folgt die Behauptung. (v Da f = f + + f, gilt {x : f(x = } = {x : f + (x = } {x : f (x = }. Wir können also o.b.d.a f 0 annehmen. Sei M = {x : f(x = }. Für n N gilt f f 1 M n 1 M. Folglich ist + > fdµ n 1 M dµ = n µ(m für alle n N. Dann muss aber µ(m = 0 gelten. 21

22 Als nächstes beweisen wir einen weiteren wichtigen Konvergenzsatz für das Integral von Funktionenfolgen. Satz 3.24 (Satz von Lebesgue über die majorisierte Konvergenz, Sei (, A, µ ein Maßraum, f : R A-messbar und (f n : R n 1 eine Folge A-messbarer Funktionen mit (i lim f n (x = f(x für µ-fast alle x. (ii s existiert eine Funktion F L 1 (µ mit Dann ist f L 1 (µ und es gilt f n (x F (x für µ-fast alle x. fdµ = lim f n dµ. Beweis. Nach Satz 3.23 können wir, evtl. durch Abändern der Funktionen f, f n bzw. F auf einer µ-nullmenge, folgendes annehmen: f n, f sind messbare Funktionen mit (i Für alle n N ist f n über integrierbar und endlich. (ii Die Folge (f n konvergiert auf dem ganzen Raum punktweise gegen f. (iii f n (x F (x für alle x. Da f = lim f n F L 1 (µ folgt f L 1 (µ aus Lemma Wegen (iii ist 0 f n + F und 0 F f n. Aus lim f n = f und dem Lemma von Fatou folgt 0 (f + F dµ = lim inf (f n + F dµ lim inf (f n + F dµ = F dµ + lim inf f n dµ, 0 (F fdµ = lim inf (F f ndµ F dµ lim sup f n dµ. Aus F dµ < schließen wir fdµ lim inf f n dµ lim sup f n dµ fdµ. Somit existiert der Grenzwert lim f ndµ = fdµ. Bemerkung Für das Riemann-Integral benötigt man die gleichmäßige Konvergenz der Funktionenfolge (f n gegen f, um Integral und Grenzwert zu vertauschen. Das Lebesgue-Integral hat also bessere Konvergenzeigenschaften. Die folgende wichtige igenschaft besagt, dass man zur Berechnung von (h fdµ nur das Bildmaß µ f kennen muss, nicht die Abbildung f noch das Maß µ selbst. Dies ist in der Statistik von fundamentaler Bedeutung, da wir häufig den zugrundeliegenden Wahrscheinlichkeitsraum (Ω, F, P nicht kennen, sondern nur abgeleitete Größen, die so genannten Zufallsvariablen, X : Ω F beobachten und daher (unter Verwendung von Stichproben nur die Wahrscheinlichkeitsverteilung P X zugänglich ist. Satz 3.26 (Substitutionsregel. s seien f : F eine (A, B-messbare Abbildung in einen messbaren Raum (F, B, g : F R eine Borel-messbare Funktion und µ f das Bildmaß von µ vermittels der Abbildung f. s gilt: (i g f = g(f L 1 (, A, µ genau dann, wenn g L 1 (F, B, µ f und 22

23 (ii falls g 0 oder g L 1 (F, B, µ f, dann g(f(yµ(dy = F g(xµ f (dx. (3.5 Beweis. Schritt 1: Die Gleichung (3.5 gilt für g = 1 B, B B, nach Definition des Bildmaßes µ f : g(xµ f (dx = µ f (B = µ(f 1 (B = 1 f 1 (B(yµ(dy = 1 B (f(yµ(dy = g(f(yµ(dy. Schritt 2: Aufgrund der Linearität des Integrals gilt (3.5 für alle einfachen Funktionen. Schritt 3: Ist (ϕ n n 0 eine wachsende Folge nichtnegativer, einfacher Funktionen mit g = lim ϕ n, und dank Schritt 2 lim (ϕ n fdµ = lim ϕ n dµ f = gdµ f. Auch ϕ n f ist eine wachsende Folge einfacher Funktionen und es folgt aus dem Satz über monotone Konvergenz gdµ f = lim (ϕ n fdµ = lim (ϕ n fdµ = (g fdµ. Schritt 4: (i und (ii für den allgemeinen Fall folgen aus der Zerlegung g = g + g und Schritt 3. Die hier verwendete Beweistechnik kommt häufig zum insatz und wird mitunter Lifting- Methode oder maßtheoretische Induktion genannt. 4 L p -Räume und Radon-Nikodym-Dichten 4.1 Räume integrierbarer Funktionen Im Folgenden werden wir dem Maßraum (, A, µ eine Serie von normierten Vektorräumen integrierbarer Funktionen studieren. Definition 4.1. Für p 1 bezeichnen wir mit L p (µ = L p (, A, µ die Menge aller reellwertigen Borel-messbaren Funktionen f : R mit f(y p µ(dy <. Für jedes f L p (µ definieren wir ( 1/p. f p := f dµ p Ferner definieren wir L (µ := L (, A, µ als Menge aller Borel-messbaren Funktionen f : R mit f := sup f(y <. y Die L p (µ-räume erfüllen zwei wesentliche Ungleichungen. 23

24 Satz 4.2 (Hölder-Ungleichung. s seien p, q > 1 mit 1 p + 1 q = 1 oder p = 1, q =. Dann gilt für f L p (, A, µ und g L q (, A, µ, dass f g L 1 (, A, µ und f g dµ f p g q. Beweis. Der Fall p = 1, q = ist trivial. Sei nun p, q > 1. Wir zeigen zunächst die Ungleichung ( gewichtete Ungleichung von geometrischen und arithmetischen Mittel a ρ b 1 ρ ρa + (1 ρb a, b 0, ρ (0, 1. (4.1 Die Ungleichung ist klar für a = 0 oder b = 0. Sind a, b > 0, ist (4.1 aufgrund der Monotonie des Logarithmus äquivalent zu ρ log a + (1 ρ log b = log ( a ρ b 1 ρ log ( ρa + (1 ρb, was wiederum äquivalent zur Konkavität der Logarithmusfunktion ist. ine C 2 -Funktion f ist aber genau dann konkav, wenn f 0 gilt. Für f = log ist dies erfüllt, da f (x = x 2, x > 0. Somit gilt (4.1. Falls f p = 0 oder g p = 0, so ist f bzw. g µ-f.ü. 0 und die Behauptung gilt. Seien nun f p, g q > 0. Für beliebiges x wenden wir (4.1 auf ρ = 1 p, a = f(x p f p, b = g(x q p g q q an. Also f(x f p g(x g q Integrieren wir über, folgt 1 f(xg(x dµ 1 f p g q p f p p 1 f(x p p f p + 1 p q = 1 p + 1 q = 1 g(x q g q. q f(x p dµ + 1 q g q q g(x q dµ und somit f g 1 f p g q. Daraus ergeben sich zwei wichtige Spezialfälle: Korollar 4.3. (i Für f, g L 2 (, A, µ gilt f g 1 f 2 g 2 ( Cauchy-Schwarz-Ungleichung. (ii Ist µ ein endliches Maß, so existiert für jedes 1 p p eine Konstante C p,p > 0, so dass f p C p,p f p ( stetige inbettung von L p (µ in L p (µ. Die zweite Ungleichung ist die Dreiecksungleichung für L p (µ-räume. Satz 4.4 (Minkowski-Ungleichung. Falls p [1, ] und f, g L p (, A, µ, so gilt f + g L p (, A, µ und f + g p f p + g p. Beweis. Für p = 1 und p = ist die Behauptung trivial. Sei p (1,. Für beliebige a, b R gilt a + b p ( a + b p ( 2 max{ a, b } p =2 p max{ a p, b p } 2 p ( a p + b p. 24

25 Setzen wir nun a = f(x und b = g(x und integrieren beide Seiten über x, erhalten wir f(x + g(x p dµ 2 p( f(x p dµ + g(x p dµ <. Somit ist f + g L p (µ gezeigt. Um die Dreiecksungleichung zu zeigen, können wir o.b.d.a. f + g p > 0 annehmen. Wir verwenden die Hölder-Ungleichung mit q = Somit p p 1 : f + g p dµ = f + g f + g p 1 dµ f f + g p 1 dµ + g f + g p 1 dµ ( 1/q ( 1/q f p f + g q(p 1 dµ + g p f + g q(p 1 dµ = ( ( 1/q. f p + g p f + g dµ p ( f + g p = f + g p dµ 1 1/q f p + g p. Aus der Minkowski-Ungleichung ergibt sich, dass für jedes p [1, ] die Menge L p (, A, µ einen Vektorraumaum bildet, d.h. und p eine Halbnorm auf L p (, A, µ ist: f, g L p (µ, α, β R αf + βg L p (µ, f p 0, f + g p f p + g p, αf p = α f p f, g L p (µ, λ R. p ist jedoch keine Norm auf L p (µ, da aus f p = 0 lediglich f = 0 µ-f.ü. folgt. Um einen normierten Vektorraum zu erhalten, betrachtet man die Mengen von Äquivalenzklassen bezüglich der Äquivalenzrelation f g : f = g µ-fast überall auf L p (µ. Definition 4.5. Sei p [1,. Der Quotientenraum der Äquivalenzklassen [f] := {g L p (µ : f g} wird bezeichnet mit L p (µ := L p (, A, µ = {[f] : f L p (, A, µ} = Lp (,A,µ/{f : R f A-messbar und f=0 µ-f.ü.} und versehen mit der Norm ( [f] p := g p dµ 1/p für einen beliebigen Repräsentanten g [f]. Aus Gründen der Vereinfachung und weil Verwechslungen kaum möglich sind, nennt man L p (µ, p [1,, den Raum der p-integrierbaren Funktionen und schreibt dessen lemente als f statt [f], meint aber eigentlich den Raum der entsprechenden Äquivalenzklassen. Der normierte Vektorraum (L p (, A, µ, p, 1 p <, ist sogar vollständig, d.h. jede Cauchy-Folge konvergiert: Ist (f n n 1 L p (µ eine Folge, so dass ε > 0 n ε N : n, m n ε : f n f m ε, dann existiert ein f L p (µ mit lim f f n p = 0 (Übung. Wir haben also folgenden Satz bewiesen: 25

26 Satz 4.6 (Fischer-Riesz. Für p [1, ist (L p (, A, µ, p ein Banachraum (d.h. ein vollständiger, normierter Vektorraum. Im Spezialfall p = 2 wird die Norm 2 vom Skalarprodukt (also der positiv definiten Bilinearform f, g := f gdµ, f, g L 2 (µ erzeugt, d.h. f 2 2 = f, f für alle f L 2 (µ. Damit ist (L 2 (, A, µ,, ein (unendlichdimensionaler Hilbertraum. Insbesondere gibt es zu jedem abgeschlossenen, linearen Unterraum M L 2 (µ und jedem f L 2 (µ eine eindeutige Darstellung (Orthogonalzerlegung f = g + h mit g M, h L 2 (µ mit h, z = f g, z = 0 z M. Für alle z M gilt dann der Satz von Pythagoras f z 2 2 = f g + g z 2 2 = f g f g, g z + g z 2 2 = f g g z 2 }{{}}{{} 2. M M Folglich kann die Funktion g auch durch f g 2 = inf z M f z 2 charakterisiert werden und wird Orthogonalprojektion von f auf M genannt. Mit Hilfe der Orthogonalprojektion lässt sich der folgende Riesz sche Darstellungssatz beweisen (vgl. Funktionalanalysis: ine Abbildung ϕ: L 2 (µ R ist genau dann stetig und linear, falls ein f L 2 (µ existiert, so dass ϕ(g = f, g für alle g L 2 (µ gilt. 4.2 Satz von Radon-Nikodym und Lebesguescher Zerlegungssatz In diesem Abschnitt seien µ und ν stets zwei Maße auf dem messbaren Raum (, A. In Beispiel 3.18 ist uns bereits folgender Begriff untergekommen: Definition 4.7. ine messbare Funktion f : [0, ] heißt Dichte von ν bezüglich µ oder µ-dichte von ν, falls ν(a = f 1 A dµ = fdµ für jedes A A. xistiert eine Dichte f von ν bzgl. µ, dann schreiben wir auch f = dν dµ. A Lemma 4.8. Sei ν σ-endlich. Sind f 1 und f 2 Dichten von ν bzgl. µ, so gilt f 1 = f 2 µ-fast überall. Beweis. Sei ( n eine Ausschöpfung von, d.h. n n+1, n 1, mit n 1 n =, und ν( n < für alle n 1. Setzen wir A n := n {f 1 > f 2 }, n 1, dann ist ν(a n <, also 0 = ν(a n ν(a n = (f 1 f 2 dµ. A n Folglich gilt f 1 1 An = f 2 1 An µ-f.ü. (Satz 3.12(iv. Da f 1 > f 2 auf A n gilt, erhalten wir µ(a n = 0 und damit µ({x : f 1 (x > f 2 (x} = µ ( A n = 0. Analog folgt µ({x : f 1 (x > f 2 (x} = 0, also f 1 = f 2 µ-fast überall. Satz 4.9. n 1 26

27 (i Hat das Maß ν auf (, A eine µ-dichte f, so ist eine messbare Funktion h: R genau dann ν-integrierbar, wenn h f µ-integrierbar ist. In dem Fall gilt hdν = h fdµ. (Dabei setzen wir 0 = 0. (ii Seien µ, ν, η Maße auf (, A, wobei ν eine µ-dichte f besitzt und η eine ν-dichte g besitzt. Dann ist f g eine µ-dichte von η also dν dµ dη dν = dη dµ. Beweis. Übung (. Definition Seien µ und ν zwei Maße auf (, A. ν heißt absolutstetig bzgl. µ (kurz ν µ, falls ν(a = 0 für jede µ-nullmenge A A gilt. Die Maße µ und ν heißen äquivalent (kurz µ ν, falls ν µ und µ ν gilt. µ heißt singulär zu ν (kurz µ ν, falls es ein A A gibt mit µ(a = 0 und ν(a c = 0. Beispiel (i Wir haben bereits gesehen, dass ν µ, falls ν eine Dichte bzgl. µ besitzt. Der Satz von Radon-Nikodym wird sogar die Äquivalenz zeigen. (ii Auf (R, B R ist das Dirac-Maß δ x singulär zum Lebesguemaß λ für jedes x R, da λ({x} = 0 und δ(r \ {x} = 0. Satz 4.12 (Radon-Nikodym. Seien µ ein σ-endliches und ν ein beliebiges Maß auf (, A. Dann sind folgende Aussagen äquivalent (i ν hat eine Dichte bzgl. µ. (ii ν µ. In diesem Fall heißt die Dichte Radon-Nikodym-Dichte dν dµ von ν bzgl. µ. Beweis. Die Hinrichtung ist bereits bekannt. Wir zeigen nun (ii (i im Fall, dass µ und ν endliche Maße sind. Für die rweiterung auf σ-endliches µ und beliebige ν sei auf lstrodt (2007, Satz VII.2.3 verwiesen. Schritt 1: Gilt ν µ, dann besitzt ν eine µ-dichte f : [0, 1]. Wegen ν( µ( < gilt L 2 (µ L 2 (ν L 1 (ν (stetige inbettungen, Korollar 4.3. Damit ist die lineare Abbildung L 2 (µ g gdν wohldefiniert und stetig. Nach dem Darstellungssatz von Riesz existiert nun ein f L 2 (µ, so dass gdν = g, f = g fdµ für alle g L 2 (µ. Wählt man g = 1 A für A A, so folgt, dass nur noch 0 f 1 µ-f.ü. zu zeigen ist, da wir dann eine Dichte f : [0, 1] wählen können. Angenommen µ(b > 0 für B := {f > 1}. Dann ist ν(b = fdµ > µ(b: Widerspruch! B Analog folgt aus µ(c > 0 mit C := {f < 0}, dass ν(c = fdµ < 0: Widerspruch! C Schritt 2: Seien nun µ, ν beliebige endliche Maße mit ν µ, dann existiert eine µ-dichte von ν. Zum endlichen Maß τ := µ + ν existieren nach Schritt 1 die τ-dichten g, h: [0, 1] von µ bzw. ν. Für N = {g = 0} gilt µ(n = gdτ = 0 und wegen ν µ auch ν(n = 0. Die Funktion N { h(x/g(x, für x N c, f(x := 0, für x N 27