20 Charakteristische Funktionen

Transkript

1 20 Charakteristische Funktionen Viele Probleme im Umgang mit Verteilungen lassen sich einfacher behandeln, wenn man sie in einen geeigneten Raum abbildet. Die Verwendung von derartigen Transformationen ist manchmal dann von Vorteil, wenn sich ein Problem direkt nur schwer behandeln lässt. In diesem Fall versucht man, das ursprüngliche Problem zu transformieren, das transformierte Problem zu lösen und die Lösung des transformierten Problems wieder zurück zu transformieren um auf diese Weise das ursprüngliche Problem zu lösen. Wir befassen uns in diesem Abschnitt mit drei derartigen Transformationen. Die erste dieser Transformationen wird bei diskreten Verteilungen, deren Träger eine Teilmenge von 0 ist, angewendet. Die zweite Transformation verwendet man bei stetigen Verteilungen, deren Träger eine ist. Die dritte Transformationen eignet sich für beliebige stetige Verteilungen. In allen drei Fällen handelt es sich in gewisser Weise um Spezialfälle jener Transformation, welche einer beliebigen Verteilung ihre charakteristische Funktion zuordnet Die erzeugende Funktion Achtung! Unter einer diskreten Verteilung bzw unter einer diskreten Zufallsvariablen verstehen wir in diesem Abschnitt stets eine Verteilung bzw eine Zufallsvariable, deren Träger eine Teilmenge von 0 ist Definition: Ist eine diskrete Verteilung mit der Verteilungsdichte, so heißt s k im Konvergenzbereich dieser Reihe definierte Funktion, die erzeugende Funktion (im Englischen generating function) der Verteilung. Unter der erzeugenden Funktion Z einer diskreten Zufallsvariablen Z versteht man die erzeugende Funktion ihrer Verteilung Z Bemerkung: Bei der erzeugenden Funktion einer diskreten Verteilung handelt es sich offenbar um ein Polynom bzw um eine Potenzreihe, deren Konvergenzradius r 1 ist. Es gilt = 1 Damit können wir die erzeugende Funktion einer diskreten Verteilung im Intervall D-r, r@ beliebig oft gliedweise differenzieren und integrieren. Die Berechnung der erzeugenden Funktion einer diskreten Verteilung läuft auf die Berechnung des Z D von s Z hinaus, wobei die Zufallsvariable Z die Verteilung besitzt. Die erzeugende Funktion einer diskreten Verteilung lässt sich daher mit Mathematica mühelos ermitteln (um "schöne" Formeln zu erhalten, vereinfache man gegebenenfalls die Ergebnisse mit Hilfe von Simplify bzw FullSimplify und verwende dabei die Bedingungen über die Parameter der jeweiligen Verteilung). Handelt es sich bei der diskreten Verteilung um eine in Mathematica implementierte Verteilung, so lässt sich die erzeugende Funktion von aber auch unter Verwendung des Befehls CharacteristicFunction ermitteln: à CharacteristicFunction@distribution, -Â Log@sDD liefert die erzeugende der diskreten, in Mathematica implementierten Verteilung distribution. Warum wir als Argument den Ausdruck -Â Log@sD verwenden wird klar werden, wenn wir uns mit der charakteristischen Funktion einer beliebigen Verteilung befassen (man vergleiche dazu Bemerkung ).

2 20_Charakteristische_Funktionen.nb 99 Wir wollen nun die erzeugenden Funktionen von einigen wichtigen, in Mathematica implementierten diskreten Verteilungen ermitteln: Beispiel: Man ermittle die erzeugende Funktion der diskreten n<d. n<d, - Log@sDD s m + s 1+n H1 m + nl H 1 + sl besitzt die diskrete n<d die 1 n+m-1 Ism + s m+1 + +s n M= s n+1 - s m M Hn-m+1LHs-1L Beispiel: Man ermittle die erzeugende Funktion der kd. CharacteristicFunction@BinomialDistribution@n, pd, - Log@sDD H1 p + p sl n besitzt die pd die n K n k O pk H1- pl n-k s k =H1- p+ p sl n Beispiel: Man ermittle die erzeugende Funktion der negativen pd. CharacteristicFunction@NegativeBinomialDistribution@n, pd, - Log@sDD p n 1 H1 pl s besitzt die negative pd die n+k- 1 K n-1 O pn H1- pl k s k = p n H1- s+ p sl n Diese Potenzreihe konvergiert offenbar für alle s œd- r, r@ mit r = 1 êh1- pl Beispiel: Man ermittle die erzeugende Funktion der

3 100 20_Charakteristische_Funktionen.nb - H 1+sL λ besitzt die die -l l k k! sk = lhs-1l Diese Potenzreihe konvergiert offenbar für alle sœ. Die erzeugenden Funktionen besitzen eine Reihe von interessanten Eigenschaften: Satz: Ist eine diskrete Verteilung, so gilt für alle nœ 1 n! Eine diskrete Verteilung ist somit durch ihre erzeugende Funktion vollständig bestimmt - oder anders ausgedrückt - die erzeugenden Funktionen zweier diskreter Verteilungen stimmen genau dann überein, wenn die beiden Verteilungen überein stimmen. Beweis: Die erzeugende Funktion ist jedenfalls im Intervall D-1, 1@ beliebig oft differenzierbar. Damit gilt für alle nœ 0 und alle sœd-1, 1@ was offenbar HnL s s k = k=n khk- 1L Hk- n+ s k-n zur Folge Satz: Ist Z eine diskrete Zufallsvariable, so gilt für alle nœ mit der Eigenschaft, dass die n-te Potenz von Z integrierbar HZ - 1LHZ - 2L HZ - n+ 1LD= Z Man nennt diesen Erwartungswert das n-te faktorielle Moment von Z. Ist Z integrierbar bzw quadratisch integrierbar, so gilt Z Z ''@1D+ Z Z 2 Beweis: Die erzeugende Funktion Z ist bekanntlich im Intervall D-1, 1@ beliebig oft differenzierbar. Damit gilt für alle nœ und alle sœd-1, 1@ HnL n s n s k = k=n khk- 1L Hk- n+ 1L s k-n

4 20_Charakteristische_Funktionen.nb 101 Bei einer Reihe mit lauter positiven Gliedern darf man die Limesbildung und die Summation vertauschen. Außerdem ist eine Potenzreihe, welche an der Stelle 1 konvergiert, an dieser Stelle linksseitig stetig. Also gilt HnL HnL k=n khk- 1L Hk- n+1l s k-n = = k=n khk- 1L Hk- n+ HZ - 1LHZ - 2L HZ - n+ 1LD Ist speziell Z integrierbar bzw quadratisch integrierbar, so folgt daraus und k=1 k ' HZ - 1LD= k=2 khk- 1L Z AZ 2 2 HZ 2 = Z ''@1D+ Z Z Satz: Sind die beiden diskreten Zufallsvariablen X und Y unabhängig, so gilt für alle s aus dem Konvergenzbereich der erzeugenden Funktion X+Y der Summe X + Y dieser beiden Zufallsvariablen Für zwei beliebige diskrete Verteilungen und gilt @sd Beweis: Für alle s aus dem Konvergenzbereich der erzeugenden Funktion X+Y gilt wegen Satz X+Y X s Y X Y D= Es folgen wieder einige Beispiele:

5 102 20_Charakteristische_Funktionen.nb Beispiel: Von der diskreten Zufallsvariablen Z ist bekannt, dass für alle kœ 0 die = k<d proportional zu g k ist (wobei 0<g< 1 vorausgesetzt wird). Man berechne den von Z. Lösung: Natürlich kann diese Frage mit den üblichen Methoden gelöst werden. Wir zeigen nun aber, wie sich diese Fragestellung unter Verwendung der erzeugenden Funktion behandeln lässt: Aus der Angabe entnimmt man, dass für alle kœ 0 = k<d=ag k gilt, wobei der Proportionalitätsfaktor a noch unbekannt ist. Damit gilt für die erzeugende Funktion von s k = ag k s k a = 1-g s Nun ist aber bekanntlich was a=1-g zur Folge hat. Wegen Satz gilt Z ag H1-gL Beispiel: Von der diskreten Zufallsvariablen Z ist bekannt, dass für alle kœ 0 die = k<d der Rekursionsbeziehung 2D=a 1D+ b genügen, wobei a+ b+ ist. Man berechne die = 2<D sowie den von Z. Lösung: Für die erzeugende Funktion von Z gilt s+ Z s k = s+ Ha Z 1D+ b 2DL s k = = s+as Z s k + b s 2 s k = und damit = s- b s 2 Z@0D+ s- 1-as- b s 2 wobei zwischen den vier Parametern a und b wegen die Beziehung b- gelten muss. Wegen Satz bzw Satz ergibt sich daher für die = 2<D bzw den von = 2<D= Z ''@0Dê2=aH1- b- 2 H1- Z 1+ b- Z@0D 1-a- b Zur Herleitung dieser beiden Formeln haben wir dabei Mathematica verwendet:

6 20_Charakteristische_Funktionen.nb 103 :=Hf0+f1 s - f0aslêh1 -a s- b s 2 L Simplify@D@GenFun@sD, 8s, 2<D ê. 8sÆ0, f1 Æ 1 - a- b - f0h1 - al<dê2 Simplify@D@GenFun@sD, sd ê. 8sÆ1, f1 Æ 1 - a- b - f0h1 - al<d Clear@GenFunD H 1 + f0l α 2 + f0 β α H 1+f0 +βl 1 + f0 β 1 + α +β Beispiel: Man bestimme die Wahrscheinlichkeit dafür, dass man eine Eintrittskarte erhält, bei der die Summe der ersten und letzten drei Ziffern der Registriernummer gleich sind, wenn diese Registriernummer sechsstellig ist und einen beliebigen Wert zwischen und annehmen kann. Lösung: Die Zufallsvariable X i, welche die i-te Stelle einer zufällig ausgewählten Registriernummer bezeichnet, ist offenbar auf der Menge 81, 2,, 9< gleichverteilt. Außerdem sind die Zufallsvariablen X 1, X 2,, X 6 vollständig unabhängig. Wegen Satz besitzen die Zufallsvariablen Y = X 1 + X 2 + X 3 und Z = X 4 + X 5 + X 6 die erzeugenden Funktionen bzw Für die Wahrscheinlichkeit dafür, dass die Summe X der ersten drei Ziffern und die Summe Y der letzten drei Ziffern einer zufällig ausgewählten Registriernummer übereinstimmen, gilt auf Grund von = Y<D= 27 = = k<d= k=3 = = Y = 27<D Bei der von uns gesuchten = Y<D handelt es sich offenbar um den Koeffizient von s 27 der erzeugenden Funktion Dieser Koeffizient lässt sich mit den Befehlen CharacteristicFunction, Apart (damit wird die erzeugende Funktion der Gleichverteilung auf der Menge 81, 2,, 9< in ein Polynom umgeformt) und Coefficient (damit lassen sich die Koeffizienten eines Polynoms ermitteln) mühelos berechnen: CoefficientBApart@CharacteristicFunction@DiscreteUniformDistribution@81, 9<D, - Log@sDDD 6, s, 27Fêê N Beispiel: Die diskreten Zufallsvariablen N, X 1, X 2, seien vollständig unabhängig, die Zufallsvariablen X 1, X 2, seien identisch verteilt mit der (gleichen) erzeugenden Funktion X. Man ermittle die erzeugende Funktion Z der Zufallsvariablen Z = X 1 + X X N. Lösung: Für alle s aus dem Konvergenzbereich von Z folgt aus dem Satz von der totalen Wahrscheinlichkeit zusammen mit Satz und Satz Z X 1 +X 2 + +X ND= X 1 +X 2 + +X N 8N = = n<d= = X 1 +X 2 + = n<d= X 1 X X = n<d=

7 104 20_Charakteristische_Funktionen.nb = n=0 = n<d= Beispiel: Wie groß ist die Wahrscheinlichkeit dafür, beim Würfeln mit n = 8 Würfeln die Augensumme m=30 zu erzielen? Lösung: Wir bezeichnen mit X i die mit dem i-ten Würfel gewürfelte Augenzahl und mit Z = X 1 + X X n die dabei erzielte Augensumme. Da die Zufallsvariablen X 1, X 2,, X n vollständig unabhängig sind, gilt wegen Satz für die erzeugende Funktion von Z offenbar X Die von uns gesuchte = m<d entspricht dem Koeffizienten von s m der erzeugenden Funktion und lässt sich (man vergleiche Beispiel ) mit Hilfe von Mathematica mühelos berechnen: n = 8; m=30; CoefficientAApart@CharacteristicFunction@DiscreteUniformDistribution@81, 6<D, - Log@sDDD n, s, meêê N Clear@n, md Der Begriff der erzeugenden Funktion lässt sich folgendermaßen verallgemeinern: Definition: Ist f =8 f 0, f 1, f 2, < eine Folge von reellen Zahlen, so nennt man die durch fk s k im Konvergenzbereich dieser Reihe definierte Funktion f die erzeugende Funktion der Folge f. Damit entspricht die erzeugende Funktion Z einer diskreten Zufallsvariablen Z offenbar der erzeugenden Funktion f der Folge f =8 <. Analog zu Satz gilt für alle nœ 0 wieder f n = 1 n! f Beispiel: Sei Z eine diskrete Zufallsvariable und sei > > > 2<D, <. Man zeige, dass zwischen der erzeugenden Funktion Z der Zufallsvariablen Z und der erzeugenden Funktion g der Folge g für alle s aus dem Intervall D-1, 1@ die folgende Beziehung besteht 1- Z@sD 1-s Lösung: Da alle Koeffizienten der erzeugenden Funktion g durch 1 beschränkt sind, konvergiert diese Potenzreihe jedenfalls für alle s aus dem Intervall D-1, 1@. Für diese s gilt aber > k<d s k > k<d s k+1 = > 0<D- k=1 > k- > k<dl s k = = = 0<D- = k<d s k = 1-

8 20_Charakteristische_Funktionen.nb Beispiel: A 1, A 2,, A n seien vollständig unabhängige Ereignisse. Gesucht ist die Wahrscheinlichkeit dafür, dass höchstens m dieser Ereignisse eintreten. Lösung: Die Zufallsvariable Z gebe an, wieviele der Ereignisse A 1, A 2,, A n eintreten. Mit den Abkürzungen p i i D und q i = i D ergibt sich für die erzeugende Funktion von Z = k<d s k = n genau k der A 1, A 2,, A n treten ein >D sk = n i=1 Hq i + p i sl Für die erzeugende Funktion h der Folge n<d< der von uns gesuchten Wahrscheinlichkeiten gilt daher mit den in Beispiel verwendeten Bezeichnungen für alle sœd- 1, 1@ k<d s k = n > k<dl s k = n s k - n > k<dl s k = = 1+s+s 2 + +s n - 1-sn+1 1-s - 1- Z@sD = n i=1hq i + p i sl- s n+1 1-s 1-s Für beliebige Wahrscheinlichkeiten p 1, p 2,, p n und ein beliebiges m n lässt sich die gesuchte m<d (man vergleiche Beispiel ) mühelos mit Hilfe von Mathematica ermitteln. Beispielsweise gilt: p =80.2, 0.4, 0.1, 0.6, 0.4, 0.2, 0.6, 0.4, 0.2, 0.5<; n = Length@pD; m=4; GenFun@s_D :=HApply@Times, H1-p+s pld - s n+1 LêH1-sL; Coefficient@Apart@GenFun@sDD, s, md Clear@p, n, m, GenFunD Die Laplace-Transformation Achtung! Wir befassen uns in diesem Abschnitt nur mit stetigen Verteilungen bzw stetigen Zufallsvariablen, deren Träger eine ist Definition: Ist eine stetige Verteilung mit der Verteilungsdichte, so heißt die 0 -s definierte Funktion, die Laplace-Transformierte der Verteilung. Unter der Laplace-Transformierten Z einer stetigen Zufallsvariablen Z versteht man die Laplace-Transformierte ihrer Verteilung Z Bemerkung: Für die Laplace-Transformierte einer stetigen Verteilung gilt 0 -s z Ÿ Aus dem Satz von der beschränkten Konvergenz (auf den wir hier nicht näher eingehen wollen) folgt daraus, dass die Laplace-Transformierte einer stetigen Verteilung im Intervall D beliebig oft differenzierbar ist und dabei die Operationen Differenziation und Integration vertauscht werden dürfen. Im Prinzip lässt sich die Laplace-Transformierte einer stetigen Verteilung mit der Verteilungsdichte mit Hilfe von Mathematica ermitteln, indem man einfach das in der Definition auftretende Integral auswertet. Einfacher geht es, wenn man dazu den in Mathematica implementierten Befehl LaplaceTransform verwendet. Handelt es sich bei der stetigen Verteilung um eine in Mathematica implementierte Verteilung, so lässt sich die Laplace-Trans-

9 106 20_Charakteristische_Funktionen.nb formierte von auch unter Verwendung des Befehls CharacteristicFunction bestimmen: z, sd liefert die der stetigen Verteilung mit der à  sd liefert die der stetigen, in Mathematica implementierten Verteilung distribution. Warum wir als Argument den Ausdruck  s verwenden, wird klar werden, wenn wir uns mit der charakteristischen Funktion einer beliebigen Verteilung befassen (man vergleiche dazu Bemerkung ). Wir wollen nun die Laplace-Transformierte von einigen wichtigen, in Mathematica implementierten stetigen Verteilungen ermitteln: Beispiel: Man ermittle die Laplace-Transformierte der b<d (mit 0 a<b). CharacteristicFunction@UniformDistribution@8a, b<d, sd a s + b s H a+bl s besitzt die b<d a b - s z 1 b-a z= -a s - -b s shb-al Beispiel: Man ermittle die Laplace-Transformierte der b<d (mit 0 a<b). CharacteristicFunction@TriangularDistribution@8a, b<d, sd 4 a s 2 b s 2 2 Ha bl 2 s 2 besitzt die b<d die - s z 4Hz-aL a Hb-aL 2 z+ b Ÿ - s z 4H b- zl Ha+bLê2 Hb-aL 2 z= 4H -a sê2 - -b sê2 2 L s 2 Hb-aL 2

10 20_Charakteristische_Funktionen.nb Beispiel: Man ermittle die Laplace-Transformierte der sd λ s + λ besitzt die 0 -s z l -l z z= l l+s Beispiel: Man ermittle die Laplace-Transformierte der Gammaverteilung amma@a, ld. CharacteristicFunction@GammaDistribution@a, ld, sd H1 + s λl α besitzt die Gammaverteilung amma@a, ld die Laplace-Transformierte 1 G@aD Ÿ -s z l -a z a-1 -zêl z=h1+lsl -a Beispiel: Man ermittle die Laplace-Transformierte der Chi-Quadrat Verteilung hi@nd. CharacteristicFunction@ChiSquareDistribution@nD, sd H1 + 2 sl nê2 besitzt die Chi-Quadrat Verteilung hi@nd die Laplace-Transformierte 1 G@nê2D Ÿ -s z 2 -nê2 -zê2 z nê2-1 z=h1+ 2 sl -nê Beispiel: Man ermittle die Laplace-Transformierte der Extremwertverteilung xtrem@m, bd. CharacteristicFunction@ExtremeValueDistribution@m, bd, sd s µ Gamma@1+sβD

11 108 20_Charakteristische_Funktionen.nb besitzt die Extremwertverteilung bd die 1 b Ÿ 0 -s z Hm-zLêb- Hm-zLêb z= -m s G@1+ b sd Die Laplace-Transformation besitzt eine Reihe von interessanten Eigenschaften. Ohne auf den Beweis näher eingehen zu können (man benötigt dazu ein tiefliegendes Wissen über komplexe Analysis), beginnen wir mit der sogenannten Umkehrformel: Satz (Umkehrformel): Ist eine stetige Verteilung mit Verteilungsdichte, so gilt für alle 1 2p Ÿ g+â  s z s wobei g eine beliebige Konstante ist, welche so gewählt werden muss, dass die Realteile aller singulären Stellen von kleiner als g sind. Eine stetige Verteilung ist somit durch ihre Laplace-Transformierte vollständig bestimmt - oder anders ausgedrückt - die Laplace-Transformierten zweier stetiger Verteilungen stimmen genau dann überein, wenn die beiden Verteilungen überein stimmen. Im Prinzip lässt sich die Verteilungsdichte einer stetigen Verteilung aus der Laplace-Transformierten mit Hilfe von Mathematica ermitteln, indem man einfach dieses komplexe Integral auswertet. Einfacher geht es, wenn man dazu den in Mathematica implementierten Befehl InverseLaplaceTransform verwendet: à s, zd berechnet die Verteilungsdichte jener stetigen Verteilung, welche die Laplace-Transformierte besitzt. Wir zeigen die Verwendung der Befehle LaplaceTransform und InverseLaplaceTransform an einem Beispiel (man beachte allerdings, dass diese beiden Befehle leider oft nicht zum Ziel führen, da Mathematica die dabei auftretenden Integrale nur in seltenen Fällen tatsächlich berechnen kann): Beispiel: Für die Gammaverteilung berechne man die Laplace-Transformierte mit Hilfe des Befehls LaplaceTransform. Anschließend ermittle man aus dieser Laplace-Transformierten wieder die Verteilungsdichte der Gammaverteilung unter Verwendung des Befehls InverseLaplaceTransform. Lösung: Die Gammaverteilung amma@a, ld besitzt die Verteilungsdichte f@z_d := PDF@GammaDistribution@a, ld, zd; f@zd z λ z 1+α λ α Gamma@αD a) Wendet man auf diese Verteilungsdichte den Befehl LaplaceTransform an, so erhält man die Laplace-Transformierte der Gammaverteilung: lt@s_d := LaplaceTransform@f@zD, z, sd; lt@sd 1 s + λ α λ α b) Wendet man auf diese Laplace-Transformierte den Befehl InverseLaplaceTransform an, so erhält man wieder die Verteilungsdichte der Gammaverteilung:

12 20_Charakteristische_Funktionen.nb 109 s, zd z λ z 1+α λ α Gamma@αD Clear@f, ltd Satz: Ist Z eine stetige Zufallsvariable, so gilt für alle nœ mit der Eigenschaft, dass die n-te Potenz von Z integrierbar n D=H-1L n Z Ist Z integrierbar bzw quadratisch integrierbar, so gilt Z Z ''@0D-H Z 2 Beweis: Die Laplace-Transformierte Z einer stetigen Zufallsvariablen Z ist im Intervall D bekanntlich beliebig oft differenzierbar, wobei die beiden Operationen Differenziation und Integration vertauscht werden dürfen. Damit gilt für alle nœ und alle sœd Z n s n Ÿ 0 -s z z=ÿ 0 n s n H -s z z=h-1l n Ÿ 0 z n -s z z Falls Z n integrierbar ist, so ist die n-te Ableitung der Laplace-Transformierten an der Stelle s= 0 rechtsseitig stetig und die beiden Operationen Limesbildung und Integration dürfen vertauscht werden (diese Tatsache folgt ebenfalls aus dem Satz von der beschränkten Konvergenz). Damit gilt Z 0 Z n lims 0 Ÿ 0 z n -s z z=h-1l n Ÿ 0 lims 0 Hz n -s z z= =H-1L n Ÿ 0 z n z=h-1l n D Ist speziell Z integrierbar bzw quadratisch integrierbar, so folgt daraus und Z 2 D= 2 2 = Z ''@0D-H Z 2

13 110 20_Charakteristische_Funktionen.nb Vollständig analog zu Satz zeigt man Satz: Sind die beiden stetigen Zufallsvariablen X und Y unabhängig, so gilt für alle s>0 Für zwei beliebige stetige Verteilungen und gilt @sd Es folgen wieder einige Beispiele: Beispiel: Von der stetigen Zufallsvariable Z ist bekannt, dass für alle z 0 die Verteilungsdichte proportional zu g z ist (wobei 0<g< 1 vorausgesetzt wird). Man berechne den von Z. Lösung: Natürlich kann diese Frage mit den üblichen Methoden gelöst werden. Wir zeigen aber wieder, wie sich diese Fragestellung unter Verwendung der Laplace-Transformation behandeln lässt: Aus der Angabe entnimmt man, dass für alle s 0 offenbar z gilt, wobei der Proportionalitätsfaktor a noch unbekannt ist. Damit gilt für die Laplace-Transformierte von Z 0 -s z ag z z= a s-log@gd Nun ist aber bekanntlich was a=-log@gd zur Folge hat. Wegen Satz gilt damit ' HLog@gDL Beispiel: Unter Verwendung der Laplace-Transformation zeige man die beiden Faltungsformeln amma@a, ld* amma@b, ld= amma@a+ b, ld hi@md* hi@nd= hi@m+nd Satz und Satz müssen wir nur zeigen, dass das Produkt der Laplace-Transformierten der beiden Verteilungen auf der linken Seite mit der Laplace-Transformierten der Verteilung auf der rechten Seite übereinstimmt: CharacteristicFunction@GammaDistribution@a, ld, sd CharacteristicFunction@GammaDistribution@ b, ld, sd == CharacteristicFunction@GammaDistribution@a + b, ld, sd êê FullSimplify True CharacteristicFunction@ChiSquareDistribution@mD, sd CharacteristicFunction@ChiSquareDistribution@nD, sd ä CharacteristicFunction@ChiSquareDistribution@m + nd, sd êê FullSimplify True Beispiel: Die Zufallvariablen X 1, X 2, X 3 seien vollständig unabhängig und exponentialverteilt mit den Parametern l 1 = 1 bzw l 2 = 2 bzw l 3 = 3. Gesucht ist die Verteilungsdichte von Z = X 1 + X 2 + X 3.

14 20_Charakteristische_Funktionen.nb 111 Lösung: Für alle s>0 gilt wegen Satz zusammen mit Beispiel X1 +X s Wendet man nun auf Z die Umkehrformel an 2 2+ s 3 3+ s = 6 H1+sLH2+ slh3+sl InverseLaplaceTransform@6 êhh1 + sl H2 + sl H3 + sll, s, zd 3 3 z I 1+ z M 2 so erhält man direkt die gesuchte Verteilungsdichte Z 3H-1+ z L 2-3 z für z 0 0 sonst Der Begriff der Laplace-Transformierten lässt sich folgendermaßen verallgemeinern: Definition: Ist f eine stetige und beschränkte in, so nennt man die durch 0 -s z f@zd z auf D definierte Funktion f die Laplace-Transformierte der Funktion f. Damit entspricht die Laplace- Transformierte Z einer stetigen Zufallsvariablen Z der Laplace-Transformierten Z ihrer Verteilungsdichte Beispiel: Sei Z eine stetige Zufallsvariable. Man zeige, dass zwischen der Laplace-Transformierten der Verteilungsfunktion Z und der LaplaceTransformierten der Verteilungsdichte Z von Z für alle s>0 die folgende Beziehung 1 Lösung: Partielle Integration liefert für alle -s z z=- 0 s -s z z= z=0 + s Ÿ -s z z= 0

15 112 20_Charakteristische_Funktionen.nb 20.3 Die Fourier-Transformation Achtung! Wir befassen uns in diesem Abschnitt nur mit stetigen Verteilungen bzw stetigen Zufallsvariablen Definition: Ist eine stetige Verteilung mit der Verteilungsdichte, so heißt die - Â s z=ÿ - Cos@s z+âÿ - Sin@s z auf definierte komplexwertige Funktion, die Fourier-Transformierte der Verteilung. Unter der Fourier- Transformierten Z einer stetigen Zufallsvariablen Z versteht man die Fourier-Transformierte ihrer Verteilung Z. Zwischen der einer stetigen Verteilung, deren Träger eine ist, und der dieser Verteilung besteht für alle s 0 offenbar sd Bemerkung: Für die Fourier-Transformierte einer stetigen Verteilung gilt = Ÿ - Â s z Ÿ Aus dem Satz von der beschränkten Konvergenz folgt daraus, dass die Fourier-Transformierte einer stetigen Verteilung in ganz beliebig oft differenzierbar ist und dabei die Operationen Differenziation und Integration vertauscht werden dürfen. Im Prinzip lässt sich die Fourier-Transformierte einer stetigen Verteilung mit der Verteilungsdichte mit Hilfe von Mathematica ermitteln, indem man einfach das in der Definition auftretende Integral auswertet. Einfacher geht es, wenn man dazu den in Mathematica implementierten Befehl FourierTransform verwendet. Handelt es sich bei der stetigen Verteilung um eine in Mathematica implementierte Verteilung, so lässt sich die Fourier-Transformierte von auch unter Verwendung von CharacteristicFunction bestimmen: à z, sd 2p liefert die der stetigen Verteilung mit Man beachte, dass der von Mathematica mit dem Befehl FourierTransform ermittelte Ausdruck noch mit 2 p multipliziert werden muss, um die im Rahmen der Stochastik verwendete Version der Fourier-Transformierten zu erhalten. à CharacteristicFunction@distribution, sd liefert die der stetigen, in Mathematica implementierten Verteilung distribution. Wir wollen nun die Fourier-Transformierte von einigen wichtigen, in Mathematica implementierten stetigen Verteilungen ermitteln (man beachte, dass sich die Fourier-Transformierte vieler Verteilungen nicht mit Hilfe elementarer Funktionen ausdrücken lässt): Beispiel: Man ermittle die Fourier-Transformierte der b<d.

16 20_Charakteristische_Funktionen.nb 113 b<d, sd J a s + b s N H a+bl s besitzt die b<d a b  s z 1 b-a z= ÂH Âas -  b s L shb-al Beispiel: Man ermittle die Fourier-Transformierte der b<d. CharacteristicFunction@TriangularDistribution@8a, b<d, sd a s b s Ha bl 2 s 2 besitzt die b<d Ha+bLê2  s z 4Hz-aL a Hb-aL 2 z+ b Ÿ Ha+bLê2  s z 4Hb- zl Hb-aL 2 z =- 4 H  a sê2 -  b sê2 L 2 s 2 Hb-aL Beispiel: Man ermittle die Fourier-Transformierte der ld. CharacteristicFunction@LaplaceDistribution@a, ld, sd s α 1 + s 2 λ 2 besitzt die ld -  s z 1 2l - z-aêl z= Âas 1+l 2 s 2

17 114 20_Charakteristische_Funktionen.nb Beispiel: Man ermittle die Fourier-Transformierte der sd. sd, sd s µ s2 σ 2 2 besitzt die sd - Â s z 1 2p s -Hz-mL2 êh2s 2 L z= Âm s -s 2 s 2 ê Beispiel: Man ermittle die Fourier-Transformierte der Extremwertverteilung xtrem@m, bd. CharacteristicFunction@ExtremeValueDistribution@m, bd, sd s µ Gamma@1 sβd besitzt die Extremwertverteilung xtrem@m, bd die Fourier-Transformierte - Â s z 1 b Hm-zLêb- Hm-zLêb z= Âm s G@1-Â b sd Die Fourier-Transformation besitzt eine Reihe von interessanten Eigenschaften. Ohne auf den Beweis näher eingehen zu können, beginnen wir wieder mit der sogenannten Satz (Umkehrformel): Ist eine stetige Verteilung mit Verteilungsdichte, so gilt für alle 1 2p Ÿ + -Â s z s Eine stetige Verteilung ist somit durch ihre Fourier-Transformierte vollständig bestimmt - oder anders ausgedrückt - die Fourier-Transformierten zweier stetiger Verteilungen stimmen genau dann überein, wenn die beiden Verteilungen überein stimmen. Im Prinzip lässt sich die Verteilungsdichte einer stetigen Verteilung aus der Fourier-Transformierten mit Hilfe von Mathematica ermitteln, indem man einfach dieses Integral auswertet. Einfacher geht es, wenn man dazu den in Mathematica implementierten Befehl InverseFourierTransform verwendet: à s, zd ê 2p berechnet die Verteilungsdichte jener stetigen Verteilung, welche die Fourier-Transformierte besitzt. Man beachte, dass der von Mathematica mit dem Befehl InverseFourierTransform ermittelte Ausdruck noch durch 2p dividiert werden muss, um die gesuchte Verteilungsdichte zu erhalten. Wir zeigen die Verwendung der Befehle FourierTransform und InverseFourierTransform an einem Beispiel (man beachte wieder, dass diese beiden Befehle leider oft nicht zum Ziel führen, da Mathematica die dabei auftretenden Integrale nur in seltenen Fällen berechnen kann):

18 20_Charakteristische_Funktionen.nb Beispiel: Für die Normalverteilung berechne man die Fourier-Transformierte mit Hilfe des Befehls FourierTransform. Anschließend ermittle man aus dieser Fourier-Transformierten wieder die Verteilungsdichte der Normalverteilung unter Verwendung des Befehls InverseFourierTransform. Lösung: Die sd besitzt die Verteilungsdichte := sd, zd; Hz µl2 2 σ 2 2 π σ a) Wendet man auf diese Verteilungsdichte den Befehl FourierTransform an und multipliziert man das Ergebnis mit 2p, so erhält man die Fourier-Transformierte der Normalverteilung: ft@s_d := FourierTransform@f@zD, z, s, Assumptions-> 8s > 0<D Sqrt@2 pd; ft@sd s µ s2 σ 2 2 b) Wendet man auf diese Fourier-Transformierte den Befehl InverseFourierTransform an und dividiert man das Ergebnis durch 2p, so erhält man wieder die Verteilungsdichte der Normalverteilung: InverseFourierTransform@ft@sD, s, z, Assumptions Æ 8s > 0<Dê Sqrt@2 pd Hz µl2 2 σ 2 1 σ 2 2 π Clear@f, ftd Analog zu Satz und Satz zeigt man Satz: Ist Z eine stetige Zufallsvariable, so gilt für alle nœ, welche die Eigenschaft besitzen, dass die n-te Potenz von Z integrierbar n D=H-ÂL n Z Ist Z integrierbar bzw quadratisch integrierbar, so gilt Z '@0D Z ''@0D+H Z '@0DL 2

19 116 20_Charakteristische_Funktionen.nb Satz: Sind die beiden stetigen Zufallsvariablen X und Y unabhängig, so gilt für alle sœ Für zwei beliebige stetige Verteilungen und gilt @sd Es folgen wieder einige Beispiele: Beispiel: Man zeige: Eine stetige Zufallsvariable Z besitzt genau dann eine symmetrische Verteilungsdichte, wenn ihre Fourier-Transformierte reell ist. Lösung: a) Besitzt Z eine symmetrische Verteilungsdichte Z, so gilt für alle sœ -  s z z=ÿ - 0  s z z+ÿ 0  s z z= =Ÿ 0 H - s z +  s z L z=2ÿ 0 Cos@s zd zœ b) Ist die Fourier-Transformierte von Z reell, so gilt für alle sœ und damit - Cos@s zd z und Ÿ - Sin@s zd z=0 -  s z z=ÿ - Cos@s zd z+ÿ - Sin@s zd z= =Ÿ - Cos@-s zd z-ÿ - Sin@-s zd z=ÿ - Cos@s zd z= Die Fourier-Transformierten von Z und -Z stimmen überein, also besitzen Z und -Z die gleiche Verteilung, womit gezeigt ist, dass die Verteilungsdichte Z von Z symmetrisch ist Beispiel: Für die Fourier-Transformierten der beiden Zufallsvariablen X bzw Y gilt 1+Âs 1+s 2 bzw 1-Âs 1+s 2 Gesucht sind ihre Verteilungsdichten X bzw Y. Lösung: Der Befehl InverseFourierTransform liefert (nach langer Rechnung) InverseFourierTransform@H1 + slêh1 + s 2 L, s, z, Assumptions Æ8z 0<DêSqrt@2pD InverseFourierTransform@H1 + slêh1 + s 2 L, s, z, Assumptions Æ8z < 0<DêSqrt@2pD z 0 und

20 20_Charakteristische_Funktionen.nb slêh1 + s 2 L, s, z, Assumptions Æ8z 0<DêSqrt@2pD InverseFourierTransform@H1 - slêh1 + s 2 L, s, z, Assumptions Æ8z < 0<DêSqrt@2pD 0 z also gilt -z für z>0 0 sonst 0 für z>0 bzw z sonst Beispiel: Die Zufallsvariablen X 1, X 2,, X n seien vollständig unabhängig und identisch verteilt mit der (für alle i œ 81, 2,, n< gleichen) Verteilungsdichte 1 pi1+x 2 M Gesucht ist die Verteilungsdichte Z ihrer Summe Z = X 1 + X X n Lösung: a) Wir überprüfen zuerst, ob es sich bei der positiven Funktion X tatsächlich um eine Verteilungsdichte handelt: Integrate@1êHpH1 + x 2 LL, 8x, -, <D 1 b) Für die Fourier-Transformierte von Z gilt wegen Satz Unter Verwendung der Befehle FourierTransform und InverseFourierTransform lässt sich die gesuchte Verteilungsdichte Z von Z damit leicht ermitteln: ft@s_d := FourierTransform@1êHpH1 + x 2 LL, x, sd Sqrt@2pD InverseFourierTransform@Hft@sDL n, s, zdêsqrt@2pd Clear@ftD n π In 2 + z 2 M 20.4 Die charakteristische Funktion Wir beginnen wieder mit einer Definition:

21 118 20_Charakteristische_Funktionen.nb Definition: Ist eine diskrete bzw stetige Verteilung mit der Verteilungsdichte, so heißt die zœ  s -  s z auf definierte komplexwertige Funktion, die charakteristische Funktion der Verteilung. Unter der charakteristischen Funktion Z einer diskreten bzw stetigen Zufallsvariablen Z versteht man die charakteristische Funktion ihrer Verteilung Z. Ist eine beliebige Verteilung mit der Verteilungsfunktion, so definiert man ganz -  s z zd wobei das dabei auftretende Integral als Lebesque-Stieltjes-Integral zu verstehen ist. Im Prinzip lässt sich die charakteristische Funktion einer diskreten bzw stetigen Verteilung mit der Verteilungsdichte mit Hilfe von Mathematica ermitteln, indem man einfach die in der Definition auftretende Summe bzw das dort auftretende Integral auswertet. Handelt es sich bei der diskreten bzw stetigen Verteilung um eine in Mathematica implementierte Verteilung, so lässt sich die charakteristische Funktion von in vielen Fällen auch unter Verwendung des Befehls CharacteristicFunction bestimmen:

22 20_Charakteristische_Funktionen.nb 119 à sd liefert die charakteristische der diskreten bzw stetigen, in Mathematica implementierten Verteilung distribution Bemerkung: Zwischen der erzeugenden Funktion einer diskreten Verteilung, deren Träger eine Teilmenge von 0 ist bzw der Laplace-Transformierten einer stetigen Verteilung, deren Träger eine Teilmenge von [0, [ ist bzw der Fourier-Transformierten einer stetigen Verteilung sowie der charakteristischen Funktion von gelten die Aus der Definition der charakteristischen Funktion folgt unmittelbar: Bemerkung: Besteht zwischen den beiden Zufallsvariablen X und Y die Beziehung Y = a+b X, so  Y s ÂHa+b XL s D=  a s sd Die charakteristische Funktion besitzt eine Reihe von tiefliegenden Eigenschaften, welche in erster Linie für theoretische Untersuchungen von Bedeutung sind. Wir erwähnen diese Eigenschaften ohne Beweise: Satz: Eine Verteilung ist durch ihre charakteristische Funktion vollständig bestimmt - oder anders ausgedrückt - die charakteristischen Funktionen zweier Verteilungen stimmen genau dann überein, wenn die beiden Verteilungen überein stimmen. Die charakteristische Funktion wird vor allem im Zusammenhang mit einer - auch für die Praxis sehr wichtigen - Konvergenzart verwendet: Definition: a) Die Folge H n L nœ von Verteilungen konvergiert schwach gegen die Verteilung, wenn für alle zœ, in denen stetig ist, die Folge H nœ konvergiert. b) Die Folge HZ n L nœ von Zufallsvariablen konvergiert in Verteilung gegen die Zufallsvariable Z, wenn die Folge H Z n L nœ ihrer Verteilungen schwach gegen die Verteilung Z von Z konvergiert. Der direkte Nachweis der schwachen Konvergenz einer Folge von Verteilungen ist oft recht mühsam. In diesem Zusammenhang ist der folgende Satz von großer Bedeutung: Satz: Die Folge H n L nœ von Verteilungen konvergiert genau dann schwach gegen die Verteilung, wenn die Folge H n L nœ ihrer charakteristischen Funktionen punktweise gegen die charakteristische Funktion von konvergiert. An zwei Beispielen wollen wir die Anwendung dieses Satzes sowie die Bedeutung der schwachen Konvergenz insgesamt demonstrieren:

23 120 20_Charakteristische_Funktionen.nb Beispiel: Sei Hp n L nœ eine Folge von Zahlen aus dem Intervall D 0, 1@ mit der Eigenschaft, dass die Folge Hn p n L nœ gegen eine Zahl l>0 konvergiert. Man zeige, dass dann die Folge p n DL nœ der Binomialverteilungen schwach gegen die konvergiert. Damit ist gezeigt, dass sich für große n und kleine p die pd durch die pd approximieren lässt. Lösung: Für die charakteristische Funktion der p n D bzw der gilt CharacteristicFunction@BinomialDistribution@n, pnd, sd CharacteristicFunction@PoissonDistribution@lD, sd J1 pn + s pnn n J 1+ s N λ Nun gilt aber offenbar für alle sœ lim nø H1- p n +  s p n L n = lim nø H1+ n p n H  s - 1L L n = lh Âs -1L n womit unsere Behauptung wegen Satz gezeigt ist. Wir wollen die Behauptung, dass sich für große n und kleine p die pd durch die pd approximieren lässt, auch graphisch veranschaulichen: Manipulate@Plot@8CDF@BinomialDistribution@n, pd, zd, CDF@PoissonDistribution@n pd, zd<, 8z, -1, 3 n p<, PlotStyle Æ 88Thickness@0.015D, Red<, 8Thickness@0.015D, Blue<<, PlotPoints Æ 100, AspectRatioÆ0.5, AxesOrigin Æ8-1, 0<, PlotRange Æ All, ImageSize Æ 8200, 120<D, 8n, 2, 50, 1, Appearance Æ "Labeled"<, 88p, 0.5<, 0.03, 0.5, Appearance Æ "Labeled"<D n 2 p HzL z Beispiel: Für jedes nœ sei Z n =HY n - n plê n ph1- pl, wobei Y n eine mit den Parametern n und p binomialverteilte Zufallsvariable bezeichnet. Man zeige, dass die Folge HZ n L nœ in Verteilung gegen eine

24 20_Charakteristische_Funktionen.nb 1D-verteilte Zufallsvariable Z konvergiert. Damit ist gezeigt, dass sich für große n die pd durch die p, n ph1- pl D approximieren lässt. Lösung: Für die charakteristische Funktion der p n D bzw der 1D gilt CharacteristicFunction@BinomialDistribution@n, pd, sd CharacteristicFunction@NormalDistribution@0, 1D, sd J1 p + s pn n s2 2 Wegen Bemerkung gilt damit für die charakteristische Funktion der Zufallsvariablen Z n (wir verwenden die Abkürzung q=1- p und entwickeln die auftretenden Exponentialfunktionen in eine Reihe) Z n p sê n p q DH1- p+ p Exp@ sê n p q DLn = =Hq Exp@- p sê n p q D+ p Exp@ q sê n p q DL n = =H1- p s 2 êh2 nl- q s 2 êh2 nl+ o@1êndl n =H1- s2 2 n + o@1êndln Mit o@1ênd bezeichnen wir dabei einen Ausdruck, welcher die Eigenschaft lim nø Hn o@1êndl=0 besitzt. Damit gilt für alle sœ lim nø Z nø H1- s2 2 n + o@1êndln = -s2 ê2 = womit unsere Behauptung wegen Satz gezeigt ist. Wir wollen die Behauptung, dass sich für große n die pd durch die p, n ph1- pl D approximieren lässt, auch graphisch veranschaulichen und dabei die maximale Differenz zwischen den beiden Verteilungsfunktionen ermitteln (bei der Berechnung der maximalen Differenz achte man darauf, dass die Verteilungsfunktion der Binomialverteilung eine linksseitig stetige Stufenfunktion ist):

25 122 20_Charakteristische_Funktionen.nb = p H1- pld<, pd, zd, p, sd, zd<, 8z, n p - 2 s, n p + 2 s<, PlotStyle Æ 88Thickness@0.01D, Red<, 8Thickness@0.01D, Blue<<, PlotPoints Æ 100, AspectRatio Æ 0.5, AxesOriginÆ8n p, 0<, PlotRange Æ All, AxesLabel Æ ImageSize Æ 8230, 130<D, Graphics@88Red, Text@"Differenz:", Scaled@80.65, 0.3<DD, Text@Max@Join@ Table@Abs@CDF@BinomialDistribution@n, pd, zd - CDF@NormalDistribution@n p, sd, zdd, 8z, 0, n<d, Table@Abs@CDF@BinomialDistribution@n, pd, z - 1D - CDF@NormalDistribution@n p, sd, zdd, 8z, 0, n<ddd, Scaled@80.87, 0.3<DD<<D<DD, 8n, 1, 1000, 1, Appearance Æ "Labeled"<, 8p, 0.1, 0.9, Appearance Æ "Labeled"<D n 326 p HzL Differenz: z