Entscheidungstheorie Teil 1. Thomas Kämpke

Transkript

1 Entschedungstheore Tel Thomas Kämpke

2 Sete 2 Entschedungstheore Tel Inhalt Kompaktensteg Wahrschenlchketsrechnung Wahrschenlchketsmaß auf Grundraum Enfaches Lotto Stochastsche Unabhänggket Verknüpfung von stochastsch Unabhängg mt räferenzrelatonen Würfel von Efron Stochastsche Unabhänggket Bedngte Wahrschenlchket Rechnen mt bedngten Wahrschenlchketen Zufallsvarablen Erwartungswert und Varanz Entschedungsbäume Vertelungsfunktonen

3 Sete 3 Entschedungstheore Tel Kompaktensteg Wahrschenlchketsrechnung (/2) Wahrschenlchkets-Rechnung oder Wahrschenlchkets-Theore beschrebt Vorgänge mt unscherem/unvorhersehbarem Ergebns. Ergebns vollkommen unvorhersehbar Würfel, Lotto etc. Ergebns telwese vorhersehbar Längenmessung mt Schwankungen Wchtg Das Kausaltätsprnzp gleche Ursache haben gleche Wrkungen wrd ncht verletzt, aber umgangen. Es wrd ncht nach (letzten) Ursachen gesucht. Wahrschenlchketen bezehen sch mmer auf Eregnsse. Ncht weter telbare Eregnsse snd Elementareregnsse. Bem Würfeln: {2, 4, } st das Eregns gerades Ergebns {5} st en Elementareregns

4 Sete 4 Entschedungstheore Tel Kompaktensteg Wahrschenlchketsrechnung (2/2) Eregnsse snd ncht unbedngt numersch, z.b. Ampelsgnal. Zufall weder gut noch schlecht ( Zentrales Motv der Entschedungstheore; denn oft gbt es ken rchtg oder falsch oder nur en des bevorzugt gegenüber jenem ) Zufall könnte negatv sen, da Kausaltät fehlt. Be Börsenkursen st des aber generell unklar.

5 Sete 5 Entschedungstheore Tel Wahrschenlchketsmaß auf Grundraum # (/2) O ) ( E) ), E ( ) ( & ' + U E % # $ * + ( E ) für paarwese dsjunkte Eregnsse E Der Wert (E ) st de Wahrschenlchket des Eregnsses E.

6 Sete Entschedungstheore Tel Wahrschenlchketsmaß auf Grundraum # (2/2) Bespel: ({} ) ({ 2} ) ({} 3 ) ({ 4} ) ({} 5 ) ({ } ) {, 2, 3, 4, 5, } ({ 2, 4, } ) ( { 2} ) + ( { 4} ) + ( { } ) 2 Wahrschenlchketen können ohne Beachtung von Häufgketen angesetzt werden Des st aber ncht snnvoll

7 Sete 7 Entschedungstheore Tel Enfaches Lotto (/3) Nur von 49 Kugeln wrd gezogen, alle Kugeln mt derselben Wahrschenlchket {,, 49}. ({} ) ( { 2} )... ( { 49} ) c ({,..., 49} ) ( {} ) ( { 49} ) 49 c c, d.h. Wahrschenlchket für Elementareregns # Elementareregnsse Wahrschenlchket hat mt Zählen zu tun Alle Wahrschenlchketen glech gross: rnzp des unzurechenden Grundes 49

8 Sete 8 Entschedungstheore Tel Enfaches Lotto (2/3) Wahrschenlchket für 2 Kugeln, Zehen ohne zurücklegen. Rehenfolge spelt kene Rolle, aber Berechnung enfacher be Berückschtgung der Rehenfolge. # der gerordneten aare 49' 48 # der ungeordneten aare 49' 48 2 & $ % 49 2 # für jedes ungeordnete aar gbt es 2 geordnete aare Allgemen: n Es gbt 2 ' 2$ n Grundgesamthet mt... ( n ) ) ( n% 2 & # O( n ) n Enheten. 49 über be gezogenen Kugeln : ungeordnete aare ohne Wederholung ( 49% & # ' $ ,8.

9 Sete 9 Entschedungstheore Tel Enfaches Lotto (3/3) ( n% & # ' 2$ # ungeordneter aare ohne Wederholung # 2 - elementge Telmengen von {,..., n} ( n% & # ' k $ ( n k + ) n k # k - elementge Telmengen & n# & n# & n # & n# $ + $ $ + $ % n n { % % ' %{ # aller 2 n Telmengen (ohne Rechnung)

10 Sete Entschedungstheore Tel Stochastsche Unabhänggket (/3) Zwe Eregnsse snd unabhängg oder stochastsch unabhängg, wenn (E,F) (E) (F) für Eregnsse E, F. Wenn E und F jewels alle Eregnsse durchlaufen, bezechnet (E,F) rod (E,F) gem (E,F) Verbund (E,F) de gemensame Wahrschenlchket oder gemensamer Vertelung und (E) (E), (F) 2 (F) de Randvertelungen oder Margnalvertelungen. Zwemalges Würfeln st stochastsch unabhängg, wenn ({ (. Wurf, 2. Wurf j) }) ( {. Wurf } ) ( { 2. Wurf j} ) 3 Es können aber auch Eregnsse E S # T (E $ F) (E) (F). Eregnsse unabhängg be unabhänggem Würfeln?, j,...,.

11 Sete Entschedungstheore Tel Stochastsche Unabhänggket (2/3) Bespel: Zwemalges Würfeln be unabhänggen Würfeln E: Summe der Ergebnsse st F: Im ersten Wurf 5 ( E) ( {(, 5)(, 2, 4)(, 3, 3 )(, 4, 2)(, 5,) }) ( {(, 5) }) ( {( 5,) }) ( F) ( {} 5 ) ( E, F) ( {( 5,) }) 3 2 ( E, F) ( E) ( F) Eregnsse E und F trotz unabhänggem Würfelns abhängg

12 Sete 2 Entschedungstheore Tel Stochastsche Unabhänggket (3/3) Bespel: Zwemalges Würfeln be unabhänggen Würfeln E: Summe der Ergebnsse st 7 F: Im ersten Wurf 5 ( E) ( {(, )(, 2, 5)(, 3, 4)(, 4, 3 )(, 5, 2)(,,) }) ( F) ( E, F) ( {( 5, 2) }) 3 ( E, F) ( E) ( F) sehe oben 3 3 Dese Eregnsse snd (stochastsch) unabhängg bem selben Vorgang. D.h. stochastsche Unabhänggket hängt ncht nur vom Zufallsvorgang oder Zufallseperment ab, sondern auch von der Fragestellung.

13 Sete 3 Entschedungstheore Tel Verknüpfung von stochastsch Unabhängg mt räferenzrelatonen (/) A B A besser als B A wrd als besser angesehen als B A wrd gegenüber B bevorzugt räferenzrelaton st bnär, mt ener Mndestanforderung: Transtvtät

14 Sete 4 Entschedungstheore Tel Würfel von Efron (/2) A B C Gegenseten haben jewels deselbe Zahl. Jeder Würfel kann grösseres oder kleneres Ergebns haben als jeder andere Ene bnäre Relaton zwschen den Würfeln wrd angesetzt zu Würfel f Würfel : 2 ( Augenzahl be Wurf mt > Augenzahl be Wurf mt 2) > 2

15 Sete 5 Entschedungstheore Tel Würfel von Efron (2/2) Dann st A B C A, denn: ( Augenzahl von A > Augenzahl von B) ( Augenzahl von B > Augenzahl von C) ( Augenzahl von C > Augenzahl von A) Würfelergebnsse stochastsch unabhängg % ( Augenzahl von A > Augenzahl von B) ( 9, 8)(, 9, 4)(, 9, 3 )(, 5, 4)(, 5, 3 ) 5 ( 9, 8 ) + ( 9, 4 ) + ( 9, 3 ) + ( 5, 4 ) + ( 5, 3 ) ( Augenzahl von B > Augenzahl von C) ( 8, 7)(, 8, )(, 8, 2)(, 4, 2)(, 3, 2 ) 9 5 ( Augenzahl von C > Augenzahl von A) ( 7, 3 )(, 7, )(,, 5)(,, )(, 2, ) 9 % Überraschungen be Transtvtät und Wahrschenlchket möglch > 2

16 Sete Entschedungstheore Tel Stochastsche Unabhänggket (/2) Mehr als zwe Eregnsse E,, E r snd stochastsch unabhängg, wenn jede Auswahl deser Eregnsse de roduktbedngungen erfüllt. ( E..., E ) ( E )... ( E ) r n, r r Stochastsche Unabhänggket ergbt sch ncht aus paarweser stochastscher Unabhänggket.

17 Sete 7 Entschedungstheore Tel Stochastsche Unabhänggket (2/2) Bespel: Behälter mt 4 Kugeln,, 2, 3, 4. Es wrd enmal gezogen. Eregnsse: E {, 2}, F {, 3}, G {, 4} ( E) ( F) ( G) ( EF) ({} ) ( EG) ( {} ) ( FG) ( {} ) ( EF) ( E) ( F) 4 ( EFG) ( {} ) ( E) ( F) ( G) 8 2 etc., aber (kene Elementareregnsse)

18 Sete 8 Entschedungstheore Tel Bedngte Wahrschenlchket (/5) Bedngte Wahrschenlchket A, B S ( A B) ( A B) ( B) für B > Grunddee: Was besagt das bedngende Eregns B über das bedngte Eregns A? Würfelt A {5} und B {2, 4, }. Dann st (A B) de Wahrschenlchket dafür, dass 5 fällt unter der Kenntns, dass gerade Zahl fällt. ({} 5 { 2, 4, } ) ({} 5 { 2, 4, } ) ( { 2, 4, } ) ({ } { }) ({ 4} ) 4 2, 4, ( { 2, 4, } ) 3 3 D.h. (A B) (A) (A B) möglch. ( O/ ) ({ 2, 4, } ) Das gemensame Entreten von 2 Eregnssen st hr Durchschntt

19 Sete 9 Entschedungstheore Tel Bedngte Wahrschenlchket (2/5) Was st be Glechhet? # ( A B) A B ( B) ( A) ( B) ( A B) d.h. de Eregnsse snd unabhängg & bedngte Wahrschenlchket unbedngte Wahrschenlchket

20 Sete 2 Entschedungstheore Tel Bedngte Wahrschenlchket (3/5) Bespel: En Arzt bestzt folgende Daten über de Wrksamket ener Behandlungsmethode, de be fast der Hälfte der 2. kranken Bewohner ener Regon angewendet wurde: Stadtbewohner Landbewohner Es bedeutet: behandelt unbehandelt behandelt unbehandelt A überlebend überlebend gestorben B behandelt C Stadtbewohner Um zu entscheden, ob de Behandlungsmethode n Zukunft weter angewendet werden soll oder ncht, berechnet der Arzt de Wahrschenlchket zu überleben unter der Bedngung, dass behandelt wurde und de Wahrschenlchket zu überleben, unter der Bedngung, dass ncht behandelt wurde. Es glt (A B),84 und (A B C ),459. Bedeutet des, dass ncht behandeln besser st als behandeln?

21 Sete 2 Entschedungstheore Tel Bedngte Wahrschenlchket (4/5) ( A B) ( A B) ( B) C C ( A B ) A B C ( B ) De gesuchten Wahrschenlchketen: ( AB) A B ( B) ( ABC) A BC ( BC) Stadtbewohner ,84 55,459 C C ( AB ) A B ( B ) C C ( ABC ) A BC C ( BC ) C C C C ( AB C ) A B C C C ( B C ) 95 55,84 und,459 C C C ( AB C) A B C C ( B C) 5,,5 Landbewohner 95 Für Stadt- und Landbewohner (getrennt) erhöhen sch also de jewelgen Überlebenswahrschenlchketen durch Behandlung. ' ',95 5,5

22 Sete 22 Entschedungstheore Tel Bedngte Wahrschenlchket (5/5) Zwe Effekte beenflussen das Überleben: Behandlung und Wohnort. Es st (A BC), <,5 (A B C C C ), d.h. de Wahrschenlchket zu überleben st für Landbewohner ohne Behandlung vel größer als für Stadtbewohner mt Behandlung Da aber unter den behandelten Enwohnern relatv vele Stadtbewohner snd & CB. # $ ( C B) nahe be % ( B). unterscheden sch (A B) und (A BC) nur kaum. Der unkontrollerbare Effekt Wohnort domnert den kontrollerbaren Effekt Behandlung. % Jewels Detalbetrachtung erforderlch

23 Sete 23 Entschedungstheore Tel Rechnen mt bedngten Wahrschenlchketen (/2) ( A B) : ( A B) ( B) bedngte Wahrschenlchket auf unbedngte zurückgeführt. Umkehrung evtl. snnvoll Wenn E ( ( E n mt E paarwese dsjunkt, dann ( A) ( A# %) ( A# ( E $... $ En ) ( A# E ) $... $ ( A# E ) A E ( A E ) 23 E paarwese dsjukt n 23 E n ( A# E ) ( A# E ) ( A# E ) ( A E ) ( E ) ( A E ) ( E ) ( A E ) ( E ) Formel der totalen Zerlegung ( A E ) ( E ) # n ( A E ) ( E ) ( A E ) n n n n

24 Entschedungstheore Tel Sete 24 Rechnen mt bedngten Wahrschenlchketen (2/2) Bayes (Umkehrformel) # $ $ # $ n j j j E E A E E A A E E A A E A B A B B A A A B A A A B A B B B A B B A B A totale Zerlegung für A

25 Sete 25 Entschedungstheore Tel Zufallsvarablen (/) Idee: Ergebnsse von zufällgen Vorgängen werden als Werte ener Funkton aufgefasst. Funkton hesst Zufallsvarable. Gewöhnungsbedürftg st:. Ene Funkton wrd Varable genannt 2. Von deser Funkton werden Werte betrachtet, Argumente werden selten betrachtet und Funktonsvorschrften snd.a. unbekannt. Bespel Würfeln: st ene Zufallsvarable mt Werten, 2,,. Be trg. Funktonen y sn oder olynomen y st jewels Argument und Funktonsvorschrft bekannt, be Zufallsvarablen ergbt sch der Wert ohne en erkennbares Argument.

26 Entschedungstheore Tel Sete 2 Erwartungswert und Varanz (/) Zufallsvarable reellwertg. Dann snd Würfel: # # n n E E E Va E Varanz Erwartungswert 97 2, 3, Va 3, E

27 Sete 27 Entschedungstheore Tel Entschedungsbäume (/) Bäume, be denen sämtlche Äste aus Aktons- und Eregnsknoten bestehen. Aktonsknoten Entschedungsknoten: Aktonsknoten mt dre Aktonen; mnd ene Akton. Eregnsknoten mt ver verschedenen Eregnssen; termnale Knoten snd Eregnsknoten ohne anschleßende Eregnsse oder Aktonen.

28 Sete 28 Entschedungstheore Tel Entschedungsbäume (2/) Bespel: Es wrd en- oder zwemal gewürfelt. Zweter Wurf nur, wenn m ersten ene gewürfelt wurde Würfeln Würfeln

29 Sete 29 Entschedungstheore Tel Entschedungsbäume (3/) Bespel: An ol Wldcatter s consderng drllng a well at a specfc ste. We wll assume that: ) If the well s drlled, t wll be drlled for a fed prce of $5. 2) The results of drllng a well wll be ether: I. fndng a major source of ol II. fndng a mnor source of ol III. fndng no ol 3) Only one test, a sesmc survey may be performed before desdng whether to drll. Ths eperment costs $2. and ndcates for certan f the substructure of the earth s of type I (very favorable to ol), type II (less favorable) or type III (unfavorable).

30 Sete 3 Entschedungstheore Tel Entschedungsbäume (4/) 4) The followng probabltes are assgned by the company geologst: (major source / type I).4 (mnor source / type I).3 (major source / type II). (mnor source / type II).4 (major source / type III) (mnor source / type III).3 and (type I).2 (type II).3 (type III).5 5) If a major source s found, the wldcatter wll mmedately sell out for $9.. If a mnor source s found, he wll sell for $3..

31 Sete 3 Entschedungstheore Tel Entschedungsbäume (5/) Assume the decson maker wshes to mamze epected profts and answer the followng: a) Draw the decson tree for ths problem and clearly label all the probabltes and all dollar consequences at the end of the tree. b) What s the probablty that ol (ether a major or mnor source) s present at the ste? c) What s the optmal strategy to follow for ths problem? d) What s the epected value of the sample mformaton (.e., the sesmc survey)? e) What s the mamum amount the wldcatter should pay for perfect nformaton? f) Calculate (type I/major source) and (type II/ mnor source).

32 Sete 32 Entschedungstheore Tel Entschedungsbäume (/) Bespel (Ölbohrung) a) bohren,,33,5 gq kq kene Quelle $ 75. $ 5. $ -5. gq: große Quelle kq: klene Quelle ncht bohren $ Typ I bohren ncht bohren,4,3,3 gq kq kene Quelle $ -2. $ 73. $ 3. $ -7. Test,2,3 Typ II bohren ncht bohren,,4,5 gq kq kene Quelle $ -2. $ 73. $ 3. $ -7. gq $ 73.,5 Typ III bohren ncht bohren,3,7 kq kene Quelle $ -2. $ 3. $ -7.

33 Sete 33 Entschedungstheore Tel Entschedungsbäume (7/) De Wahrschenlchketen m Ast bohren ergeben sch (nach der Formel der totalen Zerlegung ) we folgt: Bespel r(gq) r(gq Typ I)* r(typ I) + r(gq Typ II)* r(typ II)+ r(gq Typ III) * r(typ III),4 *,2 +, *,3 + *,5, Wetere Wahrschenlchketen Bespel r(kene Quelle Typ II) - r(gq Typ II) - r(kq Typ II) -, -,4,5

34 Sete 34 Entschedungstheore Tel Entschedungsbäume (8/) b) r(öl) r(gq oder kq) r(gq) + r(kq), +,33,44 a) c) Eregnsse dsjunkt E( bohren ), * 75. +,33 * 5. +,5 * (-5.) 48. E( ncht bohren) E( Test, dann weter gemäß ),2 [,4 * 73. +,3 * 3. +,3 * (-7.)] +,3 [, * 73. +,4 * 3. +,5 * (-7.)] +,5 * (-2.) 58. des st de optmale Stratege

35 Sete 35 Entschedungstheore Tel Entschedungsbäume (9/) d) e) Der Test kostet $ 2., mt hm kann aber en erwarteter Gewnn erzelt werden, der nun $. über dem der besten Stratege ohne Test legt. Somt st der erwartete Wert des Tests $ 3.. Be vollständger Informaton:,,33,5 gq kq kene Quelle bohren bohren ncht bohren $ 75. $ 5. $ erwarteter Gewnn be vollständger Informaton, * 75. +,33 * 5. +,5 * 32. erwarteter Gewnn ohne Informaton 48. % Wert der vollständgen Informaton

36 Sete 3 Entschedungstheore Tel Entschedungsbäume (/) f) r(typ I gq) #r(gq) #r(typ I gq) #r(grq Typ I) * #r(typ I) #r(grq Typ I) * #r(typ I) #r(typ I) #r(gq),8 8 #r(gq), #r(kq Typ II ) * #r(typ II),2 r(typ II kq) #r(kq),33 4

37 Entschedungstheore Tel Sete 37 Vertelungsfunktonen (/4) F() ( ) für belebge ) und reellwertge Zufallsvarable Eponentalvertelung hat de Dchte e für, >. D.h asymptotsch # < $ % & & # < $ ' % % ( e e dy y,,,, ) ) )

38 Entschedungstheore Tel Sete 38 Vertelungsfunktonen (2/4) Berechnung e e e e e e E # $ % & ' ( ) * +, / / e d d d { { 3 2 g f

39 Entschedungstheore Tel Sete 39 Vertelungsfunktonen (3/4) Be Vertelungen mt Dchte darf man ncht blden wegen ( b). Das bedngte Eregns muss mt postver Wahrschenlchket entreten Also z.b. b b b...,... y y y y y y y y y y y y y > + > + > > > + > > + > + # # # # # # # e e e e e e e,

40 Sete 4 Entschedungstheore Tel Vertelungsfunktonen (4/4) D.h. ( > + y > y) ( > ) z.b. ( > 5 > 3) ( > 2) * Gedächtnslosgket der Eponentalfunkton ( > 2 > ) Mehrere gedächtnslose Vertelungen Ken determnstsches Analogon

41 Sete 4 Entschedungstheore Tel Entschedungstheore (Vdeo)