Regressionsgerade und Korrelationskoeffizient

Transkript

1 Regreogerade ud Korrelatokoeffzet Für Merkmalträger ee de Beobachtugwerte = der Merkmale ud fetgetellt worde. Gegebe d alo Wertepaare der Merkmalaupräguge ud De durchchttlche Auprägug der Merkmale t {(, ),, ( ),, ( 3 3),,, ( ) } () () = = = = Uter der Vorauetzug, da alle Merkmalaupräguge der Grudgeamthet erhobe wurde, t de Varaz der Merkmale (3) = ( ) = (4) = ( ) De Kovaraz t = (5) = ( ) ( ) Der Korrelatokoeffzet t = (6) r = = = ( ) ( ) ( ) ( ) = = Würde alle Beobachtugpukte eem Koordatetem mt der Abze ud der Ordate auf eer Gerade lege, betüde e fuktoaler learer Zuammehag zwche ud. Da heßt, mt de Parameter a für de Höhe der Gerade be = 0 ud b für hre Stegug, beteht der Zuammehag (7) = a+ b We ma dee leare Fukto ee betmmte Wert vo eetzt, alo e belebge, erhält ma au der Fukto geau de zugehörge Wert vo. Tatächlch ka ma aber cht davo augehe, da alle Beobachtugpukte auf eer Gerade lege. E köte auch e aderer, cht-learer fuktoaler Zuammehag betehe, e fuktoaler Zuammehag köte durch ubekate Eflüe überlagert e, ud e köte auch überhaupt ke Zuammehag betehe. De Beobachtugpukte telle da kee Gerade dar, oder ee mehr oder weger geordete Aammlug vo Pukte, e blde ee Puktwolke, de eem Streudagramm dargetellt wrd: - - korr0.doc

2 Regreogerade ud Korrelatokoeffzet Abbldug : Streudagramm Ma eht, da dee Wolke ee gewe Rchtug aufwet, e wet ach obe. Je größer de Werte vo d, deto größer wrd auch, aber mt kleere Auahme. E Zuammehag zwche ud t offechtlch. E legt ahe, dee Zuammehag durch ee mathematche Fukto darzutelle ud de Stärke de Zuammehag zu mee. Ee Fukto, de de Zuammehag am bete dartellt, et ma ee Regreofukto, wel der Zuammehag zwche de Werte auf ee mathematche Fukto zurückgeführt wrd. Welche Fukto frage kommt, ka ma mt dem Augeche abzuchätze veruche. We der Zuammehag lear zu e chet, verwedet ma ee leare Fukto, de Regreogerade. We ch de Stegug der Wertepaare abchwächt, ka ma ee logarthmche Fukto verwede, be eer zuehmede Stegug ee Epoetalfukto; be eer egatve Stegug t wederum ee Gerade geeget, we de Stegug kotat zu e chet, ot kommt auch ee quadratche Fukto frage. We gut de Aäherug a de tatächlche Werte durch de Regreofukto t, ollte ma durch ee Kezahl mee köe. Da otwedge Itrumetarum wrd m Folgede ahad ee leare Zuammehag etwckelt, der durch ee Regreogerade dargetellt wrd. Deer leare Zuammehag chet her auch vorzulege, we ma erkee ka, we ma mt der free Had verucht, ee Regreogerade ezuzeche, de de beobachtete Werte möglcht ahe kommt: - - korr0.doc

3 Regreogerade ud Korrelatokoeffzet Abbldug : Frehad-Regreogerade Ob ma u mt der free Had de bete Apaug der Gerade a de Puktewolke getroffe hat, ka ma cht age, olage cht defert t, we de Güte der Apaug gemee wrd. Ke ezger der Beobachtugpukte legt ja her auf der Regreogerade, oder jeder Pukt legt etweder darüber oder daruter. Da de uabhägge Varable t, dere Werte m Koordatetem vorgegebe d ud herach aufgrud der Fukto de Werte der abhägge Varable berechet werde, betehe Abwechuge zwche de tatächlche -Werte, alo jewel, ud dem jewelge Wert vo, der ch aufgrud der Regreogerade be = ergbt. Wrd deer Wert al ŷ bezechet ud de Abwechug al e, o glt: (8) e = A eem augewählte Pukt (, ) der Puktwolke dargetellt: korr0.doc

4 Regreogerade ud Korrelatokoeffzet = a+ b a+ b Abbldug 3: Abwechug vo der Regreogerade Wrd ŷ al abhägge Varable der Regreofukto betrachtet, o glt (9) = a+ b De de Defto der Abwechug gemäß Glechug (8) egeetzt: (0) e = a+ b = a b Da ma veruche wrd, de Regreogerade mtte durch de Puktwolke zu zehe, um de Abwechuge zu mmere, werde de Beobachtugwerte tel über ud tel uter der Regreogerade lege, oda e potve ud egatve Abwechuge gebe wrd. Nu t aber owohl ee potve we ee egatve Abwechug ebe ee Abwechug, ud ma müte de abolute Abwechuge addere, um ee Summe der Abwechuge zu erhalte, de ma mmere köte. Quadrert ma dee de Abwechuge ud ucht da Mmum der Quadratumme, o t da Quadrat mmer potv, ud ma braucht auf da Vorzeche kee Rückcht zu ehme. De t de vo Gauß egeführte Methode der klete Quadrate, de etdem verwedet wrd. De Parameter a ud b der Regreogerade d alo o zu betmme, da de Regreogerade de Summe der Abwechugquadrate mmert. Mt SQA für de Summe der Abwechugquadrate ud der Abwechug gemäß (0) lautet da mathematche Problem: () ( ) SQA(a,b) = a b m. = We dee Fukto e Mmum Bezug auf a ud b hat, da legt e dort, wo de Stegug glech ull t. E d alo de partelle Abletuge ach a ud b zu blde ud dee glech ull zu etze. Da alle Summade de gleche Struktur habe, geügt e, zuächt ur ee der Summade zu dfferezere: korr0.doc

5 Regreogerade ud Korrelatokoeffzet a b ( a b ) ( a b ) Ma eht, da der abzuletede Fukto de Varable a ud b ee Fukto blde, ämlch de Fukto a b, ud da herauf ee wetere Fukto azuwede t, ämlch da e quadrert werde mu. Ma köte de Quadratklammer aumultplzere ud da ert ablete, efacher t aber de Awedug der Ketteregel. Dee glt für derartge verchachtelte Fuktoe ud lautet allgemeer Form = u v d du dv = d dv d Herbe t u de Fukto, de auf de Fukto v azuwede t, ud de Varable, ach der zu dfferezere t. Dee t her a bzw. b, oda zuächt für a glt: = u v a d du dv = da dv da De Fukto v(a), auch ere Fukto geat, t va = a b De Fukto u, auch äußere Fukto geat, t dejege, de auf de ere Fukto azuwede t. Da de ere Fukto quadrert werde oll, glt her: De Abletug t da du dv a dv da u = v ( a b ) = = v ( ) = ( a b ) ( ) a () ( a b ) = ( a b ) Für de Abletug ach b glt etpreched: du dv b dv db ( a b ) = = v ( ) = ( a b ) ( ) a b = a b ) b (3) ( De Abletuge der ezele Summade köe u zu de partelle Abletuge der Quadratumme zuammegefügt werde, um de Nulltelle zu betmme: (4) SQA a,b = ( a b ) = 0 a = korr0.doc

6 Regreogerade ud Korrelatokoeffzet (5) SQA a,b = ( a b ) = 0 b = Au Glechug (4) folgt: ( ) 0 a b = = ( ) = a b = 0 a b = 0 = = = Her bedeutet = a, da für alle der Wert a zu addere t, geamt alo Mal. De lät ch auch durch da Produkt a dartelle, oda: = = a b = 0 : = = Her Glechug () ud Glechug () egeetzt: a b = 0 (6) a b = 0 De etprechede Umformuge a Glechug (5) vorgeomme: ( ) 0 a b = = = a b = 0 = = = a b = 0 a b = = = = 0 a b = 0 = = = (7) = = a b = 0 De Glechuge (6) ud (7) müe ach de geuchte Parameter a ud b aufgelöt werde. Herzu wrd au bede Glechuge e Löugblock gebldet: a b = 0 = = a b = korr0.doc

7 Regreogerade ud Korrelatokoeffzet De erte Glechug de Löugblock wrd mt multplzert: a b = 0 = = a b = 0 E wrd de Dfferez zwche de Glechuge gebldet: = = a b + a + b = 0 = = b + b = 0 De Glechug wrd ach b aufgelöt: b = = = b = = Zähler ud Neer de Bruche werde durch getelt: = (8) = b = = Ma ka u zege, da m Zähler dee Bruche cht adere teht al de Kovaraz ud m Neer de Varaz. Herzu werde zuächt Glechug (5) de Klammer aumultplzert: = = ( ) = + = = + = = = = = = = = = + Her bedeutet =, da der Summad für alle addert werde mu, geamt alo Mal, wa ch auch durch da Produkt dartelle lät. Nebe deem Audruck werde auch Glechug () ud Glechug () de obge Glechug egeetzt, oda: = + = (9) = = korr0.doc

8 Regreogerade ud Korrelatokoeffzet De etprechede Umformuge a Glechug (3) vorgeomme: = ( ) = = + = = + = = = Her Glechug () ud = = egeetzt: = + = (0) = = De Glechuge (9) ud (0) köe u (8) egeetzt werde: () b = De Zuammehag vo b mt dem Korrelatokoeffzete erket ma, we b mt erwetert wrd: b = = Her Glechug (6) egeetzt: () b = r Um a zu ermttel, wrd Glechug () (6) egeetzt: a = 0 (3) a = De Parameter a ud b Glechug (7) egeetzt ergbt de Regreogerade: (4) = + (5) = ( ) Dee Regreogerade oll de Summe der Abwechugquadrate gemäß Glechug () mmere. Herzu wurde de Nulltelle der Fukto SQA(a,b) ermttelt. Durch de Glechetzug der partelle Abletuge mt ull fdet ma aber ur de Pukt, be dem de Stegug der Fukto glech ull t. A deer Stelle ka e Mmum, e Mamum oder e Sattelpukt lege. Welcher korr0.doc - 8 -

9 Regreogerade ud Korrelatokoeffzet Art deer Etremwert t, erket ma a der zwete Abletug. Dee wrd für ee der Summade vo SQA(a,b) ermttelt ud ergbt ch au der Abletug der Glechuge () ud (3): a ( a b ) = > 0 ( a b ) = > 0 b De zwete Abletuge d alo potv. Da de Abletug eer Fukto de Stegug agbt, alo de Veräderug der Fukto be größer werdeder uabhägger Varable, bedeutet ee potve zwete Abletug, da de erte Abletug ee potve Stegug hat, alo mmer größer wrd, we de uabhägge Varable größer wrd. We de erte Abletug u be eem betmmte Wert der uabhägge Varable glech ull t, mu e be eem tädge Atege vor der Nulltelle egatv gewee e ud wrd ach der Nulltelle potv. De urprüglch abgeletete Fukto wet alo vor der Nulltelle ee fallede Verlauf auf ud daach ee tegede Verlauf. Da aber t da Kezeche für e Mmum. De Regreogerade mmert alo we gewücht de Quadrate der Abwechuge. De Egechafte der Regreogerade köe u weter uterucht werde. Setzt ma zuächt Glechug (5) =, o wrd =. De Regreogerade läuft alo durch de Pukt (, ), auch Schwerpukt der Beobachtugrehe geat. Au Glechug () für de Stegug der Regreogerade ergbt ch, da de Rchtug der Stegug ur vom Korrelatokoeffzete r abhägt, de de Stadardabwechuge ud d deftogemäß tet potv. It auch r potv, da t b > 0, de Regreogerade hat ee potve Stegug. Ee durch e potve r agezegte Korrelato zwche ud pegelt ch alo eer ategede Regreogerade wder. Je größer r t, je tärker alo der Zuammehag zwche de Beobachtugwerte, deto teler tegt de Regreogerade a. Be r = wrd de Stegug ur och vom Verhält der Stadardabwechuge ud betmmt. We r = 0 t, t auch b = 0, ud de Regreogerade verläuft horzotal. De zegt a, da e kee Zuammehag zwche ud gbt. E egatver Wert vo r, alo ee egatve Korrelato mt eer gegeläufge Etwcklug vo ud, führt zu eer egatve Stegug der Regreogerade, de für r = - be glechblebedem ud am tärkte t. Je chwächer de egatve Korrelato, deto gerger t de Stegug der Regreogerade; be r = 0 verläuft dee wederum horzotal. Im Folgede e och gezegt, da der Korrelatokoeffzet ur Werte zwche + ud - aehme ka ud da be r = alle Beobachtugwerte auf der Regreogerade lege. Augagpukt t de Fukto der Regreogerade ach Glechug (5): = We alle Beobachtugwerte auf der Regreogerade lege, folge de Beobachtugwerte ud ebe deer Fukto, e glt alo (6) = ( ) Herau folgt ( ) ( ) = 0 vgl. herzu K. Boch, Große Lehrbuch der Stattk, Müche / We 996, S. 78 f. korr0.doc - 9 -

10 Regreogerade ud Korrelatokoeffzet We deer Audruck quadrert wrd, t da Quadrat potv oder glech ull: Da Quadrat wrd für alle ummert: 0 = 0 Um de durchchttlche Wert der Summade zu betmme, wrd durch de Azahl der Beobachtugwerte getelt, fall alle Merkmalaupräguge der Grudgeamthet erhobe wurde, be eer Stchprobe durch. Für de Beweführug kommt e darauf cht a. Her wrd durch getelt: (7) De eckge Klammer wrd aumultplzert: 0 = ( ) ( ) ( ) + 4 ( ) 0 = ( ) ( ) ( ) + 4 ( ) 0 = = = Her de Glechuge (3), (4) ud (5) egeetzt: wrd augeklammert: Her Glechug (5) egeetzt: + = (8) r 0 Au deer Bedgug für ee Regreogerade köe de möglche Werte vo r abgeletet r durch da Vorzeche werde. Da ämlch tet potv t, wrd da Vorzeche vo vo ( r ) ( r ) wäre egatv ud damt de Bedgug verletzt, we r betmmt. Deer Audruck darf ach (8) ull e, wa da der Fall t, we r =. >. Da heßt, r darf cht größer alo e ud cht kleer al -. De d alo de Greze, dee ch r bewege ka. E Wert vo r > oder r < - wäre ke zuläger Parameter für ee Regreogerade. Der Korrelatokoeffzet ka cht größer al ud cht kleer al - e. Der möglche Fall r = e weter uterucht. Der Korrelatokoeffzet t deem Fall etweder + oder -. Da Bedgug r = 0 herach auch: (8) au (7) abgeletet wurde, glt be korr0.doc

11 Regreogerade ud Korrelatokoeffzet = 0 = Da t auch = 0 ( ) ( ) = ( ) Da aber t de Fukto der Regreogerade ach Glechug (6), auf der alle Beobachtugpukte lege. Mt adere Worte: We r =, alo der Korrelatokoeffzet oder - beträgt, lege alle Beobachtugpukte auf der Regreogerade. Für jede ergbt ch da zugehörge, dem de Regreofukto egeetzt wrd. De Abwechug e [. Glechug (8)] zwche dem Beobachtugwert ud dem ch be auf der Regreogerade ergebede Wert ŷ t glech ull. E glt da e = = 0 = Da heßt, be perfekter Korrelato werde alle Beobachtugwerte durch de Regreofukto erklärt. We de Korrelato cht o perfekt t, da alle Beobachtugwerte durch de Regreofukto erklärt werde köe, zerlegt ma de geamte Varaz der Beobachtugwerte ee Tel, der durch de Regreogerade erklärt wrd ud ee retlche Tel, der dadurch cht erklärt wrd. Herzu wrd Der Audruck wrd quadrert: folgedermaße augedrückt: = ( ) + ( ) = + ( ) = ( ) + ( ) ( ) + ( ) (9) ( ) = ( ) + ( ) ( ) + ( ) = = = = Der deer Glechug ethaltee Audruck ( ) ( ) wrd geodert betrachtet. Herzu t = e zuächt erforderlch, de Fukto der Regreogerade für de Fall zu formulere, da cht alle Beobachtugwerte auf der Regreogerade lege. De uabhägge Varable t da ŷ. De tatt Glechug (6) egeetzt: = ( ) Zur Erhöhug der Überchtlchket wrd her Glechug () egeetzt, oda: Zur Beweführug vgl. K. Boch, Da große Lehrbuch der Stattk, Müche / We 996, S. 93 ff. ud J. Schra, Stattche Methode der VWL ud BWL Theore ud Pra,. Aufl. Müche 005, S. ff. - - korr0.doc

12 Regreogerade ud Korrelatokoeffzet (30) = b ( ) Für lät ch auch chrebe ( ) ( ) = Her (30) egeetzt: (3) = ( ) b ( ) ( ) ( ) (30) ud (3) de zu uteruchede Audruck au Glechug (9) egeetzt: Her (3) ud (5) egeetzt: Her () egeetzt: = ( ) ( ) = b ( ) ( ) b ( ) = = = b b = = = b b = = = b b = 4 = = 0 Damt wrd der Audruck ( ) ( ) Glechug (9) zu ull, oda = ( ) = ( ) + ( ) : = = = (3) ( ) = ( ) + ( ) = = = Auf der lke Sete vo Glechug (3) teht de Varaz vo. Der Audruck Varaz vo, we = ( =. Da de tatächlch der Fall t, e m Folgede gezegt. Nach Glechug (9) glt für de auf der Regreogerade legede Werte : = a+ b ) wäre de - - korr0.doc

13 Regreogerade ud Korrelatokoeffzet De ummert über alle : = ( a+ b ) : = = ( a b ) = + = = Der Audruck auf der lke Sete t deftogemäß da arthmetche Mttel vo : = a+ b = = Mt = a = a ud = ergbt ch = Au (6) folgt a+ b =. De egeetzt: = a+ b = a+ b (33) = Dee Idettät Glechug (3) egeetzt: (34) ( ) = + = = = De lke Sete deer Glechug tellt de Varaz der Beobachtugwerte dar. Der erte Summad auf der rechte Sete t de Varaz der etprechede -Werte auf der Regreogerade, währed der zwete Summad efach de Summe der quadrerte Abwechuge dartellt. = e E legt zwar der Gedake ahe, da dee Quadratumme de Varaz der Abwechuge e blde köte, aber der Audruck = e = = etprcht cht der Defto eer Varaz. Herfür wäre e erforderlch, de Dffereze vo e zu hrem Mttelwert zu blde ud dee zu quadrere. De Varaz vo e t demetpreched defert al = ( e e) Nur für e 0 e e = e ud damt = = = wäre ( ) e auch de Varaz vo e. = Da de tatächlch der Fall t, e m Folgede gezegt. Nach Glechug (0) glt e = a b E wrd über alle ummert: korr0.doc

14 Regreogerade ud Korrelatokoeffzet e = ( a b ) = = e = a b = = = = Mt = a = a wrd herau e = a b : = = = e = a b = = = Durch oda: e, = ud = d aber de arthmetche Mttel e, ud defert, = e = a b Nach Glechug (6) glt a b = 0 ud damt der Tat e = 0. De Varaz vo e t alo ( e e) e ( ) = = = = = Damt ka Glechug (34) folgedermaße terpretert werde: Der Audruck auf der lke Sete t de Geamtvaraz der Beobachtugwerte. Dee ka zerlegt werde de Varaz der Werte auf der Regreogerade ud de Varaz der Abwechuge vo der Regreogerade. Setzt ma für de Varaz der Beobachtugwerte weder, für de Varaz der Regreowerte ud für de Varaz der Abwechuge e, da beteht der Zuammehag (35) = + Da au de Werte der Regreogerade berechet ud damt erklärt wrd, et ma dee Größe auch erklärte Varaz. De Varaz der Abwechuge vo de Werte auf der Regreogerade e t de cht erklärte Varaz. Bede zuamme blde de Geamtvaraz. Telt ma Glechug (35) durch, wrd darau e e = + = + e e = Da Verhält der erklärte Varaz zur Geamtvaraz t da Betmmthetmaß B: (36) B = = e korr0.doc

15 Regreogerade ud Korrelatokoeffzet B mmt de Wert a, we de cht erklärte Varaz e ull t. Alle Beobachtugwerte werde durch de Regreofukto erklärt. Da lege auch alle Beobachtugwerte auf der Regreogerade, de = ka ur da glech ull e, we alle e glech ull d. Da e e = auch alle Beobachtugwerte auf der Regreogerade lege, we der Korrelatokoeffzet glech t, mu e ee Zuammehag zwche dem Betmmthetmaß ud dem Korrelatokoeffzete gebe. B mmt de Wert 0 a, we e =. Da t de geamte Varaz uerklärt, e gbt alo kee Korrelato. De äußert ch auch eem Korrelatokoeffzete vo ull. Um de Zuammehag zwche dem Betmmthetmaß ud dem Korrelatokoeffzete aufzukläre, wrd ageetzt (37) B = = = ( ) = Nach Glechug (30) glt = b ( ) Her de Idettät (33) = egeetzt: De de Deftoglechug (37) egeetzt: = b ( ) ( ) ( ) Her Glechug (3) ud Glechug (4) egeetzt: Her Glechug () egeetzt: Her Glechug (6) egeetzt: ( ) ( ) b b = = B = = = = b B = B = = = 4 (38) B = r Da Betmmthetmaß t alo cht adere al da Quadrat de Korrelatokoeffzete. We der Korrelatokoeffzet glech ull t, wrd auch da Betmmthetmaß ull. Je tärker de Beobachtugwerte korrelert d, deto größer wrd da Betmmthetmaß, glechgültg, ob de Korrelato potv oder egatv t. Be volltädger potver oder egatver Korrelato t da Betmmthetmaß korr0.doc