F A C H H O C H S C H U L E W E D E L. Seminararbeit Informatik

Transkript

1 F A C H H O C H S C H U L E W E D E L Semnararbet Informatk n der Fachrchtung Wrtschaftsnformatk Themenberech Künstlche Intellgenz Thema Nr. 3 Dskrmnanzanalyse Engerecht von: Erarbetet m: Patrck Wolf Wedeler Landstr Hamburg Tel. (0 40) Semester Abgegeben am: Referent (FH Wedel): Prof. Dr. Sebastan Iwanowsk Fachhochschule Wedel Feldstraße Wedel

2 Inhaltsverzechns I Inhaltsverzechns Inhaltsverzechns... I Abbldungsverzechns... II. Enführung..... Problemstellung Glederung der Arbet Grundlagen der Dskrmnanzanalyse Arten von Merkmalen Quanttatve Merkmale Qualtatve Merkmale Beurtelung der Klassfkatonsgüte Fehlerrate Fehlklassfkatonskosten Dskrmnanzanalytsche Verfahren Bayes-Klassfkator Funktonswese Egenschaften Neuronale Netze Funktonswese Egenschaften k-nearest-neghbor Funktonswese Egenschaften CART Funktonswese Egenschaften Zusammenfassung Lteraturverzechns... 25

3 Abbldungsverzechns II Abbldungsverzechns Abbldung : Bespelstruktur enes Neuronalen Netzes... 2 Abbldung 2: Informatonsverarbetungsprozess nnerhalb enes Neurons... 2 Abbldung 3: Kurvenverläufe ausgewählter Aktverungsfunktonen... 4 Abbldung 4: Phasen des Lernprozesses n enem NN... 5 Abbldung 5: k-nearest-neghbor-verfahren (k=)... 8 Abbldung 6: Bespel enes CART für ene Kredtwürdgketsprüfung... 9 Abbldung 7: Verlauf des Gn-Index (k=2)... 2

4 Enführung. Enführung.. Problemstellung Ene Bank st be der Kredtvergabe daran nteressert, möglchst nur denengen Kunden en Darlehen zu gewähren, von denen se ene problemlose Rückzahlung der Verbndlchketen erwarten kann. Aus desem Grund wrd se für eden Antragsteller zunächst ene Kredtwürdgketsprüfung durchführen, nnerhalb derer anhand bestmmter Merkmale (z.b. Höhe des Gehalts, bsherges Zahlungsverhalten) entscheden wrd, ob der ewelge Antragsteller der Gruppe der kredtwürdgen oder der Gruppe der ncht kredtwürdgen Kunden zuzuordnen st. Auf Bass deser Zuordnung kann anschleßend ene Entschedung über de Gewährung oder de Ablehnung des Kredts erfolgen. Das Problem be der Klassfkaton von Antragstellern, ebenso we be der Klassfkaton belebger anderer Obekte, besteht allerdngs darn, deengen Merkmale auszuwählen, de ene sgnfkante Trennung zwschen den enzelnen Gruppen ermöglchen. Ene wetere Schwergket stellt de Bestmmung der Klassfkatonsregel dar, mt der de Zuordnung der Obekte zu den enzelnen Gruppen erfolgt. De aufgeführten Probleme blden den Ausgangspunkt der Dskrmnanzanalyse, de auf ene Arbet von R.A. Fsher aus dem Jahre 936 zurückgeht. Dabe handelt es sch um en multvarates Verfahren der Statstk 2, das sch mt der Untersuchung von Gruppenunterscheden sowe der Vorhersage der Gruppenzugehörgket von Obekten beschäftgt. Im Gegensatz zur Clusteranalyse werden be der Dskrmnanzanalyse kene neuen Gruppen gebldet, sondern nur berets bestehende betrachtet. 3 Zel deser Arbet st es, de Grundlagen der Dskrmnanzanalyse zu erläutern und de Verfahren zur Vorhersage der Gruppenzugehörgket vorzustellen. Zum besseren Verständns beschränkt sch de Darstellung dabe auf den Fall zweer Gruppen, der auch n der Praxs häufg anzutreffen st. Auf ene Erläuterung des Vgl. Fsher, R.A., The use of multple measurements, De multvarate Statstk untersucht de Bezehungsstrukturen zwschen velen Varablen., Daz- Bone, Raner, Multple Lneare Regresson, Vgl. Stahel, Werner, Clusteranalyse, o.j.

5 Enführung 2 Vorgehens für de Untersuchung von Gruppenunterscheden (Merkmalsauswahl) wrd m Rahmen der Ausarbetung verzchtet und stattdessen auf de Arbeten von Trampsch 4 oder Hupfeld 5 verwesen..2. Glederung der Arbet Das zwete Kaptel behandelt de Grundlagen der Dskrmnanzanalyse. Nach ener kurzen Beschrebung des prnzpellen Vorgehens be der Klassfkaton werden Krteren zur Beurtelung von Dskrmnanzregeln formulert und dese n den folgenden beden Abschntten näher erläutert. Herbe wrd zunächst auf de verschedenen Arten von Merkmalen engegangen und anschleßend en geegnetes Maß für de Beurtelung der Klassfkatonsgüte defnert. Im drtten Kaptel, dem egentlchen Haupttel der Arbet, werden de aus Scht des Autors wesentlchen Klassfkatonsverfahren mt hren ewelgen Egenschaften vorgestellt. Be desen Verfahren handelt es sch um den Bayes-Klassfkator, Neuronale Netze, k-nearest-neghbor und CART. Den Abschluss der Arbet bldet ene Zusammenfassung der wesentlchen Aussagen aus den vorangegangenen Kapteln. 4 Vgl. Trampsch, H.J, Dskrmnanzanalyse, 985, S Vgl. Hupfeld, Jörg, Enführung n de Dskrmnanzanalyse, 998.

6 Grundlagen der Dskrmnanzanalyse 3 2. Grundlagen der Dskrmnanzanalyse Im Rahmen der Dskrmnanzanalyse werden Verfahren gesucht, mt denen de Gruppenzugehörgket von bslang unbekannten Obekten möglchst zuverlässg vorhergesagt werden kann. Dabe lässt sch das grundsätzlche Vorgehen n zwe Phasen untertelen:. Lernphase: In der Lernphase wrd aus der zu klassfzerenden Grundgesamthet zunächst ene Stchprobe entnommen und für edes darn befndlche Obekt de tatsächlche Gruppenzugehörgket sowe de Ausprägungen x x,..., x ) n den Merkmalen X,..., X p ermttelt. 6 ( p Anschleßend wrd ene geegnete Zuordnungsregel λ gesucht, de de Obekte aus der Stchprobe anhand des obektspezfschen Merkmalsvektors x genau ener der k vordefnerten Gruppen G,...,Gk so zuordnet, dass dese Zuordnung mt der tatsächlchen Gruppenzugehörgket des Obekts überenstmmt. 2. Klassfkatonsphase: De Klassfkatonsphase zechnet sch durch de Anwendung der ermttelten Dskrmnanzregel auf de unbekannten Obekte n der Grundgesamthet aus, so dass edes Obekt aus klassfzert wrd. Für de Auswahl enes Klassfkatonsverfahrens spelen de zugrunde legenden Merkmalsarten sowe de Genaugket, mt der de Zuordnung der Obekte zu den enzelnen Gruppen erfolgt, ene wchtge Rolle. 7 Daneben snd u.a. de Geschwndgket der Klassfkaton, de Stabltät gegenüber Ausreßern und de Interpreterbarket der Ergebnsse für de Beurtelung von Interesse, wobe dese Krteren m Folgenden ncht weter behandelt werden sollen. p 2.. Arten von Merkmalen De be der Klassfkaton betrachteten Merkmale X,..., X p können hnschtlch hrer möglchen Ausprägungen n quanttatve und qualtatve Merkmale unterscheden werden. 6 Vgl. Trampsch, H.J, Dskrmnanzanalyse, 985, S Vgl. Nothnagel, Mchael, Dskrmnanzanalyse, 999, S27.

7 Grundlagen der Dskrmnanzanalyse Quanttatve Merkmale Quanttatve Merkmale bestzen als Ausprägungen nur reelle Zahlen. De Abstände zwschen den enzelnen Ausprägungen lassen sch berechnen und snnvoll nterpreteren (z.b. Semesterzahl, Körpergröße, Alter, Geldbeträge). 8 Häufg erfolgt ene wetere Untertelung der quanttatven Merkmale n dskrete und stetge Größen. Erstere können n enem bestmmen Intervall höchstens abzählbar vele Ausprägungen annehmen (z.b. Semesterzahl), letztere hngegen überabzählbar vele (z.b. Alter, Geldbeträge) Qualtatve Merkmale De Ausprägungen von qualtatven Merkmalen snd kene reellen Zahlen (z.b. Geschlecht, Geburtsort), dementsprechend st ene Interpretaton der Abstände ncht snnvoll. Qualtatve Merkmale lassen sch n ordnale und nomnale Größen unterscheden. 0 Be nomnalen Merkmalen exstert zwschen den Ausprägungen kene Ordnung (z.b. Geschlecht). Es st ledglch feststellbar, ob se glech oder verscheden snd. De Ausprägungen von ordnalskalerten Merkmalen können hngegen n ene Rangfolge gebracht werden, wobe ebenfalls kene Aussage über de Abstände möglch st (z.b. Qualtätskategoren). In Abhänggket von der Art der Merkmale st ene Unterschedung der Klassfkatonsverfahren n Verfahren für ausschleßlch qualtatve bzw. quanttatve Merkmale und n solche für gemscht skalerte (d.h. qualtatve und quanttatve) Merkmale möglch. Im Rahmen deser Ausarbetung werden nur Verfahren für gemscht skalerte Merkmale betrachtet Beurtelung der Klassfkatonsgüte Das Zel ener Klassfkatonsregel λ besteht darn, de unbekannten Obekte aus der Grundgesamthet möglchst korrekt zu klassfzeren, d.h. hre tatsächlche Gruppenzugehörgket mt hoher Wahrschenlchket rchtg vorherzusagen. Dabe st mt eder Klassfkaton das Rsko ener Fehlentschedung verbunden. Im her betrachteten Fall zweer Gruppen G und G 2 snd zwe Arten von Fehl- 8 Vgl. Löwe, Matthas, Enführung n de elementare Stochastk, 2005, S5f. 9 Vgl. Wehs, Claus, Dskrmnanzanalyse, 2000, S Vgl. Nothnagel, Mchael, Dskrmnanzanalyse, 999, S.8f.

8 Grundlagen der Dskrmnanzanalyse 5 entschedungen möglch: De Regel λ ordnet en Obekt aus der Gruppe G rrtümlch der Gruppe G 2 zu oder umgekehrt Fehlerrate De Güte ener Klassfkatonsregel bestmmt sch anhand hrer Fehlerrate E ( ), de als das Verhältns zwschen der Anzahl der falsch klassfzerten Obekte und der Anzahl der nsgesamt klassfzerten Obekte defnert st: Anzahl falsch klassfzerter Obekte E( ) (2.) Anzahl klassfzerter Obekte De mt Hlfe von (2.) berechnete emprsche Fehlerrate st stark von der Wahl der zugrunde legenden Stchprobe abhängg. Für unterschedlche Stchproben können sch demnach stark dffererende Fehlerraten ergeben, de sch entsprechend auf de Beurtelung der Klassfkatonsregel auswrken. Dabe wrd de emprsche Fehlerrate mt wachsendem Stchprobenumfang gegen de wahre Fehlerrate n der Grundgesamthet streben. Um edoch auch be ener relatv klenen Stchprobe ene Aussage über de wahre Fehlerrate ener Regel machen zu können, wurden ene Rehe von Schätzmethoden entwckelt, von denen m Folgenden dre erläutert werden sollen:. Resubsttutonsmethode: De Resubsttutonsmethode stellt das enfachste Verfahren zur Fehlerratenschätzung dar. Dabe wrd de Klassfkatonsregel zunächst auf alle Obekte aus der Tranngsstchprobe angewandt und anschleßend der Antel der falsch klassfzerten Tranngsobekte bestmmt. In der Praxs erwest sch de ermttelte Fehlerrate edoch als schlechter Schätzer für de wahre Fehlerrate, nsbesondere be klenen Stchproben. 2 De Ursache herfür legt n der Verwendung der Tranngsstchprobe sowohl zur Bestmmung der Zuordnungsregel als auch zur Ermttlung der Fehlerrate. Durch de Überanpassung der Regel an de Tranngsstchprobe ergbt sch dadurch m Allgemenen ene zu optmstsche Schätzung für de wahre Fehlerrate. 3 Vgl. Wehs, Claus, Dskrmnanzanalyse, 2000, S Vgl. Wehs, Claus, Dskrmnanzanalyse, 2000, S Vgl. Trampsch, H.J, Dskrmnanzanalyse, 985, S. 02f.

9 Grundlagen der Dskrmnanzanalyse 6 2. Hold-Out-Methode: Be der Hold-Out-Methode wrd de Tranngsstchprobe n enen Lern- und enen Testdatensatz aufgetelt. Ersterer dent zur Konstrukton der Klassfkatonsregel und letzterer zur Ermttlung der Fehlerrate. Dese Trennung vermedet de Verfälschung der Fehlerrate und führt berets ab enem 000 Obekte umfassenden Testdatensatz zu ener guten Approxmaton der wahren Fehlerrate, sofern de statstsche Unabhänggket von Lern- und Tranngsdatensatz gegeben st. 4 Als Nachtel der Hold-Out-Methode erwest sch, dass nur en Tel der Tranngsstchprobe als Lerndatensatz verwendet wrd und somt wertvolle Informaton für de Bestmmung der Klassfkatonsregel 5 verloren geht. 3. Leavng-one-out-Methode: Der Leavng-one-out-Methode legt ebenfalls ene Auftelung der Tranngsstchprobe n enen Lern- und enen Testdatensatz zugrunde. Im Gegensatz zur Hold-out-Methode handelt es sch herbe allerdngs ncht um ene statsche Auftelung der n Obekte aus der Tranngsstchprobe, sondern velmehr um enen dynamschen Prozess, der sch n dre Phasen untertelt: In der ersten Phase werden aus der Stchprobe n Obekte als Lerndatensatz entnommen und zur Bestmmung der Klassfkatonsregel engesetzt. Das n der Stchprobe verblebende n -te Obekt bldet den Testdatensatz, der n der zweten Phase zur Überprüfung der Klassfkatonsregel verwendet wrd. De drtte Phase stößt schleßlch de Wederholung der vorangegangen Phasen an. Der Algorthmus termnert, wenn edes der n Tranngsobekte als Testdatensatz verwendet wurde. De Fehlerrate ergbt sch, ndem de Anzahl der falsch zugeordneten Obekte durch n dvdert wrd. Trampsch empfehlt de Methode als Standardmethode zur Fehlerratenschätzung 6, da se m Mttel enen rchtgen Schätzwert lefert Fehlklassfkatonskosten Be der bshergen Betrachtung wurde mplzt davon ausgegangen, dass de Fehlentschedung, en Obekt aus der Gruppe G der Gruppe G 2 zuzuordnen, de gleche Bedeutung bestzt, we de Fehlentschedung, en Obekt aus der Gruppe G 2 4 Vgl. Wehs, Claus, Dskrmnanzanalyse, 2000, S Wehs, Claus, Dskrmnanzanalyse, 2000, S Trampsch, H.J, Dskrmnanzanalyse, 985, S. 07.

10 Grundlagen der Dskrmnanzanalyse 7 der Gruppe G zuzuordnen. Bonne und Armnger führen edoch an, dass dese Annahme n der Praxs häufg ncht erfüllt st. 8 Bespelspelswese st das Rsko, enen gesunden Patenten als krank zu klassfzeren, n der Regel gernger zu bewerten als das Rsko, enen kranken Patenten als gesund zu klassfzeren. 9 Um der unterschedlchen Bedeutung der beden Rskoarten Rechnung zu tragen, können so genannte Fehlklassfkatonskosten C (, ) 0 für falsche und C (, ) 0 für rchtge Zuordnungen engeführt werden. Der Index bezechnet herbe de tatsächlche und der Index de prognostzerte Gruppenzugehörgket enes Obekts. 20 Das Zel ener Klassfkatonsregel besteht dann ncht mehr n der Mnmerung der Fehlerrate, sondern velmehr n der Mnmerung der Fehlklassfkatonskosten. 2 Allerdngs snd dese Kosten oftmals schwer zu bestmmen und entsprechende Quantfzerungen eher subektver Natur. Daher werden se n der Praxs häufg als dentsch angenommen 22, obwohl de Unglechhet der zugrunde legenden Rskoarten offenschtlch st. 7 Vgl. Trampsch, H.J, Dskrmnanzanalyse, 985, S Vgl. Bonne, Thorsten / Armnger, Gerhard, Dskrmnanzanalyse, 200, S Bonne, Thorsten / Armnger, Gerhard, Dskrmnanzanalyse, 200, S Vgl. Bonne, Thorsten / Armnger, Gerhard, Dskrmnanzanalyse, 200, S Vgl. Bao, Ho Tu, Knowlege Engneerng, o.j. 22 Wehs, Claus, Dskrmnanzanalyse, 2000, S.590.

11 Dskrmnanzanalytsche Verfahren 8 3. Dskrmnanzanalytsche Verfahren Für de Klassfkaton von Obekten exstert ene Velzahl dskrmnanzanalytscher Verfahren, de sch nsbesondere n der Herangehenswese an de Problemstellung unterscheden. Im Rahmen deses Kaptels sollen ver deser Verfahren näher erläutert werden, wobe deren grundsätzlche Funktonswese und hre wesentlchen Egenschaften m Mttelpunkt der Betrachtungen stehen. 3.. Bayes-Klassfkator Das Bayes-Verfahren basert auf wahrschenlchketstheoretschen Überlegungen und st besonders wegen sener hohen Geschwndgket und Präzson für de Klassfkaton großer Datenmengen von Interesse. 23 Allerdngs setzt es bestmmte Kenntnsse über de Vertelung der Gruppen sowe der darn befndlchen Obekte voraus, de n der Praxs mest ncht vorhanden snd oder nur sehr aufwändg beschafft werden können Funktonswese Der Bayes-Klassfkator Bayes (x) ordnet en Obekt derengen Gruppe G (mt,...,k ) zu, welche für den obektspezfschen Merkmalsvektor x de größte Auftrttswahrschenlchket P( G x) bestzt. Im Falle zweer Gruppen ( k 2 ) glt: 24 G : wenn P( G x) P( x) Bayes ( x) (3.) : wenn P( G x) P( x) De Auftrttswahrschenlchket P( G x) kann mt Hlfe des Theorems von Bayes bestmmt werden: P( G x) k P( x G ) P( x G ) (3.2) 23 Vgl. Pretzer, Mchael, Clusterng und Klassfkaton, 2003, S Vgl. Bonne, Thorsten / Armnger, Gerhard, Dskrmnanzanalyse, 200, S. 96.

12 Dskrmnanzanalytsche Verfahren 9 Da es sch be dem Nenner um ene konstante Größe für alle Gruppen handelt, st für de Zuordnung enes Obekts allen der Zähler P x G ) ausschlaggebend. Um ( desen berechnen zu können, müssen de beden Faktoren und P x G ) ( anhand der Tranngsstchprobe T geschätzt werden. Der Faktor herbe de Wahrschenlchket für das Auftreten der Gruppe bezechnet G n der Grundgesamthet und kann durch enfaches Auszählen von T ermttelt werden: 25 Anzahl Obekte aus G n T (3.3) Anzahl aller Obekte n T Demgegenüber gestaltet sch de Schätzung von P x G ) deutlch schwerger. Da ( sch der Merkmalsvektor x aus den p Ausprägungen der Merkmale X,..., X p zusammensetzt, muss de Wahrschenlchket für ede Kombnaton der Merkmalsausprägungen bestmmt werden. Des st aufgrund des herfür erforderlchen Stchprobenumfangs n der Praxs kaum möglch. Um dennoch P x G ) berechnen ( zu können, wrd m Allgemenen de Unabhänggket der Merkmale unterstellt, so ( dass sch P x G ) aus der Multplkaton der bedngten Auftrttswahrschenlchketen für de Merkmalsausprägungen x,..., x p n der Gruppe G ergbt: 26 p P( x G ) P( x G ) (3.4) De Wahrschenlchket P x G ) lässt sch wederum durch Auszählen der ( Tranngsstchprobe schätzen: 27 Anzahl Obekte aus G n T mt Ausprägung x P( x G ) (3.5) Anzahl Obekte aus G n T 25 Vgl. Wehr, Stephan, Automatsche Klassfkaton, 2002; ebenso: Pretzer, Mchael, Clusterng und Klassfkaton, 2003, S Vgl. Wehr, Stephan, Automatsche Klassfkaton, 2002; ebenso: Pretzer, Mchael, Clusterng und Klassfkaton, 2003, S Vgl. Wehr, Stephan, Automatsche Klassfkaton, 2002; ebenso: Pretzer, Mchael, Clusterng und Klassfkaton, 2003, S. 24.

13 Dskrmnanzanalytsche Verfahren 0 Be klenen Stchproben besteht allerdngs de Gefahr, dass kenes der Obekte aus der Gruppe G de Ausprägung x bestzt. In desem Fall glt P ( x G ) 0 und somt nmmt auch P x G ) den Wert 0 an. Um deses Problem zu vermeden, wrd ( P x G ) n der Praxs häufg noch geglättet. 28 ( Der Bayes-Klassfkator bestzt ene mnmale Fehlerrate, da er en Obekt stets der Gruppe mt der größten Auftrttswahrschenlchket für den obektspezfschen Merkmalsvektor zuordnet. 29 De Fehlerrate lässt sch m Falle zweer Gruppen we folgt berechnen: 30 E ) P( G G ) P( G ) (3.6) ( Bayes Bayes 2 2 Bayes Dabe bezechnet P Bayes G 2 G ) de Wahrschenlchket, mt der en Obekt aus ( der Gruppe G falsch klassfzert wrd und P( Bayes G ) de analoge Wahrschenlchket für de fehlerhafte Zuordnung enes Obekts aus der Gruppe G Egenschaften De wesentlchen Egenschaften des Bayes-Klassfkators wurden berets n der Enletung zu desem Abschntt erläutert. Herzu zählen nsbesondere de hohe Geschwndgket des Verfahrens und dessen Präzson be der Klassfkaton von großen Datenmengen. 3 Dem stehen de Nachtele gegenüber, dass de Annahme der Merkmalsunabhänggket m Allgemenen ncht zutrfft (z.b. st das Merkmal Enkommen vom Merkmal Beruf abhängg) und für de verlässlche Schätzung der Wahrschenlchketen en sehr großer Stchprobenumfang erforderlch st Vgl. Wehr, Stephan, Automatsche Klassfkaton, Vgl. Bonne, Thorsten / Armnger, Gerhard, Dskrmnanzanalyse, 200, S Vgl. Trampsch, H.J, Dskrmnanzanalyse, 985, S Vgl. Pretzer, Mchael, Clusterng und Klassfkaton, Vgl. Wehs, Claus, Dskrmnanzanalyse, 2000, S. 59.

14 Dskrmnanzanalytsche Verfahren 3.2. Neuronale Netze Neuronale Netze smuleren de Funktonswese des Gehrns und bestehen aus ener Velzahl enfacher Enheten, den so genannten Neuronen, de über gerchtete und gewchtete Verbndungen unterenander Informatonen austauschen. 33 Im Hnblck auf de zulässge Flußrchtung der Informatonen zwschen den Neuronen können Netze ohne Rückkoppelung (Feed-Forward-Netze) und Netze mt Rückkoppelung (Feed-Backward-Netze) unterscheden werden. Be ersteren dürfen Informatonen stets nur n ene Rchtung fleßen, be letzteren st der Informatonsfluss n bede Rchtungen erlaubt. 34 Im Rahmen deses Abschntts werden ausschleßlch Feed-Forward-Netze betrachtet Funktonswese Feed-Forward-Netze zechnen sch durch ene Anordnung der Neuronen n mehreren Schchten aus, wobe edes Neuron ener vorgelagerten mt edem Neuron ener nachgelagerten Schcht verbunden st. De oberste Schcht wrd als Ausgabeund de unterste Schcht als Engabeschcht bezechnet. Dazwschen legen ene oder mehrere versteckte Schchten, de von außen ncht zugänglch snd und n denen de egentlche Informatonsverarbetung stattfndet. 35 De folgenden Ausführungen beschränken sch auf Netze mt ener versteckten Schcht ( One Hdden Layer ), deren prnzpeller Aufbau (Topologe) n Abbldung veranschaulcht wrd: 33 Vgl. Lppe, Wolfram, Enführung n Neuronale Netze, Vgl. Strecker, Stefan, Künstlche Neuronale Netze, 997, S Vgl. Strecker, Stefan, Künstlche Neuronale Netze, 997, S. 7f.

15 Dskrmnanzanalytsche Verfahren 2 Ausgabeschcht Neuron Versteckte Schcht Topologe des Netzes Verbndung Engabeschcht Abbldung : Bespelstruktur enes Neuronalen Netzes 36 Grundsätzlch bestzt edes der n Abbldung dargestellten Neuronen p Engangskanäle, über de es Informatonen von anderen Neuronen oder der Netzumgebung empfängt, sowe berechneten Output Netzumgebung abgbt. 37 Abbldung 2 gezegten Prozess: m Ausgangskanäle, über de es sene o an de Neuronen der nachgelagerten Schcht bzw. an de De Berechnung des Outputs erfolgt nach dem n Bsherger Aktverungszustand des Neurons x w o x2 xp w2 Ermttlung der Berechnung Bestmmung der o Netzengabe des neuen Ausgabe o 2 wp Aktverungszustands o m Abbldung 2: Informatonsverarbetungsprozess nnerhalb enes Neurons In Anlehnung an: Strecker, Stefan, Künstlche Neuronale Netze, 997, S Vgl. Strecker, Stefan, Künstlche Neuronale Netze, 997, S In Anlehnung an: Strecker, Stefan, Künstlche Neuronale Netze, 997, S. 4.

16 Dskrmnanzanalytsche Verfahren 3. Ermttlung der Netzengabe: Im ersten Schrtt ermttelt das Neuron aus den empfangenen Inputdaten x,..., x p und den zugehörgen Verbndungsgewchten w,...,, w2 wp sene spezfsche Netzengabe: 39 net p w x (3.7) De Gewchte w,...,, w2 wp entsprechen herbe reellen Zahlen, de de Stärke ener Verbndung zwschen dem Neuron und enem Neuron,..., (mt p ) der vorgelagerten Schcht beschreben. Se werden m Rahmen des Lernprozesses modfzert und repräsenteren n hrer Gesamthet das erlernte Wssen des Netzes. 2. Berechnung des neuen Aktverungszustands: Aus der Netzengabe net und sener bshergen Aktvtät a (t) berechnet das Neuron anschleßend über ene Aktverungsfunkton f sene neue Aktvtät a ( t ) f ( net, a ( t)). 40 In der Praxs west f häufg ene lneare, sprunghafte (Schwellenwertfunkton) oder stetge (Sgmodfunkton) Gestalt auf, wobe aus Verenfachungsgründen auf ene explzte Berückschtgung des bshergen Aktverungszustands des Neurons verzchtet wrd: 4 Lneare Funkton: f ( net ) net (3.8) Schwellenwertfunkton: : wenn net S f ( net ) (3.9) 0 : wenn net S Sgmodfunkton: f ( net ) (3.0) net e De Verläufe der oben genannten Funktonen snd n Abbldung 3 dargestellt: 39 Vgl. Lppe, Wolfram-M., Prnzpen Künstlcher Neuronaler Netze, Vgl. Strecker, Stefan, Künstlche Neuronale Netze, 997, S Vgl. Lppe, Wolfram-M., Prnzpen Künstlcher Neuronaler Netze, 2000.

17 Dskrmnanzanalytsche Verfahren 4 Abbldung 3: Kurvenverläufe ausgewählter Aktverungsfunktonen 42 Be der Schwellenwertfunkton nmmt das Neuron den Zustand Ens an, wenn sene Netzengabe ene defnerte Schranke S überstegt, andernfalls den Zustand Null. Der Werteberech der Funkton st demzufolge dskret und auf de beden Werte { 0,} beschränkt. Im Untersched zur Schwellenwertfunkton bestzt de Sgmodfunkton enen stetgen Werteberech m Intervall von [ 0,]. Se lässt sch zudem dfferenzeren, was für de spätere Lernphase ene wesentlche Voraussetzung st Bestmmung der Ausgabe: Den Abschluss des Informatonsverarbetungsprozesses bldet de Bestmmung des neuronalen Outputs o, der an de Neuronen n der nachgelagerten Schcht bzw. an de Netzumgebung wetergeletet wrd. Dazu wendet das Neuron auf senen zuvor ermttelten Aktverungszustand a ( t ) de Ausgabefunkton f Out an: In der Praxs bestzt drekt o a ( t ) glt. 44 o f Out ( a ( t )) (3.) f Out allerdngs häufg kene wetere Funktonaltät, so dass Das Lernen n enem Neuronalen Netz vollzeht sch durch de Modfkaton der Verbndungsgewchte zwschen den Neuronen. Dese werden n der Intalserungsphase des Netzes zunächst per Zufall bestmmt und anschleßend auf Bass ener Tranngsstchprobe so angepasst, dass das Netz de gewünschten Ausgaben erzeugt. Dabe lässt sch der Ablauf des Lernens n de folgenden dre Phasen untertelen: 42 In Anlehnung an: Lppe, Wolfram-M., Prnzpen Künstlcher Neuronaler Netze, Vgl. Nothnagel, Mchael, Dskrmnanzanalyse, 999, S Vgl. Strecker, Stefan, Künstlche Neuronale Netze, 997, S. 3.

18 Dskrmnanzanalytsche Verfahren 5 Phase Forward Pass Engabeschcht Versteckte Schcht Ausgabeschcht Engabe Phase 2 Fehlerbestmmung Phase 3 - Backpropagaton Abbldung 4: Phasen des Lernprozesses n enem NN 45. Forward Pass: In der ersten Phase des Lernprozesses wrd en belebges Obekt aus der Tranngsstchprobe ausgewählt und de enzelnen Komponenten senes Merkmalsvektors x,..., x p an den entsprechenden Neuronen der Engabeschcht angelegt. Dese leten de Informatonen drekt an de Neuronen n der versteckten Schcht weter, wo de Verarbetung der Daten nach dem n Abbldung 2 dargestellten Schema erfolgt. Der ewels berechnete Output wrd den Neuronen n der Ausgabeschcht zur Verfügung gestellt, dort erneut verarbetet und n Form der prognostzerten Gruppenzugehörgket für das angelegte Obekt an de Netzumgebung gesendet. 2. Fehlerbestmmung: De Ausgabe des Netzes wrd anschleßend mt der erwünschten Ausgabe, n desem Fall der tatsächlchen Gruppenzugehörgket des Tranngsobekts, verglchen und der Netzwerkfehler bestmmt. Überstegt deser enen festgelegten Schwellwert, so erfolgt m Rahmen der Backpropagaton-Phase ene Anpassung der Verbndungsgewchte, andernfalls wrd de Lernphase für deses Obekt beendet Backpropagaton-Phase: De Anpassung der Verbndungsgewchte gescheht nnerhalb enes teratven Prozesses. Zunächst werden de Gewchte zwschen der Ausgabeschcht und der hr vorgelagerten versteckten Schcht modfzert, anschleßend erfolgt de Anpassung der Gewchte zwschen der versteckten 45 In Anlehnung an: Werner, H., Backpropagaton, 997, S.. 46 Vgl. Lppe, Wolfram-M., Backpropagaton Learnng, 2000.

19 Dskrmnanzanalytsche Verfahren 6 Schcht und der Engabeschcht. 47 De Backpropagaton-Phase führt schleßlch zur Ermttlung von Gewchtskombnatonen, de ene bestmöglche Klassfkaton der Tranngsobekte erlauben. Nach Abschluss der Lernphase wrd de Generalserungsfähgket des tranerten Netzes anhand ener weteren Stchprobe überprüft. Dese Teststchprobe enthält neue Obekte, de mt denen aus der Tranngsstchprobe ncht dentsch snd. Auch für dese Fälle wrd der Netzwerkfehler ermttelt und ene erneute Tranngsphase ntert, falls der Schwellwert aus Phase zwe überschrtten wrd. 48 Andernfalls wrd de Testphase abgeschlossen und dem Netz ene genügend hohe Vorhersagegenaugket für zukünftge, neu zu klassfzerende Obekte unterstellt Egenschaften Neuronale Netze zechnen sch nsbesondere durch hre hohe Lernfähgket, Paralleltät be der Informatonsverarbetung und Fehlertoleranz aus. 49 Ihre Struktur st durch de Hnzunahme weterer Schchten erweterbar, so dass theoretsch belebg komplexe Funktonen approxmert werden können. 50 Allerdngs besteht der große Nachtel enes Neuronalen Netzes n der mangelnden Transparenz sener Ergebnsse, da sch de Verbndungsgewchte kaum nterpreteren lassen. Zudem west Nothnagel darauf hn, dass das Setup enes Netzes ene Velzahl von Entschedungen erfordert (z.b. de Anzahl der Schchten, de Anzahl der Neuronen pro Schcht, de Wahl der Aktverungsfunkton, etc.), de ene automatserte Bestmmung der Dskrmnanzregel 5 nur begrenzt zulassen k-nearest-neghbor Funktonswese 53 Dem k-nearest-neghbor-verfahren legt de Überlegung zugrunde, dass benachbarte Obekte häufg ähnlche Merkmalsausprägungen bestzen und 47 Vgl. Lppe, Wolfram-M., Backpropagaton Learnng, Vgl. Lppe, Wolfram-M., Backpropagaton Learnng, Vgl. Lppe, Wolfram-M., Enführung n Neuronale Netze, Vgl. Nothnagel, Mchael, Dskrmnanzanalyse, 999, S Nothnagel, Mchael, Dskrmnanzanalyse, 999, S Vgl. Nothnagel, Mchael, Dskrmnanzanalyse, 999, S In desem Abschntt bezechnet de Varable k de Anzahl der Nachbarn.

20 Dskrmnanzanalytsche Verfahren 7 derselben Gruppe angehören. Daher ordnet das k-nearest-neghbor-verfahren en neues Obekt derengen Gruppe stammt. 54 G zu, aus der de Mehrzahl sener k Nachbarn Dese werden auf Bass ener Tranngsstchprobe ermttelt, wobe sch das grundsätzlche Vorgehen n dre Phasen untertelt:. Abstandsberechnung: Zunächst wrd der Abstand zwschen dem Merkmalsvektor x des zu klassfzerenden Obekts und dem Merkmalsvektor y (mt,..., n ) edes Obekts aus der Tranngsstchprobe bestmmt. Als Abstandsmaß kann herfür z.b. der Eukldsche Abstand verwendet werden, wobe auf de Skalerung der Merkmale zu achten st: 55 D p (, ) ( - y ) 2 x (4.) y x 2. Auswahl der k Nachbarn: Aus der Tranngsstchprobe werden anschleßend deengen k Obekte ausgewählt, de den klensten Abstand D x, y ) zum Merkmalsvektor x aufwesen. 56 ( 3. Klassfkaton: In der abschleßenden Klassfkatonsphase wrd de Auftrttshäufgket der enzelnen Gruppen anhand der k Obekte bestmmt und das neu zu klassfzerende Obekt der Gruppe mt der größten Häufgket zugeordnet. In Abbldung 5 wrd de Klassfkaton enes Obekts nach dem k-nearest-neghbor- Verfahren für den Fall k noch enmal bespelhaft dargestellt. Dabe werden de Obekte aus der Gruppe G durch Rechtecke und de Obekte aus der Gruppe G 2 durch Krese repräsentert. Das neu zu klassfzerende Obekt (Raute) west zu enem Obekt aus der Gruppe G 2 den gerngsten Abstand auf und wrd daher deser Gruppe zugeordnet: 54 Vgl. Pretzer, Mchael, Clusterng und Klassfkaton, 2003, S Vgl. Nothnagel, Mchael, Dskrmnanzanalyse, 999, S Vgl. Pretzer, Mchael, Clusterng und Klassfkaton, 2003, S. 30.

21 Dskrmnanzanalytsche Verfahren 8 G G G G G G Abbldung 5: k-nearest-neghbor-verfahren (k=) Egenschaften Im Gegensatz zu den bsher betrachteten Klassfkatoren entfällt bem k-nearest- Neghbor-Verfahren prnzpell de Lernphase. Sämtlche Informatonen aus der Tranngsstchprobe werden ledglch zwschengespechert und erst ausgewertet, wenn en neues Obekt klassfzert werden soll. 58 Dem stehen de wesentlchen Nachtele gegenüber, dass de vollständgen Tranngsdaten für ede Klassfkaton verfügbar gehalten werden müssen und de Berechnungen zur Klassfkatonszet deutlch mehr Aufwand erfordern CART Der Begrff CART steht für Classfcaton and Regresson Tree und bezechnet en von Bremann et al entwckeltes Klassfkatonsverfahren. Dabe wrd auf Bass der Tranngsstchprobe zunächst en Entschedungsbaum konstruert und deser anschleßend zur Klassfkaton neuer Fälle engesetzt. 57 In Anlehnung an: Smard, Phlppe / Mtran, Marcel, The Nearest Neghbor Rule, Vgl. Pretzer, Mchael, Clusterng und Klassfkaton, 2003, S. 3f. 59 Vgl. Wehs, Claus, Dskrmnanzanalyse, 2000,S Vgl. Breman, L. / Fredman, J.H. / Olshen, R.A. / Stone, C.J., Classfcaton and Regresson Trees, 984.

22 Dskrmnanzanalytsche Verfahren Funktonswese In Abbldung 6 wrd der prnzpelle Aufbau enes CART am Bespel ener stark verenfachten Kredtwürdgketsprüfung verdeutlcht. De Zuordnung enes Kunden zur Gruppe G (kredtwürdg) bzw. (ncht kredtwürdg) erfolgt durch de kundenndvduelle Beantwortung bestmmter Fragen (z.b. Alter < 8 ) und der damt verbundenen Verzwegung m Entschedungsbaum. Das Ergebns der Klassfkaton steht fest, wenn en Blattknoten errecht st, d.h. en Knoten, ohne wetergehende Verzwegungen. Dessen Beschrftung gbt de vom Baum prognostzerte Gruppenzugehörgket des Neukunden an. Alter < 8? Ja Nen SCHUFA-Auskunft negatv? Ja Nen Regelmäßges Gehalt? Ja G Nen Abbldung 6: Bespel enes CART für ene Kredtwürdgketsprüfung Der Algorthmus zur Konstrukton enes CART beruht auf dem Prnzp der bnären rekursven Parttonerung. 6 Den Ausgangspunkt bldet herbe de Tranngsstchprobe, de zunächst n zwe dsunkte Telmengen zerlegt wrd. Deser Prozess setzt sch anschleßend für ede der entstandenen Telmengen solange rekursv fort, bs ede Telmenge nur noch Obekte derselben Gruppe benhalten oder hr Umfang enen vorgegebenen Grenzwert unterschretet. 62 Im Kontext des CART entsprcht ede Telmenge enem Knoten und de ursprünglche Gesamtstchprobe der Wurzel des Entschedungsbaumes. 6 Vgl. Schllnger, Marco Patrck, Classfcaton and Regresson Trees, 2002, S Vgl. Schllnger, Marco Patrck, Classfcaton and Regresson Trees, 2002, S. 48.

23 Dskrmnanzanalytsche Verfahren 20 De Auftelung enes Knotens t erfolgt durch enen so genannten Splt s, der alle Obekte von t anhand hrer Merkmalsausprägung enem lnken Kndknoten x (mt t l oder enem rechten Kndknoten,..., Abhänggket von der Skalerung des zugrunde legenden Merkmals de nachstehende Form: 63 p ) entweder t r zuordnet. In X bestzt s X qualtatv: tl : wenn x C; C { a,..., an} s ( x ) (4.2) tr : wenn x C; C { a,..., an} X quanttatv: tl : wenn x c; c (, ) s( x ) (4.3) tr : wenn x c; c (, ) Das Zel ener Zerlegung von t durch enen Splt s besteht darn, möglchst homogene Kndknoten zu erzeugen, de ewels nur Obekte mt derselben Gruppenzugehörgket benhalten. Als Maß für de Homogentät enes Knotens kann der so genannte Gn-Index verwendet werden: 64 k p 2 gn( t) (4.4) Dabe bezechnet k de Anzahl der Gruppen und p de Wahrschenlchket, mt der en Obekt des Knotens t der Gruppe des Gn-Index für k 2 dargestellt: G angehört. In Abbldung 7 st der Verlauf 63 Vgl. Nothnagel, Mchael, Dskrmnanzanalyse, 999, S. 66f. 64 Vgl. Bonne, Thorsten / Armnger, Gerhard, Dskrmnanzanalyse, 200, S. 26.

24 Dskrmnanzanalytsche Verfahren 2 Abbldung 7: Verlauf des Gn-Index (k=2) 65 Der Gn-Index errecht für den Knoten t sen Maxmum, wenn de beden Gruppen G und G 2 n desem Knoten glechvertelt auftreten ( p 0, 5 und p 0, 5 2 ). Ist de Wahrschenlchket für ene der beden Gruppen hngegen Null ( p 0 oder p 0 2 ), so nmmt er senen mnmalen Wert an.66 De Aufgabe des Telungsalgorthmus besteht darn, aus der Menge aller für enen Knoten n Frage kommender Splts S denengen auszuwählen, der de größtmöglche Veränderung der Homogentät m Entschedungsbaum bewrkt. Dese Veränderung lässt sch mt Hlfe des Gn-Index für enen Splt s we folgt berechnen: 67 gn s, t) gn( t) P( t ) gn( t ) P( t ) gn( t ) (4.5) ( l l r r De Terme P t ) und P t ) n (4.5) stehen herbe für de bedngten ( l ( r Wahrschenlchketen, mt denen en Obekt aus dem Knoten t dem lnken Kndknoten t l bzw. dem rechten Kndknoten t r zugeordnet wrd. Dese Wahrschenlchketen können ermttelt werden, ndem de Anzahl der n den ewelgen Kndknoten ensorterten Obekte durch de Gesamtzahl der Obekte m Ausgangsknoten dvdert wrd: In Anlehnung an : Bonne, Thorsten / Armnger, Gerhard, Dskrmnanzanalyse, 200, S Vgl. Bonne, Thorsten / Armnger, Gerhard, Dskrmnanzanalyse, 200, S Vgl. Bonne, Thorsten / Armnger, Gerhard, Dskrmnanzanalyse, 200, S Vgl. Nothnagel, Mchael, Dskrmnanzanalyse, 999, S. 69.

25 Dskrmnanzanalytsche Verfahren 22 tl P( tl ) bzw. t tr P( tr ) (4.6) t Der auf Bass des beschrebenen Algorthmus erzeugte Entschedungsbaum wrd als Maxmalbaum T MAX bezechnet. Jeder Endknoten t repräsentert darn ene der beden Gruppen G bzw. G 2, wobe de Gruppenzuordnung von t über de Bayes- Regel erfolgt (gleche Klassfkatonskosten vorausgesetzt): 69 G : wenn P( G t) P( t) Bayes ( t) (4.7) : wenn P( G t) P( t) Im Hnblck auf de Fehlerrate bzw. de Fehlklassfkatonskosten bldet T MAX ene optmale Zerlegung der zugrunde legenden Tranngsstchprobe. Allerdngs west der Baum m Allgemenen ene zu starke Anpassung an de zufällge Struktur deser Stchprobe auf ( Overfttng ), so dass er nur ene sehr engeschränkte Generalserungsfähgket für neue Obekte bestzt. 70 Um dese Abhänggket von der Tranngsstchprobe zu reduzeren, wrd der Maxmalbaum daher auf sene optmale Größe gestutzt ( Prunng ). Dazu werden aus dem Baum sukzessve schwach besetzte Knoten entfernt und Telbäume mt abnehmender Komplextät erzeugt. Aus deser Folge T MAX T T2... { t0} von Telbäumen wrd anschleßend derenge ausgewählt, der für ene Teststchprobe de klenste Fehlerrate bestzt bzw. de Fehlklassfkatonskosten mnmert. 7 Ene detallertere Beschrebung des Prunng- Algorthmus fndet sch n den Arbeten von Bonne 72 oder Schllnger Egenschaften Der Vortel des CART-Verfahrens legt n sener enfachen Anwendbarket: Nachdem der Entschedungsbaum konstruert st, lassen sch neue Obekte schnell und effzent klassfzeren. 74 De be der Zuordnung getroffenen Entschedungen snd transparent und können somt lecht nterpretert werden. De Nachtele des 69 Vgl. Nothnagel, Mchael, Dskrmnanzanalyse, 999, S Vgl. Bonne, Thorsten / Armnger, Gerhard, Dskrmnanzanalyse, 200, S Vgl. Bonne, Thorsten / Armnger, Gerhard, Dskrmnanzanalyse, 200, S Vgl. Bonne, Thorsten / Armnger, Gerhard, Dskrmnanzanalyse, Vgl. Schllnger, Marco Patrck, Classfcaton and Regresson Trees, Vgl. Nothnagel, Mchael, Dskrmnanzanalyse, 999, S. 7.

26 Dskrmnanzanalytsche Verfahren 23 Verfahrens legen n dem relatv hohen Aufwand zur Konstrukton des CART sowe n der starken Abhänggket der Baumstruktur von der verwendeten Tranngsstchprobe Vgl. Nothnagel, Mchael, Dskrmnanzanalyse, 999, S. 7.

27 Zusammenfassung Zusammenfassung Im Rahmen deser Arbet wurden de Grundlagen der Dskrmnanzanalyse erläutert und de - aus der Scht des Autors - wesentlchen Klassfkatonsverfahren vorgestellt. Den Ausgangspunkt bldete herbe ene zu klassfzerende Grundgesamthet und ene Menge von vordefnerten Gruppen G,...,Gk. Gesucht wurde en geegneter Klassfkator, der edes Obekt aus anhand des obektspezfschen Merkmalsvektors x genau ener der k Gruppen so zuordnet, dass dese Zuordnung mt der tatsächlchen Gruppenzugehörgket des Obekts überenstmmt. Dabe ergab sch das Problem, dass für de Konstrukton des Klassfkators m Allgemenen nur ene begrenzte Telmenge von Obekten aus zur Verfügung steht und der Klassfkator somt auf Bass deser Telmenge für de Grundgesamthet geschätzt werden muss. Enge der herfür geegneten Verfahren wurden n Kaptel 3 näher erläutert, wobe dre der vorgestellten Verfahren n ener Lernphase zunächst de Telmenge auswerten und explztes Wssen n Form von Wahrschenlchketsvertelungen (Bayes), gewchteten Verbndungen (Neuronale Netze) oder Entschedungsbäumen (CART) aufbauen. Be dem verten Verfahren (k-nearest-neghbor) erfolgt de Auswertung der Telmenge hngegen erst zur Klassfkatonszet, so dass de Lernphase her komplett entfällt. De Auswahl ener Dskrmnanzregel st von zahlrechen Krteren abhängg, von denen m Rahmen der Ausarbetung de Fehlerrate und de Art der zugrunde legenden Merkmalsarten näher erläutert wurden. Wetere Krteren snd u.a. de Geschwndgket der Klassfkaton sowe de Interpreterbarket der Ergebnsse. Welche deser Krteren allerdngs letztlch den Ausschlag für de Verfahrensauswahl geben, st von Fall zu Fall verscheden.

28 Lteraturverzechns 25 Lteraturverzechns Bücher Bonne, Thorsten / Armnger, Gerhard, 200: [Dskrmnanzanalyse], n: Hppner, H. et al. (Hrsg.): Handbuch Data Mnng m Marketng, Wesbaden: Veweg-Verlag, S Breman, L. / Fredman, J.H. / Olshen, R.A. / Stone, C.J., 984: [Classfcaton and Regresson Trees], Belmont: Wadsworth, 984 Fsher, R. A., 936: [The use of multple measurements] n taxonomc problem, Annals of Eugences, 7, S Trampsch, H.J, 985: [Dskrmnanzanalyse], n: Dechsel, G., Trampsch, H.J.: Clusteranalyse und Dskrmnanzanalyse, Stuttgart: Gustav Fscher Verlag, S Wehs, Claus, 2000: [Dskrmnanzanalyse], n: Voß, Werner (Hrsg.): Taschenbuch der Statstk, Lepzg: Fachbuchverlag Lepzg, 2000, S Internet Bao, Ho Tu, o.j.: [Knowlege Engneerng], Internet Abruf , Vetnam, o.j. Daz-Bone, Raner, 2005: [Multple Lneare Regresson], Internet Abruf , Berln, 2005 Hupfeld, Jörg, 998: Ene kurze [Enführung n de Dskrmnanzanalyse], Internet Abruf , Bern, 998 Lppe, Wolfram-M., 2000: [Enführung n Neuronale Netze], Internet wwwnnscrpt/enl.html, Abruf , 2000 Lppe, Wolfram-M., 2000: [Backpropagaton Learnng], Internet Abruf , 2000 Lppe, Wolfram-M., 2000: [Prnzpen Künstlcher Neuronaler Netze], Internet wwwnnscrpt/prn.html, Abruf , 2000 Löwe, Matthas, 2005: [Enführung n de elementare Stochastk], Internet Abruf , Münster, 2005

29 Lteraturverzechns 26 Nothnagel, Mchael, 999: Klassfkatonsverfahren der [Dskrmnanzanalyse] Ene verglechende und ntegrerende Überscht, Internet Abruf , Berln, 999 Pretzer, Mchael, 2003: [Clusterng und Klassfkaton], Internet Abruf , Oldenburg, 2003 Schllnger, Marco Patrck, 2002: Flächenhafte Schätzung mt [Classfcaton and Regresson Trees] und robuste Gütebestmmung ökologscher Parameter n enem klenen Enzugsgebet, Internet Abruf , 2002 Smard, Phlppe / Mtran, Marcel, 999: [The Nearest Neghbor Rule]: A Short Tutoral, Internet smard/nn_theory.html, Abruf , Montreal, 999 Stahel, Werner, o.j.: [Clusteranalyse], Dstanzmethoden, Skalerung, Internet Abruf , Zürch, o.j. Strecker, Stefan, 997: [Künstlche Neuronale Netze] Aufbau und Funktonswese, Internet Abruf , Manz, 997 Werner, H., 997: [Backpropagaton], Internet Abruf , Kassel, 997 Wehr, Stephan, 2002: [Automatsche Klassfkaton] semstrukturerter Daten, Internet Abruf , Saarbrücken, 2002