Assoziationsanalyse und Konzeptbeschreibung

Transkript

1 Assoziationsanalyse und Konzeptbeschreibung Helge Saathoff 7. März 2003 ABSTRACT Wir leben im Informationszeitalter. Fortschritte in der Hard- und Softwaretechnologie haben es ermöglicht, daß heutzutage riesige Datenmengen erfaßt und gespeichert werden können. Das in diesen Datenbanken enthaltene Wissenpotential wird jedoch häufig nicht voll ausgeschöpft. Knowledge Discovery in Databases wurde entwickelt, um diesen Mangel zu beheben. In diesem Forschungsgebiet geht es um die automatisierte Entdeckung von Wissen in Datenbanken mit Hilfe von intelligenten Suchalgorithmen. Diese werden unter dem Begriff Data Mining Verfahren zusammengefaßt. Zwei dieser Verfahren, die Assoziationsanalyse und die Konzeptbeschreibung, sollen in dieser Arbeit vorgestellt werden. Der erste Teil dieser Arbeit befaßt sich mit der Assoziationsanalyse, die nach Regelmäßigkeiten in Datenmengen sucht und diese in Form von Assoziationsregeln darstellt. Für diese Aufgabe steht eine Vielzahl von Suchalgorithmen zur Verfügung, von denen der in dieser Arbeit erläuterte Apriori-Algorithmus der Grundlegendste ist. Je nach Anwendungszweck stehen außerdem mehr oder wenigerkomplexe Typen von Assoziationsregelnzur Verfügung, von denen ebenfalls einige eingeführt werden. Der zweite Teil der Arbeit behandelt das Thema Konzeptbeschreibung. Diese dient dazu, große und unübersichtliche Datenmengen auf ein für menschliche Benutzer verständliches Maß zusammenzufassen ohne dabei wichtige Informationen zu verlieren. In diesem Zusammenhang wird auf die Charakterisierung und den Klassenvergleich mittels Attributorientierter Induktion eingegangen. 1 Einleitung In allen Bereichen des heutigen Lebens gibt es Systeme zur Datenverarbeitung. Ob in der Forschung, der Wirtschaft, im Privatleben oder von staatlicher Seite aus - überall werden Daten gesammelt und gespeichert. Die meisten Datenbanken entstanden aus der Notwendigkeit heraus, bestimmte Daten schnell abrufen zu können. Die Entwicklung neuer Technologien hat es jedoch ermöglicht, Zusammenhänge zwischen den gespeicherten Informationenzuerforschenumso neues Wissen zugänglich zu machen. Das Forschungsgebiet, in dessen Rahmen Methoden für die Suche nach solchem Wissen entwickelt werden trägt den Namen Knowledge Discovery in Databases (KDD). Geprägt wurde dieser Begriff 1991 in einem Artikel im AI Magazine von Gregory Piatetsky-Shapiro. [PS91] Der Nutzen der Assoziationsanalyse soll mit zwei kleinen Beispielen verdeutlicht werden: 1

2 Ein modernes, im Internet präsentes Versandhaus analysiert seine Verkaufsdaten und macht die Feststellung, daß sich die Kunden zwei verschiedene Gruppen aufteilen lassen. Die Mitglieder der Gruppe Junger, gutverdienender, stadtbewohnender Karrierist weisen ein anderes Kaufverhalten auf als die Kunden, die der Gruppe Alleinerziehende Sozialhilfeempfänger angehören. Da die Mitglieder der ersten Gruppe den größeren Beitrag zum Umsatz des Unternehmens leisten, wird das Angebot den Wünschen dieser Kunden angepasst. Ein Supermarkt verwendet die Barcode-Lesegeräte an den Kassen dazu, die Daten der einzelnen Einkäufe zu sammeln. Diese Daten werden an eine Datenbank übermittelt und dort gespeichert. Mittels KDD können Erkenntnisse darüber gewonnen werden, welche Waren häufig zusammen gekauft werden. Eine entsprechende Anordnung dieser Waren in den Regalen kann dann dazu führen, daß aufgrund zufriedener Kundschaft die Verkaufszahlen steigen. Diese recht trivialen Beispiele machen den allgemeinen Nutzen von KDD deutlich. In dieser Arbeit soll zunächst der KDD-Prozess im Allgemeinen kurz vorgestellt werden, um anschließend näher auf zwei spezielle Methoden einzugehen, die Assoziationsanalyse und die Konzeptbeschreibung. Die Assoziationsanalyse wird anhand von Grundlagen und Beispielen eingeführt. Im Anschluß wird mit dem Apriori-Algorithmus ein grundliegender Algorithmus für das Finden von Assoziationsregeln erläutert. Das Kapitel Assoziationsanalyse schließt mit der Vorstellung mehrerer komplexerer Assoziationsregeln ab, die für anspruchsvollere Aufgaben entwickelt wurden. Mit der Konzeptbeschreibung wird eine Methode für die Ermittlung einer zusammengefaßten Sicht auf Datenmengen vorgestellt. Die Konzeptbeschreibung ist in zwei Komponenten gegliedert: die Charakterisierung von Klassen und dem Klassenvergleich. Die Funktionsweise dieser beiden Bereiche sowie auf den ihnen zugrundeliegenden Algorithmus der attributorientierten Induktion wird im Rahmen dieser Arbeit genauer betrachtet werden. 2 Knowledge Discovery in Databases KDD befasst sich mit der automatischen Generierung und Prüfung von Methoden und Hypothesen zur Beschreibung von in einem Datenbestand vorhandenen Regelmässigkeiten. Es ist zwar keine allgemein anwendbare und sicher zum Erfolg führende Methode bekannt, mit der Wissen aus Datenbanken gewonnen werden kann, aber es existieren viele Techniken, die auf viele praktische Probleme anwendbar sind und zu zufriedenstellenden Ergebnissen führen [bor]. KDD ist das Forschungsgebiet, daß sich mit der Entwicklung und Untersuchung dieser Methoden befasst. Die Anwendung dieser Techniken erfolgt im sogenannten KDD-Prozess. Dieser wird von Fayyad, Piatetsky-Shapiro & Smyth folgendermaßen definiert [FPSS96]: KDD Process is the process of using the database along with any required selection, preprocessing subsampling, and transformations of it; to apply data mining methods (algorithms) to enumerate patterns from it; and to evaluate the products of data mining to identify the subset of the enumerated patterns deemed knowledge. 2

3 Der KDD-Prozess ist also ein iterativer (und interaktiver) Vorgang, in dessen Verlauf auf Daten einer Datenbank zugegriffen wird, diese Daten mehrere Phasen der Bearbeitung durchlaufen und schliesslich ein Ergebnis (neues Wissen) präsentiert wird. Nach diesem Verständnis besteht der KDD-Prozeß aus folgenden Schritten: 1. Die Datenbereinigung sortiert fehlerhafte, abweichende, unvollständige und irrelevante Daten aus. 2. Die Datenintegration vereinigt mehrere Datenquellen zu einer einzigen. 3. Die Datenselektion wählt die für den KDD-Prozeß relevanten Daten aus. 4. Durch Datentransformation werden die Daten in ein für Data Mining geeignetes Format gebracht. 5. Data Mining ist schließlich der essentielle Part des KDD-Prozesses, in dem intelligente Algorithmen die Daten nach Mustern durchsuchen. 6. In der Musterevaluierung werden uninteressante Muster aussortiert. 7. Die Wissensrepräsentation macht dem Benutzer das neue Wissen in einer verständlichen Form zugänglich. Die ersten 4 Phasen des Prozessen lassen sich durch Interaktion mit dem Benutzer des Data-Mining-Tools bewältigen. Die Phasen Musterevaluierung und Wissensrepräsentation werden auch häufig dem Data Mining zugerechnet. Data Mining ist der zentrale Schritt des KDD-Prozesses, bestehend aus der Anwendung von Algorithmen zur Datenanalyse und Entdeckung von Strukturen, die neues Wissen enthalten. Die Auswahl der zu verwendenden Entdeckungstechniken hängt von dem gewünschten Ergebnis ab. Der Benutzer eines Data-Mining-Tools legt die Art der gewünschten Ergebnisse fest, prüft und bewertet sie und läßt gegebenenfalls die Anwendung der Data Mining Verfahren des KDD-Prozesses erneut durchlaufen. Spätestens hier wird deutlich, daß KDD kein völlig automatisierter sondern ein interaktiver Prozeß ist. Mit der Zeit haben sich verschiedene Aufgaben des Data Mining herauskristallisiert, die anhand von Beispielen aus dem Handel verdeutlicht werden; Klassifikation (classification) Ist dieser Kunde kreditwürdig? Konzeptbeschreibung (concept description) Was unterscheidet reparaturanfällige Fahrzeuge von anderen? Segmentierung (segmentation, clustering) Was für Kundengruppen habe ich? Prognose (prediction, trend analysis) Wie wird sich der Dollarkurs entwickeln? 3

4 Abhängigkeitsanalyse (dependency, association analysis) Welche Produkte werden zusammen gekauft? Abweichungsanalyse (deviation analysis) Gibt es jahreszeitliche Umsatzschwankungen? Die zur Bewältigung der Aufgaben eingesetzten Techniken lassen sich grundsätzlich in zwei Kategorien einteilen: beschreibende (deskriptive) und vorhersagende (prediktive) Data-Mining-Verfahren, auch wenn die Einteilung nicht immer eindeutig ist. Beschreibendes Data Mining analysiert die vorhandenen Daten, faßt sie zusammen und präsentiert die gefundenen interessanten Strukturen. Vorhersagendes Data Mining analysiert die Daten um Regelmässigkeiten zu identifizieren und das Verhalten neuer Datensätze vorherzusagen. In dieser Arbeit werden zwei Data-Mining-Methoden vorgestellt: 1. Die Assoziationsanalyse entstand aus der Warenkorbanalyse, die den Zweck hat, das Warenangebot den Wünschen und Bedürfnissen der Kunden im Einzelhandel anzupassen. Dazu werden Regeln verwendet, die in etwa folgende Form haben: Falls Artikel A gekauft wird, besteht eine Wahrscheinlichkeit von X%, dass auch Artikel B gekauft wird. Diese Regel trifft auf Y% der Kunden zu. Etwas formeller geschrieben: A B [s : Y %][c : X%] Die genauere Bedeutung von s und c wird im nächsten Kapitel erläutert. Mit Hilfe der Assoziationsanalyse können Zusammenhänge zwischen verschiedenen Waren erkannt und das Kundenverhalten analysiert werden. Assoziationsanalyse ist ein vorhersagendes Data-Mining-Verfahren. 2. Die Konzeptbeschreibung ist die einfachste Form von deskriptivem Data Mining [FPSM92]. Sie bietet Methoden, um Datensätze in Klassen zusammenzufassen. Diese Klassen bieten eine kurz zusammengefaßte und doch aussagekräftige übersicht über die Eigenschaften bestimmter Datengruppen. Ein weiteres Element der Konzeptbeschreibung sind Methoden die einen Vergleich verschiedener Klassen ermöglichen, beispielsweise die Verkaufzahlen eines Unternehmens in Zeitraum von mehreren Jahren. Darüber hinaus existieren noch weitere Methoden zur Datenanalyse, wie z.b. die Sequenz- und die Clusteranalyse, auf die in diesem Text nicht weiter eingegangen werden soll. KDD ist ein ein Forschungsgebiet dem heutzutage viel Aufmerksamkeit geschenkt wird, da die Forschungsergebnisse vielältige Anwendbungsmöglichkeiten versprechen. 3 Assoziationsanalyse Mit dem Aufkommen der Barcodetechnologie und insbesondere der immer größer werdenden Verbreitung von Lesegeräten vor allem in Supermärkten wurde es möglich, das Kaufverhalten von Kunden ohne eine unangemessene Steigerung des Arbeitsaufwands zu dokumentieren. Große Datenmengen fielen fast automatisch an, diese Daten galt es nun zu analysieren um Antworten auf Fragen 4

5 wie: Wie ordne ich meine Waren optimal an?, In welche Kategorien lässt sich die Kundschaft einordnen? oder Welche Artikel sollten aus dem Sortiment genommen werden? zu finden. Sinn dieser Warenkorbanalyse war also letzten Endes die Gewinnsteigerung. Dieses Kapitel umfaßt eine Einführung in die Grundlagen der Assoziationsanalyse, inklusive einer Erläuterung des wichtigsten Suchalgorithmus für Assoziationsregeln und bietet darüber hinaus einen Überblick über einige Weiterentwicklungen von Assoziationsregeln. 3.1 Motivation Mit der Anwendung in anderen Bereichen entwickelte sich die Warenkorbanalyse schließlich zur Assoziationsanalyse. Diese ist der Versuch, Regionen bzw. Datenbereiche in einer Datenbank zu identifizieren und zu beschreiben, in denen mit hoher Wahrscheinlichkeit mehrere Werte gleichzeitig auftreten.[koh02] Der wesentliche Unterschied zur Warenkorbanalyse besteht in der Vielzahl der Anwendungsgebiete. Es bieten sich viele mögliche Einsatzgebiete für die Assoziationsanalyse an. Datenbanken sind weit verbreitet und liefern große Datenmengen. Denkbare Anwendunsgsmöglichkeiten sind beispielsweise die Risikoabschätzung in der Versicherungsbranche oder die Analyse der Spielweise einer gegnerischen Fußballmannschaft. 3.2 Grundlagen und Beispiele Eine Assoziationsregeln ist eine Implikation, gepaart mit Angaben über die Häufigkeit ihres Auftretens in einer Menge von Transaktionen. Gegeben seien eine Menge von Transaktionen T, und eine Menge von Items I. Die Items können als die Artikel verstanden werden, die in einem Supermarkt verkauft werden. Eine Transaktion ist in diesem Fall als Einkauf bzw. ein Warenkorb. Das Aussehen von Assoziationsregeln läßt sich folgendermaßen beschreiben: Eine Assoziationsregel besteht aus einer Prämisse A und einer Konsequenz B. A und B sind Kunjunktionen von Items, die ihrerseits die Waren des Supermarktes darstellen. Die Regel hat dann die Form A B. Die Schnittmenge von A und B muss leer sein. Außerdem werdeb zwei Interessantheitsmaße benötigt, welche über die Qualität einer Assoziationsregel bestimmen. Der Support eines Items oder Itemsets ist die Anzahl der Transaktionen die das Item bzw. das Itemset als Teilmenge enthalten im Verhältnis zur Gesamtzahl der Transaktionen der Menge T. Der Support einer Assoziationsregel ist gleich dem Support der Vereinigung von Prämisse und Konsequenz (A B) derregel. Support(A B) =Support(A B) (1) 5

6 Die Konfidenz einer Assoziationsregel berechnet sich aus dem Verhältnis zwischen den Transaktionen, die nur die Prämisse enthalten und den Transaktionen, die sowohl Prämisse als auch Konsequenz enthalten. Confidence(A B) = Support(A B) Support(A) (2) Mit Abbildung 1 ist ein simples Beispiel gegeben, anhand dessen sich die eingeführten Begriffe anschaulich erklären lassen. Das vorgestellte Beispiel entstammt [San00a]. Angenommen, in einem Supermarkt werden die Einkäufe der Kunden in einer Datenbank gespeichert. Gegeben sei also eine Menge von Transaktionen in einer Transaktionsdatenbank T. ID Transaktion 1 {Brot, Kaffee, Kuchen, Milch} 2 {Kaffee, Kuchen, Milch} 3 {Brot, Butter, Kaffee, Milch} 4 {Kuchen, Milch} 5 {Brot, Kuchen} 6 {Brot} Tabelle 1: Transaktionsdatenbank T Gegeben seinen nun die Itemsets A und B, die Assoziationsregel X: A := {Milch,Kaffee} B := {Kuchen} X := A B = {Milch,Kaffee} {Kuchen} Dann gilt folgendes: Support(A) = 3 von 6 = 50% Support(A B) = 2 von 6 = 33% Support(X) = Support(A B) Confidence(X) = Confidence(A B) = Support(A B) Support(A) = Support(A B) Support(A) = 66% 6

7 Die Konfidenz einer Regel gibt für einzelne Artikel (oder Artikelgruppen) die Wahrscheinlichkeit an, daß noch bestimmte Artikel dazugekauft werden. Der Support gibt an, auf wie viele Transaktionen in der Datenbank die Regel zutrifft, also mit welcher Regelmäßigkeit die Waren in dieser Zusammenstellung verkauft werden. Auf das Beispiel übertragen heißt dies, daß ein Kunde mit einer Wahrscheinlichkeit von 66% Kuchen kaufen wird, wenn er zuvor Kaffee und Milch gekauft hat. Der Support besagt, daß 33 von 100 Kunden Kaffee, Kuchen und Milch kaufen. Im Allgemeinen gilt: Je größer Support und Konfidenz, umso wertvoller ist die Assoziationsregel. Hier kann es zu Ausnahmen kommen, so haben beispielsweise Regeln wie {Person lebt} {Person atmet} trivialerweise eine hohe Konfidenz und sind trotzdem uninteressant. Um die wertvollen von den weniger wertvollen Assoziationsregeln zu trennen, müssen Schwellwerte für Konfidenz und Support eingeführt werden, die nicht unterschritten werden dürfen. Diese seien als Minconf und Minsupp bezeichnet. Die Festlegung dieser Werte erfolgt im Allgemeinen durch den Benutzer des Data-Mining-Tools. Nun kann es vorkommen, daß eine Assoziationsregel, obwohl sie den minimalen Support und die minimale Konfidenz besitzt irreführende Informationen vermittelt. Seien beispielsweise A und B Itemsets mit Support(A)=60% und Support(B)=75% und A B eine Assoziationsregel mit einem Support von 45%, dann hat diese Regel eine Konfidenz von 45% 60% = 75%. Die Konfidenz ist jedoch genauso groß wie der Support von B, sie spiegelt somit nur den allgemeinen Support von B wieder und macht keine explizite Aussage über den Zusammenhang zwischen den Itemsets A und B. Um dieses Problem zu eliminieren, muss eine weitere Eigenschaft von Assoziationsregeln eingeführt werden: der Lift. Der Lift einer Regel ist der Quotient aus der Konfidenz der Regel und dem Support der Konsequenz der Regel. Lift(A B) := Confidence(A B) Support(B) Je höher der Lift einer Regel, umso außergewöhnlicher ist der Zusammenhang zwischen Prämisse und Konsequenz der Regel. Der Lift einer Regel kann als Maß für die Interessantheit einer Regel betrachtet werden[san00a, Koh02]. Minlift ist dann die minimale Interessantheit einer Assoziationsregel. 3.3 Der Apriori-Algorithmus Es gilt nun, alle Assoziationsregeln in einer Transaktionsdatenbank T zu finden, deren Support und Konfidenz grösser sind als die spezifizierten Werte von Minconf und Minsupp. Die zu bewältigende Aufgabe läßt sich in zwei Teilaufgaben zerteilen: 1. Finde alle Mengen von Items (bzw. alle Itemsets), deren Support über Minsupp liegt. Diese Itemsets werden als häufig auftretende Itemsets oder Frequent Itemsets bezeichnet. [AIS93] 7

8 2. Erzeuge aus den Frequent Itemsets alle möglichen Assoziationsregeln und berechne ihre Konfidenzen. Die generierten Assoziationsregeln haben automatisch den minimalen Support, da Support(A B) =Support(A B) gilt und Support(A B) in der Menge der Frequent Items liegt. Für die Bewältigung der ersten Teilaufgabe stehen sehr viele Algorithmen zur Verfügung, in dieser Arbeit soll jedoch nur der bekannteste und grundlegendste ausführlich behandelt werden: der Apriori-Algorithmus, der auch als Grundlage für zalreiche weitere Methoden dient.. Bevor näher auf die Funktionsweise des Algorithmus eingegangen wird, soll noch eine Zusatzeigenschaft für Itemsets eingeführt werden: Items sollen in Itemsets lexikographisch angeordnet sein. Besteht ein Itemset X der Länge k aus den Items x 1,x 2,..., x k soll gelten: x 1 x 2... x k. Ein Itemset hat die Länge k, wenn es aus k Elementen besteht. Durch die Ordnung wird die Menge der aus den Items erzeugbaren Itemsets stark beschränkt. n! Für eine Menge von Items I mit n Elementen gibt es (n k)! mögliche Itemsets der Länge k, wenn die Items nicht lexikographisch angeordnet werden. Durch n! Einführung der lexikographischen Ordnung gibt es k!(n k)! Möglichkeiten für ein Itemset der Länge k und es gilt: n! k!(n k)! n! (n k)! Es ist nicht von Interesse, in welcher Reihenfolge die Artikel in den Warenkorb wandern sondern ausschließlich, welche Artikel an der Transaktion beteiligt sind. Durch die Einführung dieser Ordnung kann der Zeitaufwand für die Datenanalyse bedeutend gesenkt werden. Basis des Apriori Algorithmus ist die Monotonie-Eigenschaft von Frequent Itemsets: Ist ein Itemset häufig, so sind auch alle Teilmengen dieses Itemsets häufig [San00a]. Anders formuliert: Ist ein Itemsets nicht häufig, dann sind alle Itemsets, die dieses Itemset als Teilmenge beinhalten ebenfalls nicht häufig. Der Apriori-Algorithmus beschränkt sich bei der Generierung von Assoziationsregeln auf die Verwendung von Frequent Itemsets aus denen neue Itemsets zusammengesetzt werden. Itemsets, die wegen der Monotonieeigenschaft nicht häufig sein können, werden von dem Algorithmus automatisch ignoriert. Die Wahrscheinlichkeit, dass die betrachteten Regeln den minimalen Support haben, steigt. Abbildung 1 zeigt den Algorithmus, wie er von Agrawal vorgestellt wird [AS94]. Gegeben seien eine Menge von Items I, eine Menge von Transaktionen T und ein Wert für Minsupp. Die Frequent Itemsets der Länge 1 lassen sich durch einfaches Abzählen der Items in den Transaktionen ermitteln. Apriori(I,T,Minsupp) L 1 := {frequent 1-Itemsets aus I}; k := 2; while L k 1 do C k := AprioriKandidatenGenerierung(L k 1 ); for each Transaktion t T do 8

9 CT := Subset(C k,t); // alle Kandidaten // aus C k, die in der T ransaktion // t enthalten sind; for each Kandidat c CT do c.count ++; L k := {c C k (c.count / D ) Minsup}; k ++; return L k ; AprioriKandidatenGenerierung(L k 1 ) insert into C k //1. Join select p.item 1, p.item 2,..., p.item k 1, q.item k 1 from L k 1 p, Lk 1 q where((p.item 1 = q.item 1 ), (p.item 1 = q.item 1 ),... (p.item k 1 <q.item k 1 ) for each itemset c C k do for each (k-1)-elementige Teilmenge s von c do if s / L k 1 then Losche c aus C k ; // 2. P runing Abbildung 1: Algorithmus Apriori Die Itemsets werden iterativ gebildet. Der Algorithmus startet mit den 1-stelligen Frequent Itemsets und läßt aus diesen über die AprioriKandidatenGenerierung Itemsets der Länge 2 erzeugen, die möglicherweise - d.h. mit einer gewissen Wahrscheinlichkeit - die Minsupp Bedingung erfüllen. Abschliessend werden aus dieser Menge diejenigen Itemsets aussortiert, die nicht den minimalen Support haben. Diese Schritte werden so lange mit immer länger werdenden Itemsets wiederholt, bis keine weiteren Frequent Itemsets mehr gefunden werden. Die Methode AprioriKandidatenGenerierung soll auf möglichst effiziente Art und Weise eine Menge zurückliefern, die zu einem möglichst großen Anteil aus Frequent Itemsets der Länge k besteht (mit k 2). Dazu wird die Monotonieeigenschaft von Frequent Itemsets benötigt. Die Kandidatengenerierung besteht aus zwei Operationen: Im ersten Schritt wird jedes (k-1)-elementige Itemset p jeweils um das letzte Item aller (k-1)-elementigen Itemsets q verlängert, bei denen die ersten k-2 Items mit denen von p übereinstimmen. Dieser Teil der Methode wird als Join- Phase (von engl. join: verbinden, (hin-)zufügen) bezeichnet. Das so entstandene k-elementige Itemset wird dann in der Pruning-Phase (von engl. prune: (be)schneiden, Text streichen)in seine (k-1)-elementigen Teilmengen zerlegt, um festzustellen ob alle diese Teilmengen in der Menge der Frequent 9

10 Itemsets enthalten sind. Die Join-Phase garantiert, daß wenigstens zwei der beim Pruning getesteten Teilmengen häufig sind. Beim Pruning reicht es deswegen aus, das zu testende Itemset in Teilmengen der Länge k-1 aufzuteilen, weil aufgrund der Monotoniebedingung ein nicht häufiges Itemset nicht in einem häufigen Itemset als Teilmenge enthalten sein kann und alle Frequent Itemsets der Länge k-1 bekannt sind. Abbildung 2 soll zum Verständnis der Funktionsweisen beitragen. Abbildung 2: Join- und Pruning-Phase Hat der Apriori-Algorithmus seine Arbeit beendet und alle Frequent Itemsets erfaßt, kann zu Schritt 2 der Aufgabenstellung übergegangen werden, der Erzeugung der Assoziationsregeln. Es ist Hilfreich, alle bei der Berechnung der Frequent Itemsets anfallenden Daten zu speichern, da diese bei der Erstellung der Assoziationsregeln und der Konfidenz-Berechnung benötigt werden und so ein weiterer Zugriff auf die Datenbank vermieden werden kann. Für jedes häufig auftretende Itemset X müssen Assoziationsregeln der Form A (X A) gebildet werden mit A X und a für die gilt: Confidence(A (X A)) = Support(X) Support(A) Minconf Es ist nicht nötig, alle möglichen Assoziationsregeln auf ihre Konfidenz zu prüfen. Sei beispielsweise X={a,b,c,d} und A={a,b,c}, dann ist der Support von A ={a,b} größer oder gleich dem Support von A. Durch die Ersetzung von A mit A kann die Konfidenz der Regel nur sinken. Wenn eine Regel A (X A)nicht die minimale Konfidenz besitzt, brauchen alle Regeln der Form A (X A ) mit A A gar nicht erst betrachtet zu werden. [AS94] Das Ergebnis enthält alle Assoziationsregeln, die sowohl den minimalen Support als auch die minimale Konfidenz besitzen. Abschliessend kann zu jeder Regel noch der Lift gebildet werden. Da der Support der Konsequenz und die Konfidenz der Regel nun bekannt sind, ist dies keine schwierige Aufgabe. 3.4 Weitere Arten von Assoziationsregeln Bisher wurden einfache Assoziationsregeln betrachtet. Tatsache ist, daß derart simple Assoziationsregeln in der Praxis verwertbare Ergebnisse nur in be- 10

11 schränktem Ausmaß liefern. Der Grund dafür ist, daß einfache Assoziationsregeln nicht aussagekräftig genug sind, um komplexere Sachverhalte anzuzeigen. Hinzu kommt, daß die Wahl von Minconf und Minsupp nicht immer optimal ist. Zu niedrige Werte führen dazu, dass eine große und unüberschaubare Menge von wenig aussagekräftigen Regeln gefunden wird. Zu große Werte lassen nur eine geringe Anzahl von einfachen Regeln übrig. Um die Effizeinz zu verbessern, lassen sich Assoziationsregeln auf vielfältige Weise erweitern Hierarchische Assoziationsregeln Eine Möglichkeit der Erweiterung ist die Verwendung von Item-Taxonomien (Konzepthierarchien) wie in Abbildung 3, durch die einzelne Items in (Waren- )Gruppen zusammengefaßt werden. Die Knoten eines Baumes sind die Items und Gruppenbezeichnungen. Ist ein Knoten mit einem oder mehreren untergeordneten Knoten verbunden, dann handelt es sich um eine Gruppe, die den untergeordneten Knoten enthält. Besitzt ein Knoten keine untergeordneten Knoten, handelt es sich um ein Item. Abbildung 3: Eine Konzepthierarchie Die Bezeichnungen der Warengruppen, auch Label genannt, werden wie Items behandelt. Dadurch ist es möglich, Regeln zu finden, die nicht mehr auf der untersten Abstraktionsebene (z.b. dem Bar-Code-Level) sondern auf einem abstrakteren Level angesiedelt sind. Hierarchische Assoziationsregeln haben meist einen höheren Support als einfache Assoziationsregeln, da ihr Support aus dem Support vieler Itemsets berechnet wird. {Rucksack} {Kochgeschirr} Obige Regel ist ein Beispiel für eine hierarchische Assoziationsregel. Obwohl kein Artikel Kochgeschirr existiert, lassen sich Regeln bilden, die das Konzept Kochgeschirr unterstützen. 11

12 Der Apriori-Algorithmus lässt sich den hierarchischen Assoziationsregeln relativ leicht anpassen, die neu hinzugekommenen Konzepte (bzw. die Label des Baumes) werden lediglich als neue Items eigefügt. Der Support eines Labels ist die Summe aus dem Support aller Nachfolgeknoten des Labels (die untergeordneten Knoten des Labels) in der Konzepthierarchie. Da Konzepthierarchien verwendet werden, bezeichnet man hierarchische Assoziationsregeln auch als generalisierte Assoziationsregeln (Siehe auch Kapitel 4.2 Generalisierung) Quantitative Assoziationsregeln Einfache und hierarchische Assoziationsregeln machen keine Aussagen über die Anzahl des Auftretens eines Items in einer Transaktion. Entweder, ein Item in einem Itemset enthalten oder nicht - quantitative Angaben zu einem Item werden nicht berücksichtigt. Im Bereich der Warenkorbanalyse sind die quantitativen Eigenschaften von Items oftmals auch gar nicht von Interesse. In anderen Bereichen dagegen haben haben Items oft einen numerischen (Alter, Anzahl der Kinder, Gewicht) oder kategorischen (Name, Anschrift) Charakter. Ein Beispiel für eine quantitative Assoziationsregel: <Alter: >, < F amilienstand : verheiratet > < #Autos :2> (3) Grundlage der Arbeit mit quantitativen Assoziationsregeln ist die Idee, für jeden möglichen Wert eines numerischen oder kategorischen Attributs ein neues Item in die Menge der Items I einzufügen. Numerische Attribute mit einem zu großen Wertebereich lassen sich in Intervalle einteilen [SA96]. Aufgrund dieser Vorgehensweise unterscheidet sich das Finden quantitativer Assoziationsregeln nur leicht von der Suche nach einfachen Assoziationsregeln, der Apriori-Algorithmus kann im wesentlichen unverändert übernommen werden. Datenbank D ID Alter Fam.stand #Autos 1 25 ledig verheiratet Transaktionsdatenbank D ID Personendaten 1 { Alter :20 29, ledig, #Autos :0 } 2 { Alter :30 39, verheiratet, #Autos :2 } Unscharfe Assoziationsregeln Quantitative Assoziationsregeln benutzen Algorithmen zum Finden von interessanten Regeln, die numerische Wertebereiche in Intervalle aufteilen [CA97]. Diese Intervalle sind aber eventuell nicht prägnant und aussagekräftig genug, um menschlichen Benutzern neues Wissen zu vermitteln. Unscharfe Assoziationsregeln (Fuzzy Association Rules) verwenden anstelle von Intervallen sprach- 12

13 liche Formulierungen wie ziemlich groß oder lange, um Zusammenhänge aufzuzeigen und Wertebereiche einzuteilen. Assoziationsregeln dieser Art sind bestens für eine Datenanalyse in Bereichen geeignet, in denen mit Ausreißern und Meßfehlern (wie in der Physik) gerechnet werden muss. Beispiel: Ein Call-Center plant, Daten der eingehenden Anrufe zu speichern. Zu diesen Daten zählt unter anderem auch der Zeitpunkt, an dem der Anruf angenommen wurde. Angenommen, die Leitung des Centers möchte die Anrufe nach Tageszeiten sortieren. Das vorgehen nach dem quantitativen Schema würde so ablaufen, das die 24 Stunden eines Tages in Intervalle aufgeteilt werden würden, beispielsweise in Nacht, Morgen, Nachmittag und Abend. Das Intervall Nacht endet um 6.00 Uhr und wird von dem Intervall Morgen gefolgt; der Morgen endet um 12 und geht in den Nachmittag über usw. Der Charakteristikum dieser Vorgehensweise ist, daß es zu überschneidungen kommen kann. So könnte es eine Gruppe von Anrufern geben, die morgens zwischen 6 und 12 anrufen um z.b. Brötchen zu bestellen. Eine Regel der Form <Zeit= Morgen > < Bestellung : Brötchen > wäre die Folge. Der Nachteil dieser Vorgehensweise liegt darin begründet, daß es Kunden geben kann, die vor kurz 6 Uhr oder kurz nach 12 Uhr anrufen um Brötchen zu bestellen. Da der Zeitpunkt dieser Anrufe nicht mehr in dem vorgegebenen Intervall liegt, gehören diese Anrufe nicht mehr zu der Kundengruppe Morgen, auch wenn sie sonst alle Eigenschaften der Mitglieder dieser Gruppe aufweisen. Die Folge ist, daß der Support obiger Regel sinkt. Mit unscharfen Assoziationregeln kann diesem Verhalten entgegengewirkt werden. Anstelle von festen Intervallen wird mit Zugehörigkeitsgraden gearbeitet (siehe Abb. 4). Abbildung 4: Zuordnung linguistischer Bezeichnungen Ein Anruf um 11 Uhr kann sowohl zur Gruppe Morgen als auch zur Gruppe Nachmittag zugeteilt werden. Die Zuteilung erfolgt mit Hilfe von Methoden aus 13

14 der Fuzzy-Logik. Ein Logarithmus wird in [CA97] vorgestellt. Der wesentliche Unterschied zwischen fuzzy und quantitativen Assoziationsregeln ist in der Art und Weise der Regelgenerierung zu suchen, im weiteren Verhalten sind sich beide Formen recht ähnlich Temporale Assoziationsregeln Oftmals bestehen Zusammenhänge zwischen Transaktionen, die zeitlich voneinander getrennt sind. Wenn beispielsweise jeden Freitag in einem Supermarkt 6 Kästen Bier erworben werden und am nächsten Tag die Verkaufszahlen für Kopfschmerztabletten in die Höhe schießen, gibt es einen temporalen Aspekt bestehend aus dem Zusammenhang zwischen diesen beiden Ereignissen, der berücksichtigt werden sollte. In temporalen Datenbanken sind Daten in einem zeitlichen Kontext gespeichert. Die Assoziationsregeln können als Schnappschüsse der sich verändernden Zusammenhänge zwischen den Daten aufgefaßt werden. Dadurch ist es möglich Ver-änderungen und Fluktuationen dieser Zusammenhänge zu betrachten und zu erforschen [WYM]. Die vorgestellten Typen von Assoziationsregelneröffnen vielfältige Anwendungsmöglichkeiten. Darüber hinaus gibt es noch weitere Arten und da die Assoziationsanalyse ein noch relativ junges Forschungsgebiet ist, ist zu erwarten, das es hier noch viele Entwicklungen geben wird. 14

15 4 Konzeptbeschreibung und Generalisierung Die in Datenbanken gespeicherten Datenmengen sind für Menschen für gewöhnlich höchst unübersichtlich. Für die Benutzer dieser Datenbanken ist es daher erstrebenswert, ein Werkzeug zu Verfügung zu haben, welches diese Daten in einer zusammengefassten, übersichtlicheren Form darstellen kann und Vergleichsmöglichkeiten bietet. Dieses Kapitel behandelt die einzelnen Komponenten der Konzeptbeschreibung. Dazu werden zunächst ein Einstieg in das der Konzeptbeschreibung zugrundeliegende Verfahren der Generalisierung vermittelt und Unterschiede zu einem anderen Datenanalyse-Werkzeug verdeutlicht. Das Thema Attributrelevanzanalyse schließt das Kapitel ab. 4.1 Motivation Die Konzeptbeschreibung oder auch Klassenbeschreibung wurde zu diesem Zweck entwickelt. Sie ist die einfachste Form von beschreibendem Data Mining. Konzeptbeschreibung untersucht vorhandene Daten auf Gemeinsamkeiten und teilt sie dement-sprechend in verschiedene Gruppen bzw. Klassen auf (daher die Bezeichnung Klassenbeschreibung). Die Konzeptbeschreibung besteht aus zwei Komponenten, der Charakterisierung von Klassen und dem Klassenvergleich. Beide Teilbereiche basieren auf der Generalisierung, einem Verfahren, das zur Abstrahierung von Relationen und ihren Attributen eingesetzt wird. 4.2 Einschub Generalisierung Seien D i,1 i d, logisch zusammengehörige Mengen von Werten (Wertebereiche) mit ALLE D i. Sei R eine Relation R D 1 D 2... D d mit den Attributen A 1,..., A d. Definition Konzepthierarchie (nach [San00b]) Eine Konzepthierarchie für D i (bzw. für A i ) ist ein (typischerweise balancierter) Baum mit den folgenden Eigenschaften: Die Knoten des Baumes repräsentieren Werte aus D i, die Wurzel des Baumes repräsentiert den speziellen Wert ALLE. Die Kanten des Baumes repräsentieren eine is-a -Beziehung zwischen den verbundenen Knoten. Sind zwei Knoten über eine Kante miteinander verbunden, wird der übergeordnete Knoten als Vorgänger, der untergeordnete Knoten als Nachfolger bezeichnet. Die Konzeptebene eines Attributwerts ist definiert als der Abstand des entsprechenden Knotens von den Blattknoten, d.h. die Blattknoten mit den konkreten Attributwerten (wie z.b. Schützenweg) liegen auf der Konzeptebene 0. Abbildung 5 stellt mögliche Konzepthierarchien dar. 15

16 Abbildung 5: Beispiele für Konzepthierarchien Definition Generalisierung (nach [San00b]) Als Generalisierung der Relation R in Bezug auf das Attribut A i bezeichnen wir die Operation, die bei allen Tupeln aus R den jeweiligen Wert von A i durch seinen direkten Vorgänger in der Konzepthierarchie von D i ersetzt. Umgekehrt bezeichnen wir als Spezialisierung der Relation R die Ersetzung aller A i -Werte durch einen ihrer direkten Nachfolger in der Konzepthierarchie von D i. Im Zusammenhang mit Online Analytical Processing (OLAP) werden Generalisierung und Spezialisierung in den OLAP-Methoden Drill-Down und Roll-Up angewandt. Bei der Generalisierung können partiell redundante Tupel entstehen, die mit Hilfe einer Aggregierungs-Operation in ein (einziges) Tupel transformiert werden. Mit anderen Worten: Mehrere identische Zeilen der Relation werden zu einer einzigen Zeile zusammengefaßt. Dabei gibt es verschiedene Möglichkeiten, numerische Werte zusammenzufassen, beispielsweise durch Addition. Die Aggregierung einer Menge T von Tupeln, T R, die auf den Attributen A 1,..., A c mit 1 c d übereinstimmen, liefert das Tupel (a 1,..., ac, Op({a c+1 (t) t T }),..., Op({a d (t) t T })) wobei a 1 A 1,..., a c A c. Die Attribute A c+1,..., A d besitzen numerische Wertebereiche und Op ist ein arithmetischer Operator wie z.b. + oder MAX. 16

17 Beispielanwendung: Gegeben sei eine Relation Kunden A. Name Geschlecht Alter Wohnort Support Schmidt M 25 Oldenburg 1 Klein W 19 Hannover 1 Meyer M 30 München 1 Müller W 54 Papenburg Tabelle 2: Relation Kunden A Dann können die Attribute Alter und Wohnort anhand der bekannten Konzepthierarchien (siehe Beispiele: Konzepthierarchien) generalisiert werden. Für das Attribut Support sei ein arithmetischer Operator + gegeben. Das Attribut Name wird aus der Ergebnisrelation entfernt, da es zu viele verschiedene Werte annehmen kann. Andernfalls wäre eine Generalisierung nicht durchführbar, da jeder Name ein gewisses Maß an Einmaligkeit besitzt und die Tupel nicht zusammenfasst werden können, solange sie nicht identisch sind. Geschlecht Alter Bundesland Support M jung Niedersachsen 54 M alt Niedersachsen 19 W jung Niedersachsen 6 W mittel alt Bayern Tabelle 3: generalisierte Relation Kunden A Hauptanwendungsgebiete für die Generalisierung sind Online Analytical Processing (OLAP) und attributorientierte Induktion. OLAP ist eine Form explorativer Datenanalyse. Der Benutzer lässt die gewünschten Generalisierungen Schritt für Schritt ausführen und gibt alle für den Generalisierungsprozeß benötigten Parameter vor. Die Generalisierung wird im Zusammenhang mit OLAP-Systemen auch als Roll-Up, die Spezialisierung als Drill-Down bezeichnet. Attributorientierte Induktion dagegen ist ein weitgehend automatisierter Vorgang, für den der Benutzer nur wenige Parameter angeben muß und der die Generalisierung selbstständig vornimmt. Sie wird in der Klassenbeschreibung verwendet. 4.3 Unterschiede zwischen OLAP und Konzeptbeschreibung Online Analytical Processing ist eine Methode zur Datenanalyse, die wie die Konzeptbeschreibung dazu verwendet werden kann, zusammenfassende Sichten auf Datensätze zu erhalten und identifizierte Klassen miteinander zu vergleichen. 17

18 Abbildung 6: Ein Data Cube mit den Dimensionen Produkt, Lieferant und Kunde Da OLAP ein rein benutzergesteuerter Vorgang ist, zählt es nicht zu den Data- Mining-Methoden. OLAP Tools basieren auf der Verwendung von Data Cubes. Diese verwenden zwei verschiedene Arten von Attributen; Dimensionen und Fakten. Dimensionen entsprechen üblicherweise den Konzepten einer Konzepthierarchie, Fakten sind in der Regel numerische Daten. Zwischen OLAP und Konzeptbeschreibung bestehen nun zwei wesentliche Unterschiede [Han01]: Durch die Beschränkung auf zwei Attributtypen (Dimensionen und Fakten) wird die Arbeit mit OLAP-Tools stark beschränkt. Für die Klassenbeschreibung dagegen besteht keine derartige Einschränkung. Im Prinzip können alle Daten analysiert werden, die sich in einer Datenbank speichern lassen, z.b. Multimedia-Dateien. Mittlerweile hat sich OLAP allerdings derart weiterentwickelt, daß die Beschränkungen in der Auswahl der Datentypen etwas gelockert wurden. Welche OLAP-Operationen ausgeführt werden sollen untersteht stets der Kontrolle des Benutzers. Die Auswahl der Dimensionen des Data Cubes und der OLAP-Funktionen liegt weitestgehend in der Hand des Benutzers, allerdings müssen hier vorgegebene Kozepthierarchien berücksichtigt werden. Ein ausreichendes Vorwissen ist für die Arbeit mit OLAP-Systemen unerlässlich. Konzeptbeschreibung läuft zum größten Teil automatisiert ab. 4.4 Charakterisierung Unter der Methode der Charakterisierung können Relationen einer Datenbank zusammengefasst werden und spezifische Klassen zu identifizieren. Es handelt sich um eine Form der automatisierten Datengeneralisierung. Sind die Attribute einer Relation auf einem niedrigen Abstraktionslevel können sie für die weitere Betrachtung der Relation entweder auf ein höheres Niveau abstrahiert oder ausgeklammert werden. Ein Attribut besitzt ein niedriges Abstraktionslevel bzw. 18

19 einen niedrigen Abstraktionsgrad, wenn viele verschiedene Wertbelegungen für das Attribut existieren. Das Attribut Name ist ein klassisches Bespiel für ein Attribut mit einem niedrigen Abstraktionsgrad. Für die Bewältigung dieser Aufgabe wird die Datengeneralisierung eingesetzt. Manuelle Datengeneralisierung wird in OLAP-Systemen eingesetzt; Ein Benutzer führt mit einem Analysetool die Generalisierung selbst durch. Der automatisierte Ansatz - die attributorientierte Induktion - soll an dieser Stelle vorgestellt werden Attributorientierte Induktion (AOI) Attributorientierte Induktion ist eine Data-Mining-Methode, die Datenbanken anhand gegebener Konzepthierarchien generalisiert, um interessante Informationen zu extrahieren [Han01]. Der Prozess besteht im wesentlichen aus drei Phasen: 1. Relevante Daten sammeln, 2. Daten generalisieren, 3. Ergebnis präsentieren. Es wird eine Zielklasse betrachtet und es soll anhand der Konzepthierarchien eine Generalisierung der Daten durchgeführt werden. Im Laufe der Generalisierung werden alle Attribute, für die eine große Anzahl verschiedener Wertbelegungen existiert entweder entfernt oder auf die nächsthöhere Ebene der Konzepthierarchie übertragen (vgl. Abschnitt 4.2). Die Werte werden also durch ihren Vorgänger inder Hierarchie ersetzt. Dadurch reduziert sich die Anzahl der verschiedenen Werte, die ein Attribut haben kann und der Abstraktionsgrad steigt. Ab wann eine Anzahl von möglichen Wertbelegungen eines Attributs als zu groß angesehen wird, wird in der Regel vom Benutzer mit einem Schwellwert festgelegt. Ansonsten verwendet das Data-Mining-Tool einen vorher festgelegten Standard-Schwellwert. Folgender Algorithmus beschreibt die attributorientierte Induktion: Algorithmus Attributorientierte Induktion: Gegeben sind: Eine relationale Datenbank, eine Zielklasse, eine Konzepthierarchie und ein Schwellwert für die Generalisierung. 1. Datenakquisition. Basierend auf der Benutzeranfrage,eine bestimmte Zielklasse zu generalisieren werden die für diese Zielklasse relevanten Daten aus der Datenbank eingelesen. 2. Für jedes Attribut der Zielklasse gilt folgendes: (a) Falls die Anzahl der möglichen Werte für ein Attribut den Schwellwert übersteigt und es für das Attribut keine Konzepthierarchie gibt bzw. die Relation bereits ein Attribut besitzt, das die übergeordneten Konzepte als Werte akzeptiert, muss das Attribut entfernt werden. 19

20 (b) Falls die Anzahl der möglichen Werte für ein Attribut den Schwellwert übersteigt und für dieses Attribut eine Konzepthierarchie existiert, dann soll das Attribut generalisiert werden. Außerdem muss Schritt 2 für das generalisierte Attribut wiederholt werden. (c) Falls die Anzahl der möglichen Werte für ein Attribut den Schwellwert nicht übersteigt, muss nichts getan werden. 3. Ergebnis: Es wurde eine zusammengefaßte Sicht auf die Daten der ursprünglichen Zielklasse erstellt. Durch die Generalisierung entstehen mehrere identische Tupel, die zu einem Tupel zusammengefasst werden können. Um statistische Bewertungen machen zu können, kann daher ein neues Attribut Support eingefügt werden, durch das für jedes Tupel angegeben wird, aus wie vielen Tupeln der Ursprungsrelation es zusammengefasst wurde. Für die Wahl des Schwellwertes sind viele Möglichkeiten denkbar. In der einfachsten Fassung des Algorithmus existiert ein einzelner globaler Schwellwert, der für jedes Attribut gilt. Alternativ wäre es denkbar, jedem Attribut einen eigenen Schwellwert zuzuweisen. Dadurch hat der Benutzer des Data-Mining-Tools einen größeren Einfluß auf die attributorientierte Induktion und kann eingreifen, falls einzelne Attribute seiner Meinung nach zu stark oder zu schwach generalisiert werden. Ein weiterer Ansatz ist die Verwendung von Generalisierungsgraden. Jedes Attribut der Relation besitzt einen Generalisierungsgrad. Das ist die Ebene der Konzepthierarchie, auf der sich die Werte des Attributs befinden. Anstatt einen Schwellwert anzugeben könnte der Benutzer eine Konzeptebene angeben und die Attribute werden so lange generalisiert, bis sie diese Ebene erreichen. Beispiel: Charakterisierung der Klasse Kunden B Der Benutzer stellt eine Anfrage auf Charakterisierung der Klasse Kunden B. Die Zielklasse ist als Relation in der Datenbank Shops enthalten. Name Geschlecht Alter Wohnort Bundesland Schmidt M 25 Oldenburg Niedersachsen Klein W 19 Hannover Niedersachsen Meyer M 30 München Bayern Müller W 54 Papenburg Niedersachsen Tabelle 4: Beispielrelation Der erste Schritt des AOI-Prozesses greift auf eine Datenbank zu und liefert eine Relation zurück (Abbildung 4). Als Konzepthierarchien sollen die Hierarchien aus Abbildung 5 (Kapitel 4.2) dienen. In Schritt 2 des AOI-Algorithmus wird für jedes Attribut der Relation festgelegt, ob es entfernt, generalisiert oder nicht verändert werden soll. Der gegebene Schwellwert sei 4, für ein Attribut darf es also nicht mehr als 4 verschiedene Möglichkeiten geben. 20

21 1. name: Es gibt eine große Auswahl an Möglichkeiten für dieses Attribut und esexistiert keine Konzepthierarchie. Also wird es aus der Betrachtung ausgeschlossen. 2. Geschlecht: Für dieses Attribut gibt es maximal zwei Möglichkeiten, M(ännlich) und W(eiblich). Dieser Anzahl der Möglichkeiten liegt unter dem Schwellwert, das Attribut wird weder generalisiert noch entfernt. 3. Alter: Der Wertebereich dieses Attributs ist groß, aber es exisitert eine Konzepthierarchie, das Attribut wird generalisiert und die Werte durch jung, mittel alt oder alt ersetzt. 4. Wohnort: Auch hier gibt es viele verschiedene Werte, die angenommen werden können und es existiert eine Konzepthierarchie. Allerdings hat die Relation bereits ein Attribut, das Werte besitzt, die auf der nächsthöheren Ebene dieser Konzepthierarchie liegen. Das Attribut wird entfernt. 5. Bundesland: Es existieren nur zwei mögliche Werte, die nicht verändert werden müssen. Eine generalisierte Relation könnte wie in Abb. 5 aussehen. Geschlecht Alter Bundesland Support M alt Niedersachsen 63 W mittel alt Bayern 43 M jung Niedersachsen 4 W jung Niedersachsen Tabelle 5: generalisierte Beispielrelation Das neu hinzugekommene Attribut Support gibt die Anzahl der zusammengefassten Datensätze an. Als Maß für die Gewichtung eines Tupels q a in einer Relation führen wir noch den Wert t weight ein. Formal gilt für n =#Tupel der Relation: [Han01] t weight := Support(q a n i=1 Support(q i) Je höher t weight, desto größer ist die Zahl der zu q a generalisierten Tupel (aus der ursprünglichen Relation) im Verhältnis zur Gesamtzahl der Tupel. Da jetzt die Zielklasse in einer zusammengefassten Form vorliegt, folgt abschließend der letzte Teil des AOI-Prozesses, die Präsentation des Ergebnisses. Für diese Aufgabe stehen verschiedenste graphische Darstellungsformen wie Tortengrafiken, Säulen- oder Balkendiagramme oder Graphen zur Verfügung. Es besteht auch die Möglichkeit, die Klassen in Tabellenform, mittels Assoziationsregeln oder als Data Cube zu präsentieren. Data-Mining-Tools können Standard-Darstellungsformen anbieten, letzten Endes liegt die Wahl der Präsentationsform jedoch meist beim Benutzer. 21

22 4.5 Klassenvergleich Oft sind Benutzer weniger an Aussagen über einzelne Klassen interessiert als an Aussagen über das Verhältnis unterschiedlicher Klassen zueinander. Ein Beispiel für solche vergleichbaren Klassen sind beispielsweise die Verkaufszahlen eines Unternehmens für die Jahre 2000 und Um einen Vergleich zu ermöglichen müssen die zu vergleichenden Klassen (in generalisierter Form) die gleichen Attribute besitzen. Die Klassen Personen und äpfel sind nicht vergleichbar. (Bei äpfel und Birnen könnte eine geschickte Wahl der Attribute einen Vergleich ermöglichen.) Der Ablauf der Klassengegenüberstellung gleicht dem Ablauf der attributorientierten Induktion - mit dem Unterschied, daß wir zusätzlich zu der Zielklasse mindestens eine weitere, kontrastierende Klasse betrachten, die parallel zu der Zielklasse bearbeitet wird. Der Klassenvergleich besteht aus folgenden Schritten: 1. Relevante Daten sammeln, 2. Daten generalisieren: Die Zielklasse wird generalisiert. Anschließend werden die Attribute der Vergleichsklasse(n) auf den gleichen Generalisierungsgrad gebracht wie ihre Gegenstücke in der Zielklasse. 3. Generalisierungsergebnisse vorstellen. Angenommen, alle Klassen liegen in generalisierter Form vor (siehe Abb. 6 und 7). Dann ist der nächste Schritt die vergleichende Präsentation der Daten. Prinzipiell stehen dafür die gleichen Darstellungsformen zur Verfügung wie für die Charakterisierung. Hinzu kommen Kontingenztabellen (Kreuztabellen), die auf statistischen Werten basieren. Geschlecht Alter Bundesland Support M jung Niedersachsen 54 M alt Niedersachsen 19 W jung Niedersachsen 6 W mittel alt Bayern Tabelle 6: generalisierte Relation Kunden A Geschlecht Alter Bundesland Support M alt Niedersachsen 63 W mittel alt Bayern 43 M jung Niedersachsen 10 W jung Niedersachsen Tabelle 7: generalisierte Relation Kunden B (Bis auf den Support) Identische Tupel in den generalisierten Relationen können 22

23 Quelle Geschlecht Alter Bundesland Support Kunden A M jung Niedersachsen 54 Kunden B M jung Niedersachsen 10 Tabelle 8: Vergleich von Tupeln aus verschiedenen Relationen vergleichend dargestellt werden (siehe Abb. 8). Um eine genauere Aussage über das Verhältnis einzelner Tupel zueinander machen zu können, wird ein Maß für die statistische Interessantheit eingeführt: d weight. Sei m die Gesamtzahl aller generalisierten Klassen, q a ein Tupel der (generalisierten) Zielklasse C j mit 1 j m und {C 1,..., C m } die Menge aller generalisierten Klassen, dann soll für d weight gelten [Han01]: Support(q a C j ) d weight := m i=1 Support(q a C i ) Wenn t weight den Anteil eines bestimmten Tupels innerhalb einer Relation wiederspiegelt, dann steht d weight für den Anteil, den die Relation C j am Gesamtvorkommen des Tupels (in allen betrachteten Relationen zusammen) beisteuert. Mit t weight und d weight können Kontingenztabellen angelegt werden, die einen schnellen und übersichtlichen Vergleich mehrerer Tupel aus verschiedenen Klassen ermöglichen. So wird abschliessend eine übersichtliche und vereinigte Sicht auf die Daten gewährt. 4.6 Attributrelevanz In der Praxis tritt häufig die Situation auf, daß eine betrachtete Relation eine große Anzahl von Attributen besitzt. Dadurch wird folgende Frage aufgeworfen: Welche Attribute der Relation sind für die Gewinnung neuen Wissens wirklich notwendig? Denn: Wenn eine Relation viele Attribute (z.b: mehr als 50) besitzt, ist es wahrscheinlich, daß eine generalisierte Version dieser Relation immer noch aus eine unübersichtliche Menge von Attributen besteht, von denen viele unwichtige Informationen vermitteln. Will man beispielsweise die Klassen Luxuswagen und Billig-Auto miteinander vergleichen, ist zu erwarten, dass die Farbe des Lackes kaum bei der Differenzierung hilft. Von Attributen wie Preis, Modell, Hersteller und Zylinderzahl ist dagegen eine hohe Relevanz zu erwarten. Einerseits kann nicht davon ausgegangen werden kann, das ein Benutzer über die nötige Kenntnis verfügt, um Attribute von geringer bzw. ohne Bedeutung zu erkennen und aus der Betrachtung auszuschließen, andererseits ist der hohe Grad der Automatisierung gerade ein Vorteil der Konzeptbeschreibung anderen Werkzeugen zur Datenanalyse gegenüber sein, wie z.b. OLAP. Daraus folgt die Notwendigkeit der Entwicklung einer Methode zur Vorverarbeitung einer betrachteten Relation mit dem Ziel, für die Analyse irrelevante Attribute aus der Bearbeitung zu entfernen. Diese nennen wir Attributrelevanz- Analyse. Ein Attribut einer Klasse heißt relevant, falls es dazu beiträgt, eine betrachtete Klasse von anderen Klassen zu unterscheiden. 23

24 Ein Maß für die Relevanz eines Attributs ist der Information Gain. Dieserkann auf der Basis mehrerer Testklassen ermittelt werden. Wird die Relevanzanalyse im Klassenvergleich angewenset, können die zu vergleichenden Klassen als Testklassen verwendet werden. Für die Charakterisierung nimmt man dagegen üblicherweise alle in der Datenbank gespeicherten vergleichbaren Klassen für die Relevanzanalyse. Wie wird der Information Gain berechnet?[han01] Sei S eine Menge von Tupeln mit jeweils einem Attribut zur Angabe der Herkunftsklasse. Die Zahl der Herkunftsklassen sei mit m gegeben. S beinhalte s i Tupel der Klasse C i mit 1 i m. Dann gilt: m s i I(s 1,..., s m ):= s log s i 2 s i=1 Das Attribut A habe die Werte {a 1,..., a v } und teile die Menge S in Teilmenen S 1,..., S v,sodasss j die Tupel aus S enthält, für die A den Wert a j besitzt. S j habe s ij Tupel der Klasse C i v s 1j s mj E(A) := I(s 1,..., s m ) s j=1 Der Information Gain eines Attributs entsteht schliesslich durch folgende Subtraktion: IGain(A) =I(s 1,..., s m ) E(A) Die Relevanzanalyse kann vor der AOI eingesetzt werden, um die Zahl der zu analysierenden Attribute zu verringern. Charakterisierung mit integrierter Relevanzanalyse wird als Analytische Charakterisierung (analytical characterisation), der Klassenvergleich als Analytischer Klassenvergleich (analytical comparision) bezeichnet 5 Fazit Wir haben zwei essentielle Data-Mining-Methoden kennengelernt die für Knowledge Discovery in Databases eingesetzt werden: Die Assoziationsanalyse und die Klassenbeschreibung. Beide Methoden sind effiziente Werkzeuge zur Gewinnung von Wissen aus großen Datenmengen. Die Assoziationanalyse bietet mit einer großen Anzahl verschiedener Assoziationsregeln vielfältige Anpassungsmöglichkeiten für viele Bereiche in Wirtschaft, Forschung und im täglichen Leben. Einfache Assoziationsregeln repräsentieren häufiges gemeinsames Auftreten von Elementen in Transaktionen wie z.b. oft gemeinsam gekaufte Waren in einer Menge von Warenkörben. Komplexere Assoziationsregeln bauen auf diesen einfachen Regeln auf bieten durch ihre Erweiterungen neue Möglichkeiten, so können hierarchische, quantitative, fuzzy und temporale Aspekte mit in die Assoziationsanalyse aufgenommen werden. Von der Vielzahl von Algorithmen, die in der Assoziationsanalyse angewendet 24