Data Mining zur Entscheidungsunterstützung in der Hydrologie

Transkript

1 Data Mining zur Entscheidungsunterstützung in der Hydrologie Thomas Seidl, Ralph Krieger, Ira Assent, Boris Glavic, Heribert Nacken, Sabine Bartusseck, Hani Sewilam Zusammenfassung Zur Umsetzung der europäischen Wasserrahmenrichtlinie (EG-WRRL) (Rat der Europäischen Union 000) in NRW sollen Maßnahmenpläne zur Verbesserung des ökologischen Zustandes von Fließgewässern erarbeitet werden. Dazu wurde die Strukturgüte von ca. 00 Gewässern kartiert und die Ergebnisse als Strukturgüteklassen bezüglich verschiedener Kriterien mit einer Granularität von 00-Meter-Abschnitten erfasst. Mittels Data-Mining-Methoden wird die systematische Analyse der Daten sowie die Erstellung von Maßnahmenplänen unterstützt. Geeignete Visualisierungstechniken bereiten die Ergebnisse auf und dienen der Vorbereitung eines Decision Support Systems.. Einleitung Im Rahmen der Bestandsaufnahme gemäß EG-WRRL wurde NRW-weit der gegenwärtige Zustand der Strukturgüte von etwa 00 Fließgewässern erfasst (LUA NRW 00). Dabei wurden insgesamt ca Gewässerabschnitte von je 00 Meter Länge kartiert. Jeder Abschnitt wurde bezüglich 9 verschiedener Kriterien (Funktionale Einheiten) bewertet und der entsprechenden Güteklasse ( bis 7) zugeordnet. Ziel des Projektes Entwicklung eines Entscheidungsunterstützungssystem (DSS) zur Bewertung von Maßnahmenplänen ist die effiziente und effektive Verbesserung der Gewässerstrukturgüte. Das DSS soll die Entscheidungsträger in der wasserwirtschaftlichen Verwaltung bei ihrer Aufgabe unterstützen, geeignete und kostengünstige Maßnahmen zur Verbesserung der Strukturgüte zu finden. Voraussetzung für die Anwendbarkeit einer Maßnahme sind mehrere Eigenschaften eines Gewässerabschnitts. Diese Eigenschaften lassen sich typischerweise nicht eins-zu-eins in Güteklassen der Funktionalen Einheiten übertragen. Diese Unschärfe wird noch verstärkt durch die Tatsache, dass die Kartierung und Klassifikation durch unterschiedliche Personen vorgenommen wurden. Gesucht sind möglichst lange Sequenzen von Gewässerabschnitten, auf denen eine bestimmte Maßnahme durchgängig anwendbar ist. Aufgrund dieser inhärenten Struktur der Daten sollen Maßnahmenpakte geschnürt werden, die an vielen verschiedenen Gewässern über möglichst lange Abschnitte anwendbar sind.. Data Mining Methoden Aus Sicht der Informatik eignen sich somit insbesondere Methoden des Data Mining, um die inhärente Struktur der Daten offen zu legen (HAN & KAMBER 00). Gewässerabschnitte können als Sequenzen modelliert werden und die Funktionalen Einheiten als Dimensionen. Da eine Sequenz an einem Abschnitt in einer Funktionalen Einheit nur eine Güteklasse haben kann, und somit einen nominalen Wertebereich besitzt, bietet sich die Anwendung von Algorithmen für Assoziationsregeln an (AGRAWAL & SRIKANT 99, AYRES et al. 00).

2 Diese können Korrelationen zwischen Sequenzen finden. Assoziationsregelalgorithmen können entweder häufig auftretende Sequenzen bestimmen, oder aber Korrelationen zwischen den Funktionalen Einheiten erkennen. Eine kombinierte Suche nach häufigen Sequenzen, die gleichzeitig in den Funktionalen Einheiten korreliert sind, ist damit jedoch nicht möglich. Zusätzlich können Assoziationsregelalgorithmen nicht mit unscharfen Kategorien arbeiten, da sie nur Häufigkeiten einzelner Werte berechnen. Abb. : Prozess der Wissensextraktion in Datenbanken Als eine Alternative betrachten wir Clusteringalgorithmen, welche ähnliche Sequenzen in so genannte Cluster gruppieren (ESTER et al. 996). Dazu können unterschiedliche Ähnlichkeitsmodelle verwendet werden, um insbesondere auch Unschärfe berücksichtigen zu können. Typische Clusteringalgorithmen arbeiten jedoch auf Daten fester Länge und sind somit nicht in der Lage, effizient Cluster über verschiedene Sequenzlängen zu finden, was für die Anwendung benötigt wird. Wir entwickeln daher einen Algorithmus, der auf unscharfen Wertebereichen eine kombinierte Suche nach korrelierten Clustern beliebiger Länge ermöglicht. Unser Vorschlag eines dichte-basierten Clusteringalgorithmus bestimmt anhand eines Unschärfebegriffes ähnliche Sequenzen und fasst sie bezüglich ihres Werteverlaufs in den einzelnen Funktionalen Einheiten zusammen. Die resultierenden Cluster beschreiben eine Menge von Sequenzen mit möglichst langem ähnlichem Verlauf. Damit liegen längere Sequenzen von Gewässerabschnitten vor, auf denen ein bestimmter Maßnahmenkatalog sinnvoll ist. Wie bereits erwähnt haben Maßnahmen zumeist Voraussetzungen in mehreren Funktionalen Einheiten. Daher ist es sinnvoll, Korrelationen zwischen Clustern von Teilsequenzen zu finden und somit mehr als eine Funktionale Einheit abzudecken. Durch eine geeignete Visualisierung der gefundenen Clusterkombinationen werden Experten darin unterstützt, Maßnahmenpakete in komplexen Anwendungsszenarien zu erstellen und für die Entscheidungsfindung aufzubereiten.. Modellierung In einer mehrdimensionalen Datenbank werden Daten mit unterschiedlichen Wertebereichen mehrerer Attribute gespeichert. Die Funktionalen Einheiten der Gewässerstrukturdaten sind nominale (d.h. endliche Anzahl möglicher Werte), geordnete Attribute. Der Wertebereich der Funktionalen Einheiten der Gewässerstrukturgüte sind dabei die Güteklassen. Wenn in einer Datenbank durch die Semantik der zugrunde liegenden Daten eine Reihenfolge von Datensätzen festgelegt ist, dann sprechen wir von Sequenzdaten. Wir modellieren

3 eine Sequenz Seq = {(id Seq,, t ),, (id Seq, n, t n )} durch eine Menge von geordneten mehrdimensionalen Datensätzen (t,,t n ). Zur Beschreibung lokaler Strukturen führen wir den Begriff einer Teilsequenz ein. Für die vorliegende Anwendung sind nur `lückenlose' (d.h. fortlaufend nummerierte) Sequenzausschnitte von Interesse. Eine Teilsequenz einer Sequenzdatenbank ist ein Ausschnitt Seq i j aus einer Sequenz der Datenbank. Der Ausschnitt wird durch i als Anfangs- und j als Endpunkt festgelegt. Abb. : Transformation von Sequenzen in hochdimensionale Punkte mit Clustering Für die Analyse ist man weniger an der Position von Teilsequenzen als vielmehr an ihrem Muster interessiert. Deshalb führen wir den Begriff Sequenzmuster s ~ = (t,,t l ) ein, der von der Position einer Teilsequenz abstrahiert und Teilsequenzen mit gleichen Datensätzen (t,,t l ) zusammenfasst. Da wir auch Teilmuster betrachten wollen, betrachten wir auch hier Ausschnitte, die durch Anfangs- und Endpunkt im Muster festgelegt werden. Aufbauend auf dieser Definition kann man eine alternative, äquivalente Darstellung einer Sequenzdatenbank einführen: eine Musterdatenbank MDB einer Sequenzdatenbank DB für eine feste Sequenzmusterlänge l ist definiert als eine Menge von Tupeln {( ~ s,pos DB ( ~ s )), } aus Sequenzmustern ~ s der Länge l und den zugehörigen Positionen Pos DB ( ~ s ), an denen diese Muster in der Datenbank DB auftreten (d.h. anfangen). Ob ein Sequenzmuster relevant ist, hängt von der relativen Häufigkeit, genannt Support, ab, mit der dieses Muster vorkommt. Wenn man nur den Support zur Beschreibung von Häufigkeiten heranzieht, so kann dies bei Sequenzdaten zu Problemen führen, denn zwei Sequenzmuster mit gleichem Support decken nicht unbedingt die gleiche Anzahl von Datensätzen einer Sequenz ab. Das liegt daran, dass manche Sequenzmuster in sich selbst wiederholbar sind. Auf Grund dieser Wiederholbarkeit können diese Sequenzmuster bei einer gleichen Anzahl von abgedeckten Datensätzen einen höheren Support besitzen als ein nicht in sich selbst wiederholbares Sequenzmuster. Um dieses Problem zu beheben, führen wir den Begriff der Abdeckung ein. Wir definieren die Abdeckung als die Anzahl der durch ein Sequenzmuster abgedeckten Datensätze geteilt durch die Länge der Datenbank und des Sequenzmusters. Anhand der Definition ist klar, dass der Support eine obere Schranke für die Abdeckung ist. Im algorithmischen Konzept wird in der Kernphase der Support verwendet, da die Integration

4 der Abdeckung in die Kernphase ineffizient ist. Für die Ergebnisse wird dann die Abdeckung berechnet. Weil der Support eine obere Schranke der Abdeckung ist, liefert diese Vorgehensweise dieselben Ergebnisse wie unter Verwendung der direkten Berechnung der Abdeckung. Abb. : Clusterbildung in einem Attribut Das Grundkonzept für dichtebasiertes Clustern ist, einem mehrdimensionalen Punkt (hier: Sequenz) einen Dichtewert zuzuordnen, der die Datendichte der Nachbarschaft (d.h. Anzahl aller Punkte, die einen Maximalabstand von ε zu diesem Punkte haben) widerspiegelt, in der sich der Punkt befindet. Mit Hilfe dieser Dichtewerte entscheidet man anhand eines Schwellenwertes α min, ob ein Punkt einem Cluster zugeordnet wird (vgl. DBSCAN: ESTER et al. 996). Auf Grund der Unschärfe der Gewässerstrukturgütedaten ist der Dichtebegriff aus DBSCAN hier nicht geeignet, da Unschärfe nicht berücksichtigt wird. Wir verwenden daher Methoden aus der Statistik, um ausgehend von einer gegebenen Stichprobe eine kontinuierliche Werteverteilung über Kern-Dichteschätzer zu approximieren und so die Unschärfe der Stichprobe zu berücksichtigen. Dabei fließen alle Punkte der Stichprobe mit zunehmender Distanz vom betrachteten Punkt weniger stark gewichtet ein (FAHRMEIR et al. 00). Da die Gewässerstrukturgütedaten nicht auf kontinuierlichen Daten basieren, integrieren wir globale Approximation durch Kern-Dichteschätzer in die lokale Berechnung des Dichtewertes eines Sequenzmusters. Über diese Gewichtungsfunktion wird der Einfluss aller Sequenzmuster ~ t der Datenbank auf die Dichteberechnung für das Sequenzmuster ~ s so bestimmt, dass Sequenzmuster ~ t, die dem Sequenzmuster ~ s ähnlich' in Bezug auf die Distanzfunktion sind, einen stärken Einfluss auf die Dichteberechnung von ~ s (monoton fallende Gewichtung) haben. In unserem Clusterbegriff wird ein Cluster durch die drei Kriterien Dichte, Maximalität und Kompaktheit festgelegt. Eine nichtleere Menge C von Sequenzmustern der Länge l einer Datenbank DB über einem Attribut A ist ein Cluster in Bezug auf eine Distanzfunktion zwi-

5 schen Mustern, eine Gewichtungsfunktion für die Dichteapproximation, einen Dichte- Schwellenwert α min und einen Maximalabstand β min genau dann, wenn gilt: Für alle s ~ in C ist die Dichte von s ~ größer oder gleich dem Schwellwert α min (Dichte); jede Erweiterung von C um ein weiteres Muster der Datenbank ist kein Cluster mehr (Maximalität) und zu jedem Muster in C gibt es einen Pfad zu jedem anderen Muster in C, wobei der Abstand zwischen allen Mustern des Pfades den Maximalabstand β min nicht überschreitet (Kompaktheit). Abb. : Clusterbildung in mehreren Attributen Mehrdimensionale Teilstrukturen modellieren wir als Korrelationen von Clustern in einem Teilraum. Eine Menge von Clustern der Länge l über verschiedene Attribute nennen wir korreliert, wenn Sequenzmustercluster häufig in der Datenbank zusammen auftreten. Überschreitet diese Korrelation (modelliert als Support bzw. Abdeckung der Sequenzmustercluster) einen bestimmten Schwellwert, nennen wir die Menge Subspacecluster. In AGRAWAL & SRIKANT 99 wurde gezeigt, dass eine Monotonieeigenschaft für den Support von Datensätzen und "lückenbehafteten" Teilsequenzen (sog. Aprioriprinzip) für die Einschränkung des Suchraums benutzt werden kann. Wir können zeigen, dass diese Monotonieeigenschaft sowohl für den Support als auch für die Abdeckung von Sequenzmustern gilt. Dazu wird die Eigenschaft genutzt, dass Ausschnitte eines Sequenzmusters und die Beschränkung eines Sequenzmusters auf einen Teilraum einem Teil dieses Sequenzmusters entsprechen, und deshalb mindestens genauso oft in der Datenbank vorkommen wie das Sequenzmuster selbst. Wir haben im Rahmen unserer Arbeit bewiesen, dass die Monotonieeigenschaft für den Support bzw. die Abdeckung eines Sequenzmusters auf unseren Dichtebegriff übertragbar ist. Dieser Beweis nutzt die Monotonie von Distanzfunktionen in Bezug auf Sequenzmusterausschnitte und die Antimonotonie der Gewichtungsfunktion in

6 ... Transformation... Bezug auf die Distanz sowie die Monotonieeigenschaft des Supports von Sequenzmustern und deren Ausschnitten (GLAVIC 005). Die Monotonieeigenschaft für die Dichte von Sequenzmustern kann auf eine Monotonieeigenschaft für den Support bzw. die Abdeckung von Sequenzmusterclustern erweitert werden. Eine weitere Monotonieeigenschaft existiert für den Support bzw. die Abdeckung von Teilmengen von Subspaceclustern. Diese Monotonieeigenschaft lässt sich aus dem Aprioriprinzip ableiten. Daraus folgt, dass eine Menge von Clustern nur dann ein Subspacecluster bilden kann, wenn alle Teilmengen ebenfalls Subspacecluster sind. Diese Eigenschaft kann genutzt werden, um den Suchraum für Subspacecluster einzuschränken (Bottom-up Ansatz).. Der SSC-Algorithmus Ziel des Algorithmus ist es, effizient hochdimensionale Sequenzmustercluster beliebiger Länge aus den Daten zu extrahieren. Im vorangegangenen Kapitel wurden dabei zwei verschiedene Monotonieeigenschaften beschrieben, welche ausgenutzt werden können, um Sequenzcluster in entsprechenden Teilräumen zu finden. Die Teilung des Algorithmus in zwei Phasen ist eine Möglichkeit, die Monotonieeigenschaften algorithmisch sinnvoll anzuwenden. In einer ersten Phase werden alle möglichen Sequenzmustercluster beliebiger Länge für jedes Attribut einzeln ermittelt (Single-Attribute- Phase). Dabei können längere Sequenzcluster aufgrund von kürzeren Sequenzclustern berechnet werden. Für die Berechnung eines Sequenzmusterclusters müssen die ähnlichen Sequenzmuster zu einem Sequenzmuster ermittelt werden. Weiterhin muss der Dichtewert für jedes Sequenzmuster eines Sequenzmusterclusters berechnet werden, wofür ebenfalls Bereichsanfragen benötigt werden. Daher ist es unerlässlich, eine Indexstruktur (d.h. Datenstruktur, die effiziente Datenverwaltung und Anfragebearbeitung ermöglicht) für die Single- Attribute-Phase des SSC-Algorithmus zu entwickeln, mit dessen Hilfe Bereichsanfragen und Dichteberechnungen für Sequenzmuster unterstützt werden. Der linke Teil von Abb. 5 illustriert die im Rahmen dieser Arbeit neu entwickelte Indexstruktur für Teilsequenzmuster. Seq Seq Seq Seq Seq Seq DB= C C C 5 C C C sup(c )= sup(c )= sup(c )= sup(c,c )= sup(c,c,c )= Support Cluster UC C C C C C UC C UC C C C Pos C C Abb. 5: Indexstruktur zur Clusterbestimmung in Single-Attribute-Phase und Transformation der Daten für Correlated-Attributes-Phase Zu jedem Teilsequenzmuster existiert ein entsprechender Pfad in der Indexstruktur, und an jedem Blatt wird eine Positionsliste gespeichert, welche die Vorkommen des Teilsequenz-

7 musters in der Datenbank bestimmt. Die Länge der Positionsliste kann direkt verwendet werden, um den Dichtewert für ein Teilsequenzmuster zu berechnen. Weiterhin ist es möglich, die Positionsliste eines längeren Teilsequenzmusters durch das Schneiden der Positionslisten von den entsprechenden kürzeren Teilsequenzmustern zu ermitteln. Ziel von Phase zwei ist die Bestimmung von Teilräumen, in welchen Teilsequenzmuster korreliert vorliegen (Correlated-Attributes-Phase). Da in der Single-Attribute-Phase Teilsequenzcluster beliebiger Länge für alle Attribute ermittelt wurden, werden diese Ergebnisse genutzt, um entsprechende Teilräume zu finden, in denen die Teilsequenzcluster korreliert auftreten. Hierfür wird eine Transformation der Daten von der Sequenzdarstellung in die Clusterdarstellung vorgenommen (siehe Abb. 5). Anschließend werden durch die Anwendung eines Frequent Itemset Algorithmus häufig gemeinsam auftretende Teilsequenzcluster gesucht (AGRAWAL & SRIKANT 99). Die gefundenen Frequent Itemsets beschreiben exakt die gesuchten Teilräume, welche korrelierte Teilsequenzcluster enthalten. 5. Experimente und Ergebnisse Die Effektivität des vorgestellten Algorithmus sowie der Einfluss verschiedener Parameter auf die Qualität und Quantität der gefundenen Cluster wurde durch eine Vielzahl durchgeführter Experimente evaluiert. Die Art der gefundenen Cluster wird entscheidend durch die Wahl des verwendeten Unschärfebegriffs beeinflusst. Experimentell hat sich herausgestellt, dass statistische Kerndichteschätzer wie der Gaußkern sich gut als Unschärferelation für die Gewichtung von benachbarten Sequenzen eignen. Abb. 6: Übersicht über die Anzahl und Art der gefundenen Cluster unter Berücksichtigung verschiedener Dichteparameter Eine Übersicht über die Art und die Anzahl der gefundenen Teilsequenzcluster unter dem Einfluss verschiedener Gaußkerne wird in Abb. 6 dargestellt. Dort sind die Anzahl der gefundenen Teilsequenzcluster in Abhängigkeit von der Größe des Teilraumes und der Länge der Teilsequenzen aufgetragen. Wie man erkennt, werden sehr viele hochdimensionale Teilräume gefunden, in denen korrelierte Teilsequenzcluster der Länge vier bis sechs auftreten. Durch die Verstärkung der berücksichtigten Unschärfe werden entsprechend mehr und län-

8 gere Teilsequenzcluster gefunden. Diese Übersichten helfen bei der Wahl geeigneter Parameter und ermöglichen die gezielte Untersuchung spezieller Clusterstrukturen. Abb. 7 visualisiert beispielhaft eine Clusterstruktur aus den Gewässerstrukturgütedaten von NRW. Die rechte Seite visualisiert die geographische Lage der Clustersequenzen, die linke Seite illustriert die wichtigsten Eigenschaften des Clusters. Der Cluster besteht aus Teilsequenzen der Länge fünf, die in zehn Dimensionen korreliert vorliegen. Die übersichtliche Repräsentation von häufig auftretenden korrelierten Teilsequenzen unterstützt Experten aus dem Bereich der Ingenieurhydrologie bei der Entwicklung von Maßnahmenplänen, welche sinnvoll auf längere Gewässerabschnitte angewendet werden können. Weiterhin wird durch die Clusterbildung garantiert, dass ein entwickelter Maßnahmenplan entsprechend häufig Anwendung finden kann. Abb. 7: Positionen eines gefundenen Clusters mit entsprechender Clusterbeschreibung Literatur AGRAWAL, R. & R. SRIKANT (99): Fast Algorithms for Mining Association Rules, Proc. VLDB 9, AYRES J. et al. (00): Sequential pattern mining using a bitmap representation, Proc. SIGKDD, 9-5. ESTER, M. et al. (996): A Density-Based Algorithm for Discovering Clusters in Large Spatial Databases with Noise, Proc. KDD, 6-. FAHRMEIR, L. et al. (00): Statistik Der Weg zur Datenanalyse, Springer Verlag. HAN, J. & M. KAMBER (00): Data Mining: Concepts & Techniques, Morgan Kaufmann. LUA NRW (00): Strukturgütedaten NRW der kleinen und mittelgroßen Fließgewässer.

9 RAT DER EUROPÄISCHEN UNION (000): RICHTLINIE 000/60/EG des europäischen Parlaments und des Rates vom. Oktober 000 zur Schaffung eines Ordnungsrahmens für Maßnahmen der Gemeinschaft im Bereich der Wasserpolitik, Luxemburg.