Einführung in die Methoden der Künstlichen Intelligenz

Transkript

1 Einführung in die Methoden der Künstlichen --- Vorlesung vom Sommersemester 2007 Prof. Dr. Ingo J. Timm, Andreas D. Lattner Professur für Wirtschaftsinformatik und Simulation (IS) 3. Uninformierte Suche Prof. Timm 1

2 Wohl definierte Suchprobleme... Generelles Suchproblem: Probleme und Lösungen: Initialstatus Operator oder Erfolgsfunktion Zustandsraum des Problems, das sind alle Zustände, die vom Initialzustand über Sequenzen von Aktionen zu erreichen sind. Pfade im Zustandsraum sind Sequenzen von Aktionen von Zustand a zu Zustand z. Zieltest: Einfache Überprüfung, ob aktueller Zustand = Ziel. Abstrakte Eigenschaften testen (Bsp.: Schach). Zusätzlich: Testen, welche Sequenz billiger ist (Pfadkosten g). Initialzustand, Operator-Satz, Zieltest und Pfadkostenfunktion definieren zusammengenommen ein Problem. Lösung Pfad vom Initialzustand zum Ziel Problemlösungsagenten Staubsauger-Problem Zustände 8 Zustände wie in Bild Operatoren Move right, left and suck Ziel-Test Kein Staub Pfadkosten Jeder Schritt kostet eine Einheit Beispielprobleme Prof. Timm 2

3 Staubsauger-Problem keine Sensoren, gestrichelt: set of states Beispielprobleme 4. Suchstrategien (uninformiert, blind) Komplexität b der Verzweigungsfaktor d die Tiefe des flachsten Knoten m die maximale Länge eines jeden Pfades in dem Suchraum 1. Breitensuche 2. Uniforme Kostensuche 3. Tiefensuche 4. Tiefensuche (limitiert) 5. Iterative Tiefensuche 6. Bi-direktionale Suche Suchstrategien Prof. Timm 3

4 Breitensuche Die Wurzel wird zuerst erweitert, dann alle Knoten, die von der Wurzel erzeugt worden sind usw. Alle Knoten der Tiefe d sind erweitert worden, bevor der ersten Knoten der Tiefe d+1 erzeugt wird. Kann durch GeneralSearch mit Queue implementiert werden. Zeit: O(b d ), hier b=2. Suchstrategien Uniforme Kostensuche Modifiziert Breitensuche, erweitert nur den Knoten, der am wenigsten kostet (über Pfad g(n)). Breitensuche = uniforme Kostensuche mit g(n) = Tiefe(n). Problem: von S nach G, Kosten sind markiert (a). SAG ist die erste Lösung (Kosten 11). Der Algorithmus erkennt dieses nicht als Lösung, weil 11 > 5 (von B). Danach SBG als finale Lösung (b). a) S A 1 10 Zustandsraum 5 B 5 G 15 C 5 S S S S 0 A B C A B C A B C b) Suchstrategien G G 11 G Prof. Timm 4

5 Tiefensuche Erweitert immer einen der Knoten auf der tiefsten Ebene des Baumes. Kann mit GeneralSearch und einer Queue, die die neuen Zustände an den Anfang hängt, implementiert werden. Suchstrategien Tiefensuche (2) Diskussion: Moderater Speicherverbrauch (nur der einzelne Pfad muß gespeichert werden), max. Tiefe m und Verzweigungsfaktor b = bm Knoten. Im Vergleich zur Breitensuche: 118 KB statt 10 PB bei Tiefe 12, das ist ein Faktor von 1:10 Milliarden weniger Speicherplatz. Zeit: O(b m ). Für Probleme mit vielen Lösungen besser als Breitensuche. Aber: man kann stecken bleiben, wenn man den falschen Pfad entlang läuft. --> Tiefensuche ist nicht vollständig und nicht optimal. Deswegen sollte man vermeiden, die Tiefensuche bei Suchproblemen mit großen oder infiniten maximalen Tiefen einzusetzen. Suchstrategien Prof. Timm 5

6 Limitierte Tiefensuche Verhindert die Nachteile von Tiefensuche durch Abschneiden der max. Tiefe des Pfades. Kann mit einem Spezialalgorithmus oder mit GeneralSearch mit Operatoren, die die Tiefe speichern, implementiert werden. Bsp.: Suche nach Lösung eines Weges bei 20 Städten. Wir wissen, daß die max. Pfadlänge 19 ist. Neuer Operator: Wenn man in Stadt A ist und weniger als 19 Schritte gegangen ist, generiert man einen neuen Zustand in Stadt B mit einer Pfadlänge, die um eins größer ist. Man findet garantiert die Lösung (wenn sie existiert), aber der Algorithmus ist nicht optimal. Zeit- und Speicherverbrauch ähnlich der Tiefensuche. Limitierte Tiefensuche ist vollständig aber nicht optimal. Suchstrategien Limitierte Tiefensuche (2) Pfadlänge 19 ist offensichtlich, aber wenn wir uns die Karte genau ansehen, werden wir die Pfadlänge neun feststellen (Diameter des Zustandsraums). Diameter gibt ein besseres Tiefenlimit und folglich eine effizientere Suche, aber: Diameter ist nicht oft bekannt. Iterative Tiefensuche verwendet verschiedene Tiefen, um das beste Tiefenlimit zu suchen. Suchstrategien Prof. Timm 6

7 Iterative Tiefensuche Generelle Strategie zum Auffinden des besten Tiefenlimits Suchstrategien Iterative Tiefensuche (2) Suchstrategien Prof. Timm 7

8 Iterative Tiefensuche (3) Diskussion: Kombination der Vorteile von Breiten- und Tiefensuche. Iterative Tiefensuche ist vollständig und optimal. Zustände wie Breitensuche, ca. 11% mehr Knoten. Zeit: O(b d ). Speicher: O(bd). Generell: iterative Tiefensuche wird dann eingesetzt, wenn ein großer Suchraum vorhanden ist und die Tiefe der Lösung unbekannt ist. Suchstrategien Bidirektionale Suche Idee: Suche beginnt sowohl vom Initialzustand als auch vom Ziel Ende ist erreicht, wenn sich beide Suchzweige in der Mitte treffen Motivation: b d/2 + b d/2 << b d Suchstrategien Prof. Timm 8

9 Bidirektionale Suche (2) Diskussion: Zeit: O(b d/2 ), wenn b in beide Richtungen gleich ist. Bsp.: für b=10 und d=6 würde die Breitensuche Knoten erzeugen, hier aber nur (weil Tiefe=3). Speicher: O(b d/2 ), weil einer der Bäume im Speicher gehalten werden muß Was muß beachtet werden? Vorgänger für Rückwärtssuche Effizienz bei der Suche, ob der aktuelle Knoten schon im anderen Baum existiert. Welche Art der Suche wird angestrebt?... Suchstrategien Vergleich der Suchstrategien wobei: b = Verzweigungsfaktor d = Tiefe m = maximale Tiefe l = Limit generell: Annahme level d+1 Suchstrategien Prof. Timm 9

10 Vermeidung von wiederholten Zuständen Möglichkeiten: Gehe nicht den Weg zurück, den Du gekommen bist. Kreiere keine Pfade mit Zyklen. Generiere keinen Zustand, der vorher schon einmal generiert worden ist. (a): Zustandsraum mit jeweils zwei Optionen, um von A nach B usw. zu gelangen (Zustandsraum d+1) (b): Korrespondierender Suchbaum 2 d (c): Rechteckiger Gitterraum, grau: Zustände, die in 2 Schritten von A erreicht werden können Besonderheiten Suche mit partiellen Informationen Abhängig vom Wissen über die Umgebung (Sensoren, Effektoren) Bsp.: Staubsaugerwelt: Zwei Orte, jeder Ort enthält Staub oder nicht, der Agent befindet an einem der beiden Orte. Es gibt acht mögliche Zustände. Der Agent hat drei Aktionen: Left, Right, Suck. Zielzustand --> {7,8} Besonderheiten Prof. Timm 10

11 Sensorlose (konformante) Probleme 1. Single-state problems Welt ist verfügbar, Sensoren geben alle notwendigen Informationen, Aktionen sind exakt bekannt. Schritte zum Ziel kalkulierbar (Bsp.: Zustand 5, Aktion [Right,Suck]). Besonderheiten 2. Multiple-state problems Aktionen sind bekannt, Informationen über die Welt sind nur bedingt zugreifbar (Extremfall: keine Sensoren). Initialzustand aus {1,2,3,4,5,6,7,8}. Mit [Right] würden wir in {2,4,6,8} übergehen und mit [Right, Suck, Left, Suck] wird das Ziel erreicht. Agent schlußfolgert über eine Menge von Zuständen (Belief states) Kontingente Probleme Während der Ausführung treten die Probleme auf (Bsp.: {1,3} --> {7,8}). Annahme: Agent ist in {1,3}, er könnte die Sequenz [suck, right, suck] formulieren, sucking geht in {5,7}, moving right geht dann in {6,8}, wenn er in {6} ist, ist die Aktion erfolgreich, wenn er in {8} ist, scheitert die Aktion. -->Lösung: von {1,3} über {5,7} in {6,8} und dann [suck] aber nur, wenn Staub vorhanden ist. D. h., das Lösen des Problems bedeutet Aufnahme von Sensordaten während der Ausführungsphase! Der Agent muß dadurch nicht einzelne Sequenzen prüfen, sondern einen ganzen Baum. Adversariale Probleme, wenn Unsicherheit durch einen Gegner ausgelöst wird. Besonderheiten Prof. Timm 11

12 Explorationsprobleme Annahme: Der Agent hat keine Informationen über die Effekte seiner Aktionen (schwierigste Situation). Der Agent muß experimentieren, dieses ist eine Art von Suche, aber eine Suche in der realen Welt anstatt in der Modell-Welt. Wenn der Agent überlebt, lernt er seine Welt wie durch eine Karte kennen und kann dadurch später Subprobleme lösen. Single-state und multiple-state Probleme sind mit ähnlichen Suchtechniken lösbar, Contingency Probleme benötigen komplexere Techniken. Besonderheiten Zusammenfassung Vor der Suche nach Lösungen muß ein Ziel definiert werden, daß wiederum für die Formulierung des Problems benötigt wird. Ein Problem besteht aus vier Komponenten: einem Initialzustand, einem Satz von Operatoren, einer Zieltestfunktion und einer Kostenfunktion. Die Umgebung des Problems ist durch den Zustandsraum repräsentiert. Ein Pfad durch den Zustandsraum vom Initialzustand zum Ziel heißt Lösung. Der generelle TreeSearch-Algorithmus kann verwendet werden, um jedes Problem zu lösen, spezielle Varianten stehen für spezielle Strategien zur Verfügung. Suchalgorithmus werden nach Vollständigkeit, Optimalität sowie Zeit- und Speicherkomplexität beurteilt. Prof. Timm 12

13 Zusammenfassung (2) Breitensuche erweitert den flachsten Knoten zuerst. Sie ist vollständig, optimal für uniform-cost-operatoren und hat O(b d ) für Zeit- und Speicherkomplexität. Uniforme Kostensuche erweitert den billigsten Knoten zuerst. Sie ist vollständig und optimal. Zeit und Speicherk. wie Breitensuche. Tiefensuche erweitert den tiefsten Knoten zuerst. Sie ist nicht vollständig und nicht optimal. Zeitk. O(b m ), Speicherk. O(bm). Limitierte Tiefensuche setzt ein Limit bei der Tiefe der Suche. Iterative Tiefensuche verwendet limitierte Tiefensuche mit sich erhöhenden Limits bis ein Ziel gefunden worden ist. Sie ist vollständig und optimal. Zeitk. O(b d ), Speicherk. O(bd). Bidirektionale Suche kann die Suchzeit enorm verringern, ist allerdings nicht immer anwendbar. Die Speichervoraussetzungen sind nicht praktikabel. 4. Informierte Suche --- Suche mit Vorwissen --- Prof. Timm 13

14 Wiederholung Suche ohne Vorwissen generiert neue Zustände und testet sie gegen das Ziel. Meistens sehr ineffizient. Problemspezifisches Wissen kann helfen, die Suche zu beschleunigen. Inhalt der Vorlesung 1. Informierte (heuristische) Suchstrategien 2. Heuristische Funktionen 3. Lokale Suchalgorithmen und Optimierungsprobleme 4. Zusammenfassung Prof. Timm 14

15 Bestensuche GeneralSearch Implementierung von Wissen in der Queuefunktion, die die Knoten verwaltet und erweitert: Evaluationsfunktion. Wenn Knoten der Wertigkeit nach geordnet werden Bestensuche. Aber: Nur scheinbar der beste Knoten, eigentlich müsste es Scheinbare Bestensuche heißen. Erweiterung des allgemeinen Suchalgorithmus Informierte Suchstrategien Bestensuche Evaluationsfunktion Maß z.b. durch Pfadkosten g, aber: keine direkte Suche zum Ziel! Zusätzliche Kostenfunktion Sie ist notwendig für die Kostenschätzung vom gegenwärtigen Zustand zum nächstgelegenen Zielzustand. Dazu gibt es zwei grundlegende Ansätze: Erweiterung des Knotens, der dem Ziel am nächsten ist Greedy Search Erweiterung des Knotens, der am wenigsten kostet A*-Suche Informierte Suchstrategien Prof. Timm 15

16 Greedy Search Beispiele: Eine der einfachsten Suchstrategien für Bestensuche ist die Minimierung der geschätzten Kosten. Weg von Arad nach Bukarest Maß:? Der Knoten, der durch die Beurteilung am nächsten zum Zielzustand ist, wird erweitert. Eine Funktion, die diese Kosten schätzt (und nicht kalkuliert!) nennt man heuristische Funktion (meistens mit h bezeichnet). h(n) = geschätzte Kosten des billigsten Pfades vom Zustand am Knoten n zum Zielzustand und es gilt für den Zielzustand: h(n)=0 Informierte Suchstrategien Greedy Search Karte von Rumänien mit Straßendistanzen in km sowie Luftentfernung nach Bukarest. Wieso ist das eine gute Heuristik? Weg von Iasi nach Fagaras? Informierte Suchstrategien Prof. Timm 16

17 Greedy Search Zustände nach Greedy Search für Bukarest, Luftlinienentfernung als heuristische Funktion h, die Knoten sind mit ihrem h-wert bezeichnet. Suchkosten? Optimal? Informierte Suchstrategien Greedy Search Heuristik liefert hier minimale Suchkosten Lösung wird gefunden, ohne dass ein Knoten erzeugt wird, der nicht auf dem Lösungspfad ist. Aber: sie ist nicht optimal Der Pfad über Fagaras ist 32km länger Merke: Strategie versucht jederzeit, die Kosten zu minimieren, ohne die Gesamtkosten bis ans Ende zu betrachten deswegen Greedy Search (manche Autoren: Bestensuche oder Best-first) Informierte Suchstrategien Prof. Timm 17

18 Greedy Search Diskussion Greedy Search ist ähnlich wie Tiefensuche (tiefer Pfad, zurück, wenn Sackgasse), sie ist nicht optimal und nicht vollständig, Worst-case Zeit- und Raumkomplexität: O(b m ) mit m = maximale Tiefe des Suchraums, aber h ist entscheidend! Greedy Search neigt dazu, manchmal falsch zu starten (Iasi Fagaras: Sackgasse) Lösung hier: erst einen suboptimalen Weg einschlagen, die Heuristik direkte Entfernung würde hier einen Knoten erzeugen, der überflüssig ist....und wenn keine repeated states beachtet werden, kann es oszillieren (zwischen Neamt und Iasi) Aber: Greedy Algorithmen tendieren dazu, schnell Lösungen zu finden, wenn auch nicht immer die optimale. Informierte Suchstrategien A*-Suche Greedy Search: minimiert Kosten zum Ziel mit h(n), aber: nicht vollständig und nicht optimal Uniform-cost Search: minimiert Kosten bis n mit g(n) Ist vollständig und optimal, kann aber ineffizient sein Lösung: Kombination beider Ansätze Geschätzte Kosten der billigsten Lösung durch den Knoten n: f(n) = g(n) + h(n) f(n) = geschätzte Kosten der billigsten Lösung durch n Informierte Suchstrategien Prof. Timm 18

19 A*-Suche Minimale Pfadkosten: die A*-Suche Restriktion: Funktion h, die die Kosten zum Ziel nicht überschätzt: Eine derartige Funktion nennt man auch admissible heuristic, zulässige (nicht überschätzende) Heuristik Bsp.: die Luftlinienentfernung zweier Orte ist niemals länger als der direkte Weg über die Straße. Solche Heuristiken sind optimistisch, die realen Kosten werden in der Regel höher sein. Wenn h zulässig ist, wird f(n) niemals die realen Kosten der besten Lösung durch n überschätzen. Informierte Suchstrategien A*-Suche Zustände nach A*-Suche für Bukarest, die Knoten sind mit dem Wert der Funktion f = g + h bezeichnet. Die h-werte sind die Luftlinienentfernungen nach Bukarest von vorhin. Informierte Suchstrategien Prof. Timm 19

20 A*-Suche Monotonieverhalten Kosten von f steigen kontinuierlich Monotonie ( consistent heuristic ) Beweis zur Optimalität Z 1 ist optimales Ziel mit Pfadkosten f* Ein suboptimales Ziel Z 2 ist generiert worden und ist in der Queue; g(z 2 ) > f* k Annahme: n ist ein noch nicht erweiterter Knoten auf dem kürzesten Pfad zu einem optimalen Ziel Z 1 Weil h unterschätzt, ist f* f(n) und außerdem wenn n nicht zur Erweiterung für Z 2 gewählt ist, ist f(n) f(z 2 ) Kombination (Transitivität): f* f(z 2 ) Aber weil Z 2 ein Zielzustand ist, ist h(z 2 )=0 f(z 2 )=g(z 2 ) Also: f* g(z 2 ) Widerspruch! Z 2 ist nicht suboptimal, A* wählt deshalb nie Z 2 aus. Informierte Suchstrategien n Z 1 Z 2 A*-Suche Wenn die Kosten f monoton steigen, dann kann man Konturen im Zustandsraum zeichnen Innerhalb der Kontur 420 sind alle f(n) <= 420 A* expandiert die Knoten mit geringsten Kosten, deswegen konzentrische Bänder Mit uniformer Kostensuche: h(n)=0; Bänder werden Kreise Je besser Heuristik, desto enger werden Bänder f = 380, 400, 420 mit Arad als Startzustand A* ist vollständig und optimal Informierte Suchstrategien Prof. Timm 20

21 Speicher-beschränkte heuristische Suche Speicher-beschränkte Suche Bei schweren Problemen gibt man meist zuviel Speicherplatz. Hier werden zwei Methoden vorgestellt, die dem Einhalt gebieten können: IDA*, eine logische Erweiterung von ID (iterative Deepening) SMA*, ähnlich wie A*, aber mit einer stringenten Queue-Größe Iterative Tiefensuche A* (IDA*) Jede Iteration ist eine Tiefensuche mit f-kostenschranke statt Tiefenlimit. Jede Iteration expandiert alle Knoten innerhalb einer Kontur und schaut über die Konturgrenze nach der nächsten Iteration. IDA* ist vollständig und optimal, Raumkomplexität proportional dem längsten explorierten Pfad: seien δ die kleinsten Kosten eines Operators, seien f* die optimale Kosten der Lösung, dann gilt: IDA* benötigt bf*/δ Knoten im Speicher. Eine gute Abschätzung ist bd Informierte Suchstrategien Speicher-beschränkte heuristische Suche Simplified Memory-Bounded A* Suche (SMA*) Folgende Eigenschaften zeichnen diese Suche aus: Nutzt gesamten Speicher, der zur Verfügung steht Vermeidet repeated states Vollständig, solange genug Speicher für den flachsten Lösungsweg vorhanden ist. Optimal, solange genug Speicher für den flachsten Lösungsweg vorhanden ist, ansonsten beste Lösung für verfügbaren Speicher. Informierte Suchstrategien Prof. Timm 21

22 Speicher-beschränkte heuristische Suche SMA* Suche D,F,I,J sind Zielknoten Jeder Knoten ist mit seinen f- Kosten beschrieben. In Klammern der Wert des besten vergessenen Nachfolger-Knotens. Ziel: Finde den Zielknoten mit den geringsten Kosten mit genug Speicher für nur drei Knoten. Algorithmus: Update die f-kosten von A mit dem Minimum seiner Kinder (13), Speicher ist voll. Addiere den Nachfolger am billigsten Knoten (G). F vom besten vergessenen Nachfolger merken (15), B entfernen, H erweitern, Speicher voll, H ist keine Lösung, H = f(g)=24, f(a)=15, f (A)=24, I=Ziel, aber 24 B erweitern, C wie H, D erweitern, f(d)=20 f(a)=20, Suche beendet. Informierte Suchstrategien 8-Puzzle: heuristische Funktionen b 3, typische Lösung nach 20 Schritten Erschöpfende Suche: 3 20 Zustände Ohne repeated states nur 9!/2 = Ziel daher: gute Heuristik h 1 : Zahl der Plättchen in falscher Position (unterschätzend?) h 2 : Manhattan-Entfernung (City-Block Distance): Summe der Entfernungen der Plättchen von ihren Endzuständen (unterschätzend?) Heuristische Funktionen Prof. Timm 22

23 8-Puzzle: heuristische Funktionen H 1 ist unterschätzend, weil jedes Plättchen, daß an einer falschen Position ist, mindestens einmal verschoben werden muss, h 1 wäre hier 7. H 2 ist unterschätzend, weil jeder Schritt nur ein Plättchen einen Schritt weiter zum Ziel bringen, h 2 = =18. Qualität einer Heuristik: Ein Weg, die Qualität der Heuristik zu bestimmen ist der effektive Verzweigungsfaktor b*. Sei n die Anzahl der durch A* expandierten Knoten, d die Lösungstiefe, dann ist b* der Verzweigungsfaktor, den ein gleichmäßiger Baum der Tiefe d mit n Knoten hätte, n + 1 = 1 + b* + (b*) (b*) d Heuristische Funktionen Qualität heuristischer Funktionen Beispiel: wenn die Tiefe 5 ist und die Anzahl der Knoten 52, dann ist der effektive Verzweigungsfaktor zufällig generierte Probleme des 8-Puzzles mit variabler Lösungslänge Tabelle zeigt die Anzahl der Knoten, die erweitert werden und die Verzweigungsfaktoren. h 2 ist besser als h 1 (h2 dominiert h1), iterative Tiefensuche (uninformiert) ist viel schlechter. Heuristische Funktionen Prof. Timm 23

24 Heuristiken entwickeln Relaxierte Probleme Annahme: Puzzle-Regeln wären einfacher (z.b. Plättchen können überall hin geschoben werden) h 1 wäre dann keine Schätzung mehr, sondern würde beste Lösung liefern Problem mit weniger Restriktionen auf den Aktionen heisst relaxiertes Problem Kosten für optimale Lösung eines relaxierten Problems ist eine unterschätzende Heuristik für Originalproblem Lernen aus Erfahrung h(n) ist eine Schätzkostenfunktion von Initialzustand bis zur Lösung Idee: Lösen vieler Puzzles und Verwendung dieser Lösungen als Lernbasis Jedes Beispiel besteht aus dem Zustand der Lösung und der dazu gehörigen Kosten Induktive Lernalgorithmen können jetzt eingesetzt werden (KNN, DTs, RL) Heuristische Funktionen Lokale Suche Bisher: systematisches Durchsuchen des Zustandsraumes. Pfade werden teilweise im Speicher gehalten und zur Laufzeit werden neue Teilpfade generiert Wenn Ziel gefunden ist, ist der Pfad die Lösung des Problems Bei vielen Problemen ist der Pfad nebensächlich, nur das Erreichen des Zieles ist entscheidend (Bsp.: 8-Damen Problem) Andere Klasse von Algorithmen: lokale Suchalgorithmen, ein einzelner Zustand wird im Speicher gehalten und man bewegt sich im Zustandsraum auf der Basis lokaler Informationen. Keine Pfade! Zwei Vorteile: meistens wenig Speicherverbrauch häufig gute Lösungen in großen oder kontinuierlichen Suchräumen Lokale Suchalgorithmen Prof. Timm 24

25 Optimierungsprobleme Derartige Algorithmen sind gut für Optimierungsprobleme geeignet, d.h. finde den besten Zustand anhand einer Zielfunktion Landschaft (2D) globales Minimum, Maximum vollständiger lokaler Suchalgorithmus findet Lösung, wenn sie existiert Optimaler Algorithmus findet globales Minimum Lokale Suchalgorithmen Vier Algorithmen Hill-climbing (Gradient descent) Simulated Annealing Local Beam Suche Genetische Algorithmen Lokale Suchalgorithmen Prof. Timm 25

26 Hill-Climbing Suche Schleife, die dem höchsten Wert folgt (aufwärts) Terminiert, wenn höchster Wert erreicht ist Kein Suchbaum h=17, beste Nachfolger haben h=12 Lokale Suchalgorithmen Beispiel: 8 Damen Zustand hat 8 Damen auf Brett, eine pro Spalte Nachfolgerfunktion liefert alle möglichen Zustände, die durch Ziehen einer Dame in der gleichen Spalte generiert werden (8x7=56) h = Anzahl von Damenpaaren, die sich gegenseitig attackieren Globales Minimum ist 0 Lokales Minimum, h=1, jeder Nachfolger hat hohe Kosten Hill-Climbing Suche Probleme: Lokale Minima Lösung supoptimalen Nachfolger wählen Grate (Kammlinien lokaler Maxima) Plateaus zufälligen Nachfolger Diskussion: 8-Damen Problem wird in 14% aller Fälle gelöst, wenn zufällig gestartet wird, 86% Problemfälle Wenn Lösung, dann ist sie schnell, im Mittel nach vier Schritten Wenn nicht, dann bleibt man nach drei Schritten stecken aber: bei 8 8 ~ 17 Millionen Zuständen ist das nicht schlecht! Nicht vollständig Vermeidung der Nachteile durch zufälliges Neustarten... Wichtig in der Praxis! Lokale Suchalgorithmen Prof. Timm 26

27 Simulated Annealing Hill-Climbing nicht vollständig aber effizient, Kontrast: zufällige Auswahl ist vollständig aber nicht effizient Idee der Kombination: Simulated Annealing Bewusstes Verlassen eines lokalen Maximums in falsche Richtung Innere Schleife wie Hill-Climbing Anstatt die beste, eine zufällige Auswahl des nächsten Zuges: Wenn der Zug die Situation verbessert: ausführen, Wenn nicht: sonst. Zug mit gewisser Wahrscheinlichkeit <1 ausführen; die Wahrscheinlichkeit vermindert sich exponentiell mit der Schlechtheit des Zuges: E Lokale Suchalgorithmen Simulated Annealing Der Parameter T wird benutzt, um die Wahrscheinlichkeit zu bestimmen: bei höheren Werten von T sind auch schlechtere Züge möglich Parameter schedule: bestimmt T aufgrund der bisher abgearbeiteten Zyklen. Annealing: graduelle Abkühlung von Flüssigkeiten Value-Funktion korrespondiert zur Energie der Atome T zur Temperatur Schedule bestimmt die Abnahme der Temperatur Lokale Suchalgorithmen Prof. Timm 27

28 Local Beam Suche Pfad-basierter Algorithmus Nicht nur ein einzelner Zustand im Speicher, sondern k In jedem Schritt werden alle Nachfolger für die k Zustände generiert, wenn Ziel erreicht ist stop Sonst: wähle die besten k Nachfolger aus und mache weiter Anders als SA, weil wir k Pfade haben. Bsp.: wenn ein Zustand gute Nachfolger generiert und für die anderen k-1 nicht klar ist, in welche Richtung gegangen wird Local Beam Suche kann sich schnell in Regionen verlieren Abhilfe: Stochastic Beam Suche anstatt die besten k Nachfolger werden zufällig k Nachfolger gewählt Stichworte: natürliche Auslese, Offspring, Organismus Lokale Suchalgorithmen Genetische Algorithmen GA ist Variante von Local Beam Suche Nachfolger wird aus zwei Vorgängerzuständen erzeugt Evolution ist Pate, deswegen der Name a) k zufällige Zustände am Anfang (Population), jeder Zustand (Individuum) ist ein String über einem endlichen Alphabet (Bsp.: 8-Damen Problem 8 digits, jedes digit zwischen 1 und 8 b) Evaluationsfunktion oder hier: Fitnessfunktion (höhere Werte für bessere Zustände), im Bsp.: Anzahl der attackierenden Damen, 28 ist Lösung Lokale Suchalgorithmen Prof. Timm 28

29 Genetische Algorithmen c) Reproduktionsschritt, zwei Zustände werden zufällig ausgewählt (nach Wahrscheinlichkeiten), hier ein Zustand 2x, ein anderer überhaupt nicht d) Für jedes Paar crossover point zufällig wählen. Nachfolger werden dann gemischt e) Mutation zufällig mit kleiner unabhängigen Wahrscheinlichkeit Lokale Suchalgorithmen Beispiel zu GA Zwei Eltern (wie (c)) und ein Nachfolger Lokale Suchalgorithmen Prof. Timm 29

30 GA Diskussion Kombination von hillclimbing und zufälliger Auswahl Vorteil (wenn überhaupt nachweisbar) durch crossover Mathematisch nachweisbar, das crossover nichts bringt, wenn die digits am Anfang zufällig sind Praxisbedeutung groß bei Optimierungsproblemen (circuit layouts, scheduling) Lokale Suchalgorithmen Zusammenfassung Heuristiken werden benutzt, um die Kosten der Suche zu minimieren. Bestensuche ist GeneralSearch, bei der die Knoten mit den minimalen Kosten zuerst erweitert werden. Wenn man die geschätzten Kosten zum Erreichen des Zieles minimiert (h(n)), bekommt man greedy search (GS). Die Suche ist i.d.r. besser als uninformierte Algorithmen, aber GS ist weder vollständig noch optimal. Die Minimierung von f(n) = g(n) + h(n) kombiniert die Vorteile von uniform-costsearch und greedy search. Wenn man garantiert, dass h(n) nicht überschätzt wird und repeated states beachtet werden, bekommt man A*-Suche. A* ist vollständig und optimal. Die Zeitkomplexität hängt von der Wahl der Heuristik ab. Man kann den Speicherplatz reduzieren, in dem man speicher-beschränkte Algorithmen verwendet (IDA*, SMA*). Prof. Timm 30

31 Zusammenfassung Lokale Suchalgorithmen behalten immer nur einen Zustand im Speicher, können aber auf lokalen Maxima stehen bleiben (Hill-Climbing). Mit Simulated Annealing (SA) ist ein stochastisches Verfahren entwicklt worden, um dieses zu verhindern (mit Temperatur). SA ist vollständig und optimal. Genetische Algorithmen ist stochastische Hill-Climbing Suche mit einer großen Anzahl von Individuen in einer Population. Neue Zustände werden durch Crossover und Mutation erzeugt. Prof. Timm 31