Uninformierte Suche in Java Informierte Suchverfahren

Transkript

1 Uninformierte Suche in Java Informierte Suchverfahren Stephan Schwiebert WS 2009/2010 Sprachliche Informationsverarbeitung Institut für Linguistik Universität zu Köln

2 Suchprobleme bestehen aus Zuständen (insbesondere einem Ausgangszustand), Nachfolgerfunktionen und Zieltest Bei informierten Suchverfahren existiert zudem noch eine Kostenfunktion, mit der ein einzelner Schritt bewertet wird.

3 Suchbaum/Suchgraph Teilgraph des Suchraums Wurzel ist Suchknoten, der dem Ausgangszustand entspricht. Abhängig von der gewählten Suchstrategie im (theoretischen) Idealfall ein Pfad vom Ausgangszustand zur optimalen Lösung. Im Idealfall kreisfrei (Baum statt Graph)

4 Knoten und Zustände im Suchbaum Zustand: Konfiguration des Problems, z.b. besuchte Städte + Kosten des zurückgelegten Weges Knoten: Buchhaltungs -Datenstruktur, z.b. Kosten des zurückgelegten Weges & aktuelle Stadt Zwei unterschiedliche Knoten können den gleichen Weltzustand beschreiben (der auf unterschiedlichen Wegen erreicht wurde).

5 Suchstrategie informierte Suche: Besucht vielversprechende Knoten im Suchbaum zuerst. Benötigt Zusatzinformationen, um diese Knoten zu identifizieren. uninformierte Suche: Besucht Knoten nach ihrer Reihenfolge im Suchbaum. Kann dabei beliebig schlecht vorgehen.

6 Algorithmus zur Tiefensuche Stack stack stack.push(ausgangsproblem) begin suchelösung : solange (Stack nicht leer) : Problem p = stack.pop() wenn (p ist Lösung) : return Lösung: p sonst: Problem kind = expandiere(p) wenn (kind!= null) : stack.push(p) stack.push(kind) end wenn end solange end sonst end suchelösung

7 Algorithmus zur Tiefensuche Stack stack stack.push(ausgangsproblem) begin suchelösung : solange (Stack nicht leer) : Problem p = stack.pop() wenn (p is t Lös ung ) : return Lösung: p Einzige Bedingung an das Problem: Methode zum Prüfen und zum Expandieren. sonst: Proble m kind = e x pa ndie re ( p) wenn (kind!= null) : stack.push(p) stack.push(kind) end wenn end solange end sonst end suchelösung

8 Algorithmus zur Breitensuche Queue queue queue.enqueue(ausgangsproblem) begin suchelösung : solange (queue nicht leer) : Problem p = queue.dequeue() wenn (p is t Lös ung ) : return Lösung: p Einzige Bedingung an das Problem: Methode zum Prüfen und zum Expandieren. sonst: Proble m[ ] kinde r = e x pa ndie re ( p) für alle elemente kind aus kinder : queue.enqueue(kind) end füralle end solange end sonst end suchelösung

9 8-Damen-Problem Gegeben: Schachbrett mit 8 Zeilen und 8 Spalten Gesucht: Aufstellung von 8 Damen, so dass keine Dame von einer anderen Dame bedroht wird.

15 8-Damen-Problem Gegeben: Schachbrett mit 8 Zeilen und 8 Spalten Gesucht: Aufstellung von 8 Damen, so dass keine Dame von einer anderen Dame bedroht wird. Für die 8. Dame ist kein Feld mehr frei aber es gibt 92 verschiedene Lösungen zu diesem Problem.

16 8-Damen-Problem Gegeben: Schachbrett mit 8 Zeilen und 8 Spalten Gesucht: Aufstellung von 8 Damen, so dass keine Dame von einer anderen Dame bedroht wird. Wie lässt sich das 8- Damen-Problem als Backtracking-Problem formulieren?

17 Informierte Suche/Best First Search # Damen # Lösungen Zeit/Lösung , , ,4 Da Verzweigung und Tiefe des Suchbaums stark zunehmen, wenn das Spielfeld vergrößert wird, wird das vorgestellte Backtracking-Verfahren schnell ineffizient. Wie könnte sich die Suche beschleunigen lassen?

18 Informierte Suche/Best First Search Wenn Teillösungen bewerten werden können, können zunächst vielversprechende Knoten expandiert werden. Je nach Qualität der Bewertungsfunktion (die abhängig von der Problemstellung ist), lässt sich die Anzahl der zu expandierenden Knoten somit stark beschränken. Wird die Bewertung einer Lösung geschätzt, so handelt es sich bei der Bewertungsfunktion um eine Heuristik.

19 Heuristiken

20 Heuristiken für das 8-Damen-Problem Wie könnte eine Heuristik für das 8-Damen-Problem aussehen, die entscheidet, in welcher Spalte die nächste Dame gesetzt werden soll?

21 Heuristiken für das 8-Damen-Problem Wie könnte eine Heuristik für das 8-Damen-Problem aussehen, die entscheidet, in welcher Spalte die nächste Dame gesetzt werden soll? h(s) =??

22 Heuristiken für das 8-Damen-Problem Wie könnte eine Heuristik für das 8-Damen-Problem aussehen, die entscheidet, in welcher Spalte die nächste Dame gesetzt werden soll? h1(s) = Anzahl freier Felder h2(s) = min. Anzahl freier Felder pro Zeile

23 Bestensuche im 8-Damen-Suchbaum 3 4a 4b 4d 4f h 2 : 2 h 2 : 2 h 2 : 1 h 2 : a b c d e f g h Die Positionen a, b und f würden von h 2 gegenüber Position d bevorzugt.

24 Anforderungen an eine Heuristik Welche Kriterien sollte eine gute Heuristik erfüllen? Sie sollte effizient berechnet werden können wenige bis keine schlechten Knoten expandieren. niemals höhere (bei einem Minimierungsproblem) Kosten schätzen als tatsächlich anfallen.

25 Wegsuche II Wie könnte eine Heuristik aussehen, die benutzt werden kann, um Wege in einem Routenplaner zu berechnen?

26 Naive Heuristik Idee: Es wird stets der Knoten expandiert, der dem Ziel (laut Heuristik) am nächsten liegt. Bewertungsfunktion: f(x) = h(x) Vorteil: Der Algorithmus ist schnell. Problem: Die Lösung ist nicht optimal.

27 Naive Heuristik In diesem Fall würde die Suche den rot markierten Weg wählen (Kosten: 168), während der grün markierte Weg (Kosten: 133) optimal ist. 54

28 Naive Heuristik: zu gierig! Der beschriebene Ansatz ist ein sogenannter Greedy-Algorithmus, der sich gierig dem Ziel nähert und nicht bereit ist, eine einmal getroffene Entscheidung (hier: Zwischenstation) zurückzunehmen. Für manche Probleme sind Greedy-Algorithmen sehr gut geeignet. Wie muss ein solches Problem aussehen?

29 Hill-climbing Problem: Abhängig vom Ausgangszustand kann der Algorithmus in einem lokalen Maximum steckenbleiben.

30 Wegsuche II Wie lässt sich die Heuristik verbessern?

31 Wegsuche II Eine verbesserte Bewertungsfunktion besteht aus zwei Unterfunktionen f(n) = g(n) + h(n) g(n): tatsächliche Kosten des Weges von der Wurzel zu Knoten n. h(n): geschätzte Kosten von n zu einem Zielknoten ( eigentliche Heuristik ) Durch Verwendung dieser Heuristik ließe sich die Wegsuche optimieren wenn der Suchalgorithmus sie sinnvoll einsetzt.

32 Wegsuche II Beispiel: f(s) = g(s) + h(s) S Z Z Z Z S Z Startknoten Zielknoten

33 Wegsuche II Beispiel: f(s) = g(s) + h(s) S g(s) = 0, weil S Startknoten h(s) = 23 Z Z Z Z -> Die beste Lösung über S hat laut Heuristik den Wert 23. S Z Startknoten Zielknoten

34 Wegsuche II Beispiel: f(a) = g(a) + h(a) 5 S g(a) = 5, Kosten des Wegs von S nach A h(a) = 15 A Z Z Z Z -> Die beste Lösung über A hat laut Heuristik den Wert 20. S Z Startknoten Zielknoten

35 Wegsuche II Beispiel: f(b) = g(b) + h(b) g(b) = 2, Kosten des Wegs von S nach A h(b) = unendlich S 2 A B Z Z Z Z -> Die beste Lösung über B hat laut Heuristik den Wert unendlich (keine Lösung). S Startknoten Z Zielknoten

36 Wegsuche II Beispiel: usw... h(c) = 99, h(d) = unendlich -> A ist der beste Knoten. A B C D S Z Z Z Z S Z Startknoten Zielknoten

37 A*

38 Der A*-Algorithmus Initialisiere Listen OPEN, CLOSED und Knoten STARTKNOTEN Füge STARTKNOTEN in OPEN ein solange OPEN nicht leer ist { Knoten n = Knoten aus OPEN mit kleinstem f(n) Füge n in CLOSED ein Wenn n Zielknoten ist return Gefunden! für alle Kindknoten n' von n { Setze Vater-Pointer von n' auf n Berechne f(n') Wenn n' bereits in OPEN und f(n') aus OPEN besser als aktuelles f(n'): verwerfe n' und springe zum nächsten Kindknoten Wenn n' bereits in CLOSED und f(n') in CLOSED besser als aktuelles f(n'): verwerfe n' und springe zum nächsten Kindknoten Entferne evtl. Vorkommen von n' aus OPEN und CLOSED Füge n' in OPEN ein } } return Keine Lösung!

39 Heuristiken Welche Kriterien muss eine Heuristik erfüllen, damit A* die optimale Lösung findet?

40 Heuristiken Welche Kriterien muss eine Heuristik erfüllen, damit A* die optimale Lösung findet? Sie sollte effizient berechnet werden können wenige bis keine schlechten Knoten expandieren. niemals höhere (bei einem Minimierungsproblem) Kosten schätzen als tatsächlich anfallen.

41 Heuristiken Was passiert (in einem Minimierungsproblem), wenn eine Heuristik die Kosten zu hoch schätzt? zu niedrig schätzt?

42 Heuristiken Beispiel falsch schätzender Heuristiken X X tatsächliche Kosten bis zum Knoten tatsächliche Kosten des Weges

43 Heuristiken Beispiel falsch schätzender Heuristiken: zu hoch f(n) = g(n) + h(n) = Was passiert? X X tatsächliche Kosten bis zum Knoten tatsächliche Kosten des Weges

44 Heuristiken Beispiel falsch schätzender Heuristiken: zu hoch f(n) = g(n) + h(n) = Was passiert? Der Suchalgorithmus wird eine andere Lösung weiterverfolgen und ggf. die falsche Lösung liefern X X tatsächliche Kosten bis zum Knoten tatsächliche Kosten des Weges

45 Heuristiken Beispiel falsch schätzender Heuristiken: zu niedrig f(n) = g(n) + h(n) = Was passiert? Der Suchalgorithmus kann ebenfalls einen falschen Weg weiterverfolgen X X tatsächliche Kosten bis zum Knoten tatsächliche Kosten des Weges

46 Heuristiken Beispiel falsch schätzender Heuristiken: zu niedrig f(n) = g(n) + h(n) = Was passiert? Der Suchalgorithmus kann ebenfalls einen falschen Weg weiterverfolgen... stellt jedoch früher oder später diesen Fehler fest! X X tatsächliche Kosten bis zum Knoten tatsächliche Kosten des Weges

47 Heuristiken: Fazit Überschätzt eine Heuristik die tatsächlichen Kosten (in einem Minimierungsproblem), so führt dies u. U. zu sehr schlechten Ergebnissen Unterschätzt eine Heuristik die tatsächlichen Kosten (in einem Minimierungsproblem), so hat dies u. U. Auswirkungen auf die Laufzeit, nicht jedoch auf das Ergebnis.

48 Anforderungen an Heuristiken Eine Heuristik h(n) ist zulässig, wenn für jeden Knoten n im Suchbaum gilt: h(n) h*(n), wobei h* die tatsächlichen Kosten, die für den Weg zum Knoten n anfallen, darstellt. Eine Heuristik h(n) ist monoton, wenn für jeden Knoten n (im Suchbaum) und jeden Nachfolger n' von n gilt: h(n) <= h(n') + c(n,...,n'), wobei c(...) die tatsächlichen Kosten, die für den Weg von n zu n' anfallen, darstellt.

49 Zusammenhang von Heuristiken und Bestensuche Unter der Voraussetzung, dass für ein gegebenes Problem eines zulässige, monotone Heuristik vorliegt, lässt sich dieses Problem von A* optimal lösen.

50 Eigenschaften von A* PRO: Der Algorithmus finden immer die optimale Lösung (falls eine Lösung existiert) KONTRA: Der Speicherbedarf ist sehr hoch, daher eignet sich A* häufig nicht für große Probleme. (Praxis: Kombiniertes Suchverfahren aus A* und klassischer Tiefensuche)

51 Hausaufgaben Lesen Sie in Russel/Norvig, Künstliche Intelligenz Kapitel 4.1 bis einschließlich 4.1.2, Kapitel 4.2 sowie die Abschnitte bis