Inhalt. Kognitive Systeme 1. Expansion eines impliziten Suchraums Netz aller möglichen Schritte. Impliziter Suchraum. Uninformierte Suche

Transkript

1 Inhalt Uninformierte Suche Dr.-Ing. Bernd Ludwig Lehrstuhl für Künstliche Intelligenz Friedrich-Alexander-Universität Erlangen-Nürnberg Implizite Suchgraphen 2 Tiefensuche 3 Breitensuche 4 Anwendung: Pfadplanung Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 1 / 35 Impliziter Suchraum Karte mit bewerteten Feldern Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 2 / 35 Expansion eines impliziten Suchraums Netz aller möglichen Schritte blau: niedrige Kosten für Betreten des Feldes magenta: hohe Kosten für Betreten des Feldes Frage: Welcher Weg von rot nach grün hat die geringsten Kosten? Mögliche erste Schritte vom roten Punkt aus: Vergleiche Autonavigation: Der Weg mit den geringsten Kosten muß nicht der kürzeste sein! Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 3 / 35 Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 4 / 35

2 Expansion eines impliziten Suchraums Expansion der Karte Folgeschritte vom Knoten links oben aus: Aufzählungsverfahren: 1 Suche alle Folgeschritte 2 Wähle einen davon aus 3 Wiederhole das Verfahren Was ist erreicht? Ein Schritt näher am Zielknoten! Ausdehnung des Suchraums nach wenigen Schritten Expansion des nachfolgenden Knotens Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 5 / 35 Expansion der Karte Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 6 / 35 Expansion der Karte Es ist unverständlich, dass der Suchraum in eine Richtung expandiert wird, die vom Ziel wegführt. Die uninformierte Suche verfügt nicht über Weltwissen und kann deshalb nur nichtdeterministisch entscheiden, wie die Expansion fortgesetzt wird. Mehr als ein Nachfolger am Autobahnkreuz Willkürliche Entscheidung für eine Möglichkeit Weitersuchen nach der Entscheidung Wie schnell das Ziel gefunden wird, hängt also davon ab, wie hoch die Wahrscheinlichkeit ist, den richtigen Knoten gewählt zu haben. Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 7 / 35 Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 8 / 35

3 Fehlentscheidung Suche in eine andere Richtung In Salzburg geht es nicht mehr weiter. Jetzt bleibt nur noch, am Kreuz Ulm eine andere Richtung einzuschlagen (backtracking). Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 Am Kreuz Ulm gibt es noch eine weitere Möglichkeit. Im schlimmsten Fall muss der Suchraum für alle Nachfolger expandiert werden. 9 / 35 Ziel erreicht Kapitel 3 10 / 35 Unglückliche uninformierte Suche Klappt die nichtdeterministische Auswahl schlecht, wird ein riesiger Teil des Suchraums expandiert. Dann steigt auch die Gefahr, dass das Ergebnis schlecht ist... In diesem Fall wurde sogar die kürzeste Verbindung gefunden. Trotzdem war der Suchaufwand unverhältnismäßig hoch. Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 11 / 35 Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 12 / 35

4 Unglückliche uninformierte Suche Zyklen In einem Graphen G = ({v 1,.., v n, {e 1,..., e m ) heißt die Folge W = (v w1,..., v wk ) mit paarweise unterschiedlichen w i {1,..., n Pfad. Ein Pfad heißt Zyklus, wenn v w1 = v wk. Der einfachste Fall ist:... wie eben auch in diesem Beispiel. In einem Graphen mit Zyklen kann das bisher beschriebene Suchverfahren in eine Endlosschleife geraten, wenn immer wieder die Knoten eines Zyklus expandiert werden. Abhilfe: Mitführen einer Liste, in der alle bereits expandierten Knoten gespeichert sind. Ein Knoten wird dann und nur dann expandiert, wenn er nicht in der Liste (closed list) steht. Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 13 / 35 Tiefensuche Pseudocode Tiefensuche SucheWeg(Knoten Ziel, Knoten Aktuell) Wenn Aktuell = Ziel Ziel gefunden Für alle K = noch nicht besuchter Nachfolger von Aktuell SucheWeg(Ziel, K) Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 14 / 35 Komplexität Wir messen die durchschnittlichen Kosten der Entscheidungen der Tiefensuche, welchen Nachfolger sie auswählen soll. Die Laufzeit hängt davon ab, wie sicher der richtige Nachfolger ausgewählt wird, d.h. wie sicher backtracking vermieden wird. Bei jeder Auswahl eines neuen zu expandierenden Knotens steht die Tiefensuche vor folgender Situation: Die Aufrufe von SucheWeg sind wie ein Baum mit unterschiedlicher Zahl von Nachfolgern verschachtelt. Deshalb lässt sich die Tiefensuche auch iterativ formulieren, wenn die zu expandierenden Knoten auf einem Stack gespeichert werden. p q = 1 p Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 15 / 35 Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 16 / 35

5 Zwei Beispiele für die Expansion eines Suchraums Durchschnittliche Kosten bei der Tiefensuche p p 3 q p q p ist die Wahrscheinlichkeit, den richtigen Knoten zu expandieren. q ist die Wahrscheinlichkeit, einen falschen Knoten zu expandieren. Die beiden Pfade sind Beispiele für zusammengesetzte Wahrscheinlichkeitsereignisse ( viermal hintereinander expandieren ). p q p 2 q 2 q C L sind die Kosten der Auswahl eines Knotens. C B sind die Kosten für backtracking, wenn die Auswahl falsch war. C R sind die Kosten, unter den verbleibenden Nachfolgern den richtigen zu finden. Erwartungswert der Suchkosten: Erwartete Kosten bei einer Entscheidung av(1) = p C L + q (C L + C B + C R ) 1 Kosten dafür, gleich den richtigen Knoten zu expandieren, mal die Wahrscheinlichkeit dafür 2 Kosten für backtracking und Wahl eines anderen Knotens Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 17 / 35 Durchschnittliche Kosten bei der Tiefensuche Erwartungswert der Suchkosten: Erwartete Kosten bei N aufeinander folgenden Entscheidungen av(n) = p (C L +av(n 1))+q (C L +max(n 1)+C B +C R +av(n 1)) Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 18 / 35 Durchschnittliche Kosten bei der Tiefensuche Die gefundene Rekursionsgleichung hat eine geschlossene Lösung: 1 War die Entscheidung im letzten Schritt richtig, müssen noch die Kosten für die früheren Schritte gefunden werden. 2 War sie falsch, muss der ganze linke Teilbaum abgesucht und eine andere Lösung gefunden werden. Bei Tiefe N betragen die Kosten der kompletten Suche max(n) = (2 N 1)(C L + C R + 2C B ) Denn: Es gibt 2 N 1 richtige Entscheidungen (halbe Zahl der Kanten im Baum) und ebenso viele Suchen nach einem anderen richtigen Nachfolger. Wenn beide Entscheidungen falsch sind, gibt es 2 (2 N 1) backtracking-schritte. Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 19 / 35 av(n) = p N C L + q (2 N 1) (C L + C R + C B ) q N C B Die Suchkosten steigen also exponentiell mit der Tiefe des Suchbaums. Damit steigen sie linear mit der Zahl der Kanten im Suchbaum. Wir haben ungenau gearbeitet: insgeheim wurde unterstellt, dass es nur zwei Nachfolger pro Knoten gibt. Ein allgemeineres Resultat für einen vollständigen Graphen kommt aber auf ein ähnliches Ergebnis. Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 20 / 35

6 Tiefensuche in vollständigen Graphen Ein Graph ist vollständig, wenn es zwischen jedem Paar unterschiedlicher Knoten eine Kante gibt. Als Adjazenzmatrix: N N In einer Zeile stehen Kanten zu einem Nachfolger mit kleiner Nummer vor Kanten zu einem Nachfolger mit größerer Nummer. Ist immer der erste Nachfolger der richtige, müssen nur n 1 O(n) Kanten abgesucht werden. Ist immer der letzte Nachfolger der richtige, müssen n(n 1) i = O(n 2 ) 2 1 i n 1 Kanten abgesucht werden. Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 21 / 35 Tiefensuche in vollständigen Graphen Tiefensuche in vollständigen Graphen Der Erwartungswert liegt zwischen den beiden Extremen. Sind in der Zeile i (maximal i + 1 Nachfolger) schon j Nachfolger erfolglos abgesucht, dann beträgt die Wahrscheinlichkeit, dass der nächste Nachfolger auch der falsche ist i j n 1 j = noch übrige Nachfolger in Zeile i überhaupt noch mögliche Knoten im Graphen Die Wahrscheinlichkeit, dass 1 k i Versuche in der Zeile i scheitern, beträgt also: 0 k i 0 j<k i j n 1 j = i! (n 1 k)! (i k)! (n 1)! Damit beträgt der Erwartungswert, wieviele Nachfolger von Knoten i expandiert werden: i! (n 1 k)! = 1 + ( n 1 k ) n 1 i ) (i k)! (n 1)! 0 k i ( n 1 i Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 22 / 35 Breitensuche im Straßennetz Für den Erwartungswert für den ganzen Graphen, müssen noch die Erwartungswerte für die einzelnen Kanten summiert werden: 1 + ( n 1 k ) n 1 i ) = n 1 + ( n 1 k ) n 1 i ) 0 i<n 1 0 k i ( n 1 i =... = n H n n 0 i<n 1 0 k i Der Erwartungswert der Zahl der zu durchsuchenden Kanten hängt also von der harmonischen Reihe H n ab. H n O(ln n). Der Erwartungswert wächst also wie O(n ln n). ( n 1 i Da ein binärer Baum der Tiefe N 2 N 2 Kanten und 2 N 1 Knoten hat, passt dieses Ergebnis zu der vorher angestellten Analyse. Expansion in beide Richtungen jeweils um eine noch nicht analysierte Autobahnausfahrt Die Suche muss sich an jedem Ende der Expansion den zu expandierenden Knoten merken. Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 23 / 35 Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 24 / 35

7 Breitensuche im Straßennetz Breitensuche im Straßennetz Nach einem Autobahnkreuz muss sich die Suche zwei neue Enden merken. Die Suche expandiert alle Pfade parallel. Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 25 / 35 Breitensuche im Straßennetz Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 26 / 35 Breitensuche Pseudocode Breitensuche SucheWeg(Knoten Ziel, Knoten Aktuell) Initialisiere priority queue Der Großteil der Arbeit ist am Ende überflüssig. Die Breitensuche mit b Nachfolgern für jeden Knoten expandiert zu Beginn 1 Knoten (den Startknoten) in Schritt 1 b Knoten (die Nachfolger des Startknotens) bx in Schritt 2 b = b 2 Knoten in Schritt d i=1 bx b d 1 = b d Knoten. i=1 Solange Aktuell!= Ziel & priority nicht leer Für alle K = noch nicht besuchter Nachfolger von Aktuell Füge K in die priority queue ein Aktuell := erstes Element der priority queue Ende Wenn Aktuell = Ziel Erfolg sonst keine Lösung Tiefensuche: LIFO Breitensuche: FIFO Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 27 / 35 Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 28 / 35

8 Komplexität der Breitensuche Beginnend beim Schritt 1 bis zum Schritt d werden also d b i = bd+1 1 b 1 i=1 Knoten expandiert. Man kann zeigen: Der Erwartungswert von d verhält sich für n Knoten wie Θ(log n/ log(pn)) (p ist die Wahrscheinlichkeit dafür, dass eine Kante existiert): Komplexität der Breitensuche Abhängigkeit der Zahl expandierter Knoten vom Erwartungswert für den Verzweigungsfaktor b: Der Erwartungswert konvergiert, wenn n groß wird: b = 1.1 b = 1.2 Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 29 / 35 Komplexität der Breitensuche Abhängigkeit der Zahl expandierter Knoten vom Erwartungswert für den Verzweigungsfaktor b: b = 1.5 b = 2 Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 30 / 35 Fazit aus der Komplexitätsanalyse Praktische Probleme sind mit uninformierter Breitensuche kaum lösbar, da der Speicherbedarf zu groß ist: Tiefe Knoten Zeit Speicher Tage 100 Terabyte Jahre 10 Pentabyte Jahre 1 Exabyte (b = 10, Knoten/Sekunde, 1000 Byte/Knoten) Für Suchprobleme mit exponentiellem Wachstum ist die uninformierte Suche zu dumm. Da jede uninformierte Suche ähnliche Schwierigkeiten (entweder mit dem Rechenbedarf oder mit dem Speicherbedarf) hat, besteht die einzige Rettung im Einbringen von Wissen über die Anwendungsdomäne. Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 31 / 35 Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 32 / 35

9 Klasse für Graphen package graph; public abstract class ALGOGraph { protected Hashtable<Integer,ALGOPlacemarkNode> nodes; protected Hashtable<Integer,LinkedList<ALGOEdge>> edges; abstract public void initsearch(algoplacemarknode startnode, ALGOPlacemarkNode targetnode); public Enumeration<ALGOEdge> computeshortestpath(algonode start, ALGONode goal) { return currentsolution.elements(); abstract public boolean solutionfound(); abstract public boolean nosolution(); abstract public void nextstep(); Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 33 / 35 Klasse für Tiefensuche package graph; public class DepthFirstGraph extends ALGOGraph { public void initsearch(algoplacemarknode startnode, ALGOPlacemarkNode targetnode) { ALGOEdge [] succ = getedgesfornode(startnode.getnodeid()); for (int i = 0; i < succ.length; i++) { agenda.insert(new ALGOHeapData(new ALGOPath(succ[i]), -edgecount)); edgecount ++; currentnode = startnode; cuurentnode.putonclosedlist(); this.targetnode = targetnode; public boolean solutionfound() {... public boolean nosolution() {... public void nextstep() {... Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 34 / 35 Klasse für Breitensuche package graph; public class BreadthFirstGraph extends ALGOGraph { public void initsearch(algoplacemarknode startnode, ALGOPlacemarkNode targetnode) { ALGOEdge [] succ = getedgesfornode(startnode.getnodeid()); for (int i = 0; i < succ.length; i++) agenda.insert(new ALGOHeapData(new ALGOPath(succ[i]), edgecount++)); currentnode = startnode; cuurentnode.putonclosedlist(); this.targetnode = targetnode; public boolean solutionfound() {... public boolean nosolution() {... public void nextstep() {... Dr.-Ing. Bernd Ludwig (Lehrstuhl KI) Kapitel 3 35 / 35