Künstliche Intelligenz

Transkript

1 Künstliche Intelligenz 3. Suche Dr. Claudia Schon Institute for Web Science and Technologies 1

2 Diese Folien basieren auf den Folien von PD Dr. Matthias Thimm, Universität Koblenz-Landau, zur Vorlesung Künstliche Intelligenz 1 und Folien zum Buch: Poole, Mackworth and Goebel, Computational Intelligence: A Logical Approach, Oxford University Press,

3 Suche Eines der Kernprobleme der KI ist das allgemeine Problemlösen: Gegeben eine Problemspezifikation, bestimme die Lösung Oft ist ein direkter Algorithmenentwurf schwierig Idee: Formalisierung des Problems als (Graph)-Suchproblem Knoten sind (Teil-)lösungen, Kanten beschreiben Transitionen zwischen (Teil-)lösungen Herausforderungen: Graph zu groß für traditionelle Suchalgorithmen wie Dijkstra (! heuristische Suchverfahren) Graph nicht immer explizit gegeben (! implizite Graphsuche) 3

8 Beispiel: Schach Knoten: Spielkonfigurationen (welche Figur steht wo)? Kanten: verbinden Spielkonfigurationen durch legale Züge Herausforderung: Was macht der Gegner in seinem Zug? " " 4

9 Beispiel: Schach Spiele im Allgemeinen Startknoten: Initialzustand des Spiels Kanten: Mögliche Züge Zielknoten: Gewinnsituation (z. B. Schachmatt) Gesucht: Pfadfolge zu einem Zielknoten Logische Systeme Startknoten: Zu beweisende Aussage Kanten: Deduktionsregeln ({, _ }! { }) Zielknoten: Wahre Aussage Gesucht: Beweis Planung Startknoten: Startkonfiguration Kanten: Legale Aktionen Zielknoten: Zielzustand Gesucht: Aktionsfolge 5

12 Formalisierung: Suchproblem Ein Suchproblem P ist ein Tupel P =(S, O, I, G) mit 1. S ist eine Menge von Zuständen 2. O S S ist die Zustandsübergangsrelation 3. I 2 S ist der initiale Zustand 4. G S ist die Menge der Zielzustände 6

13 Formalisierung: Suchproblem Ein Suchproblem P ist ein Tupel P =(S, O, I, G) mit 1. S ist eine Menge von Zuständen 2. O S S ist die Zustandsübergangsrelation 3. I 2 S ist der initiale Zustand 4. G S ist die Menge der Zielzustände Sei P =(S, O, I, G) ein Suchproblem. Eine Lösung für P ist eine Sequenz =(S 1,...,S n ) mit 1. S 1,...,S n 2 S, S 1 = I, S n 2 G 2. für alle i =1,...,n 1 gilt (S i,s i+1 ) 2 O. 6

14 Beispiel: Fuchs, Schaf, Kohlkopf Ein Fuchs, ein Schaf, und ein Kohlkopf befinden sich auf der linken Seite eines Flusses. Das Ziel ist es diese drei Dinge auf die rechte Seite des Flusses zu bringen. Zu keiner Zeit dürfen allerdings Fuchs+Schaf oder Schaf+Kohlkopf alleine gelassen werden. Im Boot kann immer nur ein Gegenstand befördert werden. 7

15 Beispiel: Fuchs, Schaf, Kohlkopf Fuchs=f, Schaf=s, Kohlkopf=k Zustände sind Tupel (L, R, ) mit L, R {f,s,k} und 2{l, r} Beispiele: ({f,s}, {k},l): Fuchs und Schaf sind am linken Ufer, der Kohlkopf ist am rechten Ufer, das Boot (und wir selbst) sind am linken Ufer. ({}, {f, s,k}, r): Fuchs, Schaf, Kohlkopf sind am rechten Ufer, das Boot (und wir selbst) sind auch am rechten Ufer. Also P fsk =(S fsk,o fsk, ({f,s,k}, {},l), {({}, {f,s,k},l), ({}, {f,s,k},r)}) mit S fsk = {(L, R, ) L, R {f,s,k}, 2{l, r}} O fsk = {(({f,s,k}, {},l), ({f,s}, {k},r)), (({f,s,k}, {},l), ({f,k}, {s},r)),...} 8

16 Beispiel: Fuchs, Schaf, Kohlkopf Fuchs=f, Schaf=s, Kohlkopf=k Zustände sind Tupel (L, R, ) mit L, R {f,s,k} und 2{l, r} Beispiele: ({f,s}, {k},l): Fuchs und Schaf sind am linken Ufer, der Kohlkopf ist am rechten Ufer, das Boot (und wir selbst) sind am linken Ufer. ({}, {f, s,k}, r): Fuchs, Schaf, Kohlkopf sind am rechten Ufer, das Boot (und wir selbst) sind auch am rechten Ufer. Also P fsk =(S fsk,o fsk, ({f,s,k}, {},l), {({}, {f,s,k},l), ({}, {f,s,k},r)}) mit S fsk = {(L, R, ) L, R {f,s,k}, 2{l, r}} O fsk = {(({f,s,k}, {},l), ({f,s}, {k},r)), (({f,s,k}, {},l), ({f,k}, {s},r)),...} 8

17 Beispiel: Fuchs, Schaf, Kohlkopf Fuchs=f, Schaf=s, Kohlkopf=k Zustände sind Tupel (L, R, ) mit L, R {f,s,k} und 2{l, r} Beispiele: ({f,s}, {k},l): Fuchs und Schaf sind am linken Ufer, der Kohlkopf ist am rechten Ufer, das Boot (und wir selbst) sind am linken Ufer. ({}, {f, s,k}, r): Fuchs, Schaf, Kohlkopf sind am rechten Ufer, das Boot (und wir selbst) sind auch am rechten Ufer. Also P fsk =(S fsk,o fsk, ({f,s,k}, {},l),{({}, {f,s,k},l),({}, {f,s,k},r)}) mit Startzustand S fsk = {(L, R, ) L, R {f,s,k}, 2{l, r}} O fsk = {(({f,s,k}, {},l), ({f,s}, {k},r)), (({f,s,k}, {},l), ({f,k}, {s},r)),...} 8

18 Beispiel: Fuchs, Schaf, Kohlkopf Fuchs=f, Schaf=s, Kohlkopf=k Zustände sind Tupel (L, R, ) mit L, R {f,s,k} und 2{l, r} Beispiele: ({f,s}, {k},l): Fuchs und Schaf sind am linken Ufer, der Kohlkopf ist am rechten Ufer, das Boot (und wir selbst) sind am linken Ufer. ({}, {f, s,k}, r): Fuchs, Schaf, Kohlkopf sind am rechten Ufer, das Boot (und wir selbst) sind auch am rechten Ufer. Also P fsk =(S fsk,o fsk, ({f,s,k}, {},l),{({}, {f,s,k},l),({}, {f,s,k},r)}) mit Startzustand S fsk = {(L, R, ) L, R {f,s,k}, 2{l, r}} Menge der Zielzustände O fsk = {(({f,s,k}, {},l), ({f,s}, {k},r)), (({f,s,k}, {},l), ({f,k}, {s},r)),...} 8

19 Beispiel: Fuchs, Schaf, Kohlkopf Fuchs=f, Schaf=s, Kohlkopf=k Zustände sind Tupel (L, R, ) mit L, R {f,s,k} und 2{l, r} Beispiele: ({f,s}, {k},l): Fuchs und Schaf sind am linken Ufer, der Kohlkopf ist am rechten Ufer, das Boot (und wir selbst) sind am linken Ufer. ({}, {f, s,k}, r): Fuchs, Schaf, Kohlkopf sind am rechten Ufer, das Boot (und wir selbst) sind auch am rechten Ufer. Also P fsk =(S fsk,o fsk, ({f,s,k}, {},l),{({}, {f,s,k},l),({}, {f,s,k},r)}) mit Startzustand S fsk = {(L, R, ) L, R {f,s,k}, 2{l, r}} Menge der Zielzustände O fsk = {(({f,s,k}, {},l), ({f,s}, {k},r)), (({f,s,k}, {},l), ({f,k}, {s},r)),...} 8

20 Beispiel: Schiebepuzzle In einem n 2 großen Kästchenfeld befinden sich Zahlen 1,...,(n 2 ein freies Feld 1) und Durch Verschieben der Zahlen auf das jeweils freie Feld soll die Zahlenfolge sortiert werden 9

21 Beispiel: Schiebepuzzle Zustände: zweidimensionales Array int[n][n] mit Zahlen 1,...,(n 2 1) und 0 für frei Beispiel: [[1,2,3],[8,0,4],[7,6,5]] 10

22 Beispiel: Schiebepuzzle Zustände: zweidimensionales Array int[n][n] mit Zahlen 1,...,(n 2 1) und 0 für frei Beispiel: [[1,2,3],[8,0,4],[7,6,5]] Also P 3 =(S 3,O 3,I,{[[1, 2, 3], [8, 0, 4], [7, 6, 5]]}) mit S 3 = {[[x 1,x 2,x 3 ], [x 4,x 5,x 6 ], [x 7,x 8,x 9 ]] {x 1,...,x 9 } = {0,...,8}} I zufällig O 3 = {([[3,4,8],[1,2,7],[5,0,6]], [[3,4,8],[1,2,7],[0,5,6]]),...} 10

23 Weitere Beispiele: Rubik s Cube 11

24 Weitere Beispiele: Sokoban 12

25 Das Problem der Zustandsdefinition Die richtige Repräsentation des Zustandsraums hat großen Einfluss auf die Problemkomplexität. Erinnerung Fuchs-Schaf-Kohlkopf: (L, R, ) mit L, R {f,s,k} und 2 {l, r} Besser: (L, ) mit L {f,s,k} und 2{l, r} (alles was nicht auf der linken Seite ist, ist automatisch auf der rechten Seite) Vorteile: Zustandsraum weitaus kleiner, Suche effizienter Eine saubere Zustandsdefinition ist oft wichtiger als die richtige Wahl des tatsächlichen Suchalgorithmus. 13

30 Uninformierte Suche 14

31 Uninformierte Suche 14

32 Uninformierte Suche Gegeben Suchproblem P =(S, O, I, G) mit Startzustand I Zustandsraum S normalerweise nicht explizit gegeben, sondern wird während der Suche von I aus aufgebaut (implizite Graphsuche) Anfangs nur Startzustand I und Nachfolger von I bekannt Sobald ein Nachfolger N von I betrachtet wird, sind auch dessen Nachfolger bekannt Ansatz der uninformierten Suche: ausser der Zustandsübergangsrelation sind keine weiteren Informationen verfügbar In welche Richtung gesucht werden soll, ist unbekannt. Suche kann dann durch (implizite) Graphsuche realisiert werden 15

38 Implizite Graphsuche Graph zur Exploration ist nicht immer explizit gegeben. Wird während der Exploration (teilweise) erstellt. 16

39 Implizite Graphsuche 17

40 Graphsuche Allgemeines Schema: Suche Pfade inkrementell vom Startknoten aus ab Zu jedem Zeitpunkt pflege eine Menge von Grenzknoten (frontier nodes), die den bisher durchsuchten Bereich vom nicht-durchsuchten Bereich abgrenzen. Mit Voranschreiten des Algorithmus wird die Grenze expandiert, bis ein Zielknoten erreicht wird Die Art und Weise wie die Grenze expandiert wird, definiert die Suchstrategie: Breitensuche Tiefensuche Iterative Tiefensuche Bidirektionale Suche 18

44 Graphsuche 19

45 Suchstrategien Wann ist eine Suchstrategie gut? Vollständigkeit: Gegeben, dass ein Zielzustand existiert, findet die Strategie diesen? Laufzeit: wieviele Knoten müssen betrachtet werden um einen Zielzustand zu finden? Speicherplatz: wieviele Knoten befinden sich maximal in Frontier? Optimalität: findet die Suchstrategie eine günstigste Lösung (=kürzeste Entfernung zum Startknoten)? 20

50 Generischer Algorithmus zur Graphsuche Generic Graph Search Algorithm search(f 0 ) select(node, F 0, F 1 ) ^ is_goal(node). search(f 0 ) select(node, F 0, F 1 ) ^ neighbors(node, NN) ^ add_to_frontier(nn, F 1, F 2 ) ^ search(f 2 ). 21

51 Generischer Algorithmus zur Graphsuche search(frontier) ist wahr, wenn es einen Pfad von einem Element aus Frontier zu einem Zielknoten gibt. 22

52 Generischer Algorithmus zur Graphsuche search(frontier) ist wahr, wenn es einen Pfad von einem Element aus Frontier zu einem Zielknoten gibt. is_goal(n) ist wahr, wenn N ein Zielknoten ist. 22

53 Generischer Algorithmus zur Graphsuche search(frontier) ist wahr, wenn es einen Pfad von einem Element aus Frontier zu einem Zielknoten gibt. is_goal(n) ist wahr, wenn N ein Zielknoten ist. neighbors(n,nn) ist wahr, wenn NN die Liste der Zustände gibt, für die es von N aus einen Zustandsübergang gibt. 22

54 Generischer Algorithmus zur Graphsuche search(frontier) ist wahr, wenn es einen Pfad von einem Element aus Frontier zu einem Zielknoten gibt. is_goal(n) ist wahr, wenn N ein Zielknoten ist. neighbors(n,nn) ist wahr, wenn NN die Liste der Zustände gibt, für die es von N aus einen Zustandsübergang gibt. select(n,f 0,F1): Nimmt einen Knoten N aus der Frontier F0 heraus. F1 = F0 - {N}. Liefert FAIL, wenn F0 leer ist. 22

55 Generischer Algorithmus zur Graphsuche search(frontier) ist wahr, wenn es einen Pfad von einem Element aus Frontier zu einem Zielknoten gibt. is_goal(n) ist wahr, wenn N ein Zielknoten ist. neighbors(n,nn) ist wahr, wenn NN die Liste der Zustände gibt, für die es von N aus einen Zustandsübergang gibt. select(n,f 0,F1): Nimmt einen Knoten N aus der Frontier F0 heraus. F1 = F0 - {N}. Liefert FAIL, wenn F0 leer ist. add_to_frontier(nn,f 1,F2): F2 ist die Frontier, die man aus F1 erhält, indem man die Liste der Knoten NN hinzufügt. 22

56 Generischer Algorithmus zur Graphsuche Definiert, was ein Ziel ist. search(frontier) ist wahr, wenn es einen Pfad von einem Element aus Frontier zu einem Zielknoten gibt. is_goal(n) ist wahr, wenn N ein Zielknoten ist. neighbors(n,nn) ist wahr, wenn NN die Liste der Zustände gibt, für die es von N aus einen Zustandsübergang gibt. select(n,f 0,F1): Nimmt einen Knoten N aus der Frontier F0 heraus. F1 = F0 - {N}. Liefert FAIL, wenn F0 leer ist. add_to_frontier(nn,f 1,F2): F2 ist die Frontier, die man aus F1 erhält, indem man die Liste der Knoten NN hinzufügt. 22

57 Generischer Algorithmus zur Graphsuche Definiert, was ein Ziel ist. Definiert, die Zustandsbergangsrelation search(frontier) ist wahr, wenn es einen Pfad von einem Element aus Frontier zu einem Zielknoten gibt. is_goal(n) ist wahr, wenn N ein Zielknoten ist. neighbors(n,nn) ist wahr, wenn NN die Liste der Zustände gibt, für die es von N aus einen Zustandsübergang gibt. select(n,f 0,F1): Nimmt einen Knoten N aus der Frontier F0 heraus. F1 = F0 - {N}. Liefert FAIL, wenn F0 leer ist. add_to_frontier(nn,f 1,F2): F2 ist die Frontier, die man aus F1 erhält, indem man die Liste der Knoten NN hinzufügt. 22

58 Generischer Algorithmus zur Graphsuche Definiert, was ein Ziel ist. Definiert, die Zustandsbergangsrelation efinieren, die Suchstrategie search(frontier) ist wahr, wenn es einen Pfad von einem Element aus Frontier zu einem Zielknoten gibt. is_goal(n) ist wahr, wenn N ein Zielknoten ist. neighbors(n,nn) ist wahr, wenn NN die Liste der Zustände gibt, für die es von N aus einen Zustandsübergang gibt. select(n,f 0,F1): Nimmt einen Knoten N aus der Frontier F0 heraus. F1 = F0 - {N}. Liefert FAIL, wenn F0 leer ist. add_to_frontier(nn,f 1,F2): F2 ist die Frontier, die man aus F1 erhält, indem man die Liste der Knoten NN hinzufügt. 22

59 Beispiel Breitensuche A Explored Frontier - A 23

60 Beispiel Breitensuche A Explored Frontier - A A B,C,D,E B C D E 24

61 Beispiel Breitensuche B A C D E Explored Frontier - A A B,C,D,E A,B C,D,E,F,G,H F G H 25

62 Beispiel Breitensuche B C A D E Explored Frontier - A A B,C,D,E A,B C,D,E,F,G,H A,B,C D,E,F,G,H,I F G H I 26

63 Beispiel Breitensuche B C A D E Explored Frontier - A A B,C,D,E A,B C,D,E,F,G,H A,B,C D,E,F,G,H,I A,B,C,D E,F,G,H,I,J,K F G H I J K 27

64 Beispiel Breitensuche B C A D E Explored Frontier - A A B,C,D,E A,B C,D,E,F,G,H A,B,C D,E,F,G,H,I A,B,C,D E,F,G,H,I,J,K A,B,C,D,E F,G,H,I,J,K,L,M,N,O F G H I J K L M N O 28

65 Beispiel Breitensuche B F G H C I A J D K E L M N O Explored Frontier - A A B,C,D,E A,B C,D,E,F,G,H A,B,C D,E,F,G,H,I A,B,C,D E,F,G,H,I,J,K A,B,C,D,E F,G,H,I,J,K,L,M,N,O A,B,C,D,E,F G,H,I,J,K,L,M,N,O 29

66 Beispiel Breitensuche B F G H C I A J D K E L M N O Explored Frontier - A A B,C,D,E A,B C,D,E,F,G,H A,B,C D,E,F,G,H,I A,B,C,D E,F,G,H,I,J,K A,B,C,D,E F,G,H,I,J,K,L,M,N,O A,B,C,D,E,F G,H,I,J,K,L,M,N,O A,B,C,D,E,F,G H,I,J,K,L,M,N,O 30

67 Beispiel Breitensuche B F G H C I A J D K E L M N O Explored Frontier - A A B,C,D,E A,B C,D,E,F,G,H A,B,C D,E,F,G,H,I A,B,C,D E,F,G,H,I,J,K A,B,C,D,E F,G,H,I,J,K,L,M,N,O A,B,C,D,E,F G,H,I,J,K,L,M,N,O A,B,C,D,E,F,G H,I,J,K,L,M,N,O A,B,C,D,E,F,G,H I,J,K,L,M,N,O 31

68 Beispiel Breitensuche B F G H C I A J D K E L M N O Explored Frontier - A A B,C,D,E A,B C,D,E,F,G,H A,B,C D,E,F,G,H,I A,B,C,D E,F,G,H,I,J,K A,B,C,D,E F,G,H,I,J,K,L,M,N,O A,B,C,D,E,F G,H,I,J,K,L,M,N,O A,B,C,D,E,F,G H,I,J,K,L,M,N,O A,B,C,D,E,F,G,H I,J,K,L,M,N,O A,B,C,D,E,F,G,H,I J,K,L,M,N,O 32

69 Beispiel Breitensuche B F G H C I A J D K E L M N O Explored Frontier - A A B,C,D,E A,B C,D,E,F,G,H A,B,C D,E,F,G,H,I A,B,C,D E,F,G,H,I,J,K A,B,C,D,E F,G,H,I,J,K,L,M,N,O A,B,C,D,E,F G,H,I,J,K,L,M,N,O A,B,C,D,E,F,G H,I,J,K,L,M,N,O A,B,C,D,E,F,G,H I,J,K,L,M,N,O A,B,C,D,E,F,G,H,I J,K,L,M,N,O A,B,C,D,E,F,G,H,I,J K,L,M,N,O 33

70 Beispiel Breitensuche B F G H C I A J D K E L M N O Explored Frontier - A A B,C,D,E A,B C,D,E,F,G,H A,B,C D,E,F,G,H,I A,B,C,D E,F,G,H,I,J,K A,B,C,D,E F,G,H,I,J,K,L,M,N,O A,B,C,D,E,F G,H,I,J,K,L,M,N,O A,B,C,D,E,F,G H,I,J,K,L,M,N,O A,B,C,D,E,F,G,H I,J,K,L,M,N,O A,B,C,D,E,F,G,H,I J,K,L,M,N,O A,B,C,D,E,F,G,H,I,J K,L,M,N,O A,B,C,D,E,F,G,H,I,J,K L,M,N,O 34

71 Beispiel Breitensuche B F G H C I A J D K E L M N O Explored Frontier - A A B,C,D,E A,B C,D,E,F,G,H A,B,C D,E,F,G,H,I A,B,C,D E,F,G,H,I,J,K A,B,C,D,E F,G,H,I,J,K,L,M,N,O A,B,C,D,E,F G,H,I,J,K,L,M,N,O A,B,C,D,E,F,G H,I,J,K,L,M,N,O A,B,C,D,E,F,G,H I,J,K,L,M,N,O A,B,C,D,E,F,G,H,I J,K,L,M,N,O A,B,C,D,E,F,G,H,I,J K,L,M,N,O A,B,C,D,E,F,G,H,I,J,K L,M,N,O A,B,C,D,E,F,G,H,I,J,K,L M,N,O 35

72 Beispiel Breitensuche B F G H C I A J D K E L M N O Explored Frontier - A A B,C,D,E A,B C,D,E,F,G,H A,B,C D,E,F,G,H,I A,B,C,D E,F,G,H,I,J,K A,B,C,D,E F,G,H,I,J,K,L,M,N,O A,B,C,D,E,F G,H,I,J,K,L,M,N,O A,B,C,D,E,F,G H,I,J,K,L,M,N,O A,B,C,D,E,F,G,H I,J,K,L,M,N,O A,B,C,D,E,F,G,H,I J,K,L,M,N,O A,B,C,D,E,F,G,H,I,J K,L,M,N,O A,B,C,D,E,F,G,H,I,J,K L,M,N,O A,B,C,D,E,F,G,H,I,J,K,L M,N,O A,B,C,D,E,F,G,H,I,J,K,L,M N,O A,B,C,D,E,F,G,H,I,J,K,L,M,N O 36

73 Beispiel Breitensuche B F G H C I A J D K E L M N O Explored Frontier - A A B,C,D,E A,B C,D,E,F,G,H A,B,C D,E,F,G,H,I A,B,C,D E,F,G,H,I,J,K A,B,C,D,E F,G,H,I,J,K,L,M,N,O A,B,C,D,E,F G,H,I,J,K,L,M,N,O A,B,C,D,E,F,G H,I,J,K,L,M,N,O A,B,C,D,E,F,G,H I,J,K,L,M,N,O A,B,C,D,E,F,G,H,I J,K,L,M,N,O A,B,C,D,E,F,G,H,I,J K,L,M,N,O A,B,C,D,E,F,G,H,I,J,K L,M,N,O A,B,C,D,E,F,G,H,I,J,K,L M,N,O A,B,C,D,E,F,G,H,I,J,K,L,M N,O A,B,C,D,E,F,G,H,I,J,K,L,M,N O A,B,C,D,E,F,G,H,I,J,K,L,M,N,O - 37

74 Generic Graph Search Algorithm Generischer Algorithmus zur Graphsuche search(f 0 ) select(node, F 0, F 1 ) ^ is_goal(node). search(f 0 ) select(node, F 0, F 1 ) ^ neighbors(node, NN) ^ add_to_frontier(nn, F 1, F 2 ) ^ search(f 2 ). Wie wird die Frontier bei der Breitensuche behandelt? 38

75 Generic Graph Search Algorithm Generischer Algorithmus zur Graphsuche search(f 0 ) select(node, F 0, F 1 ) ^ is_goal(node). Entnimmt das erste Element aus der Frontier. search(f 0 ) select(node, F 0, F 1 ) ^ neighbors(node, NN) ^ add_to_frontier(nn, F 1, F 2 ) ^ search(f 2 ). Wie wird die Frontier bei der Breitensuche behandelt? 38

76 Generic Graph Search Algorithm Generischer Algorithmus zur Graphsuche search(f 0 ) select(node, F 0, F 1 ) ^ is_goal(node). Entnimmt das erste Element aus der Frontier. Fügt die Nachfolgezustände hinten an die Frontier an. search(f 0 ) select(node, F 0, F 1 ) ^ neighbors(node, NN) ^ add_to_frontier(nn, F 1, F 2 ) ^ search(f 2 ). Wie wird die Frontier bei der Breitensuche behandelt? 38

77 Generic Graph Search Algorithm Generischer Algorithmus zur Graphsuche search(f 0 ) select(node, F 0, F 1 ) ^ is_goal(node). Entnimmt das erste Element aus der Frontier. Fügt die Nachfolgezustände hinten an die Frontier an. search(f 0 ) select(node, F 0, F 1 ) ^ neighbors(node, NN) ^ add_to_frontier(nn, F 1, F 2 ) ^ search(f 2 ). Wie wird die Frontier bei der Breitensuche behandelt? Queue! 38

78 Breitensuche Breadth-first Search Breadth-first search treats the frontier as a queue: it always selects the earliest element added to the frontier. select(node, [Node Frontier], Frontier). add_to_frontier(neighbors, Frontier 1, Frontier 2 ) append(frontier 1, Neighbors, Frontier 2 ). Frontier: [e 1, e 2,...] e 1 is selected. Its neighbors are added to the end of the queue. e 2 is selected next. ( David Poole, Alan Mackworth, Randy Goebel, and Oxford University Press 1998 *) 39

79 Beispiel Tiefensuche Beispiel Tiefensuche A Explored Frontier - A 40

80 Beispiel Tiefensuche Beispiel Tiefensuche A Explored Frontier - A A B,C,D,E B C D E 41

81 Beispiel Tiefensuche Beispiel Tiefensuche A B C D E Explored Frontier - A A B,C,D,E A,B F,G,H,C,D,E F G H 42

82 Beispiel Tiefensuche Beispiel Tiefensuche A B C D E Explored Frontier - A A B,C,D,E A,B F,G,H,C,D,E A,B,F G,H,C,D,E F G H 43

83 Beispiel Tiefensuche Beispiel Tiefensuche A B C D E Explored Frontier - A A B,C,D,E A,B F,G,H,C,D,E A,B,F G,H,C,D,E A,B,F,G H,C,D,E F G H 44

84 Beispiel Tiefensuche Beispiel Tiefensuche A B C D E Explored Frontier - A A B,C,D,E A,B F,G,H,C,D,E A,B,F G,H,C,D,E A,B,F,G H,C,D,E A,B,F,G,H C,D,E F G H 45

85 Beispiel Tiefensuche Beispiel Tiefensuche A B C D E Explored Frontier - A A B,C,D,E A,B F,G,H,C,D,E A,B,F G,H,C,D,E A,B,F,G H,C,D,E A,B,F,G,H C,D,E A,B,F,G,H,C I,D,E F G H I 46

86 Beispiel Tiefensuche Beispiel Tiefensuche A B C D E Explored Frontier - A A B,C,D,E A,B F,G,H,C,D,E A,B,F G,H,C,D,E A,B,F,G H,C,D,E A,B,F,G,H C,D,E A,B,F,G,H,C I,D,E A,B,F,G,H,C,I D,E F G H I 47

87 Beispiel Tiefensuche Beispiel Tiefensuche A B C D E Explored Frontier - A A B,C,D,E A,B F,G,H,C,D,E A,B,F G,H,C,D,E A,B,F,G H,C,D,E A,B,F,G,H C,D,E A,B,F,G,H,C I,D,E A,B,F,G,H,C,I,D J,K,E F G H I J K 48

88 Beispiel Tiefensuche Beispiel Tiefensuche A B C D E Explored Frontier - A A B,C,D,E A,B F,G,H,C,D,E A,B,F G,H,C,D,E A,B,F,G H,C,D,E A,B,F,G,H C,D,E A,B,F,G,H,C I,D,E A,B,F,G,H,C,I,D,J K,E F G H I J K 49

89 Beispiel Tiefensuche Beispiel Tiefensuche A B C D E Explored Frontier - A A B,C,D,E A,B F,G,H,C,D,E A,B,F G,H,C,D,E A,B,F,G H,C,D,E A,B,F,G,H C,D,E A,B,F,G,H,C I,D,E A,B,F,G,H,C,I,D,J K,E A,B,F,G,H,C,I,D,J,K E F G H I J K 50

90 Beispiel Tiefensuche Beispiel Tiefensuche A B C D E Explored Frontier - A A B,C,D,E A,B F,G,H,C,D,E A,B,F G,H,C,D,E A,B,F,G H,C,D,E A,B,F,G,H C,D,E A,B,F,G,H,C I,D,E A,B,F,G,H,C,I,D,J K,E A,B,F,G,H,C,I,D,J,K,E L,M,N,O F G H I J K L M N O 51

91 Beispiel Tiefensuche Beispiel Tiefensuche B F G H C I A J D K E L M N O Explored Frontier - A A B,C,D,E A,B F,G,H,C,D,E A,B,F G,H,C,D,E A,B,F,G H,C,D,E A,B,F,G,H C,D,E A,B,F,G,H,C I,D,E A,B,F,G,H,C,I,D,J K,E A,B,F,G,H,C,I,D,J,K,E L,M,N,O A,B,F,G,H,C,I,D,J,K,E,L M,N,O 52

92 Beispiel Tiefensuche Beispiel Tiefensuche B F G H C I A J D K E L M N O Explored Frontier - A A B,C,D,E A,B F,G,H,C,D,E A,B,F G,H,C,D,E A,B,F,G H,C,D,E A,B,F,G,H C,D,E A,B,F,G,H,C I,D,E A,B,F,G,H,C,I,D,J K,E A,B,F,G,H,C,I,D,J,K,E L,M,N,O A,B,F,G,H,C,I,D,J,K,E,L M,N,O A,B,F,G,H,C,I,D,J,K,E,L,M N,O 53

93 Beispiel Tiefensuche Beispiel Tiefensuche B F G H C I A J D K E L M N O Explored Frontier - A A B,C,D,E A,B F,G,H,C,D,E A,B,F G,H,C,D,E A,B,F,G H,C,D,E A,B,F,G,H C,D,E A,B,F,G,H,C I,D,E A,B,F,G,H,C,I,D,J K,E A,B,F,G,H,C,I,D,J,K,E L,M,N,O A,B,F,G,H,C,I,D,J,K,E,L M,N,O A,B,F,G,H,C,I,D,J,K,E,L,M N,O A,B,F,G,H,C,I,D,J,K,E,L,M,N O 54

94 Beispiel Tiefensuche Beispiel Tiefensuche B F G H C I A J D K E L M N O Explored Frontier - A A B,C,D,E A,B F,G,H,C,D,E A,B,F G,H,C,D,E A,B,F,G H,C,D,E A,B,F,G,H C,D,E A,B,F,G,H,C I,D,E A,B,F,G,H,C,I,D,J K,E A,B,F,G,H,C,I,D,J,K,E L,M,N,O A,B,F,G,H,C,I,D,J,K,E,L M,N,O A,B,F,G,H,C,I,D,J,K,E,L,M N,O A,B,F,G,H,C,I,D,J,K,E,L,M,N,O - 55

95 Generic Graph Search Algorithm Generischer Algorithmus zur Graphsuche search(f 0 ) select(node, F 0, F 1 ) ^ is_goal(node). search(f 0 ) select(node, F 0, F 1 ) ^ neighbors(node, NN) ^ add_to_frontier(nn, F 1, F 2 ) ^ search(f 2 ). Wie wird die Frontier bei der Tiefensuche behandelt? 56

96 Generic Graph Search Algorithm Generischer Algorithmus zur Graphsuche search(f 0 ) select(node, F 0, F 1 ) ^ is_goal(node). Entnimmt das erste Element aus der Frontier. search(f 0 ) select(node, F 0, F 1 ) ^ neighbors(node, NN) ^ add_to_frontier(nn, F 1, F 2 ) ^ search(f 2 ). Wie wird die Frontier bei der Tiefensuche behandelt? 56

97 Generic Graph Search Algorithm Generischer Algorithmus zur Graphsuche search(f 0 ) select(node, F 0, F 1 ) ^ is_goal(node). Entnimmt das erste Element aus der Frontier. Fügt die Nachfolgezustände vorne an die Frontier an. search(f 0 ) select(node, F 0, F 1 ) ^ neighbors(node, NN) ^ add_to_frontier(nn, F 1, F 2 ) ^ search(f 2 ). Wie wird die Frontier bei der Tiefensuche behandelt? 56

98 Generic Graph Search Algorithm Generischer Algorithmus zur Graphsuche search(f 0 ) select(node, F 0, F 1 ) ^ is_goal(node). Entnimmt das erste Element aus der Frontier. Fügt die Nachfolgezustände vorne an die Frontier an. search(f 0 ) select(node, F 0, F 1 ) ^ neighbors(node, NN) ^ add_to_frontier(nn, F 1, F 2 ) ^ search(f 2 ). Wie wird die Frontier bei der Tiefensuche behandelt? Stack! 56

99 Computational Intelligence Chapter 4, Lecture 2, Page 1 Tiefensuche Depth-first Search Depth-first search treats the frontier as a stack: it always selects the last element added to the frontier. select(node, [Node Frontier], Frontier). add_to_frontier(neighbors, Frontier 1, Frontier 2 ) append(neighbors, Frontier 1, Frontier 2 ). Frontier: [e 1, e 2,...] e 1 is selected. Its neighbors are added to the front of the stack. e 2 is only selected when all paths from e 1 have been explored. 57 David Poole, Alan Mackworth, Randy Goebel, and Oxford University Press 1998 *)

100 <latexit sha1_base64="r/agnrpclv9wqbqh379hbri7z4g=">aaaethicrvnlb9naeb4ha215niulehelgasiiuweamwp4iuoiiogbaw2ihu7dvfxs/amkeb5w/wqbtz5erw48m1kq1uiwg6s5d2dmz1vvpmdtarmndymv3mtc/7fs5fn5heuxl12fbg9dgozkqe10j1vzmw9ncsnzkyhe9bytg9xty7zjnnbsf8p27eodn2ysnhvh5xey+o0madgxraqsv2fdqmgkgzmfdkyltqwu8+ygzqget2dvvnat6jgasrawdygrydimzas1imgzfhy+i6ihljahuwqyjmhjrl7vijmapxjh9mhb04vvdm2eyqpzof1thfpdd3h/gm4axpiexqpoa1mgc+fivqoqcxn2nysg9kc/9eyablhje+quqlzqsorlamujt+2o2e3lbhmbik36zabg+wsdwtx9ogkgj67+1hcv8g3az6hrnkdgxi5wcmt8xntanwhokvxioa2jzmftoo0bwtgbmrbyd2vwbid+z38lwqxkbysvi7z+imvy1361wgjqwagq6wjeocf8bxunw/hpm/cnzxy+rfpgd5jxyyubnbgduzglz9pv67ande/ehtors26ye0qyx1xiyyr1o8c+b3xc+qljadncjifrilytot6yjbj65ggnhrw7f5p7fsmgaovlt41zac9fv3zubobzzvuhp3blc76y9dtc3sb7qdxi1qldxpjg+chvk/ej5bxavmp/f1f+xpytou5n5t0avjfl+1466a=</latexit> <latexit sha1_base64="r/agnrpclv9wqbqh379hbri7z4g=">aaaethicrvnlb9naeb4ha215niulehelgasiiuweamwp4iuoiiogbaw2ihu7dvfxs/amkeb5w/wqbtz5erw48m1kq1uiwg6s5d2dmz1vvpmdtarmndymv3mtc/7fs5fn5heuxl12fbg9dgozkqe10j1vzmw9ncsnzkyhe9bytg9xty7zjnnbsf8p27eodn2ysnhvh5xey+o0madgxraqsv2fdqmgkgzmfdkyltqwu8+ygzqget2dvvnat6jgasrawdygrydimzas1imgzfhy+i6ihljahuwqyjmhjrl7vijmapxjh9mhb04vvdm2eyqpzof1thfpdd3h/gm4axpiexqpoa1mgc+fivqoqcxn2nysg9kc/9eyablhje+quqlzqsorlamujt+2o2e3lbhmbik36zabg+wsdwtx9ogkgj67+1hcv8g3az6hrnkdgxi5wcmt8xntanwhokvxioa2jzmftoo0bwtgbmrbyd2vwbid+z38lwqxkbysvi7z+imvy1361wgjqwagq6wjeocf8bxunw/hpm/cnzxy+rfpgd5jxyyubnbgduzglz9pv67ande/ehtors26ye0qyx1xiyyr1o8c+b3xc+qljadncjifrilytot6yjbj65ggnhrw7f5p7fsmgaovlt41zac9fv3zubobzzvuhp3blc76y9dtc3sb7qdxi1qldxpjg+chvk/ej5bxavmp/f1f+xpytou5n5t0avjfl+1466a=</latexit> <latexit sha1_base64="r/agnrpclv9wqbqh379hbri7z4g=">aaaethicrvnlb9naeb4ha215niulehelgasiiuweamwp4iuoiiogbaw2ihu7dvfxs/amkeb5w/wqbtz5erw48m1kq1uiwg6s5d2dmz1vvpmdtarmndymv3mtc/7fs5fn5heuxl12fbg9dgozkqe10j1vzmw9ncsnzkyhe9bytg9xty7zjnnbsf8p27eodn2ysnhvh5xey+o0madgxraqsv2fdqmgkgzmfdkyltqwu8+ygzqget2dvvnat6jgasrawdygrydimzas1imgzfhy+i6ihljahuwqyjmhjrl7vijmapxjh9mhb04vvdm2eyqpzof1thfpdd3h/gm4axpiexqpoa1mgc+fivqoqcxn2nysg9kc/9eyablhje+quqlzqsorlamujt+2o2e3lbhmbik36zabg+wsdwtx9ogkgj67+1hcv8g3az6hrnkdgxi5wcmt8xntanwhokvxioa2jzmftoo0bwtgbmrbyd2vwbid+z38lwqxkbysvi7z+imvy1361wgjqwagq6wjeocf8bxunw/hpm/cnzxy+rfpgd5jxyyubnbgduzglz9pv67ande/ehtors26ye0qyx1xiyyr1o8c+b3xc+qljadncjifrilytot6yjbj65ggnhrw7f5p7fsmgaovlt41zac9fv3zubobzzvuhp3blc76y9dtc3sb7qdxi1qldxpjg+chvk/ej5bxavmp/f1f+xpytou5n5t0avjfl+1466a=</latexit> <latexit sha1_base64="r/agnrpclv9wqbqh379hbri7z4g=">aaaethicrvnlb9naeb4ha215niulehelgasiiuweamwp4iuoiiogbaw2ihu7dvfxs/amkeb5w/wqbtz5erw48m1kq1uiwg6s5d2dmz1vvpmdtarmndymv3mtc/7fs5fn5heuxl12fbg9dgozkqe10j1vzmw9ncsnzkyhe9bytg9xty7zjnnbsf8p27eodn2ysnhvh5xey+o0madgxraqsv2fdqmgkgzmfdkyltqwu8+ygzqget2dvvnat6jgasrawdygrydimzas1imgzfhy+i6ihljahuwqyjmhjrl7vijmapxjh9mhb04vvdm2eyqpzof1thfpdd3h/gm4axpiexqpoa1mgc+fivqoqcxn2nysg9kc/9eyablhje+quqlzqsorlamujt+2o2e3lbhmbik36zabg+wsdwtx9ogkgj67+1hcv8g3az6hrnkdgxi5wcmt8xntanwhokvxioa2jzmftoo0bwtgbmrbyd2vwbid+z38lwqxkbysvi7z+imvy1361wgjqwagq6wjeocf8bxunw/hpm/cnzxy+rfpgd5jxyyubnbgduzglz9pv67ande/ehtors26ye0qyx1xiyyr1o8c+b3xc+qljadncjifrilytot6yjbj65ggnhrw7f5p7fsmgaovlt41zac9fv3zubobzzvuhp3blc76y9dtc3sb7qdxi1qldxpjg+chvk/ej5bxavmp/f1f+xpytou5n5t0avjfl+1466a=</latexit> Analyse Breitensuche maximale Anzahl an Nachfolgern eines Knotens: n Entfernung des zuerst erreichten Zielknotens: e maximale Suchtiefe (=Entfernung bis zu einem kinderlosen Knoten): d Die Breitensuche ist vollständig, hat eine Laufzeitkomplexität von O(n e+1 ),eine Speicherplatzkomplexität von O(n e+1 ) und ist optimal. 58

101 Analyse Tiefensuche maximale Anzahl an Nachfolgern eines Knotens: n Entfernung des zuerst erreichten Zielknotens: e maximale Suchtiefe (=Entfernung bis zu einem kinderlosen Knoten): d 59

102 Analyse Tiefensuche maximale Anzahl an Nachfolgern eines Knotens: n Entfernung des zuerst erreichten Zielknotens: e maximale Suchtiefe (=Entfernung bis zu einem kinderlosen Knoten): d Die Tiefensuche ist vollständig (für endliches d), hat eine Laufzeitkomplexität von O(n d ), eine Speicherplatzkomplexität von O(dn), ist aber nicht optimal. 59

103 Analyse Tiefensuche maximale Anzahl an Nachfolgern eines Knotens: n Entfernung des zuerst erreichten Zielknotens: e maximale Suchtiefe (=Entfernung bis zu einem kinderlosen Knoten): d Die Tiefensuche ist vollständig (für endliches d), hat eine Laufzeitkomplexität von O(n d ), eine Speicherplatzkomplexität von O(dn), ist aber nicht optimal. Was ist bei unendlichem d? Warum ist die Tiefensuche nicht optimal? 59

104 Iterative Tiefensuche Vorteil der Tiefensuche: es müssen wenige Knoten im Speicher gehalten werden. Nachteil der Tiefensuche: man geht evtl. viele Umwege zu einem Zielknoten Vorteil der Breitensuche: man entfernt sich nur so weit wie nötig vom Startknoten. Nachteil der Breitensuche: es müssen viele Knoten im Speicher gehalten werden. 60

105 Iterative Tiefensuche Vorteil der Tiefensuche: es müssen wenige Knoten im Speicher gehalten werden. Nachteil der Tiefensuche: man geht evtl. viele Umwege zu einem Zielknoten Vorteil der Breitensuche: man entfernt sich nur so weit wie nötig vom Startknoten. Nachteil der Breitensuche: es müssen viele Knoten im Speicher gehalten werden. Idee: Kombiniere Vorteile zu Iterativer Tiefensuche 1. Führe Tiefensuche bis zu einer festgelegten Tiefe T durch 2. Falls Ziel gefunden, terminiere 3. Ansonsten erhöhe T um 1 und wiederhole von Schritt 1. 60

106 Iterative Tiefensuche maximale Anzahl an Nachfolgern eines Knotens: n Entfernung des zuerst erreichten Zielknotens: e maximale Suchtiefe (=Entfernung bis zu einem kinderlosen Knoten): d 61

107 Iterative Tiefensuche maximale Anzahl an Nachfolgern eines Knotens: n Entfernung des zuerst erreichten Zielknotens: e maximale Suchtiefe (=Entfernung bis zu einem kinderlosen Knoten): d Eigenschaften: vollständig Laufzeitkomplexität von O(n e ) Speicherplatzkomplexität von O(dn) (wie bei Tiefensuche) optimal (für Starttiefe T =1) 61

108 Iterative Tiefensuche maximale Anzahl an Nachfolgern eines Knotens: n Entfernung des zuerst erreichten Zielknotens: e maximale Suchtiefe (=Entfernung bis zu einem kinderlosen Knoten): d Eigenschaften: vollständig Laufzeitkomplexität von O(n e ) Speicherplatzkomplexität von O(dn) (wie bei Tiefensuche) optimal (für Starttiefe T =1) Nachteil der iterativen Tiefensuche: Alle Knoten, die für Tiefe T betrachtet werden, werden nocheinmal für Tiefe T +1betrachtet, usw. (asymptotisch hat dies allerdings keinen Einfluss auf die Laufzeit). 61

109 Bidirektionale Suche Idee: Suche gleichzeitig vom Start- und Zielknoten aus (letzter sollte eindeutig sein). Vorwärtssuche vom Startknoten aus (Breitensuche) Rückwärtssuche vom Zielknoten aus (Breitensuche) Immer wenn ein neuer Knoten Frontier einer Suche hinzugefügt wird, wird üperprüft ob er bereits in Frontier der anderen Suche enthalten ist. Falls ja, wurde ein Pfad zum Ziel über diesen Knoten gefunden. Start Goal 62

113 Bidirektionale Suche maximale Anzahl an Nachfolgern eines Knotens: n Entfernung des zuerst erreichten Zielknotens: e maximale Suchtiefe (=Entfernung bis zu einem kinderlosen Knoten): d 63

114 Bidirektionale Suche maximale Anzahl an Nachfolgern eines Knotens: n Entfernung des zuerst erreichten Zielknotens: e maximale Suchtiefe (=Entfernung bis zu einem kinderlosen Knoten): d Die bidirektionale Suche ist vollständig, hat eine Laufzeitkomplexität von O(n (e+1)/2 ), eine Speicherplatzkomplexität von O(n e ) und ist optimal. 63

115 Bidirektionale Suche maximale Anzahl an Nachfolgern eines Knotens: n Entfernung des zuerst erreichten Zielknotens: e maximale Suchtiefe (=Entfernung bis zu einem kinderlosen Knoten): d Die bidirektionale Suche ist vollständig, hat eine Laufzeitkomplexität von O(n (e+1)/2 ), eine Speicherplatzkomplexität von O(n e ) und ist optimal. Problem: Bestimmung eines Vorgängers eines Knoten (für Rückwärtsuche) evtl. nicht einfach. 63

116 Zusammenfassung: Uninformierte Suche Uninformierte Suche: ausser der Zustandsübergangsrelation sind keine weiteren Informationen verfügbar Generelle Strategie: Suche Pfade inkrementell vom Startknoten aus ab Suchstrategien: Tiefensuche Breitensuche Iterative Tiefensuche Bidirektionale Suche 64

119 Informierte Suche 65

120 Informierte Suche 65

121 Informierte Suche Problem der uninformierten Suche: Kombinatorische Explosion (viele Nachfolgerzustände führen zu langer Laufzeit) Beispiel: Beim Schach gibt es bereits vom Startzustand aus 20 verschiedene Nachfolgerzustände (im weiteren Verlauf können dies noch viel mehr sein) Idee der informierten Suche: Rate den nächsten besten Zustand Noch besser: Rate geschickt und nutze Informationen der Domäne um Zustände einzuschätzen (Heuristiken). 66

124 Informierte Suche Analyse (uninformierte) Suche: Suchstrategien allgemein sind charakterisiert durch die Art und Weise wie sie den nächsten zu betrachteten Knoten auswählen. Uninformierte Strategien sortieren die Knoten nach problem-unabhängigen Eigenschaften (z.b. Anzahl Aktionen vom Startzustand). Informierte Suche (Best-first Search): Benutze eine Zustandsbewertungsfunktion f(n) für jeden Nachfolgerknoten n eines aktuell betrachteten Knotens m Betrachte nur den Nachfolgerknoten, der f maximiert (füge diesen in eine Warteschlange). Alternative: sortiere Nachfolgerknoten absteigend nach f und füge diese in einen Stack ein (ermöglicht Backtracking). 67

129 Zustandsbewertungsfunktion Eine Zustandsbewertungsfunktion f(n) implementiert eine Heuristik Eine Heuristik ist eine problem-abhängige Strategie zur Lösung Beispiele: Schach: Bevorzuge einen Zustand, bei dem der Gegenspieler wenig Figuren hat Sokoban: Bevorzuge einen Zustand, bei dem die Gesamtdistanz der Spielsteine zum Ziel gering ist Heuristiken müssen nicht immer korrekt und allgemeingültig sein Eine Heuristik ist eine Abschätzung der Kosten bis zum Ziel Im Gegensatz zu den tatsächlichen Kosten soll sie aber einfach zu berechnen sein Weiteres Beispiel: Luftliniendistanz als Heuristik für kürzeste Wege 68