Learning regular sets from queries and counterexamples

Transkript

1 Learning regular sets from queries and countereamples Seminar: Spezialthemen der Verifikation H.-Christian Estler Universität Paderborn

2 Motivation Wie können wir Unbekanntes erlernen? Ausprobieren Sehr genau nachdenken Einen Wissenden fragen In diesem Vortrag: Lernen, indem wir einen Lehrer fragen. Fragestellung: Wie sieht minimaler DFA über Alphabet A = {, } aus, der nur Wörter mit gerader Anzahl Buchstaben und akzeptiert? H.- Christian Estler Learning Regular Sets from Queries and Countereamples 2

3 Motivation Finden des min. DFA ohne Hilfe NP-vollständig Lehrer beantwortet Fragen: Ist Wort w in der regulären Sprache U? Ja / Nein Erkennt DFA M die reguläre Sprache U? Ja / Nein (Gegenbsp.) w i U? L* M U? Lehrer H.- Christian Estler Learning Regular Sets from Queries and Countereamples 3

4 Übersicht Motivation Grundlagen zu L* Beispiel zu L* Korrektheit Laufzeit Anmerkungen H.- Christian Estler Learning Regular Sets from Queries and Countereamples 4

5 Observation Tables Wie merken wir uns bisher Gelerntes? E L* Algorithmus hat Informationen über Menge von Wörtern {w,,w } K n Klassifikation nach: w i U? Information in Observation Table (S, E, T) gespeichert Präfi-abgeschlossene Menge S (nicht leer) Suffi-abgeschlossene Menge E (nicht leer) Finite Funktion T :((S S A) E) {,} S S A T H.- Christian Estler Learning Regular Sets from Queries and Countereamples 5

6 Abgeschlossenheit, Konsistenz Nutzen Observation Table (S, E, T) um DFA zu konstruieren. Bedingung: (S, E, T) abgeschlossen und konsistent Definition: E Abgeschlossen: t S A: s S row(t) = row(s) Konsistenz: (s s ) S row(s ) = row(s ) 2 2 a A row(s a) = row(s a) 2 S S A T H.- Christian Estler Learning Regular Sets from Queries and Countereamples 6

7 Konstruktion eines DFA Konstruiere DFA M(S, E, T) Zustände: Q= {row(s):s S} Startzustand: q = row( ) E Endzustände: Übergänge: F = {row(s):s S T(s) = } δ(row(s), a) = row(s a) S T S A H.- Christian Estler Learning Regular Sets from Queries and Countereamples 7

8 L* - Pseudocode (ohne Init) Repeat: While (S, E, T) is not closed or not consistent: If (S, E, T) is not consistent, then find s and s 2 in S, a A, and e E such that row(s ) = row(s 2 ) and T(s a e) T(s2 a e), add a e to E and etend T to (S S A) E using membership queries. If (S, E, T) is not closed, then find s S and a A such that row(s a) is different form row(s) for all s S add s a to S and etend T to (S S A) E using membership queries. Once (S, E, T) is closed and consistent, let M = M(S, E, T). Make the conjecture M. If the Teacher replies with a counter-eample t, then add t and all its prefies to S and etend T to (S S A) E using membership queries. Until the Teacher replies es to the conjecture M. Halt and output M. H.- Christian Estler Learning Regular Sets from Queries and Countereamples 8

9 L* - ein Beispiel Ziel: Minimaler DFA über Alphabet A = {, }, der nur Wörter mit gerader Anzahl Buchstaben und akzeptiert. Initial: Membership queries für,, T Abgeschlossen und konsistent? Nicht abgeschlossen, also T erweitern H.- Christian Estler Learning Regular Sets from Queries and Countereamples 9

10 L* - ein Beispiel Wähle s i = und = T T 2 T 2 abgeschlossen und konsistent? Ja, also konstruiere DFA H.- Christian Estler Learning Regular Sets from Queries and Countereamples

11 L* - ein Beispiel T 2 Q = {row(s): s S} q = row( ) F = {row(s): s S T(s) = } δ(row(s), a) = row(s a) Ist DFA korrekt? Nein, Lehrer gibt Gegenbeispiel: H.- Christian Estler Learning Regular Sets from Queries and Countereamples

12 L* - ein Beispiel Erweitern von T 2 mit t = und prefi(t) = {} T 2 T 3 Abgeschlossen und konsistent? Nicht konsistent, also T 3 erweitern T 3 H.- Christian Estler Learning Regular Sets from Queries and Countereamples 2

13 L* - ein Beispiel Wähle a = T 4 T 3 T 4 abgeschlossen und konsistent? Ja, also konstruiere DFA H.- Christian Estler Learning Regular Sets from Queries and Countereamples 3

14 L* - ein Beispiel T 4 Q = {row(s): s S} q = row( ) F = {row(s): s S T(s) = } δ(row(s), a) = row(s a) Ist DFA korrekt? Nein, Lehrer gibt Gegenbeispiel: H.- Christian Estler Learning Regular Sets from Queries and Countereamples 4

15 L* - ein Beispiel Erweitern von T 4 mit t = und prefi(t) = {,, } T 5 T 4 T 5 abgeschlossen und konsistent? Nicht konsistent, also T 5 erweitern H.- Christian Estler Learning Regular Sets from Queries and Countereamples 5

16 L* - ein Beispiel T 5 T 6 mit a = H.- Christian Estler Learning Regular Sets from Queries and Countereamples 6

17 L* - ein Beispiel T 6 Q = {row(s): s S} = row( ) q F = {row(s): s S T(s) = } δ(row(s), a) = row(s a) H.- Christian Estler Learning Regular Sets from Queries and Countereamples 7

18 Korrektheit / Wohldefiniertheit Warum Abgeschlossenheit und Konsistenz prüfen? Wohldefiniertheit des DFA: Startzustand q muss eistieren, da S nicht leer und präfiabgeschlossen (also S) Mit E folgt: wenn s,s 2 S mit row(s ) = row(s ), dann sind 2 T(s ) = T(s ) und wohldefiniert und gleich, T(s ) = T(s ) 2 2 folglich ist F wohldefiniert. δ wohldefiniert: wenn s,s 2 S mit row(s ) = row(s ), dann gilt 2 a A : row(s a) = row(s a) (da konsistent), und wegen 2 Abgeschlossenheit eistiert dieser S A Zeilenwert auch in S. H.- Christian Estler Learning Regular Sets from Queries and Countereamples 8

19 Laufzeit Laufzeit abhängig von n: Anzahl Zustände des minimalen DFA M U m: maimale Länge eines Gegenbeispiels Laufzeit T(m, n) durch polnomielle Funktion über n und m beschränkt. H.- Christian Estler Learning Regular Sets from Queries and Countereamples 9

20 Anmerkungen Gezeigtes Prinzip auf andere Probleme anwendbar Approimativer L* Algorithmus Lernen kontetfreier Sprachen Verbesserung des Verfahrens durch Rivest und Schapire Zusammenhang mit Verifikation: übernächster Vortrag H.- Christian Estler Learning Regular Sets from Queries and Countereamples 2

21 Vielen Dank für die Aufmerksamkeit! H.- Christian Estler Learning Regular Sets from Queries and Countereamples 2