Theoretische Informatik: Berechenbarkeit und Formale Sprachen

Transkript

1 Theoretische Informatik: Berechenbarkeit und Formale Sprachen Prof. Dr. F. Otto Fachbereich Elektrotechnik/Informatik, Universität Kassel Kassel, Germany SS 2015 Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 1 / 313

2 Vorlesung mit Übungen im SS 2015 Vorlesung: Dienstag Donnerstag Beginn: 9-10 Uhr, Raum 1603 WA Uhr, Raum 1603 WA Dienstag, den , 9 15 Uhr. Übungen und Tutorien in 5 Gruppen (Beginn: ): Gruppe 1: Montag Uhr, Raum WA Gruppe 2: Dienstag Uhr, Raum WA Gruppe 3: Dienstag Uhr, Raum WA Gruppe 4: Freitag 8-10 Uhr, Raum WA Gruppe 5: Freitag Uhr, Raum WA Anmeldung: Ab , 10:30 Uhr, auf der Webseite der Vorlesung: veranstaltungen/theoinf-b+formspss2015/ Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 2 / 313

3 Wöchentliche Übungsaufgaben: KEINE Abgabe, aber selbständiges Bearbeiten als Vorbereitung auf die Übungen! Studienleistungen als Voraussetzung für die Teilnahme an der Modulprüfung (Klausur) [Voraussetzung: Anmeldung in einer Übungsgruppe]: 1. Probeklausur: Dienstag, , 9:15-10:00, in Raum 1603 WA 2. Probeklausur: Dienstag, , 9:15-10:00, in Raum 1603 WA 3. Probeklausur: Dienstag, , 9:15-10:00, in Raum 1603 WA Um zur Modulprüfung zugelassen zu werden, müssen mindestens zwei dieser Probeklausuren bestanden werden! Homepage: veranstaltungen/theoinf-b+formspss2015/ Abschlussklausur: Termin wird rechtzeitig bekannt gegeben. Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 3 / 313

4 Buch zur Vorlesung: Literatur: Uwe Schöning; Theoretische Informatik - kurzgefasst. Spektrum Akademischer Verlag, Heidelberg/Berlin, 5. Auflage, 2008, ISBN Ergänzende Literatur: J.E. Hopcroft, R. Motwani, J.D. Ullman; Einführung in die Automatentheorie, Formale Sprachen und Komplexitätstheorie. Oldenbourg Verlag, München, 4. Auflage, J. Hromkovič; Theoretische Informatik. Teubner Verlag, Wiesbaden, 3. Auflage, K. Wagner; Theoretische Informatik - Eine kompakte Einführung. Springer Verlag, Berlin/Heidelberg, 2. Auflage, u.v.m. Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 4 / 313

5 Juray Hromkovič; Algorithmic Adventures - From Knowledge to Magic, Springer Chapter 1: Chapter 3: Chapter 4: A Short Story About the Development of Computer Science or Why Computer Science Is Not a Computer Driving Licence Infinity Is Not Equal to Infinity, or Why Infinity Is Infinitely Important in Computer Science Limits of Computability or Why Do There Exist Tasks That Cannot Be Solved Automatically by Computers Online: link.springer.com/book/ / Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 5 / 313

6 Verstehen der verwendeten Sprache und Notation Vorbereitungskurs Theoretische Informatik und Diskrete Mathematik (FB ) Themen: mathematische Aussagen, Beweistechniken, Syntax und Semantik mathematischer Objekte,... Zeit: Mittwoch Uhr Ort: Raum 1114 Beginn: Mittwoch, Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 6 / 313

7 Einleitung Die Theoretische Informatik entwickelt formale Modelle für die Objekte und Methoden der Praktischen und Technischen Informatik. Modell: Beschreibung des Wesentlichen einer Klasse von verwandten realen Phänomenen unter Abstrahierung von technischen Details und zufälligen Eigenschaften. Nutzen: - besseres Verständnis der realen Phänomene - Entwicklung von Problemlösungen mit formalen Methoden Wo konkret werden in der Informatik formale Methoden benötigt? Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 7 / 313

8 Einleitung Die Theoretische Informatik entwickelt formale Modelle für die Objekte und Methoden der Praktischen und Technischen Informatik. Modell: Beschreibung des Wesentlichen einer Klasse von verwandten realen Phänomenen unter Abstrahierung von technischen Details und zufälligen Eigenschaften. Nutzen: - besseres Verständnis der realen Phänomene - Entwicklung von Problemlösungen mit formalen Methoden Wo konkret werden in der Informatik formale Methoden benötigt? Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 7 / 313

9 Einleitung Die Theoretische Informatik entwickelt formale Modelle für die Objekte und Methoden der Praktischen und Technischen Informatik. Modell: Beschreibung des Wesentlichen einer Klasse von verwandten realen Phänomenen unter Abstrahierung von technischen Details und zufälligen Eigenschaften. Nutzen: - besseres Verständnis der realen Phänomene - Entwicklung von Problemlösungen mit formalen Methoden Wo konkret werden in der Informatik formale Methoden benötigt? Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 7 / 313

10 Einleitung Die Theoretische Informatik entwickelt formale Modelle für die Objekte und Methoden der Praktischen und Technischen Informatik. Modell: Beschreibung des Wesentlichen einer Klasse von verwandten realen Phänomenen unter Abstrahierung von technischen Details und zufälligen Eigenschaften. Nutzen: - besseres Verständnis der realen Phänomene - Entwicklung von Problemlösungen mit formalen Methoden Wo konkret werden in der Informatik formale Methoden benötigt? Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 7 / 313

11 Problemstellung: umgangssprachlich beschrieben A1 Formale Problembeschreibung (Problemspezifikation) Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 8 / 313

12 Problemstellung: umgangssprachlich beschrieben A1 Formale Problembeschreibung (Problemspezifikation) Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 8 / 313

13 Beispiel: Auftragsplanung Eingaben: Aufträge A 1,...,A n (n 2), Bearbeitungsdauer l 1,...,l n N +, Deadlines d 1,...,d n N +, Profitwerte p 1,...,p n N +, identische Prozessoren P 1,...,P m (m 1). Aufgabe: Bedingungen: Ziel: Ordne jedem Auftrag A i (1 i n) einen Zeitpunkt z i 0 und einen Prozessor P j (1 j m) zu, der A i ab Zeitpunkt z i bearbeiten soll. Es muß z i +l i d i gelten! P j ist im Zeitraum z i bis z i +l i mit A i beschäftigt. Finde ein Z : {A 1,...,A n } ({P 1,...,P m } N), sodass der erzielte Profit maximiert wird! Für l 1 =... = l n = 1 = m gibt es ein effektives Verfahren! (siehe Entwurf und Analyse von Algorithmen ). Das allgemeine Problem selbst ist NP-hart. Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 9 / 313

14 Beispiel: Auftragsplanung Eingaben: Aufträge A 1,...,A n (n 2), Bearbeitungsdauer l 1,...,l n N +, Deadlines d 1,...,d n N +, Profitwerte p 1,...,p n N +, identische Prozessoren P 1,...,P m (m 1). Aufgabe: Bedingungen: Ziel: Ordne jedem Auftrag A i (1 i n) einen Zeitpunkt z i 0 und einen Prozessor P j (1 j m) zu, der A i ab Zeitpunkt z i bearbeiten soll. Es muß z i +l i d i gelten! P j ist im Zeitraum z i bis z i +l i mit A i beschäftigt. Finde ein Z : {A 1,...,A n } ({P 1,...,P m } N), sodass der erzielte Profit maximiert wird! Für l 1 =... = l n = 1 = m gibt es ein effektives Verfahren! (siehe Entwurf und Analyse von Algorithmen ). Das allgemeine Problem selbst ist NP-hart. Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 9 / 313

15 Beispiel: Auftragsplanung Eingaben: Aufträge A 1,...,A n (n 2), Bearbeitungsdauer l 1,...,l n N +, Deadlines d 1,...,d n N +, Profitwerte p 1,...,p n N +, identische Prozessoren P 1,...,P m (m 1). Aufgabe: Bedingungen: Ziel: Ordne jedem Auftrag A i (1 i n) einen Zeitpunkt z i 0 und einen Prozessor P j (1 j m) zu, der A i ab Zeitpunkt z i bearbeiten soll. Es muß z i +l i d i gelten! P j ist im Zeitraum z i bis z i +l i mit A i beschäftigt. Finde ein Z : {A 1,...,A n } ({P 1,...,P m } N), sodass der erzielte Profit maximiert wird! Für l 1 =... = l n = 1 = m gibt es ein effektives Verfahren! (siehe Entwurf und Analyse von Algorithmen ). Das allgemeine Problem selbst ist NP-hart. Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 9 / 313

16 Problemstellung: umgangssprachlich beschrieben A1 Formale Problembeschreibung (Problemspezifikation) A2 Formale Beschreibung einer Lösung (Algorithmus) A3 Programm (in einer gebräuchlichen Programmiersprache) A4 Interpretation der vom Programm gelieferten Ergebnisse im Sinne der ursprünglichen Problemstellung A1 und A4: A2 und A3: Informatiker gemeinsam mit Anwender Informatiker Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 10 / 313

17 Problemstellung: umgangssprachlich beschrieben A1 Formale Problembeschreibung (Problemspezifikation) A2 Formale Beschreibung einer Lösung (Algorithmus) A3 Programm (in einer gebräuchlichen Programmiersprache) A4 Interpretation der vom Programm gelieferten Ergebnisse im Sinne der ursprünglichen Problemstellung A1 und A4: A2 und A3: Informatiker gemeinsam mit Anwender Informatiker Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 10 / 313

18 Problemstellung: umgangssprachlich beschrieben A1 Formale Problembeschreibung (Problemspezifikation) A2 Formale Beschreibung einer Lösung (Algorithmus) A3 Programm (in einer gebräuchlichen Programmiersprache) A4 Interpretation der vom Programm gelieferten Ergebnisse im Sinne der ursprünglichen Problemstellung A1 und A4: A2 und A3: Informatiker gemeinsam mit Anwender Informatiker Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 10 / 313

19 Problemstellung: umgangssprachlich beschrieben A1 Formale Problembeschreibung (Problemspezifikation) A2 Formale Beschreibung einer Lösung (Algorithmus) A3 Programm (in einer gebräuchlichen Programmiersprache) A4 Interpretation der vom Programm gelieferten Ergebnisse im Sinne der ursprünglichen Problemstellung A1 und A4: A2 und A3: Informatiker gemeinsam mit Anwender Informatiker Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 10 / 313

20 Problemstellung: umgangssprachlich beschrieben A1 Formale Problembeschreibung (Problemspezifikation) A2 Formale Beschreibung einer Lösung (Algorithmus) A3 Programm (in einer gebräuchlichen Programmiersprache) A4 Interpretation der vom Programm gelieferten Ergebnisse im Sinne der ursprünglichen Problemstellung A1 und A4: A2 und A3: Informatiker gemeinsam mit Anwender Informatiker Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 10 / 313

21 Problemstellung: umgangssprachlich beschrieben A1 Korrektheit? Formale Problembeschreibung (Problemspezifikation) A2 Korrektheit? Logik Formale Beschreibung einer Lösung (Algorithmus) Berechenbarkeitstheorie, Algorithmentheorie A3 Korrektheit? Programm (in einer gebräuchlichen Programmiersprache) Formale Sprachen, Automatentheorie A4 Korrektheit? Interpretation der vom Programm gelieferten Ergebnisse im Sinne der ursprünglichen Problemstellung A1 und A4: A2 und A3: Informatiker gemeinsam mit Anwender Informatiker Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 11 / 313

22 Vorlesung (1.) Was ist ein Algorithmus? Theoretische Informatik: Berechenbarkeit und Formale Sprachen : Unter einem Algorithmus versteht man eine präzise, endliche Verarbeitungsvorschrift, die so formuliert ist, dass die in der Vorschrift notierten Elementaroperationen von einer mechanischen oder elektrisch arbeitenden Maschine durchgeführt werden können. Die Anzahl der verfügbaren Elementaroperationen ist beschränkt, ebenso ihre Ausführungszeit. Aus der sprachlichen Darstellung des A. muß die Abfolge der einzelnen Schritte eindeutig hervorgehen. Hierbei sind Wahlmöglichkeiten zugelassen, wobei aber genau festgelegt sein muß, wie diese Auswahl erfolgen soll (nach Appelrath und Ludewig 1991). Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 12 / 313

23 Vorlesung (1.) Was ist ein Algorithmus? Theoretische Informatik: Berechenbarkeit und Formale Sprachen : Unter einem Algorithmus versteht man eine präzise, endliche Verarbeitungsvorschrift, die so formuliert ist, dass die in der Vorschrift notierten Elementaroperationen von einer mechanischen oder elektrisch arbeitenden Maschine durchgeführt werden können. Die Anzahl der verfügbaren Elementaroperationen ist beschränkt, ebenso ihre Ausführungszeit. Aus der sprachlichen Darstellung des A. muß die Abfolge der einzelnen Schritte eindeutig hervorgehen. Hierbei sind Wahlmöglichkeiten zugelassen, wobei aber genau festgelegt sein muß, wie diese Auswahl erfolgen soll (nach Appelrath und Ludewig 1991). Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 12 / 313

24 Vorlesung (1.) Was ist ein Algorithmus? Theoretische Informatik: Berechenbarkeit und Formale Sprachen : Unter einem Algorithmus versteht man eine präzise, endliche Verarbeitungsvorschrift, die so formuliert ist, dass die in der Vorschrift notierten Elementaroperationen von einer mechanischen oder elektrisch arbeitenden Maschine durchgeführt werden können. Die Anzahl der verfügbaren Elementaroperationen ist beschränkt, ebenso ihre Ausführungszeit. Aus der sprachlichen Darstellung des A. muß die Abfolge der einzelnen Schritte eindeutig hervorgehen. Hierbei sind Wahlmöglichkeiten zugelassen, wobei aber genau festgelegt sein muß, wie diese Auswahl erfolgen soll (nach Appelrath und Ludewig 1991). Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 12 / 313

25 Vorlesung Theoretische Informatik: Berechenbarkeit und Formale Sprachen : (1.) Was ist ein Algorithmus? - Formale Modelle für den Begriff Berechenbarkeit : Welche Funktionen sind berechenbar, welche Mengen (Sprachen) sind entscheidbar? Gibt es Funktionen f : N N, die nicht berechenbar sind? Gibt es Mengen H N, die unentscheidbar sind? (2.) Mit welchen Mitteln lassen sich unendliche Sprachen endlich beschreiben? Programmiersprachen: syntaktische Korrektheit? Semantik? Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 13 / 313

26 Vorlesung Theoretische Informatik: Berechenbarkeit und Formale Sprachen : (1.) Was ist ein Algorithmus? - Formale Modelle für den Begriff Berechenbarkeit : Welche Funktionen sind berechenbar, welche Mengen (Sprachen) sind entscheidbar? Gibt es Funktionen f : N N, die nicht berechenbar sind? Gibt es Mengen H N, die unentscheidbar sind? (2.) Mit welchen Mitteln lassen sich unendliche Sprachen endlich beschreiben? Programmiersprachen: syntaktische Korrektheit? Semantik? Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 13 / 313

27 Vorlesung Theoretische Informatik: Berechenbarkeit und Formale Sprachen : (1.) Was ist ein Algorithmus? Kapitel 1: - Formale Modelle Berechenbarkeitstheorie Welche Funktionen sind berechenbar, welche Mengen (Sprachen) sind entscheidbar? Gibt es Funktionen f : N N, die nicht berechenbar sind? Gibt es Mengen H N, die unentscheidbar sind? (2.) Mit welchen Mitteln lassen sich unendliche Sprachen endlich beschreiben? Kapitel 2: Automatentheorie und Formale Sprachen Programmiersprachen: syntaktische Korrektheit? Semantik? Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 14 / 313

28 (3.) Welcher Bedarf an den Resourcen Rechenzeit und Speicherplatz entsteht bei der Lösung welcher Probleme? Gibt es Funktionen f : N N, die prinzipiell berechenbar sind, die aber dennoch praktisch nicht berechnet werden können? Kann man mit mehr Rechenzeit wirklich mehr Funktionen berechnen? siehe Vorlesungen: Komplexitätstheorie Entwurf und Analyse von Algorithmen Prof. Dr. F. Otto (Universität Kassel) Berechenbarkeit und Formale Sprachen 15 / 313