Gottfried Vossen Kurt-Ulrich Witt. Grundlagen der Theoretischen Informatik mit Anwendungen

Transkript

1 Gottfried Vossen Kurt-Ulrich Witt Grundlagen der Theoretischen Informatik mit Anwendungen

2 Die Reihe "Lehrbuch u, orientiert an den Lehrinhalten des Studiums an Fachhochschulen und UniversiUiten, bietet didaktisch gut ausgearbeitetes Know-how nach dem State-of-the-Art des Faches rur Studenten und Dozenten gleichermaben. Unter anderem sind erschienen: Neuronale Netze und Fuzzy-$ysteme von D. auck, F. Klawonn und R. Kruse Interaktlve Systeme von Christian Stary Evolutlonire Algorlthmen von Volker issen Stochastlk von Gerhard Hubner Neuronale Netze von Andreas Scherer Rechnerverblndungsstrukturen von Bernhard Schurmann Rechnerarchltektur von Paul Herrmann Termersetzungssysteme von Reinhard BUndgen Konstruktlon dlgltaler Systeme von Fritz Mayer-Lindenberg Theorle der Medlzlnlschen Informatlk von Hans-Jurgen Seelos PASCAL von Doug Cooper und Michael Clancy Programmleren mit JAVA von Andreas Solymosi und lise Schmiedecke Baustelnbaslerte Software von Gunther Bauer Anwendungsorlentlerte Wlrtschaftslnformatlk von Paul Alpar, Heinz Lothar Grob, Peter Weimann und Robert Winter Software Engineering von Reiner Dumke Grundlagen der Theoretlschen Informatlk mit Anwendungen von Gottfried Vossen und Kurt-Ulrich Witt Grundlagen und Konzepte der Informatlk von Hartmut Ernst Von Pascal zu Assembler von Peter Kammerer Vertellte Systeme von GUnther Bengel SPSS fur Windows von Wolf-Michael Kahler

3 Gottfried Vossen Kurt-Ulrich Witt Grundlagen der Theoretischen Informatik mit Anwendungen Eine Einfiihrung fiir Studierende der Informatik, Wirtschaftsinformatik und Technischen Informatik 2., iiberarbeitete und aktualisierte Auflage ~ vleweg

4 Die Deutsche Bibliothek - CIP-Einheitsaufnahme Ein Titeldatensatz fiir diese Publikation ist bei Der Deutschen Bibliothek erhliltlich. Prof. Dr. Gottfried Vossen WestfaIische Wilhelms-Universitlit Munster Institut fiir Wirtschaftsinformatik Leonardo-Campus Munster vossen@helios.uni-muenster.de Prof. Dr. Kurt-Ulrich Witt Fachhochschule Bonn-Rbein-Sieg Fachbereich Angewandte Informatik Grantham-Allee St. Augustin kurt-ulrich.witt@fh-bonn-rhein-sieg.de 1. Auflage April , uberarbeitete und aktualisierte Auflage April 2002 AIle Rechte vorbehalten Friedr. Vieweg & Sohn Verlagsgesellschaft mbh, Braunschweig/Wiesbaden, 2002 Der Vieweg Verlag ist ein Unternehmen der Fachverlagsgruppe BertelsmannSpringer. Das Werk einschlieblich aller seiner Teile ist urheberrechtlich geschiitzt. lede Verwertung auberhalb der engen Grenzen des Urheberrechtsgesetzes ist ohne Zustimmung des Verlags unzuliissig und strafbar. Das gilt insbesondere fiir Vervielfiiltigungen, Ubersetzungen, Mikroverfilmungen und die Einspeicherung und Verarbeitung in elektronischen Systemen. Die Wiedergabe von Gebrauchsnamen, Handelsnamen, Warenbezeichnungen usw. in dies em Werk berechtigt auch ohne besondere Kennzeichnung nicht zu der Annahme, dass solche Namen im Sinne der Warenzeichen- und Markenschutz-Gesetzgebung als frei zu betrachten waren und daher von jedermann benutzt werden diirften. Konzeption und Layout des Umschlags: Ulrike Weigel, Gedruckt auf siiurefreiem und chlorfrei gebleichtem Papier ISBN ISBN (ebook) DOI

5 Inhaltsverzeichnis Vorwort zur 1. Auflage Vorwort zur 2. Auflage 1 Einfiihrung und Ubersicht 1.1 Ausgangspunkte fiir das Themengebiet. 1.2 Anwendungen theoretischer Erkenntnisse. 1.3 Stoffiibersicht und -abgrenzung Externe Lernhilfen und Web-Seiten Allgemeine Bibliographische Hinweise x xii I Endliche A utomaten und regulare Sprachen 9 2 Endliche Automaten Deterministische endliche Automaten Beispiel: Der Schwimmbadautomat Aswim Alphabete, Worter, Sprachen Zustande und Zustandsiibergange Deterministische endliche Automaten und regulare Sprachen Vollstandige Automaten Zusammenfassung Nichtdeterministische endliche Automaten Definitionen Aquivalenz von deterministischen und nichtdeterministischen endlichen Automaten Zusammenfassung Endliche Automaten mit c-ubergangen Definitionen Aquivalenz von c-automaten zu nichtdeterministischen endlichen Automaten Zusammenfassung Verallgemeinerte endliche Automaten Definitionen Aquivalenz von verallgemeinerten und endlichen Automaten Minimierung endlicher Automaten

6 vi InhaIt Isomorphie endlicher Automaten Ein Verfahren zur Minimierung endlicher Automaten. 2.6 Anwendungen endlicher Automaten Rechnersysteme und Systemprogrammierung Teilworterkennung Suchmaschinen im Internet Objektorientierte Modellierung. Interaktionsdiagramme 2.7 Bibliographische Hinweise und Erganzungen. 2.8 Ubungen ReguHire Sprachen Regulare AusdrUcke Definitionen und Eigenschaften Anwendung regularer AusdrUcke Aquivalenz von endlichen Automaten und reguhiren Ausdrucken Scanner-Generatoren Zusammenfassung Typ-3-Grammatiken Rechtslineare Grammatiken Linkslineare Grammatiken Aquivalenz rechtslinearer und linkslinearer Grammatiken Verallgemeinerte Typ-3-Grammatiken Aquivalenz von endlichen Automaten und Typ-3-Grammatiken Zusammenfassung Eigenschaften regularer Sprachen Abschlusseigenschaften von REGr:, Das Pumping-Lemma fur regulare Sprachen Entscheidbarkeitsprobleme Grenzen endlicher Automaten Bibliographische Hinweise und Erganzungen. 3.5 Ubungen Endliche Maschinen und Automatennetze Endliche Maschinen Erweiterung des endlichen Automaten Aswim Mealy-Maschinen Ein formales Vorgehensmodell bei der ProblemlOsung Gegenseitige Simulation von Mealy-Maschinen und endlichen Automaten Moore-Maschinen Aquivalenz von Mealy- und Moore-Maschinen Grenzen endlicher Maschinen 4.2 Endliche Transducer Beispiele fur Automatennetze Synchrone Automaten: Zellulare Automaten Asynchrone Automaten: Petri-Netze Anwendungen und Varianten von Petri-Netzen

7 Inhalt 4.4 Anwendungen endlicher Maschinen Software- und Systementwurf. Statecharts Workflow-Management Elektronischer Handel Bibliographische Hinweise und Erganzungen. 4.6 Ubungen... vii II Kontextfreie Sprachen und Kellerautomaten Kontextfreie Sprachen Kontextfreie Grammatiken Beispiele und Definitionen Normalformen Eigenschaften kontextfreier Sprachen Mehrdeutigkeit Das Pumping-Lemma fur kontextfreie Sprachen Abschlusseigenschaften Ubungen Kellerautomaten Nichtdeterministische Kellerautomaten Grundlegende Definitionen Akzeptieren mit leerem Keller Aquivalenz von kontextfreien Grammatiken und Kellerautomaten Deterministische Kellerautomaten Ubungen Anwendungen kontextfreier Sprachen Ableitungs- und Syntaxbaume Compilerbau Syntax von Programmiersprachen Erweiterte Backus-Naur-Form Syntaxdiagramme Regulare Definitionen SADT XML Bibliographische Hinweise Ubungen III Berechenbarkeit und Komplexitat 8 Typ-l- und Typ-O-Sprachen 8.1 Die Chomsky-Hierarchie Typ-1-Sprachen (kontextsensitive Sprachen) Typ-O-Sprachen (rekursiv-aufzahlbare Sprachen) Die Hierarchie

8 viii Inhalt Das Wortproblem Turingautomaten Definitionen und Beispiele Varianten von Turingautomaten Aquivalenz von deterministischen und nichtdeterministischen Turingautomaten Linear beschrankte Automaten Aquivalenz zwischen linear beschrankten Automaten und Typ- 1-Grammatiken Aquivalenz zwischen Turingautomaten und Typ-O-Grammatiken Zusammenfassung Bibliographische Hinweise Ubungen Berechenbarkeit Turing-Berechenbarkeit Definition und Beispiele Die Programmiersprache TURING Loop-, While- und Goto-Berechenbarkeit Loop-Berechenbarkeit While-Berechenbarkeit Goto-Berechenbarkeit Die Churchsche These Die Ackermannfunktion Universelle Turingmaschinen Codierung von Turingmaschinen Das utm-theorem Das smn-theorem Bibliographische Hinweise Ubungen Entscheidbarkeit 10.1 Existenz unentscheidbarer Probleme Entscheidbare und semi-entscheidbare Mengen 10.3 Reduzierbarkeit von Mengen 10.4 Unentscheidbare Mengen Das Halteproblem Das Korrektheitsproblem Das Aquivalenzproblem Der Satz von Rice Das Postsche Korrespondenzproblem Anwendungen des Postschen Korrespondenzproblems Ubungen

9 Inhalt 11 Komplexitat 11.1 Die O-Notation 11.2 Komplexitat von Algorithmen Wichtige Komplexitatsklassen Die Klassen P und NP Die Klasse P Die Klasse N P Das P-N P-Problem N P-Vollstandigkeit Konkrete N P-vollstandige Probleme Das Erfiillbarkeitsproblem der Aussagenlogik Weitere N P-vollstandige Probleme Heuristiken zur Behandlung NP-vollstandiger Probleme Eine Heuristik fiir TSP Untere Schranken fiir das Approximieren 11.7 Zusammenfassung Bibliographische Hinweise und Erganzungen Ubungen.... ix Literaturverzeichnis 343 Index 349

10 Vorwort zur 1. A uftage Wie gehen Sie vor, wenn Sie die Aufgabe bekommen, einen Fahrkartenautomaten zu realisieren, den Verbindungsaufbau zwischen vernetzten Rechnern zu spezifizieren, ein Bestellformular fur eine Electronic Commerce-Anwendung festzulegen oder Geschaftsablaufe in Threr Unternehmung zu beschreiben? Setzen Sie sich gleich an einen Rechner und implementieren eine Software mit einem (mehr oder weniger geeigneten) Werkzeug (z.b. C++, Java, HTML) mit der Folge, dass Thre Systemlosung vom Werkzeug abhangt und damit bei Versionen-, Release- oder Systemwechseln moglicherweise unbrauchbar wird, oder sind Sie an zeitinvarianten Konzepten zum Entwurf, zur Realisierung und zur Anwendung von Systemen interessiert, insbesondere an Anwendungssystem-unabhangigen und zeitinvarianten Methoden, Techniken und Werkzeugen fur die Entwicklung von Systemen? Dann bietet Ihnen dieses Buch einen reichhaltigen Fundus. Es stellt namlich nicht nur Grundelemente der Theoretischen Informatik vor, sondern es motiviert die Beschaftigung mit diesen Grundelementen durch praktische Problemstellungen und zeigt auf, wie diese mit Hilfsmitteln der Theorie gelost werden konnen. Dieser Ansatz unterscheidet das vorliegende Buch wesentlich von anderen Einfuhrungen in die Grundlagen der Theoretischen Informatik, und wir Autoren, die sich eigentlich mit anderen Themenstellungen der Informatik befassen, glauben, in dieses Buch unsere Erfahrung im Lehren dieses Stoffes eingebracht zu haben: Speziell hat der eine von uns diesen Stoff uber Jahre im Rahmen einer anwendungsorientierten Informatik-Ausbildung gelehrt sowie Fernstudienmaterialien zu dies em Thema fur die wissenschaftliche Informatik-Weiterbildung Berufstatiger entwickelt und entsprechende Fernstudiengange betreut. Der andere von uns ist an der Universita.t Munster an der Informatik-Ausbildung von Studierenden der Wirtschaftsinformatik beteiligt, die in der Regel wenig an theoretischen Grundlagen interessiert sind und die hauptsachlich die Anwendbarkeit abstrakter formaler Konzepte interessiert. Die Erfahrungen, die bei der Motivation dieser Klientel fur die Bescha.ftigung mit diesem Stoff und fur das Aufzeigen seiner praktischen Anwendbarkeit entstanden sind, sind in die Darstellungen dieses Buches eingeflossen. Wir versuchen hier also nicht, einen aktuellen Abriss der neuesten Entwicklungen auf dem Gebiet der Theoretischen Informatik zu geben, sondern wir versuchen, ihren Gebrauch und damit die von ihr hevorgebrachten Entwicklungen angemessen durch konkrete Anwendungen zu motivieren und auch an diesen aufzuzeigen. Wir verstehen Automatentheorie (zusammen mit der Theorie der formalen Sprachen und der Komplexita.ts- und Berechenbarkeitstheorie) weniger als eine Theorie, von der sich mehr oder weniger zufa.llig gezeigt hat, dass sie ganz brauchbar ist, sondern wir verstehen sie als eine Art "Baukasten", in welchem sich fur eine Reihe von Fragestel-

11 Vorwort xi lungen das passende Werkzeug findet. Wir versuchen daher, die Ausfuhrungen und Entwicklungen stets von den Anwendungen her zu motivieren, und wir bemuhen uns, Fragestellungen, zu denen die Automatentheorie ein Werkzeug Iiefert, dann auch mit diesem anzugehen. 1m Vergleich zu anderen Theorie-Lehrbuchern stehen somit also nicht nur die Prasentation der grundlegenden Begriffe der Theoretischen Informatik und deren Analyse im Mittelpunkt des Buches, sondern insbesondere auch die Konstruktion von Problemlosungen. NaturgemaB endet das nicht in Komplettlosungen, aber die Leserschaft wird nahe genug an solche herangefiihrt. InhaltIich folgen wir einem klassischen Prasentationsschema des Stoffes, welches vielfach in Lehrbuchern und Kursen bewahrt ist: vom einfachen Automaten zum kompiizierteren. Wir beginnen also mit endiichen Automaten und regularen Sprachen und arbeiten uns von dort die Chomsky-Hierarchie "hinauf" und schlieben mit den Themen Berechenbarkeit und Komplexitat. Dieser Strang wird laufend durch Anwendungen und Anwendungsbeispiele begleitet, denn diese sollen nicht erst dann behandelt werden, wenn die Theorie eingigermaben komplett vorgestellt und durchgearbeitet ist. Munster und St. Augustin, im Marz 2000 G.V. und K.U.W.

12 Vorwort zur 2. Auflage In der zweiten Auflage wurde eine Reihe von kleineren Fehlern verbessertj fur Hinweise auf solche danken wir insbesondere unserem aufmerksamen Leser Dirk Hofmann. Dariiber hinaus haben wir an verschiedenen Stellen Uberarbeitungen vorgenommen und das Literaturverzeichnis aktualisiert. Miinster und Sankt Augustin, im Januar 2002 G.V. und K.U.W.