Leserstimmen zu vorangegangenen Auflagen:

Transkript

1 Leserstimmen zu vorangegangenen Auflagen: "Didaktisch sehr gut geeignet" Prof. Dr. J. Hrornkovic, RWTH Aachen "Sehr gute Darstellung des Stoffes, gute anwendungsbezogene Beispiele." Prof. Dr. U. Schöning, Universität U/rn

2 Grundkurs Software-Entwlcklung mltc++ von Dietrich May Grundkurs Datenbankentwurf von Helmut Jarosch Wab-Programmlerung von Oral Avcl, Ralph Trittmann und Werner Mellis OhneCzuC++ von Peter P. Bothner und Michael Kähler Grundkurs JAVA von Dietmar Abts Aufbaukurs WIrtschaftsinformatik von Dietmar Abts und Wilhelm Mülder Kompaktkurs MIkrocontroller von Silvia Limbach Das Pe Wissen für IT-Berufe: Hardware, Betriebssysteme, Netzwerktechnik von Rainer Egewardt Datenbank-Engineering von Alfred Moos Grundkurs Verteilte Systeme von Günther Bengel Onllne-Publlshlng für Studenten und Wissenschaftler von Michael Beißwenger SOL mit Oracle von Wolf-Michael Kähler Module, Klassen, Verträge von Karlheinz Hug Grundkurs Betriebswirtschaftslehre von Notger Carl, Rudolf Fiedler, William Jorasz und Manfred Kiesel Relatlonalas und objektrelationales SOL von Wolf-Michael Kähler Lern- und Arbeitsbuch SAP R/3 von Andre Maassen und Markus Schoenen Koatenatellenrechnung mit SAP R/3 von Franz Klenger und Ellen Falk-Kalms Grundkurs Algorithmen und Datenstrukturen In JAVA von Andreas Solymosi und Ulrich Grude Prozessmodelliarung mit ARIS von Heinrich Seidimeier Objektorientierte Programmierung In JAVA von Otto Rauh AnwendungsorIentierte WIrtschaftsinformatik von Paul Alpar, Heinz Lothar Grob, Peter Weimann und Robert Winter Rechnerarchitektur von Paul Herrmann Grundkurs Relationale Datenbanken von Rene Steiner Grundkurs UNIX/Linux von Wilhelm Schaffrath Grundkurs MySOL und PHP von Martin Pollakowski Pascal von Doug Cooper und Michael Clancy Aufbaukurs JAVA von Dietmar Abts Grundkurs Informatik von Hartmut Ernst Kostenträgerrechnung mit SAP R/3 von Franz Klenger und Ellen Falk-Kalms Netze - Protokolle - Spezifikationen von Alfred Olbrich Grundlegende Algorithmen von Volker Heun Softwaretechnlk mit Ada 95 von Manfred Nagl Vlsual Basic für technische Anwendungen von Jürgen Radel Controlling mit SAP R/3 von Gunther Friedl, Christian Hilz und Burkhard Pedell Grundkurs Geschäftsprozess - Management von Andreas Gadatsch Grundkurs IT-Controlling von Andreas Gadatsch und Elmar Mayer Grundkurs WIrtschaftsinformatik von Dietmar Abts und Wilhelm Mülder Grundkurs Theoretische Informatik von GoUfried Vossen und Kurt-Ulrich Witt

3 Gottfried Vossen Kurt-Ulrich Witt Grundkurs Theoretische Informatik Eine anwendungsbezogene Einführung - Für Studierende der Informatik, Wirtschaftsinformatik, Technik 3., überarbeitete und erweiterte Auflage ai vleweg

4 Bibliografische Information Der Deutschen Bibliothek Die Deutsche Bibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über < abrufbar. Die Wiedergabe von Gebrauchsnamen, Handelsnamen, Warenbezeichnungen usw. in diesem Werk berechtigt auch ohne besondere Kennzeichnung nicht zu der Annahme, dass solche Namen im Sinne von Warenzeichen- und Markenschutz-Gesetzgebung als frei zu betrachten wären und daher von jedermann benutzt werden dürfen. Höchste inhaltliche und technische Qualität unserer Produkte ist unser Ziel. Bei der Produktion und Auslieferung unserer Bücher wollen wir die Umwelt schonen: Dieses Buch ist auf säurefreiem und chlorfrei gebleichtem Papier gedruckt. Die Einschweißfolie besteht aus Polyäthylen und damit aus organischen Grundstoffen, die weder bei der Herstellung noch bei der Verbrennung Schadstoffe freisetzen. 1. Auflage Auflage 2002 Diese Auflagen erschienen unter dem Titel "Grundlagen der theoretischen Informatik mit Anwendungen" 3., überarbeitete und erweiterte Auflage April 2004 Alle Rechte vorbehalten Friedr. Vieweg & Sohn Verlag/GWV Fachverlage GmbH, Wiesbaden 2004 Der Vieweg Verlag ist ein Unternehmen von Springer Science+Business Media. Das Werk einschließlich aller seiner Teile ist urheberrechtlich geschützt. Jede Verwertung außerhalb der engen Grenzen des Urheberrechtsgesetzes ist ohne Zustimmung des Verlags unzulässig und strafbar. Das gilt insbesondere für Vervielfältigungen, Übersetzungen, Mikroverfilmungen und die Einspeicherung und Verarbeitung in elektronischen Systemen. Umschlaggestaltung: Ulrike Weigel, Gedruckt auf säurefreiem und chlorfrei gebleichtem Papier. ISBN ISBN (ebook) DOI /

5 Inhaltsverzeichnis Vorwort zur 1. Auflage Vorwort zur 2. Auflage Vorwort zur 3. Auflage 1 Einf"ührung und Übersicht 1.1 Ausgangspunkte für das Themengebiet. 1.2 Anwendungen theoretischer Erkenntnisse. 1.3 Stoffübersicht und -abgrenzung Externe Lernhilfen und Web-Seiten Allgemeine Bibliographische Hinweise xi xiii xiv I Endliche Automaten und reguläre Sprachen 7 2 Endliche Automaten Deterministische endliche Automaten Beispiel: Der Schwimmbadautomat Aswim Alphabete, Wörter, Sprachen Zustände und Zustandsübergänge Deterministische endliche Automaten und reguläre Sprachen Vollständige Automaten Zusammenfassung Nichtdeterministische endliche Automaten Definitionen Äquivalenz von deterministischen und nichtdeterministischen endlichen Automaten Zusammenfassung Endliche Automaten mit c-übergängen Definitionen Äquivalenz von c-automaten zu nichtdeterministischen endlichen Automaten Zusammenfassung Verallgemeinerte endliche Automaten Definitionen... 44

6 vi Inhalt Äquivalenz von verallgemeinerten und endlichen Automaten Minimierung endlicher Automaten Isomorphie endlicher Automaten Ein Verfahren zur Minimierung endlicher Automaten Anwendungen endlicher Automaten Rechnersysteme und Systemprogrammierung Teilworterkennung Suchmaschinen im Internet Objektorientierte Modellierung. Interaktionsdiagramme Bibliographische Hinweise und Ergänzungen Übungen Reguläre Sprachen Reguläre Ausdrücke Definitionen und Eigenschaften Anwendung regulärer Ausdrücke Äquivalenz von endlichen Automaten und regulären Ausdrücken Scanner-Generatoren Zusammenfassung Typ-3-Grammatiken Rechtslineare Grammatiken Linkslineare Grammatiken Äquivalenz rechtslinearer und linkslinearer Grammatiken Verallgemeinerte Typ-3-Grammatiken Äquivalenz von endlichen Automaten und Typ-3-Grammatiken Zusammenfassung Eigenschaften regulärer Sprachen Abschlusseigenschaften von REGE Das Pumping-Lemma für reguläre Sprachen Entscheidbarkeitsprobleme Grenzen endlicher Automaten Bibliographische Hinweise und Ergänzungen Übungen Endliche Maschinen und Automatennetze Endliche Maschinen Erweiterung des endlichen Automaten A swim Mealy-Maschinen Ein formales Vorgehensmodell bei der Problemlösung Gegenseitige Simulation von Mealy-Maschinen und endlichen Automaten Moore-Maschinen Äquivalenz von Mealy- und Moore-Maschinen Grenzen endlicher Maschinen 4.2 Endliche Transducer Beispiele für Automatennetze Synchrone Automaten: Zellulare Automaten

7 Inhalt Asynchrone Automaten: Petri-Netze Anwendungen und Varianten von Petri-Netzen 4.4 Anwendungen endlicher Maschinen Software- und Systementwurf. Statecharts Workflow-Management Elektronischer Handel Modellierung und Komposition von Web Services. 4.5 Bibliographische Hinweise und Ergänzungen. 4.6 Übungen... vii II Kontextfreie Sprachen und Kellerautomaten 5 Kontextfreie Sprachen 5.1 Kontextfreie Grammatiken Beispiele und Definitionen Normalformen Eigenschaften kontextfreier Sprachen Mehrdeutigkeit Das Pumping-Lemma für kontextfreie Sprachen Abschlusseigenschaften. 5.3 Übungen Kellerautomaten Nichtdeterministische Kellerautomaten Grundlegende Definitionen Akzeptieren mit leerem Keller Äquivalenz von kontextfreien Grammatiken und Kellerautomaten Deterministische Kellerautomaten Übungen Anwendungen kontextfreier Sprachen Ableitungs- und Syntaxbäume Compilerbau Syntax von Programmiersprachen Erweiterte Backus-Naur-Form Syntaxdiagramme Reguläre Definitionen SADT XML Bibliographische Hinweise Übungen III Berechenbarkeit und Komplexität 8 Typ-l- und Typ-O-Sprachen 8.1 Die Chomsky-Hierarchie

8 viii Inhalt Typ-I-Sprachen (kontextsensitive Sprachen) Typ-O-Sprachen (rekursiv-aufzählbare Sprachen) Die Hierarchie Das Wortproblem Turingautomaten Definitionen und Beispiele Varianten von Turingautomaten Äquivalenz von deterministischen und nichtdeterministischen Turingautomaten Linear beschränkte Automaten Äquivalenz zwischen Typ-I-Grammatiken und linear beschränkten Automaten Äquivalenz zwischen Typ-O-Grammatiken und Turingautomaten Zusammenfassung Bibliographische Hinweise Übungen Berechenbarkeit 9.1 Turing-Berechenbarkeit Definition und Beispiele Die Programmiersprache TURING. 9.2 Loop-, While- und Goto-Berechenbarkeit Loop-Berechenbarkeit While-Berechenbarkeit Goto-Berechenbarkeit. Die Churchsche These. Die Ackermannfunktion Universelle Turingmaschinen Codierung von Turingmaschinen Eine Standardnummerierung für P Fundamentale Anforderungen an Programmiersprachen Das utm-theorem Das smn-theorem Anwendungen von utm- und smn-theorem Bedeutung von utm- und smn-theorem Bibliographische Hinweise Übungen Entscheidbarkeit 10.1 Existenz unentscheidbarer Probleme 10.2 Entscheidbare und semi-entscheidbare Mengen 10.3 Reduzierbarkeit von Mengen 10.4 Unentscheidbare Mengen Das Halteproblem Das Korrektheitsproblem Das Äquivalenzproblem Der Satz von Rice

9 Inhalt ix Das Postsche Korrespondenzproblem Anwendungen des Postschen Korrespondenzproblems Zusammenfassung Bibliographische Hinweise Übungen Komplexität Die 0-Notation Komplexität von Algorithmen Wichtige Komplexitätsklassen Die Klassen P und NP Die Klasse P Die Klasse NP Die Klassen EXPTIME und NEXPTIME Das P-NP-Problem NP-Vollständigkeit Konkrete NP-vollständige Probleme Das Erfüllbarkeitsproblem der Aussagenlogik Weitere NP-vollständige Probleme Weitere Komplexitätsklassen Die Klasse PSPACE Komplementäre Komplexitätsklassen Zusammenfassung Bibliographische Hinweise und Ergänzungen Übungen Approximative und probabilistische Ansätze und deren Anwendungen Approximative Algorithmen für NP-vollständige Probleme Approximierbarkeit Lokale Verbesserung am Beispiel TSP TSP in der Praxis Untere Schranken für das Approximieren Probabilistische Algorithmen und Komplexitätsklassen Die Klasse RP Die Klasse ZPP Die Klasse BPP Anwendung: Verschlüsselung Anwendung: Sortieren Interaktive Beweissysteme Zero knowledge Beweise. Anwendung: Authentifikation Zusammenfassung Bibliographische Hinweise und Ergänzungen Übungen

10 x Literaturverzeichnis Index Inhalt

11 Vorwort zur 1. Auflage Wie gehen Sie vor, wenn Sie die Aufgabe bekommen, einen Fahrkartenautomaten zu realisieren, den Verbindungsaufbau zwischen vernetzten Rechnern zu spezifizieren, ein Bestellformular für eine Electronic Commerce-Anwendung festzulegen oder Geschäftsabläufe in Ihrer Unternehmung zu beschreiben? Setzen Sie sich gleich an einen Rechner und implementieren eine Software mit einem (mehr oder weniger geeigneten) Werkzeug (z.b. C++, Java, HTML) mit der Folge, dass Ihre Systemlösung vom Werkzeug abhängt und damit bei Versionen-, Release- oder Systemwechseln möglicherweise unbrauchbar wird, oder sind Sie an zeitinvarianten Konzepten zum Entwurf, zur Realisierung und zur Anwendung von Systemen interessiert, insbesondere an Anwendungssystem-unabhängigen und zeit invarianten Methoden, Techniken und Werkzeugen für die Entwicklung von Systemen? Dann bietet Ihnen dieses Buch einen reichhaltigen Fundus. Es stellt nämlich nicht nur Grundelemente der Theoretischen Informatik vor, sondern es motiviert die Beschäftigung mit diesen Grundelementen durch praktische Problemstellungen und zeigt auf, wie diese mit Hilfsmitteln der Theorie gelöst werden können. Dieser Ansatz unterscheidet das vorliegende Buch wesentlich von anderen Einführungen in die Grundlagen der Theoretischen Informatik, und wir Autoren, die sich eigentlich mit anderen ThemensteIlungen der Informatik befassen, glauben, in dieses Buch unsere Erfahrung im Lehren dieses Stoffes eingebracht zu haben: Speziell hat der eine von uns diesen Stoff über Jahre im Rahmen einer anwendungsorientierten Informatik-Ausbildung gelehrt sowie Fernstudienmaterialien zu diesem Thema für die wissenschaftliche Informatik-Weiterbildung Berufstätiger entwickelt und entsprechende Fernstudiengänge betreut. Der andere von uns ist an der Universität Münster an der Informatik-Ausbildung von Studierenden der Wirtschaftsinformatik beteiligt, die in der Regel wenig an theoretischen Grundlagen interessiert sind und die hauptsächlich die Anwendbarkeit abstrakter formaler Konzepte interessiert. Die Erfahrungen, die bei der Motivation dieser Klientel für die Beschäftigung mit diesem Stoff und für das Aufzeigen seiner praktischen Anwendbarkeit entstanden sind, sind in die Darstellungen dieses Buches eingeflossen. Wir versuchen hier also nicht, einen aktuellen Abriss der neuesten Entwicklungen auf dem Gebiet der Theoretischen Informatik zu geben, sondern wir versuchen, ihren Gebrauch und damit die von ihr hevorgebrachten Entwicklungen angemessen durch konkrete Anwendungen zu motivieren und auch an diesen aufzuzeigen. Wir verstehen Automatentheorie (zusammen mit der Theorie der formalen Sprachen und der Komplexitäts- und Berechenbarkeitstheorie) weniger als eine Theorie, von der sich mehr oder weniger zufällig gezeigt hat, dass sie ganz brauchbar ist, sondern wir verstehen sie als eine Art "Baukasten", in welchem sich für eine Reihe von Fragestel-

12 xii Vorwort lungen das passende Werkzeug findet. Wir versuchen daher, die Ausführungen und Entwicklungen stets von den Anwendungen her zu motivieren, und wir bemühen uns, Fragestellungen, zu denen die Automatentheorie ein Werkzeug liefert, dann auch mit diesem anzugehen. Im Vergleich zu anderen Theorie-Lehrbüchern stehen somit also nicht nur die Präsentation der grundlegenden Begriffe der Theoretischen Informatik und deren Analyse im Mittelpunkt des Buches, sondern insbesondere auch die Konstruktion von Problemlösungen. Naturgemäß endet das nicht in Komplettlösungen, aber die Leserschaft wird nahe genug an solche herangeführt. Inhaltlich folgen wir einem klassischen Präsentationsschema des Stoffes, welches vielfach in Lehrbüchern und Kursen bewährt ist: vom einfachen Automaten zum komplizierteren. Wir beginnen also mit endlichen Automaten und regulären Sprachen und arbeiten uns von dort die Chomsky-Hierarchie"hinauf" und schließen mit den Themen Berechenbarkeit und Komplexität. Dieser Strang wird laufend durch Anwendungen und Anwendungsbeispiele begleitet, denn diese sollen nicht erst dann behandelt werden, wenn die Theorie eingigermaßen komplett vorgestellt und durchgearbeitet ist. Münster und St. Augustin, im März 2000 G.V. und K.U.W.

13 Vorwort zur 2. Auflage In der zweiten Auflage wurde eine Reihe von kleineren Fehlern verbessert; für Hinweise auf solche danken wir insbesondere unserem aufmerksamen Leser Dirk Hofmann. Darüber hinaus haben wir an verschiedenen Stellen Überarbeitungen vorgenommen und das Literaturverzeichnis aktualisiert. Münster und Sankt Augustin, im Januar 2002 G.V. und K.U.W.

14 Vorwort zur 3. A ufiage Die dritte Auflage hat neben der Verbesserung einiger kleiner Fehler eine Reihe substanzieller Überarbeitungen und Ergänzungen erfahren. Das betrifft zum einen theoretische Darstellungen, zum anderen aber insbesonders auch deren praktische Anwendungen. Es zeigt sich immer mehr, dass Informations- und Kommunikationstechnologien und deren Anwendungen, wie z. B. die Mobilkommunikation oder elektronische Bezahlsysteme, nicht ohne Konzepte und Methoden auskommen, die eine handfeste theoretische Fundierung haben und die wesentliche, für den praktischen Gebrauch geforderte Eigenschaften dieser Systeme präzisieren und garantieren helfen. So werden in zunehmendem Maße bei der Realisierung solcher Systeme approximative und probabilistische Ansätze verfolgt. Hierzu geben wir in dem neuen Kapitel 12 eine ausführliche Einführung in deren theoretische Grundlagen und zeigen an einer Reihe von praktischen Beispielen, wie diese angewendet werden. Außerdem wird in Kapitel 9 das Thema "Universelle Turingmaschine" ausführlicher und formaler behandelt sowie eine Standardnummerierung für die berechenbaren Funktionen formal hergeleitet. Dies ermöglicht es, prägnanter als bisher auf die Bedeutung des utm- und des smn-theorems für die Programmierung und für die prinzipielle Brauchbarkeit von Programmiersprachen einzugehen. In Kapitel 11 werden einige weitere Standardkomplexitätsklassen betrachtet, so dass sich die Hierarchie dieser Klassen vervollständigt und sich insgesamt mit den in Kapitel 12 neu eingeführten probabilistischen Klassen am Ende ein vollständigerer Blick auf die derzeitig bekannten Beziehungen zwischen praktisch relevanten Komplexitätsklassen ergibt. Schließlich haben wir in Kapitel 4 das Thema Web Services als weitere Anwendung endlicher Machinen neu aufgenommen. Wir bereits früher danken wir an dieser Stelle zahlreichen aufmerksamen Studierenden, die uns immer wieder mit kritischen Fragen zum Text konfrontieren. Besonderer Dank gilt Herrn Dipl. Wirt. Inform. Peter Westerkamp, Münster für seine Hilfe bei der Erstellung zahlreicher neuer Abbildungen. Münster und Sankt Augustin, im Februar 2004 G.V. und K.-U.W.