G R U N D B E G R I F F E D E R I N F O R M AT I K. thomas worsch

Transkript

1 G R U N D B E G R I F F E D E R I N F O R M AT I K thomas worsch 2008/2009

2 I N H A LT S V E R Z E I C H N I S 1 Prolog Aufbau der Vorlesung und Ziele Quellen 2 2 Signale, Nachrichten, Informationen, Daten Signal Übertragung und Speicherung Nachricht Information Datum Zusammenfassung 7 3 Alphabete Alphabete Relationen und Abbildungen Logisches Zusammenfassung und Ausblick 14 4 Wörter Wörter Das leere Wort Mehr zu Wörtern Konkatenation von Wörtern Binäre Operationen Zusammenfassung 24 5 Der Begriff des Algorithmus Lösen einer Sorte quadratischer Gleichungen Zum informellen Algorithmusbegriff Zur Korrektheit des Algorithmus zur Lösung einer Sorte quadratischer Gleichungen Wie geht es weiter? Ein Algorithmus zur Multiplikation nichtnegativer ganzer Zahlen Der Algorithmus zur Multiplikation nichtnegativer ganzer Zahlen mit einer Schleife 32 6 Formale Sprachen Formale Sprachen Operationen auf formalen Sprachen Zusammenfassung 39 7 Dokumente Dokumente 40 gbi:skript:0 ii worsch 2008/2009

3 7.2 Struktur von Dokumenten Zusammenfassung 44 8 Kontextfreie Grammatiken Rekursive Definition syntaktischer Strukturen Kontextfreie Grammatiken Relationen (Teil 2) Ein Nachtrag zu Wörtern Ausblick 55 9 Speicher Bit und Byte Speicher als Tabellen und Abbildungen Binäre und dezimale Größenpräfixe Ausblick 60 10Übersetzungen und Codierungen Von Wörtern zu Zahlen und zurück Von einem Alphabet zum anderen Huffman-Codierung Ausblick 73 11Graphen Gerichtete Graphen Ungerichtete Graphen Graphen mit Knoten- oder Kantenmarkierungen 82 12Erste Algorithmen in Graphen Repräsentation von Graphen im Rechner Berechnung der Erreichbarkeitsrelation Algorithmus von Warshall Ausblick 94 13Quantitative Aspekte von Algorithmen Ressourcenverbrauch bei Berechnungen Groß-O-Notation Matrixmultiplikation Abschätzung des Wachstums rekursiv definierter Funktionen Ausblick Endliche Automaten Erstes Beispiel: ein Getränkeautomat Mealy-Automaten Moore-Automaten Endliche Akzeptoren Ausblick 117 gbi:skript:0 iii worsch 2008/2009

4 15Reguläre Ausdrücke und rechtslineare Grammatiken Reguläre Ausdrücke Rechtslineare Grammatiken Ausblick Turingmaschinen Alan Mathison Turing Turingmaschinen Berechnungskomplexität Schwere Probleme Unentscheidbare Probleme Ausblick Relationen Äquivalenzrelationen Kongruenzrelationen Halbordnungen Ordnungen Ausblick Logik Formeln in Prädikatenlogik erster Stufe Theorien und Beweisbarkeit Interpretationen und Modelle für geschlossene Formeln Beispiele für Modelle für geschlossene Formeln Grenzen von Prädikatenlogik erster Stufe Ausblick 162 Index 163 Literatur 172 gbi:skript:0 iv worsch 2008/2009

5 1 P R O L O G Mark Twain wird der Ausspruch zugeschrieben: Vorhersagen sind schwierig, besonders wenn sie die Zukunft betreffen. Wie recht er hatte kann man auch an den folgenden Zitaten sehen: 1943: I think there is a world market for maybe five computers. (Thomas Watson, IBM) 1949: Computers in the future may weigh no more than 1.5 tons. (Popular Mechanics) 1977: There is no reason for any individual to have a computer in their home. (Ken Olson, DEC) 1981: 640K ought to be enough for anybody. (Bill Gates, Microsoft, bestreitet den Ausspruch) 2000: Es wurden mehr PCs als Fernseher verkauft. Das lässt sofort die Frage aufkommen: Was wird am Ende Ihres Studiums der Fall sein? Sie können ja mal versuchen, auf einem Zettel aufzuschreiben, was in fünf Jahren am Ende Ihres Masterstudiums, das Sie hoffentlich an Ihr Bachelorstudium anschließen, wohl anders sein wird als heute, den Zettel gut aufheben und in fünf Jahren lesen. Am Anfang Ihres Studiums steht jedenfalls die Veranstaltung Grundbegriffe der Informatik, die unter anderem verpflichtend für das erste Semester der Bachelorstudiengänge Informatik und Informationswirtschaft an der Universität Karlsruhe vorgesehen ist, zu denen man sich zum Wintersemester 2008/2009 einschreiben konnte. Der vorliegende Text ist ein Vorlesungsskript zu dieser Veranstaltung, wie ich sie in jenem Semester (halten will bzw. inzwischen) gehalten habe. 1.1 aufbau der vorlesung und ziele Für diese Vorlesung stehen 15 Termine zu je 90 Minuten zur Verfügung. Ich habe versucht, den Vorlesungsinhalt auf eine Reihe überschaubarer inhaltlicher Einheiten aufzuteilen. Vermutlich wird ihre Zahl am Ende zwischen 15 und 30 liegen. Man wird sehen... am Ende waren es 19. Die Vorlesung hat vordergründig mehrere Ziele. Zum einen sollen, wie der Name der Vorlesung sagt, eine ganze Reihe wichtiger Begriffe und Konzepte gelernt werden, die im Laufe des Studiums immer und immer wieder auftreten; typische Beispiele sind Graphen und endliche Automaten. Zum zweiten sollen parallel dazu einige Begriffe und Konzepte vermittelt werden, die gbi:skript:1 1 worsch 2008/2009

6 man vielleicht eher der Mathematik zuordnen würde, aber ebenfalls unverzichtbar sind. Drittens sollen die Studenten mit wichtigen Vorgehensweisen bei der Definition neuer Begriffe und beim Beweis von Aussagen vertraut gemacht werden. Induktives Vorgehen ist in diesem Zusammenhang wohl zu allererst zu nennen. Andere Dinge sind nicht explizit Thema der Vorlesung, werden aber (hoffentlich) doch vermittelt. So bemühe ich mich mit diesem Skript zum Beispiel auch, klar zu machen, dass man präzise formulieren und argumentieren kann und muss, dass Formalismen ein Hilfsmittel sind, um verständlich (!) und präzise zu formulieren, und wie man ordentlich und ethisch einwandfrei andere Quellen benutzt und zitiert. Ich habe versucht, der Versuchung zu widerstehen, prinzipiell wie in einem Nachschlagewerk überall einfach nur lange Listen von Definitionen, Behauptungen und Beweisen aneinander zu reihen. Gelegentlich ist das sinnvoll, und dann habe ich es auch gemacht, sonst aber hoffentlich nur selten. Der Versuch, das ein oder andere anders und hoffentlich besser zu machen ist auch dem Buch Lernen von Manfred Spitzer (2002) geschuldet. Es sei allen als interessante Lektüre empfohlen. 1.2 quellen Bei der Vorbereitung der Vorlesung habe ich mich auf diverse Quellen gestützt: Druckerzeugnisse und andere Quellen im Internet, die gelesen werden wollen, sind in den Literaturverweisen aufgeführt. Explizit an dieser Stelle erwähnt seien die Bücher von Goos (2006) und Abeck (2005), die Grundlage waren für die Vorlesung Informatik I, den Vorgänger der diesjährigen Vorlesungen Grundbegriffe der Informatik und Programmieren. Gespräche und Diskussionen mit Kollegen sind nirgends zitiert. Daher sei zumindest an dieser Stellen pauschal allen gedankt, die zum Teil womöglich ohne es zu wissen ihren Teil beigetragen haben. Für Hinweise auf Fehler und Verbesserungsmöglichkeiten bin ich allen Lesern dankbar. Thomas Worsch, im Februar gbi:skript:1 2 worsch 2008/2009

7 literatur Abeck, Sebastian (2005). Kursbuch Informatik, Band 1. Universitätsverlag Karlsruhe. Goos, Gerhard (2006). Vorlesungen über Informatik: Band 1: Grundlagen und funktionales Programmieren. Springer-Verlag. Spitzer, Manfred (2002). Lernen: Gehirnforschung und Schule des Lebens. Spektrum Akademischer Verlag. gbi:skript:1 3 worsch 2008/2009

8 2 S I G N A L E, N A C H R I C H T E N, I N F O R M AT I O N E N, D AT E N Das Wort Informatik ist ein Kunstwort, das aus einem Präfix des Wortes Information und einem Suffix des Wortes Mathematik zusammengesetzt ist. So wie es keine scharfe Grenzen zwischen z. B. Physik und Elektrotechnik gibt, sondern einen fließenden Übergang, so ist es z. B. auch zwischen Informatik und Mathematik und zwischen Informatik und Elektrotechnik. Wir werden hier nicht versuchen, das genauer zu beschreiben. Aber am Ende Ihres Studiums werden Sie vermutlich ein klareres Gefühl dafür entwickelt haben. Was wir in dieser ersten Einheit klären wollen, sind die offensichtlich wichtigen Begriffe Signal, Nachricht, Information und Datum. 2.1 signal Wenn Sie diese Zeilen vorgelesen bekommen, dann klappt das, weil Schallwellen vom Vorleser zu Ihren Ohren gelangen. Wenn Sie diese Zeilen lesen, dann klappt das, weil Lichtwellen vom Papier oder dem Bildschirm in Ihr Auge gelangen. Wenn Sie diesen Text auf einer Braillezeile (siehe Abbildung 2.1) ertasten, dann klappt das, weil durch Krafteinwirkung die Haut Ihrer Finger leicht demformiert wird. In allen Fällen sind es also physi- Abbildung 2.1: Eine Braillezeile, Quelle: org/wiki/image:refreshable_braille_display.jpg ( ) kalische Vorgänge, die ablaufen und im übertragenen oder gar wörtlichen Sinne einen Eindruck davon vermitteln, was mitgeteilt werden soll. Den Begriff Mitteilung wollen wir hier informell benutzen und darauf vertrauen, dass er von allen passend verstanden wird (was auch immer hier passend bedeuten soll). Die Veränderung einer (oder mehrerer) physikalischer Größen (zum Beispiel Schalldruck) um etwas mitzuteilen nennt man ein Signal. Unter Umständen werden bei der Übermittlung einer Mitteilung verschiedene Signale benutzt: Lichtwellen dringen in die Augen des Vorlesers, was elektrische Signale erzeugt, die dazu Signal gbi:skript:2 4 worsch 2008/2009

9 führen, dass Schallwellen erzeugt werden, die ins Ohr des Hörers dringen. Dort werden dann... und so weiter. 2.2 übertragung und speicherung Schallwellen, Lichtwellen, usw. bieten die Möglichkeit, eine Mitteilung von einem Ort zu einem anderen zu übertragen. Damit verbunden ist (jedenfalls im alltäglichen Leben) immer auch das Vergehen von Zeit. Es gibt eine weitere Möglichkeit, Mitteilungen von einem Zeitpunkt zu einem späteren zu transportieren : Die Speicherung als Inschrift. Die Herstellung von Inschriften mit Papier und Stift ist uns allen geläufig. Als es das noch nicht gab, benutzte man z. B. Felswände und Pinsel. Und seit einigen Jahrzehnten kann man auch magnetisierbare Schichten beschriften. Aber was wird denn eigentlich gespeichert? Auf dem Papier stehen keine Schall- oder Lichtwellen oder andere Signale. Außerdem kann man verschiedene Inschriften herstellen, von denen Sie ganz selbstverständlich sagen würden, dass da die gleichen Zeichen stehen. Um sozusagen zum Kern dessen vorzustoßen was da steht, bedarf es eines Aktes in unseren Köpfen. Den nennt man Abstraktion. Jeder hat vermutlich eine gewisse Vorstellung davon, was das ist. Ich wette aber, dass Sie gerade als Informatik-Studenten zum Abschluss Ihres Studiums ein sehr viel besseres Verständnis davon haben werden, was es damit genau auf sich hat. So weit sich der Autor dieses Textes erinnern kann (ach ja... ), war die zunehmende Rolle, die Abstraktion in einigen Vorlesungen spielte, sein Hauptproblem in den ersten beiden Semestern. Aber auch das ist zu meistern. Im Fall der Signale und Inschriften führt Abstraktion zu dem Begriff, auf den wir als nächstes etwas genauer eingehen wollen: Inschrift 2.3 nachricht Offensichtlich kann man etwas (immer Gleiches) auf verschiedene Arten, d. h. mit Hilfe verschiedener Signale, übertragen, und auch auf verschiedene Weisen speichern. Das Wesentliche, das übrig bleibt, wenn man z. B. von verschiedenen Medien für die Signalübertragung oder Speicherung absieht, nennt man eine Nachricht. Das, was man speichern und übertragen kann, sind also Nachrichten. Und: Man kann Nachrichten verarbeiten. Das ist einer der zentralen Punkte in der Informatik. Mit Inschriften werden wir uns ein erstes Mal genauer in Einheit 3 genauer beschäftigen und mit Speicherung in Einheit 9. Beschreibungen, wie Nachrichten in gewissen Situationen zu verarbeiten sind, sind Programme (jedenfalls die einer bestimmten Art). Dazu erfahren Sie unter anderem in der parallel stattfindenden Vorlesung Programmieren mehr. Nachricht gbi:skript:2 5 worsch 2008/2009

10 2.4 information Meist übertragt man Nachrichten nicht um ihrer selbst willen. Vielmehr ist man üblicherweise in der Lage, Nachrichten zu interpretieren und ihnen so eine Bedeutung zuzuordnen. Dies ist die einer Nachricht zugeordnete sogenannte Information. Wie eine Nachricht interpretiert wird, ist aber nicht eindeutig festgelegt. Das hängt vielmehr davon ab, welches Bezugssystem der Interpretierende benutzt. Der Buchhändler um die Ecke wird wohl den Interpretation Information Text 1001 interpretieren als Zahl Tausendundeins, aber ein Informatiker wird vielleicht eher den Text 1001 interpretieren als Zahl Neun. Ein Rechner hat keine Ahnung, was in den Köpfen der Menschen vor sich geht und welche Interpretationsvorschriften sie anwenden. Er verarbeitet also im obigen Sinne Nachrichten und keine Informationen. Das heißt aber nicht, dass Rechner einfach immer nur sinnlose Aktionen ausführen. Vielmehr baut und programmiert man sie gerade so, dass zum Beispiel die Transformation von Eingabezu Ausgabenachrichten bei einer bestimmten festgelegten Interpretation zu einer beabsichtigten Informationsverarbeitung passt: Rechner: Programm- ausführung 59 Mensch: zweiund- siebzehn Interpretation Interpre tation Interpre tation Rechnen neunund- Addition vierzig fünfzig 2.5 datum Die umgangssprachlich meist anzutreffende Bedeutung des Wortes Datum ist die eines ganz bestimmten Tages, z. B. 2. Dezember Ursprünglich kommt das Wort aus dem Lateinischen, wo datum das Gegebene heißt. In der Informatik ist mit einem Datum aber oft etwas anderes gemeint: Syntaktisch handelt es sich um die Singularform des vertrauten Wortes Daten. Unter einem Datum wollen wir ein Paar verstehen, das aus einer Nachricht und einer zugehörigen Information besteht. Wenn man sich auf bestimmte feste Interpretationsmöglichkeiten von Nachrichten und eine feste Repräsentation dieser Möglichkeiten als Nachrichten geeinigt hat, kann man auch ein Datum als Nachricht repräsentieren (i. e. speichern oder übertragen). gbi:skript:2 6 worsch 2008/2009

11 2.6 zusammenfassung Signale übertragen und Inschriften speichern Nachrichten. Die Bedeutung einer Nachricht ist die ihr zugeordnete Information im Rahmen es gewissen Bezugssystems für die Interpretation der Nachricht. Auf der Grundlage eines Bezugssystems ist ein Datum ein Paar, das aus einer Nachricht und der zugehörigen Information besteht. gbi:skript:2 7 worsch 2008/2009

12 3 A L P H A B E T E In der Einheit über Signale, Nachrichten,... haben wir auch über Inschriften gesprochen. Ein typisches Beispiel ist der Rosetta-Stein (Abb. 3.1), der für Jean-François Champollion die Hilfe war, um die Bedeutung ägyptischer Hieroglyphen zu entschlüsseln. Auf dem Stein findet man Texte in drei Schriften: in Hieroglyphen, in demotischer Schrift und auf Altgriechisch in griechischen Großbuchstaben. Abbildung 3.1: Der Rosetta-Stein, heute im Britischen Museum, London. Bildquelle: /16352-h/images/p1.jpg ( ) Wir sind gewohnt, lange Inschriften aus (Kopien der) immer wieder gleichen Zeichen zusammenzusetzen. Zum Beispiel in europäischen Schriften sind das die Buchstaben, aus denen Wörter aufgebaut sind. Im asiatischen Raum gibt es Schriften mit mehreren Tausend Zeichen, von denen viele jeweils für etwas stehen, was wir als Wort bezeichnen würden. 3.1 alphabete Unter einem Alphabet wollen wir eine endliche Menge sogenannter Zeichen oder Symbole verstehen, die nicht leer ist. Was dabei genau Zeichen sind, wollen wir nicht weiter hinterfragen. Es Alphabet gbi:skript:3 8 worsch 2008/2009

13 seien einfach die elementaren Bausteine, aus denen Inschriften zusammengesetzt sind. Hier sind einfache Beispiele: A = { } A = {a, b, c} A = {0, 1} Manchmal erfindet man auch Zeichen: A = {1, 0, A = {0, 1, 2, 3, 4, 5, 6, 7, 8, 9, A, B, C, D, E, F} Gelegentlich nimmt man aber auch einen etwas abstrakteren Standpunkt ein und sieht zum Beispiel jeden der folgenden Kästen als jeweils ein Zeichen eines gewissen Alphabetes an: int adams = 42 ; Beispiel ASCII Ein wichtiges Alphabet ist der sogenannte ASCII-Zeichensatz. Die Abkürzung steht für American Standard Code for Information Interchange. Diese Spezifikation umfasst insbesondere eine Liste von 94 druckbaren und einem unsichtbaren Zeichen, die man z. B. in s verwenden darf. Außerdem hat jedes Zeichen eine Nummer aus dem Bereich der natürlichen Zahlen zwischen 32 und 126. Die vollständige Liste findet man in Tabelle 1. Wie man dort sieht, fehlen in diesem Alphabet etliche Buchstaben aus nichtenglischen Alphabeten, wie zum Beispiel ä, ç, è, ğ, ñ, œ, ß, ů usw., von Kyrillisch, Japanisch und vielen anderen außereuropäischen Schriften ganz zu schweigen. Auf ein Zeichen in Tabelle 1 sei ausdrücklich hingewiesen, nämlich das mit Nummer 32. Das ist das Leerzeichen. Man gibt es normalerweise auf einer Rechnertastatur ein, indem man die extrabreite Taste ohne Beschriftung drückt. Auf dem Bildschirm wird dafür in der Regel nichts dargestellt. Damit man es trotzdem sieht und um darauf aufmerksam zu machen, dass das ein Zeichen ist, ist es in der Tabelle als dargestellt Beispiel Unicode Der Unicode Standard (siehe auch definiert mehrere Dinge. Das wichtigste und Ausgangspunkt für alles weitere ist eine umfassende Liste von Zeichen, die in der ein oder anderen der vielen heute gesprochenen Sprachen (z. B. in Europa, im mittleren Osten, oder in Asien) benutzt wird. Die Seite vermittelt einen ersten Eindruck von der existierenden Vielfalt. Das ist mit anderen Worten ein Alphabet, und zwar ein großes: es umfasst rund Zeichen. 1 } gbi:skript:3 9 worsch 2008/2009

14 40 ( < 70 F 41 ) = 71 G * > 72 H 33! ? 73 I 34 " 44, J 35 # A 75 K 36 $ B 76 L 37 % 47 / C 77 M 38 & : 68 D 78 N ; 69 E 79 O 80 P 90 Z 100 d 110 n 120 x 81 Q 91 [ 101 e 111 o 121 y 82 R 92 \ 102 f 112 p 122 z 83 S 93 ] 103 g 113 q 123 { 84 T 94 ^ 104 h 114 r U 95 _ 105 i 115 s 125 } 86 V j 116 t 126 ~ 87 W 97 a 107 k 117 u 88 X 98 b 108 l 118 v 89 Y 99 c 109 m 119 w Tabelle 1: Die druckbaren Zeichen des ASCII-Zeichensatzes (einschließlich Leerzeichen) Der Unicode-Standard spezifiziert weitaus mehr als nur einen Zeichensatz. Für uns sind hier zunächst nur die beiden folgenden Aspekte wichtig 1 : 1. Es wird eine große (aber endliche) Menge A U von Zeichen festgelegt, und 2. eine Nummerierung dieser Zeichen, jedenfalls in einem gewissen Sinne. Punkt 1 ist klar. Hinter der Formulierung von Punkt 2 verbirgt sich genauer folgendes: Jedem Zeichen aus A U ist eine nichtnegative ganze Zahl zugeordnet, der auch sogenannte Code Point des Zeichens. Die Liste der benutzten Code Points ist aber nicht zusammenhängend. Aber jedenfalls liegt eine Beziehung zwischen Unicode-Zeichen und nichtnegativen ganzen Zahlen vor. Man spricht von einer Relation. (Wenn Ihnen die folgenden Zeilen schon etwas sagen: schön. Wenn nicht, gedulden Sie sich bis Abschnitt 3.2 wenige Zeilen weiter.) Genauer liegt eine Abbildung f : A U N0 vor. Sie ist eine Abbildung, weil jedem Zeichen nur eine Nummer zugewiesen wird, 1 Hinzu kommen in Unicode noch viele andere Aspekte, wie etwa die Sortierreihenfolge von Buchstaben (im Schwedischen kommt zum Beispiel ö nach z, im Deutschen kommt ö vor z), Zuordnung von Groß- zu Kleinbuchstaben und umgekehrt (soweit existent), und vieles mehr. gbi:skript:3 10 worsch 2008/2009

15 injektiv, weil verschiedenen Zeichen verschiedene Nummern zugewiesen werden, aber natürlich nicht surjektiv (weil A U nur endlich viele Zeichen enthält). Entsprechendes gilt natürlich auch für den ASCII-Zeichensatz. 3.2 relationen und abbildungen Die Beziehung zwischen den Unicode-Zeichen in A U und nichtnegativen ganzen Zahlen kann man durch die Angabe aller Paare (a, n), für die a A U ist und n der zu a gehörenden Code Point, vollständig beschreiben. Für die Menge U aller dieser Paare gilt also U A U N0. Allgemein heißt A B kartesiches Produkt der Mengen A und B. Es ist die Menge aller Paare (a, b) mit a A und b B: kartesiches Produkt A B = {(a, b) a A b B} Eine Teilmenge R A B heißt auch eine Relation. Manchmal sagt man noch genauer binäre Relation; und manchmal noch genauer von A in B. Die durch Unicode definierte Menge U A U N0 hat besondere Eigenschaften, die nicht jede Relation hat. Diese (und ein paar andere) Eigenschaften wollen wir im folgenden kurz aufzählen und allgemein definieren: 1. Zum Beispiel gibt es für jedes Zeichen a A U (mindestens) ein n N0 mit (a, n) U. Allgemein nennt man eine Relation R A B linkstotal, wenn für jedes a A ein b B existiert mit (a, b) R. Relation binäre Relation linkstotal 2. Für kein Zeichen a A U gibt es mehrere n N0 mit der Eigenschaft (a, n) U. Allgemein nennt man eine Relation R A B rechtseindeutig, wenn es für kein a A zwei b 1 B und b 2 B rechtseindeutig mit b 1 b 2 gibt, so dass sowohl (a, b 1 ) R als auch (a, b 2 ) R ist. 3. Relationen, die linkstotal und rechtseindeutig sind, kennen Sie auch unter anderen Namen: Man nennt sie Abbildungen oder auch Funktionen und man schreibt dann üblicherweise R : A B. Gelegentlich ist es vorteilhaft, sich mit Relationen zu beschäftigen, von denen man nur weiß, dass sie rechtseindeutig sind. Sie nennt man manchmal partielle Funktionen. (Bei ihnen verzichtet man also auf die Linkstotalität.) 4. Außerdem gibt es bei Unicode keine zwei verschiedene Zeichen a 1 und a 2, denen der gleiche Code Point zugeordnet ist. Eine Relation R A B heißt linkseindeutig, wenn für alle Abbildung Funktion partielle Funktion linkseindeutig gbi:skript:3 11 worsch 2008/2009

16 (a 1, b 1 ) R und alle (a 2, b 2 ) R gilt: wenn a 1 a 2, dann b 1 b Eine Abbildung, die linkseindeutig ist, heißt injektiv. injektiv 6. Der Vollständigkeit halber definieren wir auch gleich noch, wann eine Relation R A B rechtstotal heißt: wenn für jedes b B ein a A existiert, für das (a, b) R ist. rechtstotal 7. Eine Abbildung, die rechtstotal ist, heißt surjektiv. surjektiv 8. Eine Abbildung, die sowohl injektiv als auch surjektiv ist, heißt bijektiv. bijektiv 3.3 logisches Im vorangegangenen Abschnitt stehen solche Dinge wie: Die Abbildung U : A U N0 ist injektiv. Das ist eine Aussage. Sie ist wahr. Die Abbildung U : A U N0 ist surjektiv. ist auch eine Aussage. Sie ist aber falsch und deswegen haben wir sie auch nicht getroffen. Aussagen sind Sätze, die objektiv wahr oder falsch sind. Allerdings bedarf es dazu offensichtlich einer Interpretation der Zeichen, aus denen die zu Grunde liegende Nachricht zusammengesetzt ist. Um einzusehen, dass es auch umgangssprachliche Sätze gibt, die nicht wahr oder falsch (sondern sinnlos) sind, mache man sich Gedanken zu Folgendem: Ein Barbier ist ein Mann, der alle Männer rasiert, die sich nicht selbst rasieren. Man frage sich insbesondere, ob sich ein Barbier selbst rasiert... Und wir bauen zum Beispiel in dieser Vorlesung ganz massiv darauf, dass es keine Missverständnisse durch unterschiedliche Interpretationsmöglichkeiten gibt. Das ist durchaus nicht selbstverständlich: Betrachten Sie das Zeichen N. Das schreibt man üblicherweise für eine Menge von Zahlen. Aber ist bei dieser Menge die 0 dabei oder nicht? In der Literatur findet man beide Varianten (und zumindest für den Autor dieser Zeilen ist nicht erkennbar, dass eine deutlich häufiger vorkäme als die andere). Häufig setzt man aus einfachen Aussagen, im folgenden kurz A und B genannt, kompliziertere auf eine der folgenden Arten zusammen: negation: Nicht A. Dafür schreiben wir auch kurz A. logisches und: A und B. Dafür schreiben wir auch kurz A B. gbi:skript:3 12 worsch 2008/2009

17 logisches oder: A oder B. Dafür schreiben wir auch kurz A B. logische implikation: Wenn A, dann B. Dafür schreiben wir auch kurz A B. Ob so eine zusammengesetzte Aussage wahr oder falsch ist, hängt dabei nicht vom konkreten Inhalt der Aussagen ab! Wesentlich ist nur, welche Wahrheitswerte die Aussagen A und B haben, wie in der folgenden Tabelle dargestellt. Deswegen beschränkt und beschäftigt man sich dann in der Aussagenlogik mit sogenannten aussagenlogischen Formeln, die nach obigen Regeln zusammengesetzt sind und bei denen statt elementarer Aussagen einfach Aussagevariablen stehen, die als Werte wahr und falsch sein können. aussagenlogische Formeln A B A A B A B A B falsch falsch wahr falsch falsch wahr falsch wahr wahr falsch wahr wahr wahr falsch falsch falsch wahr falsch wahr wahr falsch wahr wahr wahr Das meiste, was in obiger Tabelle zum Ausdruck gebracht wird, ist aus dem alltäglichen Leben vertraut. Nur auf wenige Punkte wollen wir explizit eingehen: Das Oder ist inklusiv (und nicht exklusiv ): Wenn A und B beide wahr sind, dann auch A B. Man kann für komplizierte Aussagen anhand der obigen Tabellen ausrechnen, wenn sie wahr sind und wann falsch. Zum Beispiel ergibt einfaches Rechnen und scharfes Hinsehen, dass die Aussagen (A B) und ( A) ( B) immer gleichzeitig wahr bzw. falsch sind. Solche Aussagen nennt man äquivalent. Gleiches gilt für A und A. äquivalente Aussagen Die Implikation A B ist auf jeden Fall wahr, wenn A falsch ist, unabhängig vom Wahrheitsgehalt von B, insbesondere auch dann, wenn B falsch ist. Zum Beispiel ist die Aussage wahr. Wenn 0 = 1 ist, dann ist 42 = 42. Man kann sich das so noch etwas klarer machen, dass man sich überlegt, was man sich denn unter dem Gegenteil von A B vorstellen sollte. Das ist doch wohl A B. Also ist A B äquivalent zu (A B), und das ist nach obigem äquivalent zu ( A) ( B) und das zu ( A) B. Dabei haben wir jetzt so getan, als dürfe man selbstverständlich in einer Aussage einen Teil durch einen äquivalenten Teil ersetzen. Das darf man auch. gbi:skript:3 13 worsch 2008/2009

18 Alles was wir bisher in diesem Abschnitt betrachtet haben, gehört zu dem Bereich der Aussagenlogik. Wir werden sie vorläufig im beschriebenen Sinne naiv verwenden und in Zukunft zum Beispiel Definitionen wie die für Injektivität und Surjektivität von Funktionen entsprechend kompakter schreiben können. Außerdem gibt es die sogenannte Prädikatenlogik. (Genauer gesagt interessiert uns Prädikatenlogik erster Stufe, ohne dass wir die Bedeutung dieser Bezeichnung jetzt genauer erklären wollen oder können.) Aus der Prädikatenlogik werden wir wieder zumindest vorläufig nur naiv die sogenannten Quantoren verwenden: Quantoren Allquantor Existenzquantor In der puren Form hat eine quantifizierte Aussage eine der Formen x A(x) oder x A(x) Dabei soll A(x) eine Aussage sein, die von einer Variablen x abhängt (oder jedenfalls abhängen kann). A kann weitere Quantoren enthalten. Die Formel x A(x) hat man zu lesen als: Für alle x gilt: A(x). Und die Formel x A(x) hat man zu lesen als: Es gibt ein x mit: A(x). Zum Beispiel: x (x N0 y (y N0 y = x + 1)) Sehr häufig hat man wie in diesem Beispiel den Fall, dass eine Aussage nicht für alle x gilt, sondern nur für x aus einer gewissen Teilmenge M. Statt schreibt man oft kürzer x (x M B(x)) x M : B(x) wobei der Doppelpunkt nur die Lesbarkeit verbessern soll. Obiges Beispiel wird damit zu x N0 : y N0 : y = x zusammenfassung und ausblick In dieser Einheit wurde der Begriff Alphabet, eingeführt, die im weiteren Verlauf der Vorlesung noch eine große Rolle spielen werden. Die Begriffe Wort und formale Sprache werden gleich in der nächsten Einheit folgen. Mehr über Schriften findet man zum Beispiel über die WWW- Seite ( ). Als wichtige technische Hilfsmittel wurden die Begriffe binäre Relation, sowie injektive, surjektive und bijektive Abbildungen definiert, und es wurden informell einige Schreibweisen zur kompakten aber lesbaren Notation von Aussagen eingeführt. gbi:skript:3 14 worsch 2008/2009

19 Ein bisschen Aussagenlogik haben wir auch gemacht. Wir werden in einer späteren Einheit darauf zurück kommen, weil sich selbst hier schon schwierige algorithmische Problem verbergen. gbi:skript:3 15 worsch 2008/2009

20 4 W Ö RT E R 4.1 wörter Jeder weiß, was ein Wort ist: Ein Wort über einem Alphabet A ist eine Folge von Zeichen aus A. Aber gerade weil jeder weiß, was das ist, werden wir uns im folgenden eine Möglichkeit ansehen, eine formale Definition des Begriffes Wort zu geben. Sinn der Übung ist aber nicht, eine einfache Sache möglichst kompliziert darzustellen, sondern an einem Beispiel, das niemandem ein Problem bereitet, Dinge zu üben, die in späteren Einheiten noch wichtig werden. Vorher aber noch kurz eine Bemerkung zu einem Punkt, an dem wir sich der Sprachgebrauch in dieser Vorlesung (und allgemeiner in der Theorie der formalen Sprachen) vom umgangssprachlichen unterscheidet: Das Leerzeichen. Übrigens benutzt man es heutzutage (jedenfalls z. B. in europäischen Schriften) zwar ständig früher nicht! Aber wie der Name sagt, fassen wir auch das Leerzeichen als ein Zeichen auf. Damit man es sieht, schreiben wir manchmal explizit statt einfach nur Platz zu lassen. Konsequenz der Tatsache, dass wir das Leerzeichen, wenn wir es denn überhaupt benutzen, als ein ganz normales Symbol auffassen, ist jedenfalls, dass z. B. Hallo Welt eine Folge von Zeichen, also nur ein Wort ist (und nicht zwei). Was man für eine mögliche technische Definition von Wort braucht, ist im wesentlichen eine Formalisierung von Liste (von Symbolen). Für eine bequeme Notation definieren wir zunächst: Für jede natürliche Zahl n 0 sei Gn = {i N0 0 i i < n} die Menge der n kleinsten nichtnegativen ganzen Zahlen. Zum Beispiel ist G4 = {0, 1, 2, 3}, G1 = {0} und G0 = {}. Dann wollen wir jede surjektive Abbildung w : Gn A als ein Wort auffassen. Die Zahl n heiße auch die Länge des Wortes, für die man manchmal kurz w schreibt. (Es ist in Ordnung, wenn Sie im Moment nur an Längen n 1 denken. Auf den Fall des sogenannten leeren Wortes ε mit Länge n = 0 kommen wir im nachfolgenden Unterabschnitt gleich noch zu sprechen.) Das Wort (im umgangssprachlichen Sinne) w = hallo ist dann also formal die Abbildung w : G5 {a, h, l, o} mit w(0) = h, w(1) = a, w(2) = l, w(3) = l und w(4) = o. Im folgenden werden wir uns erlauben, manchmal diese formalistische Sicht auf Wörter zu haben, und manchmal die vertraute von Zeichenfolgen. Dann ist insbesondere jedes einzelne Zeichen auch schon ein Wort. Formalismus, vertraute Sichtweise und das Hin- und Herwechseln zwischen beidem ermöglich dreierlei: Wort über einem Alphabet A Wort, formalistisch definiert Länge eines Wortes präzise Argumentationen, wenn andernfalls nur vages Händewedeln möglich wäre, leichteres Vertrautwerden mit Begriffen und Vorgehensweisen bei Wörtern und formalen Sprachen, und das langsame Vertrautwerden mit Formalismen. gbi:skript:4 16 worsch 2008/2009

21 Ganz häufig ist man in der Situation, dass man ein Alphabet A gegeben hat und über die Menge aller Wörter reden möchte, in denen höchstens die Zeichen aus A vorkommen. Dafür schreibt man A. Ganz formalistisch gesehen ist das also Menge aller surjektiven Abbildungen w : Gn B mit n N0 und B A. Es ist aber völlig in Ordnung, wenn Sie sich einfach Zeichenketten vorstellen. Menge aller Wörter A 4.2 das leere wort Beim Zählen ist es erst einmal natürlich, dass man mit eins beginnt: 1, 2, 3, 4,... Bei Kindern ist das so, und geschichtlich gesehen bei Erwachsenen lange Zeit auch so. Irgendwann stellte sich jedoch die Erkenntnis ein, dass die Null auch ganz praktisch ist. Daran hat sich jeder gewöhnt, wobei vermutlich eine gewisse Abstraktion hilfreich war; oder stellen Sie sich gerade vor, dass vor Ihnen auf dem Tisch 0 Elefanten stehen? Ebenso umfasst unsere eben getroffene Definition von Wort den Spezialfall der Wortlänge n = 0. Auch ein Wort der Länge 0 verlangt zugegebenermaßen ein bisschen Abstraktionsvermögen. Es besteht aus 0 Symbolen. Deshalb sieht man es so schlecht. Wenn es Ihnen hilft, können Sie sich die formalistische Definition ansehen: Es ist G0 = {} die leere Menge; und ein Wort der Länge 0 enthält keine Zeichen. Formalisiert als surjektive Abbildung ergibt das dann ein w : {} {}. Wichtig: Wundern Sie sich nicht, wenn Sie sich über w : {} {} erst einmal wundern. Sie werden sich an solche Dinge schnell gewöhnen. Vielleicht haben Sie ein Problem damit, dass der Definitionsbereich oder/und der Zielbereich von w : {} {} die leere Menge ist. Das ist aber nicht wirklich eines: Man muss nur daran denken, dass Abbildungen besondere Relationen sind. Es gibt nur eine Relation R {} {} = {}, nämlich R = {}. Als Menge von Paaren aufgefasst ist dieses R aber linkstotal und rechtseindeutig, also tatsächlich eine Abbildung; und die ist sogar rechtstotal. Also ist es richtig von dem leeren Wort zu sprechen. leeres Wort Nun gibt es ähnlich wie schon beim Leerzeichen ein ganz praktisches Problem: Da das leere Wort aus 0 Symbolen besteht, sieht man es nicht. Das führt leicht zu Verwirrungen. Man will aber gelegentlich ganz explizit darüber sprechen und schreiben. Deswegen vereinbaren wir, dass wir für das leere Wort ε schreiben. Beachten Sie, dass wir in unseren Beispielen Symbole unseres Alphabetes immer blau darstellen, ε aber nicht. Es ist nie Symbol das gerade untersuchten Alphabetes. Wir benutzen dieses Zeichen aus dem Griechischen als etwas, das Sie immer interpretieren (siehe Einheit 2) müssen, nämlich als das leere Wort. gbi:skript:4 17 worsch 2008/2009

22 4.3 mehr zu wörtern Für die Menge aller Wörter einer festen Länge n über einem Alphabet A schreiben wir auch A n. Wenn zum Beispiel das zu Grunde liegende Alphabet A = {a, b} ist, dann ist: A n A 0 = {ε} A 1 = {a, b} A 2 = {aa, ab, ba, bb} A 3 = {aaa, aab, aba, abb, baa, bab, bba, bbb} Vielleicht haben nun manche die Idee, dass man auch erst die A n hätte definieren können, und dann festlegen: A = A 0 A 1 A 2 A 3 Das unschöne daran sind die : Im vorliegenden Fall mag ja noch klar sein, was gemeint ist. Da wir aber darauf achten wollen, dass Sie sich nichts angewöhnen, was im allgemeinen zu Problemen führen könnte (und dafür sind Pünktchen, bei denen man darauf baut, dass der Leser schon die passende Interpretation haben möge, prädestiniert), wollen wir lieber folgende Schreibweise benutzen: A = i=0 Allerdings sind hier nun zwei Anmerkungen ganz wichtig: Sie können mit Recht fragen, was denn präzise so etwas wie i=0 A i M i bedeuten soll, wenn M 0, M 1, M 2,... (schon wieder die Pünktchen... ) unendlich viele Menge sind. Das hier: M i = {x i : x M i } i=0 also alle Elemente, die in mindestens einem M i enthalten sind. Das -Zeichen in obiger Schreibweise ist leider gefährlich. Es kann so missverstanden werden, als könne i auch den Wert Unendlich annehmen. Das ist nicht so! Gemeint ist nur, dass i alle Werte aus dem Bereich der ganzen Zahlen ab i = 0 durchläuft. Und jede dieser Zahlen ist endlich; es sind aber unendlich viele. gbi:skript:4 18 worsch 2008/2009

23 4.4 konkatenation von wörtern Zahlen kann man zum Beispiel addieren oder multiplizieren. Man spricht auch davon, dass die Addition und Multiplikation zweistellige oder binäre Operationen sind. Für Wörter definieren wir nun auch eine ganz einfache aber wichtige binäre Operation: die sogenannte Konkatenation von Wörtern. Das ist einfach die Hintereinanderschreibung zweier Wörter. Als Operationssymbol verwendet man üblicherweise wie bei der Multiplikation von Zahlen den Punkt. Also zum Beispiel: Konkatenation SCHRANK SCHLÜSSEL = SCHRANKSCHLÜSSEL oder SCHLÜSSEL SCHRANK = SCHLÜSSELSCHRANK Oft lässt man wie bei der Multiplikation auch den Konkatenationspunkt weg. Wie man sieht, kommt es (im Gegensatz zur Multiplikation von Zahlen) auf die Reihenfolge an: Ein SCHRANKSCHLÜSSEL ist etwas anderes als ein SCHLÜSSELSCHRANK. Nun wollen wir die Konkatenation zweier Wörter formal definieren. Nehmen wir also an, es seien zwei Wörter w 1 : Gm A 1 und w 2 : Gn A 2 gegeben. Dann ist Konkatenation zweier Wörter formal w 1 w 2 : Gm+n A 1 A 2 { w 1 (i) i w 2 (i m) falls 0 i < m falls m i < m + n Ist das eine sinnvolle Definition? Oder vielmehr: Ist das überhaupt eine Definition? Und wird hier ein Wort definiert? Als erstes hat man sich zu überlegen, dass die Ausdrücke w 1 (i) für 0 i < m und w 2 (i m) für m i < m + n stets definiert sind. Das ist so. Zweitens stammen die in der Fallunterscheidung vorgeschriebenen Funktionswerte tatsächlich aus dem Bereich A 1 A 2 : denn w 1 (i) ist stets aus A 1 und w 2 (i m) ist stets aus A 2. Drittens muss man sich klar machen, dass die Fallunterscheidung von der Art ist, dass für jedes i Gm+n nur genau ein Funktionswert festgelegt wird und nicht mehrere verschiedene. Und schließlich muss man sich noch klar machen, dass wieder ein Wort definiert wird: Dafür muss die Abbildung w 1 w 2 : Gm+n A 1 A 2 surjektiv sein. Das ist sie auch. Denn für jedes a A 1 A 2 gilt (mindestens) eine der folgenden Möglichkeiten: a A 1 : Dann gibt es aber, da w 1 ein Wort ist, also eine surjektive Abbildung, ein i 1 Gm mit w 1 (i 1 ) = a. Also ist (w 1 w 2 )(i 1 ) = w 1 (i 1 ) = a. gbi:skript:4 19 worsch 2008/2009

24 a A 2 : Dann gibt es aber, da w 2 ein Wort ist, also eine surjektive Abbildung, ein i 2 Gn mit w 2 (i 2 ) = a. Also ist (w 1 w 2 )(m + i 2 ) = w 2 (i 2 ) = a. 4.1 Als letztes sei noch angemerkt, dass man an der Definition sofort sieht: w 1 A w 2 A : w 1 w 2 = w 1 + w Konkatenation mit dem leeren Wort Gefragt, was des Besondere an der Zahl Null ist, antworten zumindest manche Leute, dass es die Eigenschaft hat: x N0 : x + 0 = x 0 + x = x Man sagt auch, die Null sei das neutrale Element bezüglich der Addition. Etwas Ähnliches wie die Null für natürliche Zahlen gibt es bei Wörtern: Das leere Wort ist das neutrale Element bezüglich Konkatenation. 4.2 Lemma. Für jedes Alphabet A gilt: neutrales Element w A : w ε = w ε w = w. Anschaulich ist das wohl klar: Wenn man ein Wort w nimmt und hinten dran der Reihe nach noch alle Symbole des leeren Wortes klebt, dann ändert sich an w nichts. Aber da wir auch eine formale Definition von Wörtern haben, können wir das auch präzise beweisen ohne auf Anführungszeichen und ist doch wohl klar zurückgreifen zu müssen. Wie weiter vorne schon einmal erwähnt: Wir machen das nicht, um Einfaches besonders schwierig darzustellen (so etwas hat Herr Gauß gemacht... ), sondern um an einem einfachen Beispiel etwas zu üben, was Sie durch Ihr ganzes Studium begleiten wird: Beweisen. 4.3 Beweis. Die erste Frage, die sich stellt, ist: Wie beweist man das für alle denkbaren(?) Alphabete A? Eine Möglichkeit ist: Man geht von einem wie man sagt beliebigen aber festen Alphabet A aus, über das man keinerlei Annahmen macht und zeigt, dass die Aussage für dieses A gilt. Damit stellt sich die zweite Frage: Wie beweist man, dass die Behauptung für alle w A gilt? Im vorliegenden Fall funktioniert das gleiche Vorgehen wieder: Man geht von einem beliebigen Wort w aus, über das man keinerlei Annahmen macht. Sei also w A, d. h. eine surjektive Abbildung w : Gm B mit B A. Außerdem ist ε : G0 {}. Um herauszufinden, was w = w ε ist, können wir nun einfach losrechnen: Wir nehmen die formale Definition der Konkatenation und setzen unsere konkreten Werte ein. Dann ist also w eine Abbildung w : Gm+0 B {}, also schlicht w : gbi:skript:4 20 worsch 2008/2009

25 Gm B. Und für alle i Gm gilt für die Funktionswerte laut der formalen Definition von Konkatenation für alle i Gm: { w w 1 (i) falls 0 i < m (i) = w 2 (i m) falls m i < m + n { w(i) falls 0 i < m = ε(i m) falls m i < m + 0 = w(i) Also haben w und w die gleichen Definitions- und Zielbereiche und für alle Argumente die gleichen Funktionswerte, d. h. an allen Stellen die gleichen Symbole. Also ist w = w Eigenschaften der Konkatenation Wenn man eine neue binäre Operation definiert, stellt sich immer die Frage nach möglichen Rechenregeln. Weiter oben haben wir schon darauf hingewiesen, dass man bei der Konkatenation von Wörtern nicht einfach die Reihenfolge vertauschen darf. (Man sagt auch, die Konkatenation sei nicht kommutativ.) Was ist, wenn man mehrere Wörter konkateniert? Ist für jedes Alphabet A und alle Wörter w 1, w 2 und w 3 aus A stets (w 1 w 2 ) w 3 = w 1 (w 2 w 3 )? Die Antwort ist: Ja. Auch das kann man stur nachrechnen. Das bedeutet, dass man bei der Konkatenation mehrerer Wörter keine Klammern setzen muss. Man sagt auch, die Konkatenation sei eine assoziative Operation (siehe Unterabschnitt 4.5) Iterierte Konkatenation Von den Zahlen kennen Sie die Potenzschreibweise x 3 für x x x usw. Das wollen wir nun auch für die Konkatenation von Wörtern einführen. Die Idee ist so etwas wie w k = w w w }{{} k mal Aber da stehen wieder diese Pünktchen... Wie kann man die vermeiden? Was ist mit k = 1 (immerhin stehen da ja drei w auf der rechten Seite)? Und was soll man sich für k = 0 vorstellen? Ein möglicher Ausweg ist eine sogenannte induktive Definition. Für Potenzen von Wörtern geht das so: w 0 = ε k N0 : w k+1 = w k w induktive Definition Potenzen von Wörtern Man definiert also explizit, was ein Exponent 0 bedeuten soll: w 0 = ε. (Es hat sich als nützlich erwiesen, das so festzulegen.) gbi:skript:4 21 worsch 2008/2009

26 wie man w n+1 ausrechnen kann, wenn man schon w n kennt. Damit kann man z. B. ausrechnen, was w 1 ist: w 1 = w 0+1 = w 0 w = ε w = w Und dann: w 2 = w 1+1 = w 1 w = w w Und so weiter. 4.4 Lemma. Für jedes Alphabet A, jedes Wort w A und jedes n N0 gilt: w n = n w. Wie kann man das beweisen? Immer wenn in einer Aussage etwas eine Rolle spielt, das induktiv definiert wurde, sollte man in Erwägung ziehen, für den Beweis vollständige Induktion zu benutzen. Sehen wir uns mal ein paar einfache Fälle an: vollständige Induktion n = 0: Das ist einfach: w 0 = ε = 0 = 0 w. n = 1: Natürlich könnten wir einfach oben nachsehen, dass w 1 = w ist, und folgern w 1 = w. Oder wir wiederholen im wesentlichen die obige Rechnung: w 1 = w 0+1 = w 0 w = w 0 + w siehe Punkt 4.1 = 0 w + w siehe Fall n = 0 = 1 w Man kann auch sagen: Weil die Behauptung für n = 0 richtig war, konnten wir sie auch für n = 1 beweisen. n = 2: Wir gehen analog zu eben vor: w 2 = w 1+1 = w 1 w = w 1 + w siehe Punkt 4.1 = 1 w + w siehe Fall n = 1 = 2 w Man kann auch sagen: Weil die Behauptung für n = 1 richtig war, konnten wir sie auch für n = 2 beweisen. Sie erkennen nun wohl das Muster: Weil w n+1 mit Hilfe von w n definiert wurde, kann man aus der Richtigkeit der Behauptung für w n die für w n+1 folgern. Also gilt das folgende: Wenn wir mit M die Menge aller natürlichen Zahlen n bezeichnen, für die die Behauptung w n = n w gilt, dann wissen wir also: 1. 0 M 2. n N0 : (n M n + 1 M) gbi:skript:4 22 worsch 2008/2009

27 Es ist ein Faktum der Mathematik, dass eine Menge M, die nur natürliche Zahlen enthält und die Eigenschaften 1 und 2 von eben hat, gerade die Menge N0 ist. (Wenn man die natürlichen Zahlen axiomatisch definiert, ist das sogar gerade eine der Forderungen.) Auf der genannten Tatsache fußt das Beweisprinzip der vollständigen Induktion, das wir nun erst einmal in der einfachsten Form vorführen. vollständige Induktion 4.5 Beweis. Wir schreiben nun im wesentlichen noch einmal das gleiche wie oben in der für Induktionsbeweise üblichen Form auf: induktionsanfang n = 0: Zu zeigen ist: w 0 = 0 w. Das geht ganz ausführlich aufgeschrieben so: w 0 = ε nach Defintion von w 0 = 0 = 0 w. induktionsschritt n n + 1: Zu zeigen ist: Für alle n gilt: Wenn w n = n w ist, dann ist auch w n+1 = (n + 1) w. Wie kann man zeigen, dass eine Aussage für alle natürlichen Zahlen n gilt? Eine Möglichkeit ist jedenfalls, von einem beliebigen, aber festen n auszugehen und für dieses n zu zeigen: w n = n w w n+1 = (n + 1) w. Mit anderen Worten macht man nun für ein beliebiges aber festes n die induktionsannahme oder induktionsvoraussetzung: w n = n w. Zu leisten ist nun mit Hilfe dieser Annahme der Nachweis, dass auch w n+1 = (n + 1) w. Das nennt man den induktionsschluss: In unserem Fall: w n+1 = w n w = w n + w = n w + w nach Induktionsannahme = (n + 1) w Zusammenfassend wollen wir noch einmal festhalten, dass das Prinzip der vollständigen Induktion auf der folgenden Tatsache beruht: 4.6 Wenn man für eine Aussage A(n), die von einer Zahl n N0 abhängt, weiß es gilt A(0) und es gilt n N0 : (A(n) A(n + 1)) dann gilt auch: n N0 : A(n). gbi:skript:4 23 worsch 2008/2009

28 4.5 binäre operationen Unter einer binären Operation auf einer Menge M versteht man eine Abbildung f : M M M. Üblicherweise benutzt man aber ein Operationssysmbol wie das Pluszeichen oder den Multiplikationspunkt und setzt ihn zwischen die Argumente: Statt +(3, 8) = 11 schreibt man normalerweise = 11. Allgemein heißt eine binäre Operation : M M M genau dann kommutativ, wenn gilt: x M y M : x y = y x. Eine binäre Operation : M M M nennt man genau dann assoziativ, wenn gilt: x M y M z M : (x y) z = x (y z). kommutative Operation assoziative Operation 4.6 zusammenfassung In dieser Einheit wurde eingeführt, was wir unter einem Wort verstehen wollen, und wie Konkatenation und Potenzen von Wörtern definiert sind. Als wichtiges technisches Hilfsmittel haben wir Beispiele induktiver Defintionen gesehen und das Beweisprinzip der vollständigen Induktion. gbi:skript:4 24 worsch 2008/2009

29 5 D E R B E G R I F F D E S A L G O R I T H M U S Muhammad ibn Mūsā al-khwārizmī lebte ungefähr von 780 bis 850. Abbildung 5.1 zeigt eine (relativ beliebte weil copyrightfreie) Darstellung auf einer russischen Briefmarke anlässlich seines Geburtstages (jedenfalls in etwa). Im Jahr 830 (oder we- Abbildung 5.1: Muhammad ibn Mūsā al-khwārizmī; Bildquelle: Abdullah_Muhammad_bin_Musa_al-Khwarizmi.jpg ( ) nig früher) schrieb al-khwārizī ein wichtiges Buch mit dem Titel Al-Kitāb al-mukhtaṣar fī hīsāb al-ğabr wa l-muqābala. (An anderer Stelle findet man als Titel Al-Kitāb al-mukhtaṣar fī ḥisāb al-jabr wa-l-muqābala.) Die deutsche Übersetzung lautet in etwa Das kurzgefasste Buch zum Rechnen durch Ergänzung und Ausgleich. Aus dem Wort al-ğabr bzw. al-jabr entstand später das Wort Algebra. Inhalt des Buches ist unter anderem die Lösung quadratischer Gleichungen mit einer Unbekannten. Einige Jahre früher (825?) entstand das Buch, das im Original vielleicht den Titel Kitāb al-jam wa-l-tafrīq bi-ḥisāb al-hind trug, auf Deutsch Über das Rechnen mit indischen Ziffern. Darin führt al-khwārizī die aus dem Indischen stammende Zahl Null in das arabische Zahlensystem ein und führt die Arbeit mit Dezimalzahlen vor. Von diesem Buch existieren nur noch Übersetzungen, zum Beispiel auf Lateinisch aus dem vermutlich 12. Jahrhundert. Abbildung 5.2 zeigt einen Ausschnitt aus einer solchen Übersetzung. Von diesen Fassungen ist kein Titel bekannt, man vermutet aber, dass er Algoritmi de numero Indorum oder Algorismi de numero Indorum gelautet haben könnte, also ein Buch des Al-gorism über die indischen Zahlen. Das i am Ende von Algorismi wurde später fälschlicherweise als Pluralendung des Wortes Algorithmus angesehen. Womit wir etwas zur Ethymologie eines der wichtigsten Begriffe der Informatik gesagt hätten. Herkunft das Wortes Algorithmus gbi:skript:5 25 worsch 2008/2009

30 Abbildung 5.2: Ausschnitt einer Seite einer lateinischen Übersetzung der Arbeit von al-khwa rizmı über das Rechnen mit indischen Ziffern ; Bildquelle: org/wiki/image:dixit_algorizmi.png ( ) 5.1 lösen einer sorte quadratischer gleichungen Angenommen, man hat eine quadratische Gleichung der Form x2 + bx = c, wobei b und c positive Zahlen sind. Dann, so alkhwarizmi, kann man die positive Lösung dieser Gleichung bestimmen, indem man nacheinander wie folgt rechnet: h b/2 q h (1) 2 (2) s c+q w s (4) x w h (5) (3) (Natürlich ist die Beschreibung der durchzuführenden Rechnungen bei al-khwarizmi anders.) Wir haben hier eine Notation gewählt, bei der in jeder Zeile ein Pfeil steht. Links davon steht ein symbolischer Name. Rechts vom Pfeil steht ein arithmetischer Ausdruck, in dem zum einen die beiden Namen b und c für die Eingangsgrößen vorkommen, zum anderen symbolische Namen, die schon einmal in einer darüberliegenden Zeile auf der linken Seite vorkamen. Durch eine solche Zuweisung wird die linke Seite zu einem Namen für den Wert, den man aus der rechten Seite ausrechnen kann. Man kann Schritt für Schritt alle Zuweisungen ausführen. Es passieren keine Unglücke (s ist nie negativ.) Man kann sich überlegen, dass am Ende x immer einen Wert bezeichnet, der die quadratische Gleichung x2 + bx = c erfüllt. 5.2 zum informellen algorithmusbegriff Das gerade besprochene Beispiel besitzt einige Eigenschaften, die man allgemein beim klassischen Algorithmusbegriff fordert: gbi:skript:5 26 worsch 2008/2009

31 Der Algorithmus besitzt eine endliche Beschreibung (ist also ein Wort über einem Alphabet). Die Beschreibung besteht aus elementaren Anweisungen, von denen jede offensichtlich effektiv in einem Schritt ausführbar ist. Determinismus: Zu jedem Zeitpunkt ist eindeutig festgelegt, welches die nächste elementare Anweisung ist, und diese Festlegung hängt nur ab von schon berechneten Ergebnissen und davon, welches die zuletzt ausgeführte elementare Anweisung war. Aus einer endlichen Eingabe wird eine endliche Ausgabe berechnet. Dabei werden endliche viele Schritte gemacht, d. h. nur endlich oft eine elementare Anweisung ausgeführt. Der Algorithmus funktioniert für beliebig große Eingaben. Die Nachvollziehbarkeit/Verständlichkeit des Algorithmus steht für jeden (mit der Materie vertrauten) außer Frage. Zwei Bemerkungen sind hier ganz wichtig: So plausibel obige Forderungen sind, so informell sind sie aber andererseits: Was soll z. B. offensichtlich effektiv ausführbar heißen? Für harte Beweise benötigt man einen präziseren Algorithmusbegriff. Im Laufe der Jahre hat sich herausgestellt, dass es durchaus auch interessant ist, Verallgemeinerungen des oben skizzierten Algorithmenbegriffes zu betrachten. Dazu gehören zum Beispiel randomisierte Algorithmen, bei denen in manchen Situationen die Fortsetzung nicht mehr eindeutig ist, sondern abhängig von Zufallsereignissen, Verfahren, bei denen nicht von Anfang an alle Eingaben zur Verfügung stehen, sondern erst nach und nach, und Verfahren, die nicht terminieren (z. B. Ampelsteuerung). 5.3 zur korrektheit des algorithmus zur lösung einer sorte quadratischer gleichungen Al-Khwarizmi gibt einen sehr schönen Beweis dafür an, dass die Rechnungen in (1)-(5) das Ergebnis liefern. Er beruht auf einer geometrischen Überlegung (siehe z. B. mcs.st-and.ac.uk/~history/biographies/al-khwarizmi.html, ). gbi:skript:5 27 worsch 2008/2009