Grundbegriffe der Informatik

Transkript

1 Grundbegriffe der Informatik Einheit 5: Der Begriff des Algorithmus (erste grundlegende Aspekte) Thomas Worsch Universität Karlsruhe, Fakultät für Informatik November /34

2 Überblick Eine Zeitreise Algorithmusbegriff Lösen einer Sorte quadratischer Gleichungen Zum informellen Algorithmusbegriff Korrektheit des Algorithmus zur Lösung einer Sorte quadratischer Gleichungen Wie geht es weiter? Algorithmus zur Multiplikation nichtnegativer ganzer Zahlen Multiplikationalgorithmus mit einer Schleife Inhalt 2/34

3 Zeitreise bitte alle einsteigen Türen schließen anschnallen Sitzlehnen aufrecht stellen und so weiter und so fort Eine Zeitreise 3/34

4 Zeitreise bitte alle einsteigen Türen schließen anschnallen Sitzlehnen aufrecht stellen und so weiter und so fort Wie weit in die Vergangenheit kann man reisen und findet noch etwas, was mit Informatik zu tun hat? (jenseits von Zählen und Zahlen) Eine Zeitreise 3/34

5 ... da wären wir... Zeit: circa Ort: Bagdad, Haus der Weisheit wir treffen... Eine Zeitreise 4/34

6 ... da wären wir... Zeit: circa Ort: Bagdad, Haus der Weisheit wir treffen Muhammad ibn Mūsā al-khwārizmī geboren ca. 780 in Khiva (heute Usbekistan) oder Qutrubbull (heute Iran) gestorben ca. 850 Bildquelle: Eine Zeitreise 4/34

7 Zwei wichtige Schriften von al-khwārizmī (1) ca. 830 (?): Buch Titel: Al-Kitāb al-mukhtaṣar fī hīsāb al-ğabr wa l-muqābala oder Al-Kitāb al-mukhtaṣar fī ḥisāb al-jabr wa-l-muqābala. auf Deutsch: Das kurzgefasste Buch zum Rechnen durch Ergänzung und Ausgleich Aus al-ğabr bzw. al-jabr entstand später das Wort Algebra. Inhalt des Buches unter anderem: Lösen quadratischer Gleichungen mit einer Unbekannten. Eine Zeitreise 5/34

8 Zwei wichtige Schriften von al-khwa rizmı (2) I ca. 825 (??) I Titel vielleicht Kita b al-jam wa-l-tafrı q bi-h.isa b al-hind auf Deutsch: U ber das Rechnen mit indischen Ziffern. al-khwa rizı fu hrt u. a. die aus dem Indischen stammende Zahl Null in das arabische Zahlensystem ein... nur noch U bersetzungen, z. B. auf Lateinisch, 12. Jhdt. (?): I kein Titel bekannt, Vermutung: I I I I I I I Algoritmi de numero Indorum oder Algorismi de numero Indorum o. a. also ein Buch von Al-gorismi u ber die indischen Zahlen. Das i am Ende von Algorismi spa ter fa lschlicherweise als Pluralendung des Wortes Algorithmus angesehen. Eine Zeitreise 6/34

9 Lösen einer Sorte quadratischer Gleichungen nach al-khwārizmī (1) gegeben: quadratische Gleichung der Form x 2 + bx = c mit b > 0 und c > 0 Dann kann man laut al-khwārizmī die positive Lösung dieser Gleichung bestimmen, indem man nacheinander rechnet: h b/2 (1) q h 2 (2) s c + q (3) w s (4) x w h (5) Algorithmusbegriff Lösen einer Sorte quadratischer Gleichungen 7/34

10 Lösen einer Sorte quadratischer Gleichungen nach al-khwārizmī (2) Rechnung: wir schreiben hier Zuweisungen in der Form h b/2 (1) q h 2 (2) s c + q (3) w s (4) x w h (5) Variablenname arithmetischer Ausdruck Zuweisungen alle ausführbar, da rechts nur Eingaben b und c benutzt und Variablen, die schon einen Wert haben. keine Unglücke: s ist nie negativ. am Ende hat x immer einen Wert, der die quadratische Gleichung x 2 + bx = c erfüllt. Algorithmusbegriff Lösen einer Sorte quadratischer Gleichungen 8/34

11 Algorithmusbegriff informell Eigenschaften des eben gezeigten Algorithmus: Algorithmus besitzt endliche Beschreibung (ist also ein Wort über einem Alphabet). Beschreibung besteht aus elementaren Anweisungen; jede offensichtlich effektiv in einem Schritt ausführbar Determinismus: nächste elementare Anweisung stets eindeutig festgelegt, nur auf Grund von schon berechneten Ergebnissen und zuletzt ausgeführter elementare Anweisung Aus endlicher Eingabe wird endliche Ausgabe berechnet. Dabei werden endliche viele Schritte gemacht, d. h. nur endlich oft eine elementare Anweisung ausgeführt. Der Algorithmus funktioniert für beliebig große Eingaben. Die Nachvollziehbarkeit/Verständlichkeit des Algorithmus steht für jeden (mit der Materie vertrauten) außer Frage. Algorithmusbegriff Zum informellen Algorithmusbegriff 9/34

12 Diskussion des informellen Algorithmusbegriffs obige Forderungen sind plausibel aber informell: Was soll z. B. offensichtlich effektiv ausführbar heißen? Für harte Beweise benötigt man einen präziseren Algorithmusbegriff. Es hat sich herausgestellt, dass auch Verallgemeinerungen interessant des oben skizzierten Algorithmenbegriffes interessant sind. Dazu gehören zum Beispiel: randomisierte Algorithmen: Zufallsereignisse haben Einfluss auf die Fortsetzung eines Algorithmus Online-Algorithmen: die Eingaben stehen nicht alle zu Beginn zur Verfügung, sondern erst nach und nach, und nicht terminierende sondern unendlich lange laufende Algorithmen (z. B. Ampelsteuerung) usw.... Algorithmusbegriff Zum informellen Algorithmusbegriff 10/34

13 Beweis von al-khwārizmī x 2 b/4 Algorithmusbegriff Korrektheit des Algorithmus zur Lösung einer Sorte quadratischer Gl

14 Beweis von al-khwārizmī (b/4)x b/4 (b/4)x x 2 (b/4)x (b/4)x b/4 b/4 b/4 Algorithmusbegriff Korrektheit des Algorithmus zur Lösung einer Sorte quadratischer Gl

15 Beweis von al-khwārizmī b/4 x 2 b/4 b/4 x 2 + bx = c b/4 Algorithmusbegriff Korrektheit des Algorithmus zur Lösung einer Sorte quadratischer Gl

16 Beweis von al-khwārizmī b/4 x 2 b/4 b/4 b/4 x 2 + bx = c 4 b 2 /16 = b 2 /4 = q Algorithmusbegriff Korrektheit des Algorithmus zur Lösung einer Sorte quadratischer Gl

17 Beweis von al-khwārizmī b/4 x 2 b/4 b/4 x 2 + bx = c 4 b 2 /16 = b 2 /4 = q c + q = (b/4 + x + b/4) 2 c + q b/2 = x b/4 Algorithmusbegriff Korrektheit des Algorithmus zur Lösung einer Sorte quadratischer Gl

18 Beweis durch Nachrechnen / b > 0 c > 0 h b/2 / h = b/2 q h 2 / q = b 2 /4 s c + q / s = c + b 2 /4 w s / w = c + b 2 /4 x w h / x = c + b 2 /4 b/2 / x 2 + bx = ( c + b 2 /4 b/2) 2 + b( c + b 2 /4 b/2) / x 2 + bx = c + b 2 /4 b c + b 2 /4 + b 2 /4 + b c + b 2 /4 b 2 /2) / x 2 + bx = c Algorithmusbegriff Korrektheit des Algorithmus zur Lösung einer Sorte quadratischer Gl

19 Wie geht es weiter... in dieser Vorlesung und in anderen...? im dieser Vorlesung z. B.: Wie kann man sich allgemein von der Richtigkeit solcher Folgen von Rechnungen überzeugen? Ansätze für die Verifikation von Algorithmen Dafür braucht man aber einen präzisen Algorithmenbegriff, eine präzise Spezifikation von Verhalten eines Algorithmus Schlagwort Semantik eine präzise Spezifikation von was ist richtig präzise Methoden, um z. B. zu beweisen, dass das Verhalten eines Algorithmus der Spezifikation genügt. Dazu kommt in allen Fällen auch eine präzise Notation, die zumindest bei der Verarbeitung durch Rechner nötig ist. Algorithmusbegriff Wie geht es weiter? 13/34

20 Wie geht es weiter...? (2) Weitere Punkte, die wir aufgreifen und in verschiedenen Richtungen weiter vertiefen werden: Präzisierungen des Algorithmenbegriffes: Sie kennen inzwischen z. B. Grundzüge einer Programmiersprache. praktisch, wenn man tatsächlich Algorithmen so aufschreiben will, dass sie ein Rechner ausführen können soll. unpraktisch, wenn man z. B. beweisen will, dass ein bestimmtes Problem durch keinen Algorithmus gelöst werden kann. einfachere Modelle wie Registermaschinen oder Turingmaschinen Algorithmusbegriff Wie geht es weiter? 14/34

21 Wie geht es weiter...? (3) Weitere Punkte, die wir aufgreifen und in verschiedenen Richtungen weiter vertiefen werden: präzise Notationen für das richtige Verhalten Zusicherungen: logische Formeln, die Aussagen über (Zusammenhänge zwischen) Variablen machen präzise Methoden, um zu beweisen, dass ein Algorithmus das Richtige tut Schlagworte schwächste Vorbedingung, Schleifeninvarianten präzise Notationsmöglichkeiten, um Aufgaben dem Rechner übertragen zu können Wie legt man fest, was syntaktisch korrekt ist? Wie stellt man fest, ob etwas syntaktisch korrekt ist? Schlagwort formale Sprachen Algorithmusbegriff Wie geht es weiter? 15/34

22 Mathematisches Vorgeplänkel Definiere zwei binäre Operationen div und mod für x, y N 0 : x mod y der Rest der ganzzahligen Division von x durch y x div y das Ergebnis der ganzzahligen Division von x durch y. Daher gilt für x, y N 0 stets: x = y (x div y) + (x mod y) Algorithmusbegriff Algorithmus zur Multiplikation nichtnegativer ganzer Zahlen16/34

23 Algorithmus / Eingaben: a G 8, b N 0 / Algorithmusstelle i = 1 P 0 0 P 2 P 1 + x 1 Y 1 X 0 a X 2 X 1 div 2 Y 0 b Y 2 2 Y 1 x 0 X 0 mod 2 x 2 X 2 mod 2 / Algorithmusstelle i = 0 / Algorithmusstelle i = 2 P 1 P 0 + x 0 Y 0 P 3 P 2 + x 2 Y 2 X 1 X 0 div 2 X 3 X 2 div 2 Y 1 2 Y 0 Y 3 2 Y 2 x 1 X 1 mod 2 x 3 X 3 mod 2 / Algorithmusstelle i = 1 / Algorithmusstelle i = 3 Algorithmusbegriff Algorithmus zur Multiplikation nichtnegativer ganzer Zahlen17/34

24 Beispielrechnung Es sei a = 6 und b = 9 P i X i Y i x i i = i = i = i = Algorithmusbegriff Algorithmus zur Multiplikation nichtnegativer ganzer Zahlen18/34

25 Beispielrechnung Es sei a = 6 und b = 9 P i X i Y i x i i = i = i = i = Am Ende ist P 3 = 54 = a b Wollen beweisen: Das klappt immer! Algorithmusbegriff Algorithmus zur Multiplikation nichtnegativer ganzer Zahlen18/34

26 Annäherung an einen Korrektheitsbeweis P 3 wird mit Hilfe von P 2 ausgerechnet. Also sollte man auch etwas über P 2 wissen. und über P 1 auch, usw. Analog sollte man am besten etwas über alle X i und Y i wissen. Algorithmusbegriff Algorithmus zur Multiplikation nichtnegativer ganzer Zahlen19/34

27 Annäherung an einen Korrektheitsbeweis P 3 wird mit Hilfe von P 2 ausgerechnet. Also sollte man auch etwas über P 2 wissen. und über P 1 auch, usw. Analog sollte man am besten etwas über alle X i und Y i wissen. Angenommen, uns gelingt es, etwas Passendes hinzuschreiben, d. h. eine logische Formel, die eine Aussage A i über die interessierenden Werte P i, x i, X i und Y i macht. Was dann? Algorithmusbegriff Algorithmus zur Multiplikation nichtnegativer ganzer Zahlen19/34

28 Annäherung an einen Korrektheitsbeweis P 3 wird mit Hilfe von P 2 ausgerechnet. Also sollte man auch etwas über P 2 wissen. und über P 1 auch, usw. Analog sollte man am besten etwas über alle X i und Y i wissen. Angenommen, uns gelingt es, etwas Passendes hinzuschreiben, d. h. eine logische Formel, die eine Aussage A i über die interessierenden Werte P i, x i, X i und Y i macht. Was dann? vollständige Induktion Algorithmusbegriff Algorithmus zur Multiplikation nichtnegativer ganzer Zahlen19/34

29 Annäherung an einen Korrektheitsbeweis (2) Problem: Induktionsbeweise sind am Anfang schon schwer genug. Aber müssen wir auch erst noch Aussagen A i finden, die wir erstens beweisen können, und die uns zweitens zum gewünschten Ziel führt. Algorithmusbegriff Algorithmus zur Multiplikation nichtnegativer ganzer Zahlen20/34

30 Annäherung an einen Korrektheitsbeweis (2) Problem: Induktionsbeweise sind am Anfang schon schwer genug. Aber müssen wir auch erst noch Aussagen A i finden, die wir erstens beweisen können, und die uns zweitens zum gewünschten Ziel führt. Passende Aussagen zu finden ist nicht immer ganz einfach und Übung ist sehr(!) hilfreich. Hinweise durch Wertetabelle: P i X i Y i x i i = i = i = i = Algorithmusbegriff Algorithmus zur Multiplikation nichtnegativer ganzer Zahlen20/34

31 Annäherung an einen Korrektheitsbeweis (3) Herumspielen liefert, dass jedenfalls im Beispiel für jedes i G 4 die folgende Aussage wahr ist: i G 4 : X i Y i + P i = a b Das formen wir noch in eine Aussage für alle nichtnegativen ganzen Zahlen um: i N 0 : i < 4 = X i Y i + P i = a b Wir beweisen nun durch vollständige Induktion die Formel wobei A i die Aussage ist: i N 0 : A i i < 4 = X i Y i + P i = a b. Algorithmusbegriff Algorithmus zur Multiplikation nichtnegativer ganzer Zahlen21/34

32 Korrektheitsbeweis (1) Induktionsanfang i = 0: Aufgrund der Initialisierungen der Variablen ist klar: X 0 Y 0 + P 0 = ab + 0 = ab. Induktionsschritt i i + 1: Induktionsvoraussetzung: für ein beliebiges aber festes i gelte Induktionsschluss: zu zeigen: i < 4 = X i Y i + P i = a b i + 1 < 4 = X i+1 Y i+1 + P i+1 = a b Algorithmusbegriff Algorithmus zur Multiplikation nichtnegativer ganzer Zahlen22/34

33 Korrektheitsbeweis (2) Induktionsvoraussetzung: i < 4 = X i Y i + P i = a b Induktionsschluss: Zeige: i + 1 < 4 = X i+1 Y i+1 + P i+1 = a b. Wenn i + 1 < 4, dann auch i < 4 und nach Ind.vor. gilt: X i Y i + P i = a b. Wir rechnen nun: X i+1 Y i+1 + P i+1 = (X i div 2) 2Y i + P i + x i Y i = (X i div 2) 2Y i + P i + (X i mod 2)Y i = (2(X i div 2) + (X i mod 2))Y i + P i = X i Y i + P i = ab. erste beiden Gleichheiten wegen der Zuweisungen im Algorithmus, vierte wegen Gleichung aus mathematischem Vorgeplänkel, die letzte nach Induktionsvoraussetzung. Algorithmusbegriff Algorithmus zur Multiplikation nichtnegativer ganzer Zahlen23/34

34 Korrektheitsbeweis (3): das fehlende Puzzlestück Wissen wir nun, dass am Ende des Algorithmus P = ab ist? Nein: bisher nur bewiesen, dass: P 3 + X 3 Y 3 = ab Wertetabelle zeigt, dass im Beispiel aber X 3 = 0. Beweisen wir, dass auch das für alle Eingaben a G 8 und b N 0 gilt. Wie? Beobachtung: Die X i werden der Reihe nach immer kleiner. Und zwar immer um mindestens die Hälfte, denn X i div 2 X i /2. Mit anderen Worten: X 0 a X 1 X 0 /2 a/2 X 2 X 1 /2 a/4 Wie man die Pünktchen weg bekommt wissen wir schon: vollständige Induktion. Algorithmusbegriff Algorithmus zur Multiplikation nichtnegativer ganzer Zahlen24/34

35 Korrektheitsbeweis (4): das fehlende Puzzlestück Die Induktion ist so einfach ist, dass wir ihn hier schon nicht mehr im Detail durchführen müssen. Ergebnis i N 0 : i < 4 = X i a/2 i. Insbesondere ist also X 2 a/4. Nach Voraussetzung ist a < 8 folglich X 2 < 8/4 = 2. Da X 2 eine ganze Zahl ist, ist X 2 1. Und daher ist das zuletzt berechnete X 3 = X 2 div 2 = 0. Algorithmusbegriff Algorithmus zur Multiplikation nichtnegativer ganzer Zahlen25/34

36 Der Algorithmus, anders aufgeschrieben Die Indizes sind gar nicht wichtig: / Eingaben: a G 8, b N 0 / Algorithmusstelle i = 1 P 0 P P + x Y X a X X div 2 Y b Y 2 Y x X mod 2 x X mod 2 / Algorithmusstelle i = 0 / Algorithmusstelle i = 2 P P + x Y P P + x Y X X div 2 X X div 2 Y 2 Y Y 2 Y x X mod 2 x X mod 2 / Algorithmusstelle i = 1 / Algorithmusstelle i = 3 Algorithmusbegriff Multiplikationalgorithmus mit einer Schleife 26/34

37 for-schleifen dreimal exakt der gleiche Algorithmustext das kürzen wir ab: for Schleifenvariable Startwert to Endwert do od sogenannter Schleifenrumpf, der aus mehreren Anweisungen bestehen darf Bedeutung: Schleifenrumpf wird nacheinander für jeden Wert der Schleifenvariable durchlaufen als erstes für den Startwert Bei jedem weiteren Durchlauf wird die Schleifenvariable um 1 erhöht. Der letzte Durchlauf findet für den Endwert statt. Falls Endwert < Anfangswert, wird der Schleifenrumpf überhaupt nicht durchlaufen. Algorithmusbegriff Multiplikationalgorithmus mit einer Schleife 27/34

38 Multiplikationalgorithmus mit for-schleife / Eingaben: a G 8, b N 0 X a Y b P 0 x X mod 2 for i 0 to 2 do / Algorithmusstelle i P P + x Y X X div 2 Y 2 Y x X mod 2 / Algorithmusstelle i + 1 od / Ergebnis: P = a b Algorithmusbegriff Multiplikationalgorithmus mit einer Schleife 28/34

39 Bedeutung des Induktionsbeweises für die Schleifenschreibweise Entfernen der Indizes aus den Aussagen A i P i + X i Y i = ab liefert Alle sehen gleich aus! P + XY = ab A i war Aussage darüber, was an Algorithmusstelle i gilt. Das bedeutet nun: nach i Schleifendurchläufen bzw. vor dem i + 1-ten Schleifendurchlauf. Bewiesen: Aus der Gültigkeit von A i folgt die von A i+1. Wir haben also gezeigt: Wenn die Aussage P + XY = ab vor dem einmaligen Durchlaufen des Schleifenrumpfes gilt, dann gilt sie auch hinterher wieder. Diese Aussage ist eine sogenannte Schleifeninvariante. Algorithmusbegriff Multiplikationalgorithmus mit einer Schleife 29/34

40 Schleifeninvariante Der Induktionsanfang war nichts anderes als der Nachweis, dass die Schleifeninvariante vor dem ersten Betreten der Schleife stets gilt. Der Induktionsschritt war der Nachweis, dass die Wahrheit der Schleifeninvariante bei jedem Durchlauf erhalten bleibt. Algorithmusbegriff Multiplikationalgorithmus mit einer Schleife 30/34

41 Schleifeninvariante Der Induktionsanfang war nichts anderes als der Nachweis, dass die Schleifeninvariante vor dem ersten Betreten der Schleife stets gilt. Der Induktionsschritt war der Nachweis, dass die Wahrheit der Schleifeninvariante bei jedem Durchlauf erhalten bleibt. Also: Wenn die Schleife jemals zu einem Ende kommt und etwas anderes ist bei einer for-schleife wie eben beschrieben gar nicht möglich, dann gilt die Schleifeninvariante auch zum Schluss. Algorithmusbegriff Multiplikationalgorithmus mit einer Schleife 30/34

42 Verallgemeinerung des Algorithmus für beliebig große Eingaben a Wir wollen, dass der Algorithmus er für alle a N 0 funktioniert. Wo wurde die Bedingung a < 8 verwendet? nur an einer Stelle: beim Nachweis, dass X 3 = 0 ist. Für z. B. a = 4711 ist man natürlich nach drei Schleifendurchläufen noch nicht bei X = 0. Dafür muss man öfter den Wert X halbieren. Es ist also eine größere Anzahl n von Schleifendurchläufen notwendig. Wieviele? Man betrachte noch einmal Ungleichung X i a/2 i Man ist fertig, wenn vor dem letzten Durchlauf gilt: X n 1 1. Algorithmusbegriff Multiplikationalgorithmus mit einer Schleife 31/34

43 Verallgemeinerung des Algorithmus für beliebig große Eingaben a (2) X n 1 1 gilt, wenn also also also a/2 n 1 1 a 2 n 1 n 1 log 2 a n 1 + log 2 a Algorithmusbegriff Multiplikationalgorithmus mit einer Schleife 32/34

44 Verallgemeinerung des Algorithmus für beliebig große Eingaben a (3) / Eingaben: a N 0, b N 0 X a Y b P 0 x X mod 2 n 1 + log 2 a for i 0 to n 1 do P P + x Y X X div 2 Y 2 Y x X mod 2 od / Ergebnis: P = a b Algorithmusbegriff Multiplikationalgorithmus mit einer Schleife 33/34

45 Zusammenfassung Wir haben den informellen Algorithmusbegriff kennengelernt, eine Reihe von Andeutungen von Fortsetzungen der Vorlesung und des Studiums gesehen, u. a. vollständige Induktion benutzt, um Korrektheit eines Algorithmus zu beweisen, den Begriff der Schleifeninvariante kennengelernt. Algorithmusbegriff Multiplikationalgorithmus mit einer Schleife 34/34