MGI Exkurs: Rechnen. Prof. Dr. Wolfram Conen Version 1.0a2. Prof. Dr. W. Conen, FH Gelsenkirchen, Version 1.0a2 1

Transkript

1 MGI Exkurs: Rechnen Prof. Dr. Wolfram Conen Version 1.0a2 Version 1.0a2 1

2 Schauen Sie sich um Computer und Netzwerke sind überall! Sie ermöglichen ein feingesponnenes Geflecht komplexer menschlicher Aktivitäten: Erziehung, Geschäftsleben, Unterhaltung, Forschung, Produktion, Gesundheitsmanagement, menschliche Kommunikation, selbst Kriegsführung Es gibt zwei wichtige technologische Grundlagen dieser faszinierenden Entwicklung: Die offensichtlichere: die atemberaubende Geschwindigkeit, mit der uns Fortschritte in Mikroelektronik und Chip-Design immer schnellere Hardware bringen Die verstecktere Grundlage: Eine intellektuelle Unternehmung, die einen wesentliche Treibstoff für die fortschreitende Computer-Revolution bietet: Die Suche nach effizienten Algorithmen It s a fascinating story. Gather round and listen close. [Sanjoy Dasgupta, Christos Papadimitriou und Umesh Vazirani in Algorithms, 1.ed, McGraw-Hill, 2008] Version 1.0a2 2

3 Schauen Sie sich um Die Suche nach effizienten Algorithmen wird Thema in ADS aber auch in MGI werden wir schon (mathematisch motivierte) Ausflüge dorthin unternehmen zum Beispiel im folgenden. Wir werden uns mit Zahlen beschäftigen und rechnen lernen und mit Hilfe von Primzahlen unseren Freunden (ziemlich) sichere s senden Und natürlich werden wir das so genau anschauen, dass sie selbst per Hand verschlüsseln können werden! Version 1.0a2 3

4 Algorithmen mit Zahlen Im folgenden werden zwei sehr alte Probleme eine zentrale Rolle spielen: Faktorisierung: Gegeben sei eine Zahl N, stelle sie dar als Produkt ihrer Primfaktoren Prüfen der Primzahleigenschaft: Gegeben sei eine Zahl N, bestimme, ob sie eine Primzahl ist Faktorisierung ist ein hartes Problem: der schnellste bisher bekannte Algorithmus benötigt einen Zeitaufwand, der exponentiell ist zur Zahl der Bits, die N kodieren. Zum Testen der Primzahleigenschaft existiert hingegen ein effizienter Algorithmus (ausführbar mit einem Zeitaufwand, der sich durch ein Polynom abschätzen läßt) Aber mehr dazu später. Version 1.0a2 4

5 Algorithmen mit Zahlen Eine elementare Eigenschaft von Dezimalzahlen: Die Summe von drei beliebigen einstelligen Zahlen ist höchsten zweistellig. Prüfen wir das: Die größte einstellige Zahl ist = 27, die Aussage stimmt also offensichtlich Diese Aussage gilt für Zahlen zu jeder Basis b >= 2 Deshalb können wir beim Addieren zweier Zahlen, egal, wie sie repräsentiert sind, diese immer rechtsbündig untereinander schreiben und dann von rechts nach links ziffernweise addieren und einen (immer) EINSTELLIGEN Übertrag (0 ist auch erlaubt) mitführen, der beim nächsten Durchgang hinzu addiert wird (und wieder nur zu einem einstelligen Übertrag beiträgt, s. unsere Aussage oben). Version 1.0a2 5

6 Algorithmen mit Zahlen Aber was war nochmal eine Basis b? Dezimalzahlen, z.b. 234, lassen sich wie folgt als Summe von Potenzen zur Basis 10 darstellen: 234 = 4* * *10 2 Zur Erinnerung: x 0 ist immer 1, x 1 ist immer x, also gilt auch für x=10: 10 1 = = 10*10 = y = 10 0 = 1 mit genau y Nullen, y >= 0 Die Zahl, die durch 234 im Dezimalsystem repräsentiert wird, läßt sich aber auch zu anderen Basen darstellen Version 1.0a2 6

7 Algorithmen mit Zahlen 234 im Dezimalsystem ist 14* *16 0 = EA im Hexadezimalsystem Basis 16, klar. Dann braucht man aber auch 16 Ziffern also nimmt man noch A (für 10), B (11), C(12), D(13), E (14), F (15), hinzu Das Hexadezimalsystem wird ihnen noch oft begegnen, weil die Wortbreite in Computersystemen regelmäßig durch 8 teilbar ist (früher 8 Bit, später 16, dann 32, heute oft 64) und in 8 Bit genau 256, also 16*16, Werte passen genauer: die Zahlen von 0 bis 255, oder, Hexadezimal, von 00 bis FF (FF = 15* = 255) Version 1.0a2 7

8 Algorithmen mit Zahlen 234 im Dezimalsystem ist = 3* * *8 0 = 352 im Oktalsystem Basis? Klar, 8 Von Dieben im Mittelalter erfunden, weil denen regelmässig beide Daumen abgehackt wurden (zur Strafe ) Auch praktisch, wenn die Wortbreite nur bei 3 Bit (bzw. 6) liegt Denn dann kann man nur die Werte 0..7 kodieren (bei 6- Bit wird man dann zweistellig ) Und das sind genau die Ziffern im Oktalsystem Version 1.0a2 8

9 Algorithmen mit Zahlen Was meint denn Wortbreite? Rechts ist der Speicher ihres Computers Die einzelnen Speicherzellen lassen sich einzeln adressieren Hier z.b. 0, 1, 2, 3 Und die Breite der Zelle meint die Wortbreite (des Speichers), hier wird die Zahl der Bits gezählt, die in eine Zelle passen Der Prozessor kann intern sogar eine andere Breite haben, als der Speicher 0: 1: 2: 3: Version 1.0a2 9

10 Algorithmen mit Zahlen Und was sind Bits? Das sind die kleinsten Informationseinheiten im Rechner, sie sind an oder aus, wahr oder falsch, 1 oder 0 Mit Bits kann man unsere Zahl 234 auch darstellen in der sogenannten Binärdarstellung (binär = zweiwertig): = Wie kommt man drauf? 0: 1: 2: 3: Version 1.0a2 10

11 Algorithmen mit Zahlen 234 = = 1* * * * * * * *2 0 = binär Mit 8 Bit kann man also wieviele Zahlen repräsentieren? Genau: Bei jedem Bit kann man sich zwischen 0 und 1 entscheiden, mit einem Bit hat man also 2 Wahlmöglichkeiten mit zwei Bits kommen noch mal jeweils zwei Möglichkeiten hinzu, also insgesamt 2*2, usw. bei 8 Bit sind es dann: 2*2*2*2*2*2*2*2 = 2 8 = 256 Wieviel sind es bei 16 Bit? Wieviel bei 32? Wieviel bei 64? , , viele (ca. 1, * ) Version 1.0a2 11

12 Algorithmen mit Zahlen Die Frage nach den Wahlmöglichkeiten als Entscheidungsbaum aber nur für 3 Bit Sie müssen drei Fragen mit Ja oder Nein beantworten, wieviele mögliche Kombinationen von Antworten gibt es? Erste Frage: Sind sie reich? Ja (=1) Nein (=0) Zweite: Sind sie schlau? Dritte: Sind sie schön? = 2 3 Version 1.0a2 12

13 Algorithmen mit Zahlen Die Frage nach den Wahlmöglichkeiten als Entscheidungsbaum für 8 Fragen Würde zu einem Baum mit 8 Ebenen mit Frageknoten führen und eine 9te Ebene mit den Antwortknoten, diese Knoten heißen auch Blätter, denn sie haben keine Kinder (anders als die sogenannten inneren Knoten, unseren Frageknoten). Auf der ersten Ebene sind 2 0 Knoten, auf der zweiten doppelt so viele, also 2 1, auf der dritten wieder doppelt so viele, also 2 2, usw. auf der n-ten Ebene sind also 2 n-1 Knoten Auf der 9ten Ebene sind also 2 8 = 256 Blätter Preisfrage: Wieviele innere Knoten gibt es übrigens auf den inneren Ebenen 1 bis 8 insgesamt? Version 1.0a2 13

14 Algorithmen mit Zahlen Preisfrage: Wieviele innere Knoten gibt es übrigens auf den Ebenen 1 bis 8 insgesamt? Rechnen wir mal kurz rückwärts : Wenn es auf Ebene n x Frageknoten gibt, gibt es auf Ebene n+1 2*x Antwortknoten für jeden Frageknoten gibt es ja zwei mögliche Antworten Ja und Nein übrigens, wenn sie jetzt noch vielleicht hinzunehmen, haben sie das Rechnen zur Basis 3 verstanden. Umgekehrt: Wenn wir auf Ebene n sind (n >= 2), dann haben wir genau HALB soviele Knoten auf der Ebene darüber (also auf Ebene n-1). Wenn wir von 256 = 2 8 auf Ebene 9 ausgehen, haben wir auf Ebene 8 genau 256 / 2 = 2 8 / 2 = 2*2*2*2*2*2*2*2 / 2 = 2*2*2*2*2*2*2 = 2 7 Knoten Auf Ebene 7 wieder halb so viele, also 2 6 usw., bis zu 2 0 = 1 Knoten auf Ebene 1. In Summe sind das: = = 255 = = Version 1.0a2 14

15 Algorithmen mit Zahlen Unser JA-NEIN -Entscheidungsbaum ist ein sogenannter Binärbaum ja, richtig, binär war zweiwertig Wenn der Binärbaum n Ebenen hat (also n-1 Fragen gestellt werden), dann hat er genau wieviele Knoten (innere und Blätter zusammen genommen)? Ja, richtig, 2 n 1. Kontrollieren wir das für das Beispiel eben: Wir hatten 9 Ebenen mit 2 8 Blättern auf Ebene 9 und insgesamt inneren Knoten In Summe also (2 * 2 8 ) 1, also 2 9 1, also 2 n 1 für n = 9, also = 511 Übrigens: Wieviele Knoten wären auf Ebene 10 hinzu gekommen? Klar, für jedes Blatt wären zwei neue hinzugekommen, also 256*2 = 2 9 = 512 Vorsicht übrigens: oft spricht man auch von einer Tiefe eines Baumes, und die zählt man manchmal ab 0 (unser Baum hätte dann die Tiefe 8 gehabt) und der oberste Knoten, die sogenannte Wurzel, wäre auf Tiefe 0 gewesen. Version 1.0a2 15

16 Algorithmen mit Zahlen Wie findet man die binäre Darstellung einer Dezimalzahl? Teilen wir mal 234 durch 2, bis es nicht mehr geht: 234 / 2 = / 2 = 58 Rest 1 58 / 2 = / 2 = 14 Rest 1 14 / 2 = 7 7 / 2 = 3 Rest 1 3 / 2 = 1 Rest 1 Wir können also 234 7mal durch 2 teilen und behalten ab und an einen Rest zurück d.h. 2 7 ist schon mal in 234 enthalten, aber nicht 2 8. Und weiter? Jetzt könnten wir 2 7 von 234 abziehen und wieder durch 2 teilen usw. Version 1.0a2 16

17 Algorithmen mit Zahlen Machen wir das einmal: = = / 2 = / 2 = 26 Rest 1 26 / 2 = / 2 = 6 Rest 1 6 / 2 = 3 3 / 2 = 1 Rest 1, hier ging es also noch 6 mal. Mit = = 42 geht es so: 42/2 = 21, 21/2 = 10 Rest 1, 10/2 = 5, 5/2 = 2 Rest 1, 2/2 = 1, also 5 mal Mit = = 10 so: 10/2 = 5, 5/2 = 2 Rest 1, 2/2 = 1, also 3mal. Mit = 10 8 = 2 so: 2/2 = 1, also 1mal. Und dann bleibt nicht übrig, denn = 2 2 = 0. Die 2 passte also 7mal, 6mal, 5mal, 3mal und 1mal in 234. (Geht diese Berechnung auch leichter?) Version 1.0a2 17

18 Algorithmen mit Zahlen Die 2 passte also 7mal, 6mal, 5mal, 3mal und 1mal in 234 und die jeweiligen Reste. In 234 sind also 2 7, 2 6, 2 5, 2 3 und 2 1 als additive Faktoren enthalten. Nun steht, wie im Dezimalsystem, jede Ziffer der Binärzahl je nach Position in der Zahl für eine dieser Potenzen. Wenn man die Positionen von RECHTS zählt, steht die erste Ziffer RECHTS (an Position 0) für den Faktor vor 2 0 (bzw. vor 10 0 im Dezimalsystem) Links daneben dann für den Faktor vor 2 1 usw. Im Binärsystem sind unsere Faktoren alle nur 0 oder 1, wenn die Potenz 2 n in der Zahl vorkommt, steht an der Position n (von rechts gezählt, mit 0 beginnend) eine 1, sonst eine 0 Also ergibt sich für 234: Ausführlich: 1 an Position 7, 1 an Pos. 6, 1 an Pos. 5, 0 an Pos. 4, 1 an Pos. 3, 0 an Pos. 2, 1 an Pos. 1, 0 an Pos. 0 Version 1.0a2 18

19 Algorithmen mit Zahlen Addition, s. oben: Deshalb können wir beim Addieren zweier Zahlen, egal, wie sie repräsentiert sind, diese immer rechtsbündig untereinander schreiben und dann von rechts nach links ziffernweise addieren und einen (immer) EINSTELLIGEN Übertrag (0 ist auch erlaubt) mitführen, der beim nächsten Durchgang hinzu addiert wird Ü = Die 8 binären Rechenregeln für Addition. Die erste Stelle wird in die Übertragszeile eingetragen, die zweite in die Ergebniszeile. Version 1.0a2 19

20 Multiplikation (=13 dezimal) * (=11 dezimal) (1101 mal 1, kein Shift) (1101 mal 1, 1 Links-Shift) (1101 mal 0, 2 Links-Shift) (1101 mal 1, 3 Links-Shift) (=143 dezimal) Ungefähre Kosten: Wenn beide Zahlen n Bits lang sind, dann entstehen n Zwischenreihen mit einer Länge bis zu 2n Bits. Wenn wir jetzt zwei Zeilen addieren und dann das Zwischenergebnis zur nächsten Zeile addieren, dann haben wir ungefähr n-1 mal O(n) Bits zu addieren, in Summe O(n 2 ). Zum O-Kalkül: siehe ATG. Version 1.0a2 20

21 Multiplikation einmal anders Eine Methode, die bereits Al Kwarizmi (der Namensgeber für den Begriff Algorithmus ) im 9. Jahrhundert nach Christi kannte und in einem Buch veröffentlichte: Um zwei Dezimalzahlen x und y zu multiplizieren, schreibe sie zunächst direkt nebeneinander. Wiederhole dann das folgende: Teile die erste Zahl durch 2, runde das Ergebnis ab (abschneiden der Nachkommastelle,5) und verdopple die zweite Zahl fortlaufend. Tue dies, bis die erste Zahl zur 1 wurde. Streiche dann alle Zeilen, in denen die erste Zahl gerade (=even) war und addiere die übrigen Zeilen auf. 11 * Version 1.0a2 21

22 Multiplikation einmal anders 11 * * = (=13) (=26) (=104) (=143) Hier simulieren wir also die normale Multiplikation, allerdings, ohne die Binärrepräsentation der 11 zu kennen (die erzeugen wir aber nebenbei von rechts nach links ) Version 1.0a2 22

23 Multiplikation einmal anders y x 11 * Multiplikationsregel für zwei ganze Zahlen x und y, y >=0: 2(x * xy/2y), falls y gerade x*y = {x + 2(x * xy/2y), falls y ungerade 0, falls y = 0 Hier schneidet xy/2y die Nachkommastelle von y/2 ab Man nennt das die floor-funktion; ceiling gibt es auch, es rundet nach oben auf die nächstgrößere ganze Zahl auf, allerdings nicht, wenn die Ausgangszahl schon ganzzahlig ist. Version 1.0a2 23

24 Multiplikation als Pseudo-Code function multiply(x,y) Input: Zwei ganze n-bit Zahlen x,y mit y >= 0 Output: Das Produkt der Eingabezahlen if y=0: return 0 z = multiply(x, xy/2y) if y is even (gerade): return 2z else: return x + 2z Beispielausführung s. Mitschrieb Aufwand ist übrigens wieder O(n 2 ) Version 1.0a2 24

25 Division Was bedeutet es, eine nicht-negative ganze Zahl x durch eine positive ganze Zahl y, y 0, zu dividieren? Gesucht ist ein Quotient q und ein Rest r, so dass: x = y*q + r Nebenbedingung: 0 <= r < y Beispiel: 17 / 5 = 2*5 + 7? Falsch: r > y 17 / 5 = 3*5 + 2? Korrekt. Version 1.0a2 25

26 Division als Pseudo-Code function divide(x,y) Input: Zwei ganze n-bit Zahlen x,y mit y >= 1 Output: Quotient q und Rest r von x / y if x=0: return (q,r) = (0,0) (q,r) = divide(xx/2y,y) q = 2*q, r = 2*r if x is odd (ungerade): r = r + 1 if r >= y: r = r-y, q = q+1 return (q,r) Beispielausführung s. Mitschrieb Aufwand ist übrigens wieder O(n 2 ) Version 1.0a2 26

27 Modulare Arithmetik Wenn man wiederholt addiert oder multipliziert, können große Zahlen entstehen manchmal umgeht man das, in dem man die Zahl auf 0 zurücksetzt: Beim Zählen der Stunden setzen wir 24 und 0 gleich und beginnen erneut usw. Wir definieren: x modulo N sei der Rest, der bleibt, wenn x durch N geteilt wird, d.h. falls x = q*n+r mit 0<=r<N, dann gilt: x modulo N = r Mit Bezug zu modulo N kann man jetzt sagen: zwei Zahlen x,y sind äquivalent, wenn sie den gleichen Rest beim Teilen durch N erzeugen, also wenn x modulo N = y modulo N, oder, gleichwertig: N teilt (x-y) glatt, also ohne Rest Genau dann schreiben wir auch: x y (mod N) Version 1.0a2 27

28 Modulare Arithmetik Beispiel: (mod 60), denn 253 = 4* , also Rest = 0* , wieder Rest 13 also 253 mod 60 = 13 mod 60 Oder anders: = 240, 240 = 4*6 + 0, also läßt sich (253-13) glatt durch 60 teilen. Das gilt natürlich auch für (13-253) = -240 Version 1.0a2 28

29 Modulare Arithmetik Modulare Arithmetik (z.b. modulo N) limitiert den Wertebereich für die Ergebnisse der arithmetischen Operation, im Beispiel auf [0,..,N-1]. Sobald man an die Grenzen stößt, beginnt man wieder auf der anderen Seite. Man kann aber auch sagen, dass modulare Arithmetik mit allen ganzen Zahlen umgeht, diese allerdings in N sogenannte Äquivalenzklassen unterteilt. Für jede Klasse gilt: {i + kn: k Z} mit 0 <= i < N. Wenn N=3 gilt (also wir modulo 3 rechnen), dann gibt es 3 Äquivalenzklassen (Rest 0) (Rest 1) (Rest 2) Für jedes Zahlenpaar x,x in einer der Klassen gilt: x x (mod N) Aus Sicht der modulo N -Operation sind die Zahlen x und x nicht unterscheidbar. Version 1.0a2 29

30 Modulare Arithmetik Man kann immer noch rechnen (Ersetzungsregel) Falls x x (mod N) und y y (mod N), dann x + y x + y (mod N) x * y x * y (mod N) Praktische Anwendung: sie wollen alle Folgen einer Staffel ihrer Lieblingsserie direkt hintereinander schauen (z.b. House), und sie wollen um Mitternacht damit beginnen. Um wieviel Uhr sind sie fertig? (den Tag ignorieren wir mal ;) Es gibt 25 Episoden, jede dauert 3 Stunden (oops), also sind sie um (25 * 3) mod 24 Uhr fertig. Nun ist 25 1 (mod 24), also gilt mit der Regel oben 1 * 3 = 3 mod 24, also um 3 Uhr am morgen. mit 25 *3 = 75 = 3* wären sie natürlich zum gleichen Ergebnis gekommen sie mußten aber nie die vergleichsweise großen Zahlen 75 und 72 bestimmen. Version 1.0a2 30

31 Modulare Arithmetik Die üblichen Gesetze gelten auch modulo : x + (y + z) (x + y) + z (mod N) x * y y * x (mod N) x (y + z) x * y + y * z Die erste ist die Assoziativitätsregel, die zweite die Kommutativitätsregel, die dritte die Distributivitätsregel. Gemeinsam mit der Ersetzungsregel von der letzten Folie ermöglicht das, dass jedes Zwischenresultat bei modulo - Rechungen durch die Restbildung (also eine modulo - Operation) vereinfacht werden kann. Das werden wir noch nutzen (auch in der Klausur!) Rechnen sie bitte: (278 * 35 * 17 * 78) modulo 13 Version 1.0a2 31

32 Asymmetrische Verschlüsselung Wir brauchen SCHLÜSSELPAARE, z.b. s und s s kann entschlüsseln, was s verschlüsselt und umgekehrt. Wie geht so etwas? Nehmen wir einen sehr einfachen Schlüssel, um das Alphabet A,..,Z zu verschlüsseln: Jedem Buchstaben ist eine Zahl zwischen 0 und 25 zugeordnet, wir nehmen eine sehr einfache Zuordnung: A/0, B/1, C/2, D/3, E/4,, Z/25 Unsere Schlüssel s und s rechnen auf dieser Repräsentation als Zahl: s(x) = (x + 3) modulo 26 s (x) = (x 3) modulo 26 Test: F 5: s(5) = 8, s (8) = 5 Y 25: s(25) = 2, s (2) = 25 Version 1.0a2 32

33 Asymmetrische Verschlüsselung Die Schlüssel: s(x) = (x + 3) modulo 26 s (x) = (x 3) modulo 26 s(gelsenkirchen) = JHOVHQNLUFKHQ s (JHOVHQNLUFKHQ) = GELSENKIRCHEN s (GELSENKIRCHEN) = DBIPBKHFOZEBK s(dbipbkhfozebk) = GELSENKIRCHEN Verschlüsseln sie: INFORMATIK mit s und s X Y Z A B C D E F G H I J K L M N O P Q R S T U V W X Y Z A B C D E F G H I J K L M N O P Q R S T U V W X Y Z A B C Version 1.0a2 33

34 Asymmetrische Verschlüsselung Die Idee ist klar: Was der eine Schlüssel tut, nimmt der andere zurück Er invertiert jeweils, was der andere Schlüssel tat Wir suchen also ein Paar aus Operation und hierzu inverser Operation und natürlich können die nicht so einfach sein, wie unser Schlüsselpaar gerade Es wird noch ein wenig anderes funktionieren: Wir legen Operationen fest und suchen nach Zahlen (nach 3, um genau zu sein), die dann in den Operationen verwendet werden und deren Effekte sich jeweils invers zu einander verhalten Genau das haben wir eben auch gemacht: Die Operation war Addition. s addierte 3 und s das Inverse von 3 bzgl. der Addition, also -3. Genauso gut hätten wir multiplizieren können (z.b. mit 5 und 1/5, allerdings dann ohne etwa abzuschneiden ;) Wir werden zwei Zahlen nutzen, die beim Potenzieren unter modulo bezüglich einer dritten Zahl die Eigenschaft haben, invers zueinander zu sein. Version 1.0a2 34