Sortieren Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 1

Transkript

1 Sortieren 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 1

2 Sortiermethoden (Auswahl) Allgemeine Methoden: Sortieren in Arrays Spezielle Methoden: Sortieren von Dateien 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 2

3 Sortieren in Arrays Direkte Methoden (langsam, immer 2 verschachtelte Schleifen) Bubble-Sort (Exchange-Sort, Sortieren durch Austauschen) Selection-Sort (Sortieren durch Auswählen) Insertion-Sort (Sortieren durch Einfügen) Schnelle Methoden Heap-Sort Quick-Sort Merge-Sort ShellSort 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 3

4 Sortieren in Arrays Direkte Methoden (langsam, immer 2 verschachtelte Schleifen) Bubble-Sort (Exchange-Sort, Sortieren durch Austauschen) Selection-Sort (Sortieren durch Auswählen) Insertion-Sort (Sortieren durch Einfügen) Schnelle Methoden Heap-Sort Quick-Sort Merge-Sort ShellSort 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 4

5 Sortieren von Dateien 3-Band-Mischen Einphasen-Mischen (ausgeglichenes Mischen) Natürliches Mischen Mehrphasen-Mischen 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 5

6 Bubble Sort Innere Schleife: Die benachbarten Zahlen werden in ein bubble eingeschlossen und wenn nötig ausgetauscht Die Blase verschiebt sich bis zum Array-Ende Nach 1 Durchlauf durch die äußere Schleife ist die größte (oder kleinste) Zahl ermittelt Äußere Schleife: Falls die größte (kleinste) Zahl bekannt, wird im Rest-Array nach weiterem Maximum (Minimum) gesucht In der äußeren Schleife werden die Margins für den aktuellen Array-Teil festgelegt 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 6

7 Bubble Sort - Beispiel Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 7

8 Bubble Sort mit Merker - Beispiel Merker ausgetauscht löschen Tauschen war notwendig, Merker gesetzt weiter machen, nur wenn Merker gesetzt Merker ausgetauscht löschen kein Tauschen notwendig, Merker bleibt gelöscht kein Tauschen notwendig, Merker bleibt gelöscht kein Tauschen notwendig, Merker bleibt gelöscht Schluss machen! 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 8

9 Selection Sort Wie intuitives Sortieren von wenigen Zahlen: Minimum finden, dann unter den restlichen Zahlen Minimum finden, usw. Innere Schleife: Die 1. Zahl wird als Minimum bezeichnet Sollte die nächste Zahl noch kleiner sein, so wird der Mimimum- Eintrag (Variable min) korrigiert min wird mit der linken Randzahl des aktuellen Array-Abschnitts ausgetauscht Äußere Schleife: Margins für den aktuellen Array-Abschnitt werden festgelegt 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 9

10 Selection Sort - Beispiel tauschen min imin min imin tauschen min imin min imin tauschen 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren kein Tauschen nötig

11 Insertion Sort Sortieren durch Einfügen - Konzept: 2 Zahlen werden sortiert, jede weitere Zahl wird zwischen die bereits sortierten Zahlen eingefügt, bzw. am Anfang oder am Ende einsortiert Algorithmische Umsetzung Grundidee: Äußere Schleife: Von links werden jeweils 2 benachbarte Zahlen in eine Blase eingeschlossen, betrachtet und ggf. ausgetauscht Innere Schleife: nach jedem in der äußeren Schleife erfolgten Tauschvorgang wird die Blase zurück nach links verschoben und es wird geprüft, ob die Ordnung immer noch stimmt; anderseits werden auch diese Zahlen getauscht die Rückwärtsprüfung wird abgebrochen, sobald 1x nicht getauscht werden muss die innere Schleife kommt eventuell nicht einmal zur Ausführung 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 11

12 Insertion Sort (Grundidee) - Beispiel tauschen kein Tauschen notwendig, innere Schleife wird gar nicht ausgeführt tauschen tauschen tauschen tauschen kein Tauschen notwendig, aufhörten, weiter nach links nicht mehr prüfen kein Tauschen notwendig 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 12

13 Insertion Sort - Verbesserung Verbesserung der algorithmischen Umsetzung: es werden nicht die ganzen Tauschvorgänge gemacht, Sondern nur die halben d.h. zunächst überschreibt der linke Nachbar den rechten wenn keine Tauschvorgänge mehr nötig sind, erst dann nehmen wir die Zahl die ursprünglich ganz rechts war (diese müssen wir und natürlich vorher merken) und veranlassen, dass diese Zahl die Zahl ganz links überschreibt. Eigentlich lassen wir dadurch alle am Tauschen beteiligte Zahlen nach rechts rotieren Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 13

14 kopieren nächster Hilfsvariable zurück kopieren nächster 37 kein Tauschen notwendig, innere Schleife wird gar nicht ausgeführt kopieren nächster kopieren nächster Hilfsvariable prüfen, kein zurück kopieren Tauschen notwendig, weiter nach links nicht mehr prüfen Hilfsvariable zurück kopieren prüfen, kein 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 14 Tauschen notw. 15 kopieren kopieren (verbessert) - Beispiel Insertion Sort

15 Merge Sort - Vorstudie 2 vorsortierte Arrays in ein 3. Array mischen (mergen) Array1 (Quelle1) Array2 (Quelle2) Array3 (Ziel) 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren Die kleinere der beiden Zahlen, auf die die Zeiger zeigen, wird in das Zielfeld kopiert Dort, von wo die Zahl kopiert wurde, verschiebt sich der Zeiger nach rechts Array1 (Quelle1) Array2 (Quelle2) Array3 (Ziel) Falls ein Array am Ende, Rest des anderen Array kopieren

16 Merge Sort Idee: Prinzip: Divide et impera Array mit unsortierten Zahlen solange teilen, bis 1-Element-Arrays entstehen In den 1-Element-Arrays sind die Zahlen bereits sortiert!!! Die Arrays werden in umgekehrter Reihenfolge des Teilens wieder gemischt Programmtechnische Umsetzung: Rekursiv! Teil-array teilen und sofort mischen Rekursiver Abschluß: 1-Element-Arrays Beispiel: Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 16

17 Quick Sort #1 Die Idee: Prinzip: Divide et impera Im Array von unsortierten Zahlen wird ein sog. Pivot-Element bestimmt (i.d.r. i.d. Mitte) = Pivot Jetzt möchten wir den Zustand erzielen, dass alle Zahlen links vom Pivot kleiner als Pivot sind und umgekehrt; die Zahlen untereinander werden noch nicht sortiert Dazu suchen wir von links die erste Zahl, die größer ist als Pivot und gleichzeitig von rechts die erste Zahl, die kleiner ist als Pivot L R Wir tauschen die 2 Zahlen L und R Nach jedem Tauschen wird L inkrementiert und L dekrementiert 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 17

18 Quick Sort # L Mit der Suche setzen wir fort, anfangend mit dem rechten Nachbar der links gefundenen Zahl und mit dem linken Nachbar der rechts gefunden Zahl wir gehen aber nie weiter als bis zum Pivot sollte das Pivot-Element betroffen werden, dann wandert er mit Dies machen wir, solange sich die zu prüfenden Zahlen nicht begegnen R 6 25 L 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 18 R R L 18 wird mit sich selbst getauscht, danach R<L => keine weitere Suche nach Tauschkandidaten

19 Quick Sort # Wenn alle Zahlen links vom Pivot kleiner als Pivot und alle Zahlen rechts vom Pivot größer als Pivot sind, wird in entsprechenden Teilen des Arrays Quick-Sort rekursiv ausgeführt: Quick sort erneut rekursiv Folgendes muss noch genau überlegt werden: Kondition für Ende des Suchens/Tauschens Abschlussbedingungen für die rekursiven Aufrufe Analysieren Sie die Beispielprogramme dazu! Quick sort erneut rekursiv 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 19

20 Die Details: Quick Sort #4 Abschlussbedingung bei der Suche nach Tauschkandidaten: L>R Bei der Grobsortierung des Arrays muss nicht unbedingt gelten, dass - die Elemente links vom Pivot < als Pivot und - die Elemente rechts vom Pivot > als Pivot sein müssen Günstiger: Wir teilen das Array in 2 Teile, wobei alle Elemente im linken Teil < alle Elemente in rechten Teil wobei es auf die Lage des Pivot-Elementes nicht ankommt. Das Pivot-Element kann - am Rande der neuen Aufteilung sein - in der neuen Aufteilung enthalten sein, aber nicht am Rande - gar nicht in der neuen Aufteilung enthalten sein Die Grenzwerte von rekursiven Aufruf linker Array-Teil: linker Rand bis letzte Position der rechten Zeigers R Die Grenzwerte von rekursiven Aufruf rechter Array-Teil: letzte Position der linken Zeigers R bis rechter Rand Folglich: Abschlussbedingungen für die rekursiven Aufrufe Rekursion linker Teil: nur wenn linker Rand < letzte Position der rechten Zeigers R Rekursion rechter Teil: nur wenn letzte Position der linken Zeigers R < rechter Rand 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 20

21 Quick Sort #5 Fortsetzung unseres Beispiels: 2. Instanz linker Teil Instanz rechter Teil des in der 2. Instanz bearbeiteteten linker Teils L R R L R R L R L 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 21

22 Quick Sort #6 Fortsetzung unseres Beispiels: 2. Instanz rechter Teil L L R Instanz linker Teil des in der 2. Instanz bearbeiteteten rechten Teils 20 mit sich selbst tauschen L R R R L R L 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 22

23 Quick Sort #7 Fortsetzung unseres Beispiels: Ablaufdiagramm main() quick(0,6) quick(0,2) L L R L R quick(1,2) R L R quick(4,6) L R quick(4,5) rekursiver Abschluss 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 23

24 Quick Sort #8 Eigenschaften: i.d.r. sehr schnell (sehr kurze innere Schleifen) kann leider instabil sein verbraucht wenig Speicherplatz es gibt mehrere Varianten des Algorithmusses Aufwand: average case: O(N log N) wenn ca. gleich viele Zahlen kleiner und größer als das Pivot sind worst case: O(N 2 ) wenn das Pivot das größte (kleinste) Element ist, und das noch bei ca. allen Rekursionen 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 24

25 Shellsort Sortieren durch Einfügen mit abnehmender Schrittweite: Shell = Hülle, Oberfläche Shell sortiert Elemente, die in ausgewählter Entfernung auseinander liegen die Entfernungen (Abstände, Schrittweite) verringern sich mit dem Fortschritt des Verfahrens gern genommene Abstandsfolgen: { i 2 } = 0 { 1,2,4,8,... } a i= 1 = 3an + 1; n > 0, 0 = n+ a 1... { 1,4,13,40,121,... } D.L.Shell (1959) Knuth es wird mit dem größten Abstand begonnen, der in unseren Datenbestand noch hereinpaßt zum eigentlichen Sortieren der ausgewählten Elemente wird ein herkömmliches Sortierverfahren eingesetzt gern genommenen Sortierverfahren: Insertion-Sort (sehr schnell bei vorsortierten Zahlen), Bubble-Sort mit Merkern, schnelle Verfahren 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 25

26 Shellsort - Beispiel 1. alle Elemente, die 4 Positionen auseinander liegen, werden zusammengefasst und sortiert 2. alle Elemente, die 2 Positionen auseinander liegen, werden zusammengefasst und sortiert 3. alle Elemente werden zusammengefasst und sortiert Ausgangsfolge: 4 sortiert sortiert: sortiert: Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 26

27 Shellsort:grafische Darstellung mit Spalten Ausgangsfolge: 1 Sortierung fertig Sortierung Sortierung Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 27

28 Dreiband-Mischen Band Zerlegen = Phase 1 Band Durchlauf } Mischen = Phase 2}ein Band Band 0 Band 1 Band Zerlegen } Mischen Band usw Band Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 28 Abb. 41 c

29 Einphasen-Mischen (ausgeglichenes Mischen) Band Band Band Band Band Band Band Band 4 leer 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 29 Abb. 41 d

30 Natürliches Mischen#1 Definition: Lauf: innerhalb des Laufes gilt: a k <= a k+1 am linken Ende eines Laufes gilt: a i-1 > a i am rechten Ende eines Laufes gilt: a j > a j+1 a i-1 a k+1 a k a j a i a j+1 Lauf 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 30 Abb. 41 e

31 Natürliches Mischen#2 Vorgehensweise: 1. Teilfolgen von Band 0 auf Band 1 und 2 verteilen 2. entsprechende Teilfolgen von Band 1 und Band 2 mischen und auf Band 0 schreiben 3. dann mit 1 weiter, solange, bis auf Band 0 die sortierte Folge steht. a a a c c c c Lauf 1 Lauf 2 Lauf n c b b b Verteilphase Mischphase 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 31 Abb. 41f

32 Natürliches Mischen#3 Band verteilen Band Band2 Band0 Band1 Band mischen verteilen mischen Band verteilen / mischen Band Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 32

33 Mehrphasen-Mischen (Sortieren) Regeln: ist die Anzahl der benötigten Bänder gleich n es werden Laufe gemischt ist ein Band erschöpft, so wird es zum neuen Zielband Band n =Anzahl vorhandener Läufe je Band =Anzahl vorhandener Läufe je Band =Anzahl vorhandener Läufe je Band =Anzahl vorhandener Läufe je Band =Anzahl vorhandener Läufe je Band =Anzahl vorhandener Läufe je Band 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 33 Abb. 41h

34 Band Anzahl Läufe Leer (Zielband) Leer (Zielband) Leer (Zielband) Leer (Zielband) Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 34

35 Programm-Lauftzeit-Abschätzungen Problem: Mehrere Algorithmen zur Lösung einer Aufgabe verfügbar: was nehmen? Unser Programm: wozu? Einmalig, Schnellschuß einfachster Algorithmus Einsatz in der Produktion, jahrelang, mit vielen Daten Untersuchung der Alternativen Kriterien: Einfachheit, Verständlichkeit, gute Dokumentation benötigte Rechenzeit benötigter Hauptspeicherplatz benötigte Plattenzugriffe benötigte Datentransfer im Netzwerk Möglichkeiten zur Bestimmung der Rechenzeit: 1. Benchmarks 2. Analyse 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 35

36 Benchmarks Idee: Zeitkritische Programmteile isolieren Regel: 90% Laufzeit werden in 10% Programmcodes verbraucht Für die zeitkritischen Teile: besonders schnelle Sprachen oder Techniken einsetzen Laufzeitprofile ermitteln Extremfall: Laufzeit des nicht-zeitkritischen Programmteils wird auf 0 gesetzt: vorher: 100% Zeit, nachher = 90% Laufzeit des zeitkritischen Programmteils wird halbiert: vorher: 100% Zeit, nachher /2 = 55% 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 36

37 Analyse 2 Schritte: Wahl einer Maßzahl. Bsp: n Anzahl der zu sortierenden Zahlen Bestimmung der Zeitfunktion T = T(n,t) Unterschiedliche Funktionen für unterschiedliche n: T(10,t) T(100,t) T(10 9,t) Interessant asymptotisches Verhalten (worst case): limt ( n, t) O-Funktionen = obere Schranke für Programm-Laufzeit Ziel: kleineste obere Schranke finden n Aus der Mathe: konstante multiplikative Faktoren sind unwichtig (dort stecken die Maschinen und Compilerdetails) Terme niedriger Ordnung sind unwichtig. Bsp: O(2 n + n 3 ) = O(2 n ) Transitivität Bsp: f(n) = O(g(n)) g(n) = O(h(n)) 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 37 f(n) = O(h(n))

38 Übliche Schranken Konstante O(1) logarithmisch O(log n) linear O(n) n log n O(n log n) quadratisch O(n 2 ) kubisch O(n 3 ) exponentiell O(2 n ) 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 38

39 Anwendung auf Programmanweisungen #1 for-schleife for (i=0; i<n; i++) { //n mal // O(1) // Schleifenkörper: Inhalt unbekannt O(f(n)) } Verzweigung if (Boolscher Ausdruck) { // O(1) // if-zweig: O(f(n)) } else { // else-zweig: O(g(n)) } 3 * O(1) + n*o(f(n)) = O(n*f(n)) O(max(f(n), g(n)) 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 39

40 Anwendung auf Programmanweisungen #2 Block { // Statements } O m ( Block) = ( ) i= 1 O Statement i while- und do-while-schleife while(bedindung) { // O(1) // Schleifenkörper: O(f(n)) } Worst case O(g(n)); O(g(n))*O(f(n)) = O (g(n)*f(n)) Schleifenkörper f(n): wir wissen nicht, was im Körper steht Worst case g(n): wir wissen nicht, wieviel mal die Schleife läuft 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 40

41 Beispiel 1 //Einheitsmatrix aufbauen for (i=0; i<n; i++) // for (j=0; j<n; j++) // a[i][j]=0; // for (i=0; i<n; i++) // a[i][i]=1; // n-mal n-mal O(1) O(n) n-mal O(1) O(n) O(n 2 ) T(n) = O(n 2 ) + O(n) = O(n 2 ) 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 41

42 Beispiel 2 for (i=0; i<n-2; i++) { n-2 - mal small = i; // for (j=i+1;j<=n-1;j++)// n-i-1 - mal if (a[j]<a[small])// small = j; // O(1) max(o(1),0) temp = a[small]; // a[small] = a[i]; // a[i] = temp; // } O(1) O(n-i-1) =O(n) O(1) O(1) O(1) O(n) T(n) = (n-2)*o(n) = O(n 2 ) - O(n) = O(n 2 ) 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 42

43 Sortieraufwand#1 Voraussetzungen: 1. Wirtschaftlicher Einsatz des Speicherraumes 2. Zeitaufwand Zeitaufwand: Effizienz gegeben durch: C... Anzahl der Schlüsselvergleiche (compare); C=f(n) M... Anzahl der Elementumstellungen (move); M=g(n) (n...anzahl der zu sortierenden Elemente) gute Methoden: C = O(n log 2 (n)) schlechtere Methoden C = O(n 2 ) 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 43

44 Sortieraufwand#2 C min C avrg C max M min M avrg M max Insertionsort n-1 (n 2 +n-2)/4 (n 2 +n)/2-1 2(n-1) n 2 +9n-10 (n 2 +3n-4)/4 Selectionsort (n 2 +n)/2 3(n-1) n(ln(n) ) n 2 /4+3(n-1) Bubblesort (n 2 +n)/2 0 3(n 2 -n)/4 (n 2 -n)/2 Shellsort C + M ~ n 1.2 ) Heapsort C max + M max ~ n log 2 (n) Mergesort C max + M max ~ n log 2 (n) Quicksort n log 2 (n) (log 2 (n))/6 Einphasen-Mischen C<<M n log 2 (n) 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 44

45 Suchen 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 45

46 Sequentielle Suche enthalten? z.b. von links suchen, solange - gefunden oder - Array-Ende erreicht (das gesuchte Element nicht enthalten) die Elemente müssen nicht vorher sortiert werde 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 46

47 Binäre Suche enthalten? mitte Prinzip: divide et impera = (elm[linkerrand}+elm[rechterrand])/2 Die Zahlen müssen vorher sortiert werden Funktionsweise: - Die gesuchte Zahl < Mitte? => dann links von der Mitte suchen - Die gesuchte Zahl > Mitte? => dann rechts von der Mitte suchen - Die gesuchte Zahl = Mitte? => gefunden!!! Iterativ oder rekursiv weiter machen, bis 1-Element-Feld 1-Element-Feld geprüft und immer noch nicht gefunden? => => dann ist die Zahl nicht enthalten 2009 Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 47

48 Suche nach: 0 h Suche in Strings u h u l str im string: j 0 a 1 h 2 u 3 h 4 u 5 h 6 u l 7 muster i Funktionsweise: i erhöht sich, sobald muster[i] = str[j] dann werden beiden Zeiger i und j inkrementiert und die Übereinstimmung entsprechender Zeichen geprüft Bei der ersten Ungleichheit: j=0, i geht zurück und zeigt auf den rechten Nachbar vom Zeichen, bei dem die Übereinstimmung began Varianten: nach dem 1. Auftreten, nach allen Sunstrings suchen, etc Jiri Spale, Algorithmen und Datenstrukturen - Sortieren 48