G. Zachmann Clausthal University, Germany Die wichtigsten Entwurfsverfahren für Algorithmen:

Größe: px

Ab Seite anzeigen:

Download "G. Zachmann Clausthal University, Germany Die wichtigsten Entwurfsverfahren für Algorithmen:"

Otto Michel
vor 6 Jahren
Abrufe

lausthal Informatik II Divide & onquer. Zachmann lausthal University, ermany zach@in.tu-clausthal.de Algorithmen-Design-Techniken Die wichtigsten Entwurfsverfahren für Algorithmen: 1.

1 lausthal Informatik II Divide & onquer. Zachmann lausthal University, ermany Algorithmen-Design-Techniken Die wichtigsten Entwurfsverfahren für Algorithmen: 1. Divide and onquer 2. Dynamische Programmierung 3. reedy Verfahren 4. Backtracking Unser erstes allg. Verfahren: Divide and onquer; Divide et impera Allgemeine Problem-unabhängige Formulierung des Prinzips: D&-Verfahren = Methode A zur Lösung des Problems P der röße n: (Basisfall) Falls n < d, löse das Problem direkt, sonst (Divide) teile P in zwei oder mehr kleine Teile P 1,, P k, k 2 (onquer) Löse jedes Teilproblem P i rekursiv mit der Methode A ( Rekursion) (Merge) Setze die Teillösungen zusammen. Zachmann Informatik 2 SS 11 Divide & onquer 2 1

2 Beispiel für Divide-and-onquer: Quicksort Quicksort ist ein klassisches Divide-and-onquer-Verfahren: 1. Divide = Partitionierung mittels Pivot 2. onquer = rekursiver Aufruf (kleineres Arrays sortieren) 3. ombine (merge) = keine Arbeit hier nötig, da die Teilarrays in-situ sortiert wurden 4. Basisfall = Array mit weniger als 1 Element. Zachmann Informatik 2 SS 11 Divide & onquer 3 Schnelle Multiplikation Schulverfahren (nach Adam Riese): x n-1 x n-2... x 1 x 0 y n-1 y n-2... y 1 y 0 c 0 n c0 n-1... c0 0 c 1 n c1 n-1... c c n-1 n cn-1 n-1... cn-1 0 z 2n z 2n z 1 z 0 Anzahl Ziffern-Multiplikationen: n 2 Anzahl Ziffern-Additionen: ~ n 2. Zachmann Informatik 2 SS 11 Divide & onquer 4 2

3 Algorithmus von Karatsuba und Ofman Sei n = 2m und b die Basis einer b-adischen Darstellung (z.b. dezimal b = 10): x = x 0 + x 1 b m y = y 0 + y 1 b m Ann.: shift ist gratis! xy = x 0 y 0 + (x 1 y 0 + x 0 y 1 ) b m + x 1 y 1 b 2m 3 Add. der Länge n=2m (?) m 4 Mult. der Länge m m x 1 y 1 b 2m (x 1 y 0 + x 0 y 1 )b m x 0 y 0. Zachmann Informatik 2 SS 11 Divide & onquer 5 Aufwand Annahme: n = 2 k Additionen Ziffern-Additionen Ziffern-Multiplikationen Fazit: noch keine Verbesserung. Zachmann Informatik 2 SS 11 Divide & onquer 6 3

Der Trick von Karatsuba und Ofman Zu berechnen: Umformung: Berechne also nur noch 3 Produkte:. Zachmann Informatik 2 SS 11 Divide & onquer 7 Aufwand T (n) =3T ( n)+cn 2 =3 3T ( n)+cn 4 2 + cn.

4 Der Trick von Karatsuba und Ofman Zu berechnen: Umformung: Berechne also nur noch 3 Produkte:. Zachmann Informatik 2 SS 11 Divide & onquer 7 Aufwand T (n) =3T ( n)+cn 2 =3 3T ( n)+cn cn. k 1 =3 k T (1) + cn 3 i 2 i=0 O 3 log 2 n = O n log 2 3 Übungsaufgabe: Anzahl Additionen besser abschätzen Der Algorithmus von Karatsuba und Ofman ist schneller, als der bekannte Algorithmus zur Multiplikation, die rekursiven Aufrufe benötigen allerdings mehr Speicherplatz (space-time trade-off). Zachmann Informatik 2 SS 11 Divide & onquer 8 4

5 Anzahl rundoperationen 1e classical Karatsuba Anzahl Stellen. Zachmann Informatik 2 SS 11 Divide & onquer 9 Asymptotische Verbesserung von Schönhage und Strassen Schnelle Multiplikation mit einer Laufzeit von. Zachmann Informatik 2 SS 11 Divide & onquer 10 5

6 Schnelle Matrix-Multiplikation Aufgabe: berechne Normale Matrix-Multiplikation (MM) benötigt O(n 3 ) Multiplikationen (und etwa genauso viele Additionen) eht es schneller? Idee: zerlege A, B, in Blöcke: Ausmultiplizieren ergibt: 8 MM der röße. Zachmann Informatik 2 SS 11 Divide & onquer 11 Idee: berechne diese rekursiv durch Zerlegung in Blöcke Divide-and-conquer-Algorithmus für o.g. Aufgabe Aufwand: für Additionen für Additionen für Multiplikationen. Zachmann Informatik 2 SS 11 Divide & onquer 12 6

7 Idee von Strassen [1969] Berechne zunächst etwas umständliche Zwischenprodukte: Damit kann man die c ij so ausrechnen:. Zachmann Informatik 2 SS 11 Divide & onquer 13 Aufwand T (n) =7T n 2 + cn 2 =7 7T n 4 + c n 2 + cn 2 2 = k 1 =7 k T (1) + cn 2 7 i 4 i=0 c n log cn 2+log 2( 7 4) 7 log2 n 4 = n log 2( 7 4) c n cn O n für Multiplikationen für Additionen. Zachmann Informatik 2 SS 11 Divide & onquer 14 7

8 Bemerkungen Aktuell kleinster Exponent = [oppersmith & Winograd, 1990] Untere Schranke für Exponent = 2 (klar, da n 2 viele Elemente) Eine ähnliche Formel gibt es für Matrix-Inversion. Zachmann Informatik 2 SS 11 Divide & onquer 15 Das losest Points Problem egeben: Menge von n 2D-Punkten esucht: das Paar, das am dichtesten beieinander liegt Offensichtlich gibt es Paare, die Komplexität eines naïven Algo ist also O(n 2 ) Bemerkung: die 1D-Version ist einfach Lösungsansatz: Sortieren Komplexität O(n log n) Mit Divide-and-onquer lässt sich auch für den 2D-Fall O(n log n) erreichen. Zachmann Informatik 2 SS 11 Divide & onquer 16 8

Ein Divide-and-onquer-Algorithmus Idee: Sortiere Punkte nach ihrer x-koordinate und teile zur Hälfte (=

Mitglied Phase 1: sortiere die Punkte nach ihrer x-koordinate P l P l P r P r.

minimalen Abstände d l und d r in Phase 3: finde das dichteste Paar (, ) im "Band" um die Mitte mit der

9 Ein Divide-and-onquer-Algorithmus Idee: Sortiere Punkte nach ihrer x-koordinate und teile zur Hälfte (= Median bestimmen) Das dichteste Paar ist: - entweder in einer der Hälften, - oder hat in jeder Hälfte ein Mitglied Phase 1: sortiere die Punkte nach ihrer x-koordinate P l P l P r P r. Zachmann Informatik 2 SS 11 Divide & onquer 17 Phase 2: berechne rekursiv das dichteste Paar und die minimalen Abstände d l und d r in Phase 3: finde das dichteste Paar (, ) im "Band" um die Mitte mit der Breite 2d, wobei bekannt ist, daß kein (, )- oder (, )-Paar dichter zusammen ist als d P l P r 2d. Zachmann Informatik 2 SS 11 Divide & onquer 19 9

10 d L d R d = min{d L, d R } def close_pts( A ): sortiere A nach der x-koordinate n = len( A ) dl = close_pts( A[1:n/2] ) # T(n/2) dr = close_pts( A[n/2+1:n] ) # T(n/2) d = min( dl, dr ) dm = suche Lösung in der Mitte #? return min( dl, dr, dm ). Zachmann Informatik 2 SS 11 Divide & onquer 20 Phase 3 Sortiere Punkte innerhalb des "Bandes" nach y-koordinaten ehe Punkte im Band der Reihe nach durch Für jeden solchen Punkt p betrachte alle Punkte q aus dem Band, die 1. auf der "anderen" Seite der Trennlinie liegen 2. deren y-koordinate im Intervall [p y -d, p y +d] liegen P l P r 2d Pointer für p geht linear, Pointer für q "oszilliert" Bestimme alle Abstände und wähle den kleinsten Behauptung: zu jedem p aus dem Band kommen nur maximal 6 Punkte q aus dem Band in Frage Aufwand für das gesamte Band ist O(n) + O(n log n). Zachmann Informatik 2 SS 11 Divide & onquer 21 10

11 Beweis Ann.: p und q sind potenzielle dichteste Punkte aus dem Band 1. Es gilt: p muß (obda) links und q rechts von der Trennlinie liegen 2. q kann nicht rechts außerhalb des Bandes liegen 3. Nur Punkte mit y-koordinate im Intervall [p y -d, p y +d] können Partner von p sein d 4. Keine 2 Punkte im grauen Rechteck können dichter als d aneinander liegen! d 5. Max 6 Punkte mit dieser Eigenschaft p y können in das Rechteck gepackt p werden d Trennlinie mögliche q. Zachmann Informatik 2 SS 11 Divide & onquer 22 Zeit-Komplexität Einzelschritte: 1. Divide = Partitionieren (Sortieren nach x-koordinate) O(n log n) 2. Rekursion (onquer) 3. Merge = Sortieren nach y-koordinaten + konstanter Aufwand pro Punkt im Band O(n log n) + O(n) Annahme: n = 2 k. Zachmann Informatik 2 SS 11 Divide & onquer 23 11

12 Bemerkungen Verbesserung: Sortierung nach x-koord muß man nur 1x am Anfang machen Preprocessing-Schritt: sortiere alle Punkte nach ihrer y-koordinate Teile die sortierte Liste vor den rekursiven Aufrufen in zwei Unterlisten für die linke und die rechte Hälfte, wobei die Sortierung nach y-koordinaten erhalten bleibt à Komplexität: O(n log n) Es gilt sogar: Das losest-pair-problem für k-dim. Punkte läßt sich in Zeit O(n log n) lösen! (Bemerkung: Häufig ist das nicht der Fall, d.h., Algos, die in 2D effizient sind, sind im k-dim. nicht mehr effizient [curse of dimensionality] ). Zachmann Informatik 2 SS 11 Divide & onquer 24 12

Ähnliche Dokumente

16. All Pairs Shortest Path (ASPS)

16. All Pairs Shortest Path (ASPS) . All Pairs Shortest Path (ASPS) All Pairs Shortest Path (APSP): Eingabe: Gewichteter Graph G=(V,E) Ausgabe: Für jedes Paar von Knoten u,v V die Distanz von u nach v sowie einen kürzesten Weg a b c d e