Wir wollen nun die Behauptung beweisen, dass die Laufzeit von SELECT linear ist, also dass T (n) = O(n) gilt.

Transkript

1 Abschätzung für die Rekursion von SELECT Wir wollen nun die Behauptung beweisen, dass die Laufzeit von SELECT linear ist, also dass T (n) = O(n) gilt. Wir nehmen erst einmal an, dass eine Konstante d existiert, so dass gilt T (n) d n. Nun benutzen wir die Induktion um zu zeigen, dass für ein geeignet gewähltes d dies auch der Fall ist. Induktionsanfang Für n = 1 erkennt man aus Zeile 1 von SELECT, dass T (1) = b und die Behauptung gilt, wenn wir d b wählen. Induktionsschritt Wir nehmen an, dass die Behauptung für alle i n 1 gilt. Mit dieser Voraussetzung können wir zeigen, dass es auch für n gilt. T (n) n T (i) + cn Setzen wir die Induktionsvoraussetzung ein, können wir T (i) durch d i ersetzen und gleich noch das d, welches ja eine Konstante ist, vor die Summe ziehen. T (n) d n i + cn Als nächstes Schätzen wir die Summe, mit dem Satz von Gauss ab. Dabei müssen wir aber die Laufindexe der Summe beachten und den Anteil welches n/ zu viel einbringt wieder abziehen. Nun schätzen wir n/ ab. und somit ist i = n/ n 1 i n(n 1) n(n 1) n/ ( n/ 1) (n/ 1)(n/ ) = 3 8 n + n( ) 1 = 3 8 n + n Dieses Ergebnis setzen wir in die Ungleichung für T (n) ein. T (n) n d ( 3 8 n ) + cn 4

2 die Subtraktion von 1 können wir auch weglassen; die Ungleichung stimmt dann noch immer T (n) n d ( 3 8 n n ) + cn Ausklammern und Zusammenfassen der Konstanten ergibt: T (n) 3 4 nd + 1 d + cn ( ) 3 = 4 d + c n + d Was uns in der Gleichung noch stört ist der Term d. Wir lösen das Problem mit folgenden Kniff. Die 0,75d ersetzen wir durch 0,8d und ziehen die zu vielen 0,05 im zweiten Summanden wieder ab. Wir erhalten also: ( ) 1 T (n) = (0,8d + c)n + d 0,05n Nun kann man erkennen das der Term d ( 1 0,05n) für n 10 kleiner gleich 0 wird und für diese n ergibt sich: T (n) (0,8d + c)n Wenn wir die Ungleichung 0,8d + c d nach d 5c auflösen, erhalten wir letztendlich folgende Ungleichung: T (n) dn Wenn wir d so wählen, das d das Maximum von b und 5c ist, ist gezeigt, dass die Laufzeit linear ist: T (n) = O(n) Ein Problem besteht aber noch. Wir haben während des Beweises folgende Einschränkung gemacht n 10, daher müssen wir noch den Induktionsanfang geeignet umschreiben für n < 10. Wir führen eine Konstante α ein, welche die Laufzeit für die Probleme konstanter Größe (n < 10) beschränkt: T (n) α für n < 10 Daraus folgt das d α sein muss, damit unser Beweis immer noch funktioniert und für d ergibt sich auch d = max(α, 5c). Halten wir also folgenden Satz fest. Satz.4.1. Die erwartete Laufzeit des Algorithmus SELECT für eine Folge S der Länge n ist O(n). Leider haben wir so nur die erwartete Laufzeit bestimmt. Da der Algorithmus vom Zufall abhängt, ist die Laufzeit im schlechtesten Fall größer als O(n). 5

3 Die Begründung hierfür liegt in der Wahl des Pivot-Elementes. Wählen wir das Pivot-Element am Rand der Folge benötigt der SELECT-Algorithmus mehr Zeit, als wenn wir das Pivot-Element genau in der Mitte gewählt hätten. Da unser Pivot-Element nun zufällig gewählt wird, kann es halt am Rand oder auch in der Mitte liegen, wir haben keinen Einfluss darauf. Zum Glück sagt die Statistik, dass es sehr selten ist, dass wir immer Pivot-Elemente bekommen, welche am Rand der Folge liegen..4. Deterministischer SELECT-Algorithmus Betrachten wir nun einen deterministischen Algorithmus, der uns auch im schlechtesten Fall eine lineare Laufzeit garantiert. Der Algorithmus beschränkt sich auf das finden des Median, daher des Elementes welches an der k = n/ -ten Stelle einer Folge S steht. Wenn unser Beweis gelingt, hat man einen Grundstock gelegt, um zu zeigen, dass die lineare Laufzeit auch für ein beliebiges Element der Folge S gilt. Dazu verändern wir nun erstmal die. Zeile von SELECT: falls S < 60 sortiere S und gib das k-te Element der sortierten Folge aus anderenfalls teile S in n/5 Teilfolgen der Länge 5 (o.b.d.a. setzen wir voraus, dass n eine Potenz von 5 ist, wenn nicht müssten wir noch eine Teilfolge mit 1-4 Elementen zusätzlich aufstellen und beachten) sortiere die Teilfolgen und bestimme durch rekursiven Aufruf den Median aller Mediane a dieser Teilfolgen Machen wir uns dieses einmal bildlich klar: Wir stellen die Elemente der sortierten 5-elementigen Teilfolegen in Spalten dar, und zeichnen die -Beziehung als Pfeil, s. Abbildung.1. Zusätzlich sind die Spalten nach deren Medianen sortiert, und die entsprechenden Pfeile sind im Bild eingezeichnet. Wir stellen für die Elemente, über die wir per Pfeil Bescheid wissen, zwei Mengen auf. Menge A enthält alle Elemente von denen es einen gerichteten Pfad zu dem Median a gibt. Das heißt, alle Elemente in A sind a. Analog dazu definieren wir die Menge B als Menge der Elemente zu denen es einen gerichteten Pfad von a gibt, damit sind alle Elemente in B a. Somit steht fest, dass in der Teilfolge S 1 (zur Erinnerung, in Schritt 3 von SELECT wird die Folge S geteilt und S 1 enthält alle Elemente < eines Pivot-Elementes) keine Elemente aus B auftauchen können. Wir können daher die Anzahl der Elemente von S 1 als n Anzahl der Elemente in B abschätzen. B enthält jeweils 3 Elemente aus n/10 Spalten (es gibt n/5 Spalten und die Hälfte davon tragen zu B bei). Damit haben wir: S 1 n 3 n/10 mit n/10 n/10 1: ( n ) n = 0, 7n + 3 6

4 Abbildung.1: Grafische Darstellung der Mediansuche Dieser Ausdruck ist 0, 75n wenn 0, 05n 3 und somit wenn n 60. Analog kann man das ganze für die Folge S 3 und die Menge A machen. Es ergibt sich S 3 3 4n. Dabei darf abgerundet werden, da wir mit ganzen Zahlen arbeiten. So lässt sich, für den zweiten Schritt des modifizierten SELECT-Algorithmus, T (n) wie folgt darstellen. T (n) cn T (n) T ( n 5 ) + T für n 60 und eine Konstante c ( 34 ) n + dn für n > 60 und eine Konstante d Dabei steht T ( n 5 ) für die Suche des Median der Mediane a T ( 3 4 n ) für die rekursive Suche in S 1 oder S 3 dn für das Aufteilen in S 1, S, S 3 und für das Sortieren der Teilfolgen Nun müssen wir begründen warum für n > 60 T (n) = O(n) ist. Allgemein kann man sagen wenn die Summe der Faktoren aller Rekursiven aufrufe kleiner 1 ist gilt O(n). Schreiben wir es aber nochmal formal als Lemma auf: Lemma.4.. Falls für eine Funktion T (n) gilt: 1. T (n) cn für alle n n 0, für ein festes n 0 N 7

5 . T (n) T ( α n ) + T ( β n ) + an für n n 0 mit α, β(konstanten) 0 und α + β < 1 dann ist T (n) = O(n) In unseren Fall haben wir < 1 und somit laut dem Lemma gilt für den modifizierten SELECT-Algorithmus: T (n) = O(n) Bleibt als letzter Punkt das Lemma zu beweisen. Hierzu benutzen wir wieder die Induktion mit folgendem Ansatz bzw. folgender Induktionsvoraussetzung. Wir nehmen an es gilt T (n) bn und wählen b geeignet, so dass der Beweis funktioniert. Induktionsanfang: Für ein n n 0 gilt T (n) cn bn falls b c. Induktionsschritt: Angenommen die Behauptung gilt für alle i, zeigen wir dann für n: T (n) T ( α n ) + T ( β n ) + dn b α n + b β n +dn }{{} nach I.V. Die Ungleichung gilt immer noch wenn wir nicht abrunden. (b(α + β) + d)n bn T (n) bn gilt falls b(α + β) + d b d b(1 (α + β)) und somit d b 1 (α + β) ( ) d Der Induktionsbeweis funktioniert also, wenn wir b mit b = max c, 1 (α β) bestimmen. Halten wir zum Schluss dieses Abschnittes folgenden Satz fest: Satz.4.3. Die deterministische Variante von SELECT bestimmt den Median einer Folge S der Länge n in Laufzeit O(n) auch im schlechtesten Fall. 8