Fibonacci-Suche. Informatik I. Fibonacci-Suche. Fibonacci-Suche. Einführung. Rainer Schrader. 24. Mai 2005

Transkript

1 Fibonacci-Suche Informatik I Einführung Rainer Schrader Zentrum für Angewandte Informatik Köln 4. Mai 005 Grundidee wie bei der Binärsuche, aber andere Aufteilung Fibonacci-Zahlen: F 0 = 0 F 1 = 1 F m = F m 1 + F m für m vereinfachende Annahme: Sei n = F m 1 für geeignetes m. Beispiel für (m = 8): 1 8 = i = Fm 0 = n = Fm 1 = Fm 1 1 = Fm / 43 / 43 Beispiel für (m = 8): Fibonacci-Suche 1 8 = i = Fm 0 = n = Fm 1 Fibonacci-Suche 1 8 = i = Fm 0 = n = Fm 1 = Fm 1 1 = Fm 1 1 = Fm 1 1 = Fm 1 1 Fibonacci-Suche Sei n = F m 1 für geeignetes m. setze i = F m vergleiche den zu suchenden Schlüssel k mit A(i): ist A(i) = k : Suche erfolgreich ist A(i) > k : durchsuche den linken Bereich mit F m 1 n ist A(i) < k : durchsuche den rechten Bereich mit F m 1 1 n Suche im rechten Bereich: Suche im linken Bereich: 1 5 = i = Fm 3 1 = Fm = Fm 3 1 = Fm = i = Fm 4 = Fm 1 = Fm = Fm / 43 4 / 43

2 Fibonacci-Suche Fibonacci-Suche programmtechnische Umsetzung Sei n = F m 1 für geeignetes m. wir speichern ein Paar (f 1, f ) = (F m 3, F m ) wir testen an der Stelle f Suche im rechten Intervall der Länge F m 1 1: ist f 1 = 0 : F m 3 = 0, F m = 1 F m 1 1 = F m 3 + F m 1 = 0, d.h. die Suche bricht ab. andernfalls merken wir uns (f 1, f ) = (F m 4, F m 3 ) = (f f 1, f 1 ) Suche im linken Intervall der Länge F m 1 : ist f = 1, so ist F m 1 = 0, d.h. die Suche bricht ab. andernfalls merken wir uns (f 1, f ) = (F m 5, F m 4 ) = (f 1 f 1, f f 1 ) fibonacci_search(a, m, k) // sucht nach Position mit Schlüssel k // im Bereich A[1..n] mit (n = F(m)-1), // liefert 0, falls nicht vorhanden pos = -1; f1 = F(m-3); f = F(m-); i = f; while (pos < 0) do if (k > A(i)) // Durchsuche den oberen Bereich if (f1 = 0) // nicht vorhanden then pos = 0 else i = i + f1 t = f1 f1 = f - f1 f = t end if else if (k < A(i)) // Dursuche den unteren Bereich if (f = 1) // nicht vorhanden then pos = 0 else i = i - f1 f = f - f1 f1 = f1 -f end if else pos = i // gefunden end if return pos 5 / 43 / 43 Analyse der Fibonacci-Suche Analyse der Fibonacci-Suche wir starten mit einem Intervall der Länge F m 1 das nächste Intervall hat eine Länge von höchstens F m damit benötigen wir höchstens m Schlüsselvergleiche Damit ist F m c m mit einer Konstanten c. Für n + 1 = F m c m benötigen wir maximal m Vergleiche damit folgt: C max (n) = Θ(log (n + 1)) = Θ(log n). Lemma F m = 1 h m Beweis per Induktion. Hierbei steht für kaufmännisches Runden. m i D 1 = 5 ( ) me. Es gilt auch (ohne Beweis): C avg (n) = Θ(log n). Das ist die gleiche Größenordnung wie bei der Binärsuche, aber hier haben wir keine Divisionen, nur Additionen und Subtraktionen. genauer: keine Shiftoperationen. 8 / 43 9 / 43

3 Exponentielle Suche Exponentielle Suche Wenn n sehr groß ist, kann es sinnvoll sein, zunächst einen Bereich zu bestimmen, in dem ein gegebener Schlüssel liegen muß, falls er vorhanden ist. Idee der exponentiellen Suche wir verdoppeln in jedem Schritt den Suchbereich bis wir ein Intervall gefunden haben mit A( i ) < k A(i) in diesem Intervall suchen wir binär weiter. exponential_search(a, n, k) // suche nach Position mit Schlüssel k im Bereich A[1..n] if ((k<a(1) or k>a(n))) return 0 else i = 1 while ((k>a(i)) und (i<n)) do i = i + i if (i>n) i = n return binary_search(a,i/,i,k) / 43 1 / 43 Analyse der exponentiellen Suche Interpolationssuche Annahme: alle Schlüssel sind verschieden, positiv und ganzzahlig. Schlüssel wachsen mindestens so schnell wie die Indizes der wird in der while-schleife d -mal verdoppelt, so gilt d 1 A( d 1 ) < k < A( d ) d < 1 + log k = Θ(log k ) Vergleiche. der Suchbereich enthält dann höchstens d 1 < k Schlüssel Θ(log k ) Vergleiche in binary_search im worst case. die Gesamtlaufzeit beträgt somit Θ(log k ). sinnvoll, wenn k n gilt. Sucht man im Telefonbuch den Namen Ackermann, so wird man vorne aufschlagen, bei Knuth eher in der Mitte. m Binärsuche: m = jl + 1 (r l) Unter der Annahme der gleichmäßigen Verteilung der Schlüssel ersetzen wir 1 durch die erwartete Position des Suchschlüssels Es lässt sich zeigen: Satz m = l + k A(l) (r l). A(r ) A(l) Sind die n Schlüssel unabhängig und gleichverteilt aus einem Intervall I, so beträgt die mittlere Suchzeit O(log log n). Aber: worst-case Θ(n), schlechter als binäre Suche. 13 / / 43

4 quadratische Binärsuche Versuch, unter Beibehaltung der guten mittleren Laufzeit die worst-case-laufzeit zu verbessern. quadratische Binärsuche seien wie vorher A(1) <... < A(n) zusätzlich A(0) < A(1), A(n + 1) > A(n) führe einen Schritt der Interpolationssuche aus teile das verbleibende Suchintervall in Subintervalle der Größe n auf führe lineare Suche auf diesen Subintervallen duch und bestimme das Subintervall, in dem x liegen müßte wende das Verfahren rekursiv auf dieses Subintervall an. quadratische Binärsuche setze l := 0, r := n + 1 und rufe quadratische Binärsuche(A,k,l,r) auf. quadratische Binärsuche(A,k,l,r) (1) setze aktuell := l + k A(l) (r l) A(r ) A(l) () ist k = A(aktuell), stop. (3) ist k > A(aktuell), setze l := aktuell + 1 (4) ist k < A(aktuell), setze r := aktuell 1 (5) bestimme durch lineare Suche ein i mit A(l + (i 1) n ) k A(l + i n ) (6) wende Verfahren rekursiv an auf das Intervall [l + (i 1) n, l + i n ]. n n n n n 15 / / 43 quadratische Binärsuche quadratische Binärsuche Satz Es läßt sich zeigen: Lemma Seine die Schlüssel unabhängig und gleichverteilt über (A(0), A(n + 1)). Dann ist die mittlere Anzahl C der Vergleiche pro Programmaufruf der quadratischen Binärsuche höchstens 3. das Verfahren findet im Mittel nach drei Schritten das Intervall der Größe n, in dem k liegen müßte. Daraus läßt sich die mittlere Laufzeit abschätzen: Unter der obigen Voraussetzung betragen die mittleren Kosten T avg (n) der quadratischen Binärsuche O(log log n). Beweis: Es gilt: T avg (1) 1, T avg () und T avg (n) C + T avg ( n) für n 3. Wir zeigen per Induktion T avg (n) + C log log n: T avg (n + 1) C + T avg ( p n + 1) = C + + C log log((n + 1) 1 ) = C + + C log 1 log(n + 1) = + C log log(n + 1) Im schlimmsten Fall beträgt die Suchzeit n 1 + n = O( n) Einheiten. 1 / / 43

5 quadratische Binärsuche exponentielle und binäre Suche setze l := 0, r := n + 1 und rufe quadratische Binärsuche(A,k,l,r) auf.. Versuch, unter Beibehaltung der guten mittleren Laufzeit die worst-case-laufzeit zu verbessern. exponentielle und binäre Suche seien wie vorher A(1) <... < A(n) zusätzlich A(0) < A(1), A(n + 1) > A(n) führe einen Schritt der Interpolationssuche aus zerlege das verbleibende Suchintervall in Subintervalle der Größe n, n, 4 n,... i n auf teile das verbleibende Suchintervall in Subintervalle der Größe n auf führe binäre Suche auf diesen Subintervallen duch und bestimme das Subintervall, in dem x liegen müßte wende das Verfahren rekursiv auf dieses Subintervall an. quadratische Binärsuche(A,k,l,r) (1) setze aktuell := l + k A(l) (r l) A(r ) A(l) () ist k = A(aktuell), stop. (3) ist k > A(aktuell), setze l := aktuell + 1 (4) ist k < A(aktuell), setze r := aktuell 1 (5) bestimme: S(l + i 1 n) < k S(l + i n). (6) auf dem Intervall [l + i 1 n, l + i n] bestimme j durch binäre Suche mit S(l + (j 1) n) < k S(l + j n). () Wende Verfahren rekursiv auf das Intervall [l + (j 1) n, l + j n] an 19 / 43 0 / 43 exponentielle und binäre Suche selbstorganisierende Listen Szenario: Satz Unter der obigen Voraussetzung gilt für die exponentielle und binäre Suche: die Anzahl der Vergleiche im schlechtesten Fall ist O(log n) die Anzahl der Vergleiche im Mittel ist O(log log n) ( da log i i) Datenstruktur: verkettete, unsortierte Listen wiederholte Suchanfragen unterschiedliche Häufigkeiten für die Schlüssel organisiere Liste so um, dass häufige Anfragen am Anfang der Liste 1 / 43 / 43

6 selbstorganisierende Listen Suchverfahren Stragien: Bei jeder Anfrage an einen Schlüssel: vertausche Listenelement mit Element davor, oder erhöhe einen Anfragenzähler und sortiere nach fallendem Zähler, oder setze Element an die Spitze der Liste. zur Suche haben wir bisher lediglich Vergleichsoperationen auf den Schlüsseln zugelassen wir wollen jetzt arithmetische Operationen auf den Schlüsseln erlauben, um daraus die mögliche Position des Datums zu berechnen. 3 / 43 4 / 43 Hashverfahren Anwendungen: Symboltabellen für Compiler (Schlüssel: Bezeichner (Identifiers)) Hashverfahren Bezeichner dürfen 80 Zeichen lang sein das erste Zeichen muss ein Buchstabe sein die folgenden Zeichen können auch Sonderzeichen sein zulässige Bezeichner: davon kommen in einem Programm nur k vor gesucht: Datenstruktur, die Suchen, Einfügen, Entfernen effizient unterstützt deren Größe nur von k abhängt 5 / 43 6 / 43

7 Hashverfahren Hashverfahren gegeben: Datensätze Datensätze werden über Schlüssel identifiziert zu unterstützende Operationen: Suchen, Einfügen, Entfernen bisher: lineare geordnete Listen jetzt: Suchen mittels Schlüsselvergleichen Adressen werden durch eine arithmetische Berechnung ermittelt jeder Schlüssel k wird über eine Adresse h(k ) angesprochen Idee: verallgemeinerte Felder wir verwenden ein Feld T (m) (Hashtabelle) m ist die Größe der Hashtabelle dem Schlüssel k wird eine Adresse h(k ) in T zugeordnet aber Schlüssel können auf dieselbe Adresse abgebildet werden (Kollisionen) Kollisionen: müssen behandelt werden, sollen möglichst selten auftreten, sollen möglichst effizient aufgelöst werden. / 43 8 / 43 Hashverfahren Hashverfahren Szenario Inhaltsangabe: Die Wahl der Hashfunktion Kollisionsbehandlungen die Schlüssel entstammen einer (im allgemeinen großen) Menge U (Universum) die zu speichernden Schlüssel K bilden eine Teilmenge von U üblicherweise ist K U die Größe m der Hashtabelle wird vorab festgelegt, oft ist m K ebenso die Hashfunktion h : U {0,... m 1} 9 / / 43

8 Direkte Adressierung Illustration: (m = ) Direkte Adressierung der einfachste Fall: Alle Schlüssel sind verschieden. U = {0, 1,..., m 1}. U (alle möglichen Schlüssel) Implementierung der Operationen: K (aktulle Schlüssel) verwende Feld T [0,..., m 1] (Adresstabelle) 5 5 T (k ) zeigt auf einen Datensatz mit Schlüssel k suche(t,k): gib T (k ) zurück füge_ein(t,x): T (x.key ) zeigt auf x lösche(t,x): T (x.key ) = nil alle diese Operationen benötigen im worst-case O(1) Zeit / 43 3 / 43 Hashtabellen Illustration: Hashtabellen im Allgemeinen gilt jedoch: K U Ziele: U 0 1 h(k 1 ) Θ( K ) Speicherplatz Suche im Durchschnitt in Θ(1) Zeit Methode: Benutzung einer Hashfunktion k 1 K k 3 k 4 h(k 4 ) h(k ) = h(k 5 ) h : U {0, 1,,..., m 1} k h(k 3 ) k 5 m 1 33 / / 43

9 Hashtabellen Wahl der Hashfunktion Was zeichnet eine gute Hashfunktion aus? Ziel: Die Hashadressen sollen gleichverteilt in {0, 1,..., m 1} sein. Die Verteilung der Adressen hängt ab von der Verteilung der Schlüssel. Probleme: (1) Wie soll man die Hashfunktion wählen? () Wie geht man mit Kollisionen um? Sei p(k ) die Wahrscheinlichkeit, daß Schlüssel k U vorkommt. Gleichverteilungsziel: X p(k ) = 1 für j = 0, 1,..., m 1. m k : h(k )=j Beispiel: Schlüssel sind reelle Zahlen, unabhängig gleichverteilt im Intervall [0, 1). Dann erfüllt das Gleichverteilungsziel. h(k ) = km Problem: Im Allgemeinen kennen wir p(k ) nicht. 35 / / 43 Wahl der Hashfunktion Wahl der Hashfunktion Divisionsmethode Generalannahme: Die Schlüssel sind nichtnegative ganze Zahlen. Eigenschaften h(k ) = k mod m Es ist immer möglich, Schlüssel so zu interpretieren, z.b. Charakterstrings: Jedem Zeichen entspricht im ASCII-Code eine Zahl im Bereich [0,..., 1], z.b. p ˆ= 11, t ˆ= 116 pt ˆ= = 1445 (1) h(k ) kann schnell berechnet werden. () Die richtige Wahl von m (Tabellengröße) ist sehr wichtig. Beispiele Aufteilung in männlich/weiblich Aufteilung nach Wochentagen der Geburt Aufteilung nach Geburtstagen 3 / / 43

10 Divisionsmethode Divisionsmethode zu (): Man sollte vermeiden: m = i : alle bis auf die letzten Binärziffern werden ignoriert. m = i : analog bei Dezimalzahlen. m = r i : analog bei r -adischen Zahlen. m = r i ± j für kleines j: z.b. m = 1 = 1: pt = ( ) mod 1 = 1445 mod 1 = 1 tp = ( ) mod 1 = mod 1 = 1 dasselbe passiert, wenn in einer längeren Zeichenkette zwei Buchstaben vertauscht werden allgemein gilt: sei A ein Alphabet mit den Buchstaben 0,..., p 1 sei k eine Zeichenkette über A, k eine Permutation von k dann ist: k k mod p. Übungsaufgabe: warum? 39 / / 43 Divisionsmethode Wahl der Hashfunktion Multiplikationsmethode Gute Wahl: Primzahl m, die kein r i ± j, j klein, teilt. Praktisch bewährt Beispiel: Die Hashtabelle soll ca. 00 Einträge aufnehmen, die Schlüssel sind Zeichenketten, interpretiert als -adische Zahlen. Gute Wahl: m = 01, da 9 = 51 und = 4. Sei 0 < A < 1. Setze: Eigenschaften h(k ) = m(k A mod 1) = m (k A k A ) {z } [0,1) (1) Die Wahl von m ist unkritisch. () Wir erhalten eine gleichmäßige Verteilung für U = {1,,..., n} bei einer guten Wahl von A. 41 / 43 4 / 43

11 Multiplikationsmethode zu (): Irrationale Zahlen sind eine gute Wahl, denn: Satz Sei ξ eine irrationale Zahl. Plaziert man die Punkte ξ ξ, ξ ξ,..., nξ nξ in das Intervall [0, 1], dann haben die n + 1 Intervallteile höchstens drei verschiedene Längen. Außerdem fällt der nächste Punkt in einen der größten Intervallteile. (n + 1)ξ (n + 1)ξ 43 / 43