Implementierung von Mengen (und Wörterbücher): Alternative zu Suchbäumen

Transkript

1 5.8 HashVerfahren und Anwendungen Implementierung von Mengen (und Wörterbücher): Alternative zu Suchbäumen hash: zerhacken, Hackfleisch Grundidee: Indexierung der Tabelle mit geeignet transformierten Schlüsselwerten {30,63,15, 211,97,19} h(323) = 3 Hashkollision h(x) = x mod 10 berechnet den den Platz von x in der "Hashtabelle" t (in erster Näherung...) t hs / fub alp324hash ? Verfahren (1) Schlüsselmenge K, K groß. Funktion h : K > {0,...,m1} (Hashfunktion) Wertemenge V (optional, nur für Wörterbuch (key, value) ) Tabelle tab Entry[] mit tab.length() == m Implementierung: intern als Feld, extern als Folge von Plattenspeicherblöcken Feldelement vom Typ Entry speichert Schlüssel k und/oder Wert v Tabellenelement ("slot", "bucket") kann b Schlüssel k bzw. Schlüssel / Wertpaare (k,v) speichern hier: BucketGröße b = 1 hs / fub alp324hash1 2 1

2 Verfahren (2) Operationen: boolean insert(key k, Object v) { // requires: k!= null // effects: if tab[h(k)].value = v' replace v' by v // else put v into tab[h(k)] if (tab[h(k)] == null) tab[h(k)].value = v else... ; //hash collision //z.b.:feldimplementierung Object search (Key k){ if (tab[h(k)].key) == k) return tab[h(k)].value else??? //collision or not // found?? } hs / fub alp324hash1 3 Anwendungen Typische Anwendung: Wörterbuch (Map, dictionnary), das für einen Schlüssel den zugehörigen Wert liefert. Beispiele: Telefonbuch: Name+Vorname > Telefonnr; Kasse: Produktcode > Preis; Wörterbuch: Wort > Übersetzung Symboltabelle: Bezeichner > Adresse Kommen sehr häufig in systemnaher Programmentwicklung vor. Weitere Anwendungen: Filtern (z.b Bloomfilter) > s.u. hs / fub alp324hash1 4 2

3 HashKollisionen HashKollision liegt vor, wenn h(k i ) = h(k j ) für k i!= k j (Beispiel: h (23) = h (63)) Annahme: Uniforme Hashfunktion die Wahrscheinlichkeit, dass ein beliebiger Schlüssel x durch h auf Tabellenplatz i 0 <= i < m abgebildet wird, ist W(h(x) == i) = 1/m. Deshalb Benennung: Hashing oder Scatter Storage technique (StreuspeicherVerfahren) Möglich gleichmäßig über alle Plätze der Tabelle streuen. Wie wahrscheinlich sind Kollisionen? Tafel hs / fub alp324hash1 5 HashKollisionen Gängige Verfahren zur Kollisionsbehandlung: Offene Adressierung (= geschlossene Hashtabelle): Finde freien Platz in der Tabelle, z.b. nächster nicht belegter Platz hier: 3 Versuche, bis freier Platz gefunden. Verkettung (Chaining) hs / fub alp324hash1 6 3

4 Verkettung Beispiel {30,15,11,97,19,63 73, 13, 48 } Wie oft treten Kollisionen auf? > Laufzeit? hs / fub alp324hash1 7 Laufzeit bei Verkettung Einfügen: selbst im schlechtesten Fall O(1)! Suche: tab[].length = m n Schlüssel gespeichert Füllungsgrad: α = n/m Annahme: uniformes Hash Schlechtester Fall: O(n) Bester Fall: O(1), nur möglich, wenn α <= 1 Mittlere Laufzeit "Suche Schlüssel k" Nicht erfolgreiche Suche: durchschnittliche Listenlänge tab[i] : n/m hs / fub alp324hash1 8 4

5 Laufzeit bei Verkettung Damit nicht erfolgreiche Suche im Mittel O ( 1 + n/m) unter der Annahme: n/m = const: O(1) Erfolgreiche Suche: 1 + n/2*m 1/2*m = O(1 + α) Operationen Bewertung: unschlagbar schnelles Einfügen / Suchen... wenn "gute" HashFunktion und α nicht zu groß Sonst z.b. "dynamisches Verändern" der Tabellengröße, aufwendig! Sehr einfache Implementierung hs / fub alp324hash1 9 Offene Adressierung Verfahren a) Lineares Sondieren Suche nächsten freien Platz" Gegeben Hashfunktion h, h i (k) = (h(k) +i) mod m Problem: Haufenbildung (Cluster) b) Quadratische Sondieren h i (k) = (h(k) +c1*i + c2*i^2 ) mod m, mit geeigneten Konstanten c1, c2. Immer noch gleich Sondierungsfolge sekundäre ClusterBildung. hs / fub alp324hash1 10 5

6 Offene Adressierung c) DoppelHash mit unabhängigen HashFunktionen h i (k) = (h 1 (k) + i*h 2 (k)) mod m O(m 2 ) Sondierungssequenzen im Vergleich zu O(m) in den Fällen a) und b) hs / fub alp324hash1 11 Offene Adressierung Laufzeit, uniforme HashFunktion vorausgesetzt. a) Nicht erfolgreiche Suche search() Erwartete Anzahl Sondierungen: E(#Sondierungen, nicht erfolgreiche Suche) 1 + n/m + (n/m) (n/m) m1 = 1 / 1 α, α = n/m D.h. einmal muss in jedem Fall sondiert werden, mit Wahrscheinlichkeit n/m einmal,...(n/m) k kmal, k = 1,..m1 b) erfolgreiche Suche: E(# Sondierungen, erfolgreiche Suche) α *(1 + ln (1/1 α ) ) α 1/2 2/3 9/10 Erfolg 1,5 2 5,5 nicht gefunden 2, hs / fub alp324hash1 12 6

7 HashFunktionen DivisionsRestMethode ("Modulare HashFunktion") h(x) = x mod m int hash (int x) {return x% m } Einfach und in oft gute Wahl. Problem: Interferenz mit Schlüsselwerten Beispiel: Schlüssel: ganze Zahlen, m=10 p (analog: 2 p ) h(k) =k mod m Folge: nur die letzten p Ziffern sind für h(k) relevant! Sehr kritisch, wenn Schlüsselaufbau systematisch, z.b. xxxx0 oder xxxx5 Primzahl m im allgemeinen gute Wahl. hs / fub alp324hash1 13 HashFunktionen Weitere Verfahren Multiplikative HashTransformation h(k) = k*a mod m (hier kombiniert mit modularer Transformation mod m) Wahl von a abhängig von Schlüsselmenge. Statistisch günstig: a=(( 5 ) 1) /2 = 0, ("goldener Schnitt") siehe dazu: D.E. Knuth: The Art of Computer Programming Vol 3, Sorting and Searching, AddisonWesley hs / fub alp324hash1 14 7

8 HashFunktionen Weitere Verfahren Faltung Ziel: alle Ziffern des Schlüssel in HashTransformation berücksichtigen Beispiel x 1...x j x j+1...x n > 59 mod 11 = 4 Basistransformation k = c l c l1... c 0 h(k) = (c l * a l + c l1 * a l c 0 ) mod m = (...(c l * a ) +c l1 )*a +...+c 1 )*a +c 0 (Horner Schema) Große Zahlen vermeiden. ( ( a* b mod m) + c) mod m = (a*b + c) mod m ausnutzen! Besonders für Zeichenketten gut geeignet. + hs / fub alp324hash1 15 HashFunktionen Universelle HashFunktionen* Ziel: Unabhängigkeit von Schlüsselmenge HashFunktion universell, wenn W( h(x) == h(y) ) = 1/m i.e. Kollisionswahrscheinlichkeit = 1 / Tabellengröße unabhängig von der Schlüsselmenge (!) Methode: Zufall einbeziehen h(k) = (x * a l *a l1 *...a 0 + x l1 * a l1 *...a a 0 *x 0 ) mod m mit k = (x l, x l1,...x 1,x 0 ), a i zufällig aus {0,...,m1}, i=0,...,l ist eine universelle Hashfunktion. Aber: Aufwand! Näherungsweise Berechnung der Zufallsfolge durch Pseudozufallszahlen: a i+1 = a i * b mod (m1) (Methode der linearen Kongruenzen mit geeignetem b und Startwert a 0 ) nicht verwechseln mit perfekten HashFunktion (d.i. eine manchmal mögliche eindeutige Zuordnung zwischen Schlüsseln und Tabellenindex). hs / fub alp324hash1 16 8

9 Universelle HashFunktionen empirisch: 145 Stoppwörter (MS Indexierungsdienst) h(x r...x 0 ) = x r *a r +...+x 1 *a+x0, a= 127 alpha = 0,725 Kollisionen: 46 Anzahl belegter Tabellenelemente: 99 (von 200) Kollisionsdurchschnitt: 0,4646 Universelle Variante (näherungsweise, a 0 = 31415, b=27183): Kollisionen: 37 Belegt: 108 Kollisionsdurchschnitt: 0,342 Im Vergleich: (10 Versuche) 145 zufällig ausgewählte Zahlen aus : Durchschnitt "Kollisionen": 38,5 Durchschnitt "belegt": 106,5 ; Kollisionsdurchschnitt über 10 Versuche: 0, bei beide betreffs brauchen c da dadrinnen dahinter darauf darein darf darum dass davor de der... Kollisionsdurchschnitt: Anzahl Kollisionen / Anzahl belegter Tabellenelemente Hash: : Praktische Empfehlungen Multiplikative / modulare HashTransformation h(k) = (int) (( *(double)k )% m) m nicht notwendig Primzahl Wenn Gleitkommarechnung teuer: h(k) = ( * k) % m Wenn m prim: direkte modulare Transformation h(k) = k % m Verfahren haben sich gut bewährt: geringe Schlüsselabhängigkeit, effizient hs / fub alp324hash1 18 9

10 Hash: : Praktische Empfehlungen Universelle HashFunktion für Zeichenketten recht wirksam eventuell Aufteilung in größere Schlüsselteile als Zeichen: x4 this is a test string... h(k) =h(k) = (x * a l *a l1 *...a 0 + x l1 * a l1 *...a a 0 *x 0 ) mod m mit a i Pseudozufallszahlen. x0 Randbedingungen erfordern Sorgfalt: Effizienz O(1) sagt hier wenig, Konstanten klein halten. Multiplikation? mod? Maschinen(un)abhängigkeit Zahldarstellung, Typumwandlungen hs / fub alp324hash1 19 Hash und Suchbäume Implementierung von Mengen Bei großer Dynamik (besonders Einfügen) : Kollisionsbehandlung durch Verkettung. HashVerfahren unschlagbar für insert() und Suche (wenn Tabelle nicht zu voll: Guter Richtwert: n* α < 0,75) Größter Nachteil: Sortierung wird zerstört => keine sortierte Verarbeitung (Iterator?) => nicht als Sortierverfahren brauchbar. hs / fub alp324hash