Copyright, Page 1 of 7 Hashing

Transkript

1 Copyright, Page 1 of 7 Hashing 1. Grundlagen des Hashings Wir betrachten Datenstrukturen zur Verwaltung von Dictionaries das sind Datenansalungen, die sich durch Einfügen und Löschen von Datensätzen dynaisch verändern können und für welche die Zugriffe (lesend oder schreibend) auf gespeicherte Datensätze unterstützt werden soll. Für Array-Darstellungen sowie geordnete Listen sind Einfügen und Löschen kostspielig, da auf die Ordnung der Daten geachtet werden uss. Für ungeordnete Listen ist hingegen die Suche aufwendig, da die Datensätzen nicht in geordneter For vorliegen. Optial wäre eine Datenstruktur, die es eröglicht eine Datenenge it n Datensätzen in Platz O(n) darzustellen und die Operationen Suchen, Einfügen und Löschen in konstanter Zeit auszuführen. Dies ist leider nicht achbar, es gibt allerdings Techniken, die diesen Forderungen recht nahe koen. Eine davon ist das so genannte Hashing. Die Grundidee von Hashverfahren besteht darin, aus de Wert eines zu speichernden Mengeneleentes seine Adresse i Speicher zu berechnen. Eine Menge von Behältern ( buckets ), die etwa durch B 0, B 1,, B -1 bezeichnet seien, dienen zur Datenspeicherung der verschiedenen Werte. Eine Hashfunktion ist eine totale Abbildung h:u {0,, -1}. wobei U das Schlüsseluniversu genannt wird. Eine Hashfunktion sollte folgende Eigenschaften besitzen: Sie sollte surjektiv sein, also alle Behälter auffassen. Sie sollte, die zu speichernden Schlüssel, öglichst gleichäßig über alle Behälter verteilen, i I- dealfall wäre das die Injektivität. Sie sollte effizient zu berechnen sein. Ein typisches Beispiel wird dies veranschaulichen. Wir wollen die Monatsnaen über 17 Behälter (buckets) verteilen. Eine einfache Hashfunktion, die Zeichenkette c 1,, c k abbildet, benutzt den Zahlenwert der Binärdarstellung jedes Zeichens, der N(c i ) heiße: wobei h 0 (c 1 c k ) = k i1 key( c ) od i k die Anzahl der Buchstaben eines Wortes ist, key eine Funktionsvorschrift bzw. der Schlüssel, c i ein einzelner Buchstabe. Dabei behandeln wir Ulaute als zwei Buchstaben, also z.b. ä=ae. Für das Beispiel vereinfachen wir dies noch etwas, inde wir nur die ersten drei Zeichen betrachten und annehen: N(A)=1 N(B)=2 N(C)=3 N(D)=4 N(P)=16. N(R)=18 N(Z)=26.

2 Copyright, Page 2 of 7 Daraus ergibt sich für April Apr = = od 17 = 1. Dezeber Dez = =35 35 od 17 = 1. Januar Jan = =25 25 od 17 = 8. usw. Dait verteilen sich die Monatsnaen wie folgt: 0 Noveber 9 Juli 1 April, Dezeber 10 2 März 11 Juni 3 12 August, Oktober 4 13 Februar Mai, Septeber Januar Wir sehen, dass bisweilen ehrere Schlüssel auf denselben Behälter (hier durch die Zahlen von 0-16 sybolisiert) abgebildet werden; diese Situation bezeichnet an als eine Kollision. Definition: Man spricht von einer Kollision während eines Hashings, wenn zwei gespeicherte Datensätze d 1 und d 2 denselben Hashwert haben, d.h. h( key(d 1 ) ) = h( key(d 2 ) ) Selbst wenn wir eine perfekte Hashfunktion h finden, welche alle oben geforderten Voraussetzungen erfüllt (sodann liegt eine Gleichverteilung vor) sind Kollisionen zu erwarten. Dies erfordert also eine zusätzliche Organisation der Datensätze it deselben Hashwert. Wie wahrscheinlich sind Kollisionen? Wir nehen an, dass eine ideale Hashingfunktion vorliegt, die n Schlüsselwerte völlig gleichäßig auf Behälter verteilt, n<. Bezeichne P X die Wahrscheinlichkeit, dass Ergebnis X eintritt. Offensichtlich gilt: P Kollision = 1 P keine Kollision P keine Kollision = P(1) P(2) P(n) wobei P(i) die Wahrscheinlichkeit bezeichnet, dass der i-te Schlüssel auf einen freien Behälter abgebildet wird, wenn alle vorherigen Schlüssel ebenfalls auf freie Plätze abgebildet wurden. P keine Kollision ist also die Wahrscheinlichkeit, dass alle Schlüssel auf freie Behälter abgebildet werden. Zunächst gilt P(1) = 1, d.h. die Wahrscheinlichkeit ist 100% dass das erste Eleent auf eine freie Stelle abgebildet wird. da zu Anfang noch kein Behälter gefüllt ist. Bei Einfügen des zweiten Eleents ist ein Behälter gefüllt, -1 Behälter sind frei. Da jeder Behälter nach Voraussetzung- it gleicher Wahrscheinlichkeit 1/ getroffen wird gilt P(2) = 1.

3 Copyright, Page 3 of 7 ( i1) Analoges gilt für alle folgende Eleente P(i) = da jeweils bereits (i-1) Behälter belegt sind. Dait ergibt sich für die Gesatwahrscheinlichkeit für eine Kollision: P Kollision = 1 - ( 1)( 2) ( n1) n. Sei =365 Behälter und sei n die Anzahl der Schlüsselwerte. Dann ergibt sich it obiger Forel. n Eine Kollision lässt sich also praktisch nicht verhindern. P Kollision Entsprechend unterscheiden sich die diversen Hashverfahren in der Art der Kollisionsbehandlung bzw. der Auffassung von Behältern. Zwei prinzipielle Strategien zur Auflösung von Kollisionen sind öglich: Hashing it Verkettung der Überläufer: Für jeden Hashwert j{0, 1,, -1} wird eine Kollisionsliste erstellt, in der sätliche Datensätze d it de Hashwert h(key(d)) = j verkettet werden. Die Listenköpfe werden in der Hashtabelle verwaltet. Hashing it offener Adressierung: Die Datensätze werden in der Hashtabelle abgelegt, wobei eine iplizite Verkettung von kollidierenden Datensätzen it Hilfe einer Folge von Hashfunktionen eingesetzt wird. Darüber hinaus kann die Menge der Hashingverfahren in offenes und geschlossenes Hashing klassifiziert werden. Dabei charakterisiert die Aufnahefähigkeit der einzelnen Positionen innerhalb der Hashingtabelle das Verfahren diese werden nun getrennt i Abschnitt 2 und 3 erläutert. Der worst-case ist bei allen Hashingverfahren sehr schlecht, nälich O(n). Der Platzbedarf beläuft sich auf O(n+). 2. Offenes Hashing Bei offenen Hashing geht an davon aus, dass ein Behälter beliebig viele Schlüssel aufnehen kann. Dies kann an z.b. durch eine verkettete Liste realisieren, wobei jede Liste als ein Behälter interpretiert werden kann. Ein Array von Zeigern verwaltet die Behälter und dait die Listenköpfe. Bei diese Typ des Hashings stellt die Kollision kein Proble dar. Es ist auch nicht nötig, das die Gesatzahl der Einträge (Schlüssel) kleiner ist als die Anzahl der Tabellenplätze (Behälter). Index Wert des Arrays Liste 0 Noveber Mai Septeber

4 Copyright, Page 4 of 7 Zu Einfügen, Suchen und Entfernen eines Schlüssels key(d) wird jeweils die Liste it Listenkopf hashtable[i] it i = h(key(d)) durchlaufen. Die durchschnittliche Listenlänge ist n/. Wenn an n ungefähr gleich wählt und falls die Hashfunktion die Schlüssel tatsächlich gleichäßig über die verschiedenen Listen verteilt, so ist der erwartete Zeitaufwand für Suchen, Entfernen und Einfügen jeweils konstant, also (1+n/) = O(1). Die Ipleentierungstechnik it dynaischen Listen wird auch seperate chaining bezeichnet. 3. Geschlossenes Hashing Ein Behälter kann nur eine kleine konstante Anzahl b von Schlüsseln aufnehen; falls ehr als b Schlüssel auf einen Behälter fallen, entsteht ein Überlauf ( overflow ). Bei geschlossenen Hashing ist die Zahl der Einträge (Schlüssel) n begrenzt durch die Kapazität der Tabelle b. Wir betrachten den Spezialfall b=1; für b>1 lassen sich ananloge Techniken entwickeln. Jede Zelle der Hashtabelle kann also genau ein Eleent aufnehen. Dies wird gewöhnlich so ipleentiert, dass Eleente direkt als Array-Koponente gespeichert werden. hashtable = array[0..-1] of ele; type ele = record key: keydoain; {weitere Inforationen} end Wir nehen an, dass ein spezieller Wert des keydoain sich eignet, u auszudrücken, dass eine Zelle der Tabelle unbesetzt ist; wir werden später sehen, dass ein weiterer Wert benötigt wird, u darzustellen, dass eine Zelle besetzt war und das enthaltene Eleent gelöscht wurde. I Falle einer Kollision wird bei eine erneute Anlauf de so genannte rehashing versucht, die Überläufer an einer noch freien ( offenen ) Position in der Hashtabelle unterzubringen. Falls eine Position h(key(d)) bereits belegt ist, so suche anderen Platz für key(d) nach fester Regel. Die allgeeine Idee besteht also darin, neben h:= h 0 weitere Hashfunktionen h 1,, h -1 zu benutzen, sobald eine Kollision vorliegt. Für einen gegebenen Schlüssel x:=key(d) werden nach fester Regel die Zellen h 0 (x), h 1 (x), h -1 (x) inspiziert. Sobald eine freie oder als gelöscht arkierte Zelle gefunden ist, wird x dort eingetragen. Bei einer Suche nach x geht an analog vor: Es wird die gleiche Folge h 0 (x), h 1 (x), h -1 (x) von Zellen in der Hashtabelle betrachtet, bis x entweder gefunden wird oder aber das Auftreten der ersten freien Zelle in dieser Folge anzeigt wird und x soit nicht in der Hashtabelle vorhanden ist. Bei offenen Hashverfahren wird also versucht auftretende Überläufe innerhalb der Hashtabelle zu positionieren. Dazu üssen evtl. alle Positionen der Hashtabelle aufgesucht werden. Die dabei zu durchlaufende Folge von Positionen nennt an Sondierfolge. 4. Sondierverfahren zur Kollisionsbehandlung Alle Sondierverfahren basieren darauf nach erfolgter Kollision weitere Hashingfunktionen zur Verfügung zu stellen u alternative Positionen für eine Speicherung des Schlüsselwertes zu berechnen. (a) Lineares Sondieren Hier wird bei einer Kollision ausgehend von der Schlüsselstelle linear in eine Richtung die Suche nach einer freien Speicherstelle fortgesetzt. Analog wird bei der Suche ausgehend von der Schlüsselstelle in eine Richtung nach de Eleent gesucht. Allerdings kann das Besetzen von Schlüsselstellen, ungleich des errechneten Wertes zu einer erhöhten Anzahl an Kollisionen führen. In der Praxis neigt

5 Copyright, Page 5 of 7 dieses Verfahren auch zur Cluster-Bildung. Die dazu neu gebildeten Hashfunktionen haben die For: h i (x)=[h(x) +c i] od 1 i -1 Dabei ist wieder die Anzahl der Behälter (Buckets) und c eine natürliche Konstante. Ferner sollten die Zahlen c und sollten teilerfred sein. Soit können alle Zellen getroffen werden. Es entstehen Ketten it Abstand c; i illustrierte Beispiel ist offensichtlich c=1. Die Kreise sollen die Schlüssel key(d) sybolisieren, diese sind alle paarweise verschieden. Die Zahlen innerhalb der Kreise stellen die Positionen innerhalb der Hashtabelle it Spalten und b=1 Zeilen dar. Die Hashfunktion h 1 schiebt den Schlüssel it gleicher Schlüsselposition 5 also einfach eine Position weiter nach rechts. Da die Position 6 ebenfalls belegt ist, versucht die Hashfunktion h 2 die Position 7 zu besetzen. Dieses Verfahren wird iterativ solange fortgesetzt bis schließlich an Position 10 eine freie Stelle gefunden wird. (b) Quadratisches Sondieren Die Funktionenfolge zur Berechnung der alternativen Schlüsselpositionen ist von der For: h i (x) = [h(x) + i 2 ] od, 1 i -1. Diese Grundidee kann an noch etwas verfeinern: an wähle h 0 (x) = h(x) od h 1 (x) = h(x)+1 2 od h 2 (x) = h(x)- 1 2 od h 3 (x) = h(x)+2 2 od h 4 (x) = h(x)- 2 2 od also h 2i-1 (x)= [h(x)+i 2 ] od bzw. h 2i (x)= [h(x)-i 2 ] od it 1 1 i. 2 Wählen wir noch =4*j+3, wobei eine Prizahl sein soll, dann wird jede der Zahlen getroffen. Quadratisches Sondieren ergibt keine Verbesserung für Priärkollisionen, aber es vereidet Clusterbildung bei Sekundärkollisionen, das heißt die Wahrscheinlichkeit für die Bildung längerer Ketten wird herabgesetzt. (c) Doppel-Hashing Man wähle zwei Hashfunktionen h, f, die voneinander unabhängig sind. Das soll folgendes bedeuten:

6 Copyright, Page 6 of 7 Wir nehen an, dass für jede der beiden Hashfunktionen eine Kollision it Wahrscheinlichkeit 1/ auftritt, also für zwei Schlüssel x und y gilt: und P ( h(x) = h(y) ) = 1 P ( f(x) = f(y) ) = 1. Die Funktionen h und f sind unabhängig, wenn eine Doppelkollision nur it der Wahrscheinlichkeit 1 auftritt. Also 2 1 P ( h(x)=h(y) f(x)=f(y) = 2. Dann definieren wir eine Folge von Hashfunktionen h i (x)= [h(x)+f(x) i 2 ] od. Das ist endlich eine wirklich gute Methode. Experiente zeigen, dass ihre Kosten von ideale Hashing praktisch nicht unterscheidbar sind. Es ist allerdings nicht leicht, Paare von Hashfunktionen zu finden, die beweisbar voneinander unabhängig sind. In der Praxis wird an oft it intuitiver Unabhängigkeit zufrieden geben. Quadratisches Sondieren: Es sei h(key(d)) = 5, dann ergeben sich für = {7, 8, 9} folgende Sondierfolgen (Berechnungen odulo ): = 7 = 9 = Wahl der Hashfunktion Für die Wahl der Basis-Funktion h stehen ehrere Verfahren zur Verfügung, wir stellen die drei gängigsten davon vor: a) Divisionsethode Dies ist wohl die einfachste Klasse der Hashfunktionen. Seien die natürlichen Zahlen der Schlüsselbereich, dies ist keine Einschränkung, da bijektiv auf jede endliche Menge abbilden kann. Es sei k der jeweilige Schlüsselwert und die Anzahl der Behälter, dann wählt an h(k) = k od Ein Nachteil dieser Funktionenklasse ist, dass aufeinanderfolgende Schlüsselwerte k, k+1, auf aufeinanderfolgende Zellen abgebildet werden; das kann störende Effekte zur Folge haben.

7 Copyright, Page 7 of 7 b) Sei k dargestellt durch eien Ziffernfolge k r k r-1 k 1. Man bilde k 2, dargestellt durch s 2r, s 2r-1 s 1 und entnehe einen Block von ittleren Ziffern als Adresse h(k). Die ittleren Ziffern hängen von allen Ziffern in k ab. Dadurch werden aufeinanderfolgende Werte besser gestreut. Ein einfaches Beispiel it k=127 ergibt dait k 2 = = 16129, also ist h(k) = 12. c) Die Multiplikationsethode nutzt die Eigenschaften irrationaler Zahlen, deshalb sei S( \ ) ]0,1[ irrational und d eine natürlich Zahl. Der Schlüsselwert k kann it Hilfe von r-bits dargestellt werden und ebenso berechnen wir Q:=[S 2 r ], wobei [] die (untere) Gaußklaer sein soll. Q ist selbst in r Bits darstellbar, da S <1 und dait für das Produkt Q<2 r. Das Produkt zweier Dualzahlen it axial r-stellen hat axial 2r-Stellen, also Q S = d 2r,, d r, d r-1,, d s it r s 1. Wir wählen nun für h(x) genau u-stellen der Dualdarstellung von Q S ab d r-1,, d r-u. 6. Universelles Hashing Ist die Teilenge K (aller öglichen Schlüssel U) nicht größer als, also K, so ist eine perfekte, kollisionsfreie Speicherung öglich: Vorausgesetzt wir kennen K und K fest bleibt, d.h. insbesondere dass Eleentaroperationen wie Hinzufügen ausgeschlossen sind, so können wir leicht eine injektive Abbildung h:k {0,, -1} z.b. wie folgt berechnen: Wir ordnen die Schlüssel in K lexikographisch und bilde jeden Schlüssel auf seine Ordnungsnuer ab. Wir haben dait eine perfekte Hashfunktion, die Kollisionen gänzlich vereidet - allerdings wäre diese Annahe unrealistisch. I Allgeeinen kennen wir K U nicht und können selbst dann, wenn K bleibt, nicht sicher sein, dass Kollisionen verieden werden. Für die Hashfunktion der Art h(k) = k od könnte an alle Schlüsselwerte aus einer Äquivalenzklasse [k] it 0 k -1 wählen. Dadurch würde der schlechteste Fall eintreten, denn alle Schlüsselwerte würden auf dieselbe Position abgebildet werden.