Arbeit: Page, Brin, Motwani, Winograd (1998). Ziel: Maß für absolute

Transkript

1 3.4 PageRank Arbeit: Page, Brin, Motwani, Winograd (1998). Ziel: Maß für absolute Wichtigkeit von Webseiten; nicht Relevanz bezüglich Benutzeranfrage. Anfrageunabhängiges Ranking. Ausgangspunkt: Eingangsgrad. Problem: Alle eingehenden Links gleich bewertet. Link von genauso wichtig wie von obskurer Crackerseite. Und: Leicht zu spammen. Idee für Verbesserung: Seite wichtig, falls sie viele eingehende Links von wichtigen Seiten hat. 158

2 3.4.1 Der PageRank-Algorithmus PageRank einfache Version: Betrachte Webgraphen (bzw. Ausschnitt, Crawl) G = (V, E), n := V. Ordne jeder Seite v V Pagerank r v [0, 1] zu gemäß r v := r u outdeg(u). (u,v) E Dies als Berechnungsvorschrift interpretieren: Initialisierung irgendwie geeignet : Z. B. r v = 1/n für alle v. Dann iterieren, bis Konvergenz. 159

3 PageRank einfache Version (Forts.): Matrix-Vektor-Formulierung: Gewichtete Adjazenzmatrix A = (a i,j ) 1 i,j n : 1, falls (i, j) E; a i,j = outdeg(i) 0, sonst. r (t) [0, 1] n Rangvektor nach t-tem Schritt, t 1. Iteration: r (0) := [1/n,..., 1/n]; r (t) = r (t 1) A. (Beachte: Hier immer Matrix-Vektor-Multiplikation von links, r(t) Zeilenvektoren.) 160

4 Beispiel 1: /2 1/2 0 A = /2 0 1/ r = [ 1/4 1/4 1/4 1/4 ] 161

5 Beispiel 1: /2 1/2 0 A = /2 0 1/ r = [ 0 4/8 3/8 1/8 ] 161

6 Beispiel 1: /2 1/2 0 A = /2 0 1/ r = [ 0 5/16 8/16 3/16 ] 161

7 Beispiel 1: /2 1/2 0 A = /2 0 1/ r = [ 0 7/16 5/16 4/16 ] 161

8 Beispiel 1: /2 1/2 0 A = /2 0 1/ r = [ 0 13/32 14/32 5/32 ]

9 Beispiel 1: /2 1/2 0 A = /2 0 1/ r = [ 0 12/32 13/32 7/32 ]

10 Beispiel 1: /2 1/2 0 A = /2 0 1/ r = [ 0 27/64 24/64 13/64 ] 161

11 Beispiel 1: /2 1/2 0 A = /2 0 1/ r = [ 0 25/64 27/64 12/64 ] 161

12 Beispiel 1: /2 1/2 0 A = /2 0 1/ r = [ 0 2/5 2/5 1/5 ]

13 Beispiel 2: A = 1/2 0 1/2 0 1/3 1/3 0 1/ r = [ 1/4 1/4 1/4 1/4 ] 162

14 Beispiel 2: A = 1/2 0 1/2 0 1/3 1/3 0 1/ r = [ 5/24 8/24 3/24 2/24 ] 162

15 Beispiel 2: A = 1/2 0 1/2 0 1/3 1/3 0 1/ r = [ 5/24 3/24 4/24 1/24 ] 162

16 Beispiel 2: A = 1/2 0 1/2 0 1/3 1/3 0 1/ r = [ 17/144 7/72 1/16 1/18 ]

17 Beispiel 2: A = 1/2 0 1/2 0 1/3 1/3 0 1/ r = [ 5/72 11/144 7/144 1/48 ]

18 Beispiel 2: A = 1/2 0 1/2 0 1/3 1/3 0 1/ r = [ ] 162

19 Das Random-Surfer-Modell: Durch PageRank-Iteration beschriebener Prozess: Starte an zufällig gleichverteilt gewähltem Knoten. Iterationsschritt für Seite i: Wähle zufällig gleichverteilt einen von Seite i ausgehenden Link und verfolge diesen zu neuer Seite j. Matrixeintrag a i,j gibt Wskt. für Übergang i j an. Bisher: Kann in Knoten stecken bleiben (Beispiel 2). 163

20 Problem: Sackgassen ( Dangling Links ) Definition 3.13: Sackgasse: Seite ohne ausgehende Links bzw. Knoten v mit outdeg(v) = 0. Problem ist real, Experimente: Crawls mit 40 % 80 % Sackgassen-Knoten. Möglichkeiten für Abhilfe: Entferne rekursiv Sackgassen (Brin, Page). Patche Matrix der Übergangswahrscheinlichkeiten bzw. analog Update-Regel. 164

21 Sackgassen (Forts.): In Beispiel 2: /4 1/4 1/4 1/4 A = 1/2 0 1/2 0 1/3 1/3 0 1/3 A = 1/2 0 1/2 0 1/3 1/3 0 1/ Allgemein: Nullzeile Zeile [1/n,..., 1/n]. Analog Änderung der Update-Regel: { d = [d 1,..., d n ] 1, falls Knoten i Sackgasse; mit d i = 0, sonst. r (t+1) = r (t) A + r (t) d [1/n,..., 1/n]. }{{} n n-matrix 165

22 Das Random-Surfer-Modell (Forts.): Im Folgenden: Sackgassen entfernt / in A berücksichtigt. Dann ist A stochastische Matrix: Definition 3.14: Matrix stochastisch, falls Einträge aus [0, 1] und Zeilensummen alle jeweils gleich 1. Random-Surfer-Prozess ist Markoffkette, A ist Matrix der Übergangswahrscheinlichkeiten. Hätten wieder gerne: Konvergenz gegen Grenzverteilung auf Seiten / Knoten. Unabhängigkeit vom Startvektor. Für das einfache Verfahren nicht gegeben (später)! 166

23 PageRank Vollversion: Zusätzlicher Parameter α [0, 1], Dämpfungsfaktor. Neue Update-Regel: Graph G = (V, E), n = V. Für v V : r v := 1 α n + α (u,v) E Random-Surfer-Modell: Start auf zufälliger Seite. r u outdeg(u). Münze mit Aufschriften Weiter und Neustart mit Wahrscheinlichkeiten α bzw. 1 α. Weiter : Wie bisher, folge zufälligem Link. Neustart : Sprung zu zufälliger Seite. 167

24 Matrix-Vektor-Schreibweise: r (0) = [1/n,..., 1/n]. r (t) = r (t 1) M, t 1; wobei M := (1 α)e + αa, 1/n 1/n E :=... 1/n 1/n Beobachtung: A stochastische Matrix M stochastische Matrix. 168

25 Absoluter PageRank: Benutze Initialisierung mit PageRank 1 für jede Seite: r (0) = [1,..., 1]. r (t) = r (t 1) M, t 1; M stochastische Matrix Für alle t 0 gilt: n n r (t) i = r (0) i = n. i=1 i=1 Formulierung als Update-Regel: r u r v := (1 α) + α outdeg(u), v V. (u,v) E So auch implementiert, da sonst: sehr viele sehr kleine Wahrscheinlichkeiten; lästige Abhängigkeit von n ( Knotenupdates!). Für Theorie allerdings Markoffketten-Sichtweise. 169

26 Der Google-Toolbar-Rang Toolbar-Rang: Wert aus {0,..., 10}, der tatsächlichen PageRank repräsentiert. Benutze dafür absoluten PageRank. Intervall für absoluten PageRank (falls = 0): 1 α (keine eingehenden Kanten) bis 1 α + α n. 1 2 n 1... n Werte aus {0,..., 10} gemäß logarithmischer Skala auf dieses Intervall abbilden (Basis ?). Finetuning von Hand (?). 170

27 3.4.2 Konvergenz des PageRank-Algorithmus Wie HITS ist PageRank Spezialfall der Potenziteration: r (t) = r (0) M t, t 0. Unter geeigneten Bedingungen wieder Konvergenz gegen Eigenvektor zum (reellen) größten Eigenwert von M. Proposition 3.15: Matrix M stochastisch größter Eigenwert von M ist 1. Falls r (linker) Eigenvektor zum größten Eigenwert 1 von M: r = r M. Später: r sogar positiv wählbar. Nach Normierung, r 1 = i r i = i r i = 1: Stationäre Verteilung der Markoffkette. 171

28 Beweis von Proposition 3.15: Sei M stochastische Matrix. 1 ist Eigenwert von M: Offenbar gilt für e = [1,..., 1] : Me = e. Da aber M und M das gleiche Spektrum haben, ist damit bereits die obige Behauptung gezeigt. M hat keinen größeren Eigenwert als 1: Sei xm = λx für x = [x 1,..., x n ] = 0 und seien r 1,..., r n die Zeilen M. Dann gilt xm 1 = x 1 r x n r n 1 x 1 r x n r n 1 = x x n = x 1. Damit haben wir xm 1 = λ x 1 x 1. Division durch x 1 > 0 liefert die Behauptung. 172

29 Hinreichendes Kriterium für Konvergenz + Eindeutigkeit: Markoffkette / Matrix M irreduzibel und aperiodisch. Definition 3.16: Sei M reelle n n-matrix und M =0 zugehörige Adjazenzmatrix mit 1-Einträgen genau an den Stellen, an denen M Einträge ungleich 0 hat. Betrachte durch M =0 definierten Graphen. Für i = 1,..., n Periode von Knoten i: t i := ggt({l Kreis mit Startknoten i der Länge l}). Dann heißt M aperiodisch, falls t 1 = = t n =

30 Proposition 3.17: Alle Knoten einer starken Zusammenhangskomponente eines Graphen haben dieselbe Periode. Beweis: Knoten v, w einer SZK gegeben: verbunden durch Kreis, Länge sei l 1. Knoten v auf beliebigem Kreis der Länge l 2 : Periode t w von w teilt l 1, aber auch l 1 + l 2 t w teilt auch l 2 t w ist Teiler der Längen aller Kreise durch v t w t v. Symmetrie t v = t w. 174

31 Beispiel: Knoten in SZK haben alle selbe Periode, also o. B. d. A. Knoten 1 betrachten. Kreislänge 2 kommt vor, und alle andere Kreislängen gerade Periode von Knoten 1 ist 2. Fazit: Irreduzibel, aber nicht aperiodisch. 175

32 Satz 3.18 (Perron-Frobenius): Sei M quadratische, nichtnegative, irreduzible Matrix. Dann: Es gibt einen positiven Eigenwert λ 1 von M, der genau einmal vorkommt. Für alle Eigenwerte λ = λ 1 gilt λ 1 λ. Es gibt einen positiven Eigenvektor zu λ 1. Falls M zusätzlich aperiodisch: Für alle Eigenwerte λ = λ 1 gilt sogar λ 1 > λ. Bei irreduziblem, aber nicht aperiodischem M z. B. Eigenwerte 1, 1 möglich. Dann: Potenziteration konvergiert i. A. nicht! 176

33 Anwendung für Markoffketten: Stochastische Matrix M insbesondere nichtnegativ, falls zusätzlich irreduzibel und aperiodisch: 1 = λ 1 > λ 2 λ n 0. Mit Anpassung des Beweises von Satz 3.8 (hier nicht): Folgerung 3.19: Potenziteration mit stochastischer Matrix M, die irreduzibel und aperiodisch ist, konvergiert für beliebigen positiven Startvektor gegen positiven Eigenvektor r zum größten Eigenwert 1. Eigenvektor r eindeutig, wenn zusätzlich r 1 = i r i =

34 Anwendung bei PageRank: Beobachtung: Gewichtete Adjazenzmatrix A von Webcrawls ist ziemlich sicher nicht einmal irreduzibel I. A. keine Konvergenz für einfachen PageRank-Algorithmus! Proposition 3.20: Für einen Dämpfungsfaktor α < 1 ist die Matrix M = (1 α)e + αa in der Iteration des PageRank- Algorithmus irreduzibel und aperiodisch. Beweis: Trivial, denn durch zufällige Neustarts ist jeder Knoten von jedem mit positiver Wskt. erreichbar. 178

35 Anwendung bei PageRank (Forts.): Damit haben wir insgesamt: Satz 3.21: Sei α < 1. Dann gibt es einen positiven Vektor r mit r 1 = 1, sodass für jeden positiven Startvektor die Folge der Vektoren im PageRank-Algorithmus mit Matrix M = (1 α)e + αa gegen r konvergiert. 179