Efficient Learning of Label Ranking by Soft Projections onto Polyhedra

Transkript

1 Efficient Learning of Label Ranking by Soft Projections onto Polyhedra Technische Universität Darmstadt 18. Januar 2008

2 Szenario Notation duales Problem Weitere Schritte Voraussetzungen Tests

3 Szenario Notation Gegeben: Menge von Instanzen (z.b. Newsfeeds) aus instance space χ Endliche Menge von Labeln: γ mit γ = {1, 2,..., k} = [k] Feeds können ein oder mehrere Label zugeordnet werden: Mapping von Feed auf Label Jedes Label hat für jeden Feed bestimmte Relevanz: Preference (Feed handelt z.b. hauptsächlich von Politik, ein wenig von Wirtschaft usw.) Problem: Wie möglichst schnell automatisch den Feeds die richtigen Labels mit den richtigen Präferenzen zuordnen???

4 Szenario Notation Also Ziel: Exaktes Mapping von instance space (Newsfeeds) zum target space (labels). dabei richtige Voraussage der label preferences möglichst schnell Hier: Lernen aus Trainingsbeispielen (batch learning) Betonung auf möglichst schnell Geht hier nur um Performance - Optimierung; dass Ziel erreichbar schon bekannt. Also zuerst: ansehen, was genau optimiert werden soll Dazu: Vorarbeiten mit Notation... :

5 Szenario Notation Ausgangspunkt: Instanz aus instance space: x χ, χ R n Vordefinierte endliche Menge von Labeln γ mit γ = {1, 2,..., k} = [k] Lernziel: Label Ranking Function: f : χ R k mit Rückgabewert: γ R k target vector / label ranking γ i R f r (x) rtes Element von γ γy > γ y γ relevanter für x als γ γy = γ y möglich Darstellung von γ als gerichteter gewichteter Graph möglich z.b. Edge (3,1): γ 3 γ 1 = 3 bei γ = ( 1, 0, 2, 0, 1)

6 Szenario Notation f γ (x) > f γ (x) γ relevanter für x als γ f r (x) = w r x; w r R n, χ R n lineare Funktion (Das aber keine echte Einschränkung (SVM Kernel trick...)

7 Szenario Notation Trainingsbeispiel: S = {(x i, γ i )} m i=1 ; x χ, γi R k Performance via Loss Function evaluiert (Notation: (a) + = max{0, a}): l : R k R k R l r,s (f(x), γ) = ((( γ r γ s ) (f r (x) f s (x))) + l r,s zeigt wieweit constraint f r (x) f s (x) γ r γ s nicht berücksichtigt wird Bis hierher nur paarweiser Vergleich der Label (r, s) Jetzt: Alle paarbasierten losses in einen loss zusammenfassen!

8 Szenario Notation Paare von Labeln in d unabhängige Mengen aufteilen. Jede Menge isomorph zu vollst. biparititem Graphen

9 Szenario Notation loss eines Subgraphen (V j, E j ): maximum über den losses der Paare im Subgraphen zusätzl. Gewichtung der einzelnen Subgraphen mit (nichtnegativem) σ j = Loss: l(f(x), γ) = d σ j max (r,s) Ej l r,s (f(x), γ) j=1

10 Szenario Notation Mit loss-function jetzt label-ranking-function bilden: constrained optimization problem definieren (mit SVM Paradigma) optimale Lösung davon: label-ranking-function mit 2 Termen: 1. empirischer loss der label-ranking-function bezgl. Trainingsset 2. penalty für Komplexität der Funktion (Regularisierungsterm), i.e. Summe der Quadrate der Normen von {w 1,..., w k } 3. Tradeoff zwischen beiden Termen durch Parameter C kontrolliert

11 Szenario Notation min w1,...,w k 1 2 k w j 2 + C j=1 m l(f(x i ), γ i ) i=1 mit : f γ (x i ) = w γ x i Und andere Notation der loss-function: l(f(x), γ) = min ξ R d + d σ j ξ j j=1 mit: j [d], (r, s) E j, f r (x) f s (x) γ r γ s ξ j

12 Szenario Notation Ergibt das quadratische Optimierungsproblem: 1 min w1,...,w k,ξ 2 k w j 2 + C j=1 m i=1 E( γ i ) j=1 σ j ξ i j mit: i [m], E j E( γ i ), (r, s) E j, w r x i w s x i γ i r γ i s ξ i j i, j, ξ i j 0

13 duales Problem Weitere Schritte Ziele Optimierung: schnell soll mit allen Dekompositionen in Subgraphen zurechtkommen. Herleitung des Algorithmus komplex!

14 duales Problem Weitere Schritte Grober Ablauf: 1. Iteration über die Trainingsbeispiele 2. Iteration über die Subgraphen 3. dort die ranking-function für neues Beispiel verbessern

15 duales Problem Weitere Schritte Kern des Algorithmus: 3. Punkt: ranking-function für neues Beispiel verbessern: Dabei Ausgangsposition: schon label-ranking-function vorhanden ( {u 1,..., u k }) E( γ) besteht aus nur einem vollständigen bipartiten Graphen Ziel: Funktion verbessern wenn neues Beispiel verarbeitet wird

16 duales Problem Weitere Schritte Ergibt constrained optimization problem: 1 min w1,...,w k,ξ 2 k w y u y 2 + Cξ y=1 mit: (r, s) E, w r x w s x γ r γ s ξ, ξ 0

17 duales Problem Weitere Schritte label-ranking function schon vorhanden, repräsentiert durch {u 1,..., u k } Erinnerung: label-ranking-function f r (x) = u r x; u r R n, χ R n Problemlösung kann aufgefasst werden als: Projektion von {u 1,..., u k } auf das Polyeder, dass mit den Beschränkungen Definiert wird. Daher Name des Algorithmus: SOft-Projection Onto POlyhedra SOPOPO

18 duales Problem Weitere Schritte Erläuterung zur Projektion (aus Wikipedia): türkis, schwarz, violett sind die Beschränkungen; erlaubte punkte im blauen Polyeder; gestrichelte Rote sollen optimiert werden (soweit wie möglich nach rechts schieben)

19 duales Problem Weitere Schritte Lösung des Problems in mehreren Schritten: Duales Problem finden Anzahl m der Variablen im dualen Problem von k 2 /4 m auf k reduzieren Aufteilung des Problems in zwei einfachere Ergebnis: Komplexität von O(k log(k))

20 duales Problem Weitere Schritte Duales Problem: primäre Zielfunktion ist konvex primäre constraints sind linear Es gibt Lösung für primäres Problem (setze w y = 0 und ξ = max (r,s) E ( γ r γ s ) = strong duality

21 duales Problem Weitere Schritte Finden des Problems: Lagrange des Primärproblems bilden: mit: (r, s) E : τ r,s 0, ζ 0

22 duales Problem Weitere Schritte teilterme fallen weg Primaervariablen können beseitigt werden Umformung führt zu Ergebnis Dann Anzahl der Variablen im dualen Problem auf k reduzieren. Problem in zwei einfache Teilprobleme aufteilen

23 Zur Ansicht: duales Problem Weitere Schritte

24 duales Problem Weitere Schritte Weiter im Algorithmus: Jetzt nur eine Projektion für einen einzigen vollständigen bipartiten Graphen Algorithmus soll aber auf jeder beliebigen Aufteilung funktionieren Gesucht also Algorithmus der Urspruengliche Aufgabe löst, indem er immer wieder SOPOPO verwendet ursprüngliches Problem vereinfachen (syntax) Mit Beschränkungen min w,ξ 1 2 w 2 + m C i ξ i i=1

25 duales Problem Weitere Schritte Für die Vereinfachung: Duales Problem suchen (Lagrange...) Dann Algorithmus der in Runden arbeitet: In jeder Runde wird eine Menge von dualen Variablen upgedatet alle anderen variablen sind fix

26 duales Problem Weitere Schritte Ansicht des Algorithmus in Pseudocode:

27 Voraussetzungen Tests LOQO: Kommerzielles Paket zur linearen Optimierung, basiert auf interior point Methode Angesteuert mit Matlab-Interface, Implementierung selbst: C++ SOPOPO: Implementiert in Matlab Testdaten immer zufällig gewählt (Normalverteilt)

28 Voraussetzungen Tests Erster Test: Performance Soft-projection auf ein Polyeder / originäres Problem

29 Voraussetzungen Tests Aber: Test unfair, da: LOQO ist general purpose, nimmt daher immer interial point Algorithmus SOPOPO optimiert immer auf:

30 Voraussetzungen Tests Daher LOQO direkt auch auf das optimierte Problem angesetzt:

31 Voraussetzungen Tests Gesamttest batchlearning: Jeweils 10x mehr Beispiele als Labels (k) generiert