Information Retrieval

Transkript

1 Information Retrieval Bisher: Datenbankabfrage mit Hilfe von SQL in relationalen Datenbanken. Die Informationen liegen geordnet in Tabellen -> exakte Ergebnisse Neu: Die Informationen liegen in Datensammlungen Unscharfe Ergebnisse geordnet nach Relevanz Medienarchive Winter 2 Information Retrieval

2 Beispiel Dokumente enthalten folgende Stichworte: d {Sardinien, Strand, Camping} d 2 {Sardinien, Strand, Ferienwohnung, Italien} d 3 {Korsika, Strand, Ferienwohnung} d 4 {Korsika, Gebirge} d 5 {Strand, Camping} Die Menge aller Terme lautet: {Sardinien, Strand, Camping, Ferienwohnung, Italien, Korsika, Gebirge} Medienarchive Winter 2 Information Retrieval 2 Stichwort: wichtige, sinntragende Wörter innerhalb eines Textes Schlagwort: vorgegebene Begriffe zur Beschreibung eines Objektes, in der Regel aus einem kontrollierten Vokabular 2

3 Dokument d d 2 d 3 d 4 D5 Tabellen und SQL Insel Sardinien Sardinien Korsika Korsika Landschaft Strand Strand Strand Gebirge Strand Unterkunft Camping FeWo FeWo Camping select dokument where Insel = 'Korsika' select dokument where Land = 'Italien' select dokument where Insel = 'Korsika' and Land = 'Italien' select dokument where Insel = 'Korsika' or Land = 'Italien' Land Italien Medienarchive Winter 2 Information Retrieval 3 3

4 Daten Retrieval <-> Information Retrieval Ergebnisse Anfrage Fehlertoleranz Ergebnisse Daten Retrieval exakt einmalig keine Menge Information Retrieval unscharf iterativ Dokumente bis zu einer definierten Abweichung geordnete Liste Medienarchive Winter 2 Information Retrieval 4 Ergebnisse: DR liefert eine exakte Menge, die mit den Suchargumenten übereinstimmt. IR liefert auch Ergebnisse, die nicht vollständig mit den Suchargumenten übereinstimmen Anfrage: Beim DR sind die Suchargumente vollständig bekannt. Beim IR werden die Suchargumente iterativ verändert, bis eine zufrieden stellende Antwort vorliegt. Fehlertoleranz: DR liefert genau die Ergebnisse, die zu den Suchargumenten passen. IR liefert auch Ergebnisse innerhalb einer definierten Abweichung. Ergebnisse: DR liefert eine Menge von gleichwertigen Ergebnissen. IR liefert eine Liste, die nach der Distanz vom Ideal geordnet ist. -> Für das IR ist eine Definition eines Distanzfunktion notwendig. 4

5 Distanzfunktion (Metrik) Metrik: Abbildung R n -> R mit: p, p 2 R n : d(p, p 2 ) = p = p 2 p, p 2 R n : d(p, p 2 ) = d(p 2, p ) p, p 2, p 3 R n : d(p,p 2 )+d(p 2, p 3 ) d(p, p 3 ) Medienarchive Winter 2 Information Retrieval 5 5

6 IR - Prozess Anfrage Dokument Verarbeitung Anfragedarstellung Verarbeitung Int. Dokumentendarstellung Vergleich Ergebnisdokumente Relevanzbewertung Feedback Medienarchive Winter 2 Information Retrieval 6 Dokumentenverarbeitung: Aufbau der Indizes Anfrageverarbeitung: stemming 6

7 Definition: Distanzfunktion Fuzzy - Modell Eine Fuzzy-Menge A = {u; μ A (u)} über einer Menge U ist definiert durch eine Zugehörigkeitsfunktion μ A : U [,] welche jedem u aus der Menge U einen Wert μ A aus dem Intervall [,] zuordnet. Medienarchive Winter 2 Information Retrieval 7 7

8 Fuzzy Modell Erweiterung der Boolschen Operationen μ A B (u) = min (μ A (u), μ B (u) ) μ A B (u) = max (μ A (u), μ B (u) ) μ A (u) = - μ A (u) Medienarchive Winter 2 Information Retrieval 8 8

9 Zugehörigkeitswerte. Berechnung der Term-zu-Term Korrelationswerte n i,j c i,j = n i + n j n i,j 2. Berechnung der Zugehörigkeitswerte μ t i (d j) = Π ( c i,k ) t k d j Medienarchive Winter 2 Information Retrieval 9 C i,j = Korrelation zwischen den Begriffen i und j n i,j = Anzahl der Dokumente, in denen beide Begriffe vorhanden sind. n i = Anzahl der Dokumente, in denen der Begriff i vorkommt. Zugehörigkeitswerte: Wie stark gehört das Dokument d j zu dem Term t i? Doppelte Verneinung (-..(-)) Welche Dokumente haben nicht nichts mit dem Term zu tun? C i,k = Korrelationswerte zwischen dem Term t i und allen Termen in dem untersuchten Dokument. 9

10 Medienarchive Winter 2 Information Retrieval Term-zu-Term Korrelationswerte /2 Gebirge /2 /3 /5 Korsika ½ ¼ ½ Italien /3 ½ ½ /3 FeWo /3 ½ Camp /5 ¼ ½ ½ ½ Strand ½ /3 /3 ½ Sardinien Gebirge Korsika Italien FeWo Camp Strand Sardinien

11 Zugehörigkeitswerte d d 2 d 3 d 4 d 5 Sardinien 2/3 2/3 Strand /5 Camping 2/3 ½ FeWo 7/9 /3 2/3 Italien 5/8 5/8 /4 Korsika /5 7/5 /5 Gebirge ½ Medienarchive Winter 2 Information Retrieval

12 Abfragen mit Fuzzy - Logik d d 2 d 3 d 4 d 5 q Korsika μ Korsika(d i) /5 4 7/5 3 2 /5 5 q 2 Italien μ Italien(d i) 5/8 2 5/8 3 5 ¼ 4 q 3 Korsika Italien min(μ Korsika (d i), μ Italien (d i) ) /5 3 7/5 2 5/8 5 /5 4 q 4 Korsika Italien max(μ Korsika (d i), μ Italien (d i) ) 5/8 /4 Medienarchive Winter 2 Information Retrieval 2 2

13 Vektorraum Ein reeller Vektorraum ist ein Tripel (V, +, ), bestehend aus einer Menge V, einer Abbildung + (Addition) mit + : V x V V, (x,y) x + y und einer Abbildung (skalare Multiplikation) mit : R x V V, (λ,x) λx für die folgende Axiome gelten:. (x + y) + z = x + (y + z) für alle x, y, z V 2. x + y = y + x für alle x, y V 3. Es gibt einen Nullvektor V mit + x = x für alle x V 4. Zu jedem x V gibt es ein -x V mit x + (-x) = 5. λ(μx) = (λμ)x für λ, μ R und x V 6. Es gibt ein Einselement R mit x = x für alle x V 7. λ(x + y) = λx + λy für alle λ, μ R und für alle x, y V 8. (λ + μ )x = λx + μx für alle λ, μ R und für alle x V Medienarchive Winter 2 Information Retrieval 3 3

14 Skalarprodukt V sein Vektorraum über R. Unter einem Skalarprodukt x,y auf V versteht man die Abbildung V x V R, (x,y) x,y für die gilt:. x,x x,x = x = Positiv Definit 2. x,y = x,y Symmetrie 3. x+y,z = x,z + y,z Bilinearität λx,y = λ x,y Ein mögliches Skalarprodukt für den R n ist: n x,y = x i y i i= Ist in einem Vektorraum ein Skalarprodukt definiert, spricht man Medienarchive Winter 2 von einem Euklidischen Vektorraum Information Retrieval 4 4

15 Norm In einem euklidischen Vektorraum wird x = x,x die Norm oder der Betrag von x genannt. Medienarchive Winter 2 Information Retrieval 5 5

16 Vektorraum Modell für das Information Retrieval Die Dokumente werden entsprechend ihrer Zugehörigkeitswerte in einen Vektorraum der Terme abgebildet. Die Anfragen werden ebenso in den Vektorraum der Terme abgebildet. Die Dokumente werden entsprechend ihrem Abstand zur Anfrage ausgewählt Medienarchive Winter 2 Information Retrieval 6 6

17 Italien Beispiel d 2 q 2 q 3 d d 3 d 5 q Korsika d 4 Medienarchive Winter 2 Information Retrieval 7 7

18 Kosinusmaß Der Abstand zwischen einer Anfrage und einem Dokument wird durch den Kosinus des eingeschlossenen Winkels der zugehörigen Vektoren bestimmt q,d sim cos (q,d) = q d Medienarchive Winter 2 Information Retrieval 8 8

19 Italien Kosinusmaß d 2 q 2 q 3 d d 3 d 5 q Korsika d 4 Medienarchive Winter 2 Information Retrieval 9 9

20 Kosinusmaß sim cos (q,d) d d 2 d 3 d 4 d 5 q Korsika, , q 2 Italien,9524,964 2, q 3 Korsika Italien,889 4,9396 3,9744 2, Medienarchive Winter 2 Information Retrieval 2 2

21 Euklidische Distanz Der Abstand zwischen einer Anfrage und einem Dokument wird durch den Abstand der beiden zugehörenden Punkte bestimmt. Je größer der Abstand ist, desto unähnlicher ist das Dokument der Anfrage. dissim L 2 (q,d) = (q i d i ) 2 Medienarchive Winter 2 Information Retrieval 2 2

22 Italien Euklidische Distanz d 2 q 2 q 3 d d 3 d 5 q Korsika d 4 Medienarchive Winter 2 Information Retrieval 22 22

23 Euklidische Distanz dissim L 2 (q,d)) d d 2 d 3 d 4 d 5 q Korsika,5 4,336 5,625 2, q 2 Italien,425,466 2,68 4,442 5, q 3 Korsika Italien,8835 3,534 2, Medienarchive Winter 2 Information Retrieval 23 23

24 Medienarchive Winter 2 Information Retrieval 24 24

25 Medienarchive Winter 2 Information Retrieval 25 25

26 Medienarchive Winter 2 Information Retrieval 26 26

27 Medienarchive Winter 2 Information Retrieval 27 27

28 Medienarchive Winter 2 Information Retrieval 28 28

29 Bewertung von Retrieval-Systemen Bewertungsebenen:. nicht formulierbarer Informationsbedarf 2. Natürlichsprachlich formulierter Informationsbedarf 3. Exakt formulierter Informationsbedarf Medienarchive Winter 2 Information Retrieval 29 29

30 Nicht formulierbarer Informationsbedarf Beispiel: Zu einer Videosequenz wird eine passende Musik gesucht. Die passende Musik kann nicht beschrieben werden Die vorhandenen Musiktitel können nicht entsprechend klassifiziert werden Diese Bewertungsebene wird im Folgenden nicht betrachtet. Medienarchive Winter 2 Information Retrieval 3 3

31 Natürlichsprachlich formulierter Informationsbedarf Beispiel: Zeig mir alle Bilder mit Surfern im Sonnenuntergang Es wird bewertet, wie gut ein Benutzer einen Informationsbedarf formulieren kann und wie gut das Informationsbedürfnis in eine Anfrage umgesetzt werden kann Medienarchive Winter 2 Information Retrieval 3 3

32 Medienarchive Winter 2 Information Retrieval 32 Abfrage bei Google Bilder nach den Stichworten Surfer und Sonnenuntergang Das mittlere Bild in der obersten Zeile zeigt einen Punkt, der nur durch die Beschreibung als Surfer identifiziert werden kann. 32

33 Exakt formulierter Informationsbedarf Beispiel: Alle Texte, die Korsika und Italien enthalten Medienarchive Winter 2 Information Retrieval 33 33

34 Bewertungsmaßstäbe Precision: Die Menge der tatsächlich relevanten Dokumente in der Menge der vom System als relevant eingestuften Dokumente Relevant System Relevant System Relevant System Medienarchive Winter 2 Information Retrieval 34 34

35 Bewertungsmaßstäbe Recall: Die Menge der von System gelieferten relevanten Dokumente aus der Menge der tatsächlich vorhandenen relevanten Dokumente Relevant Relevant Relevant System System System Medienarchive Winter 2 Information Retrieval 35 35

36 Bewertungsmaßstäbe Fallout: Die Menge der vom System gelieferten irrelevanten Dokumente aus der Menge aller irrelevanten Dokumente Relevant System Medienarchive Winter 2 Information Retrieval 36 36

37 Dokumentenmenge Vom System als relevant berechnet Vom System als nicht relevant berechnet Beispiel 2 Relevant = 8 Irrelevant = 2 Davon vom Menschen akzeptiert Davon vom Menschen akzeptiert 2 4 Relevant 8 2 System Medienarchive Winter 2 Information Retrieval 37 37

38 Bewertung Precision 2 / =,2 Recall 2 / (2 + 6) =,25 Fallout ( 2) / 2 =,66 Medienarchive Winter 2 Information Retrieval 38 Extremsituationen: Es werden alle Dokumente vom System als relevant gemeldet: rp = 8, fp = 2, fn, rn = Precision = 8 / 2 =,4 Recall = 8 / 8 = Es wird nur ein relevantes Dokument zurückgegeben: rp =, fp =, fn 7, rn = 2 Precision = / =, Recall = / ( + 7) =,25 38

39 Eigene Messung der Precision Diplomarbeit von Frau Ilham Achkar Suchbegriff: Java Bewertung der ersten Treffer von Yahoo durch 34 Testpersonen Aufgabe: Wie relevant ist der Link für ein Referat zum Einführung in die Programmiersprache Java Bewertung zwischen 5 = sehr relevant und = überhaupt nicht relevant Medienarchive Winter 2 Information Retrieval 39 39

40 Mittelwerte über alle Bewertungen eines Links Mittelwert 4,5 4, 3,5 3, 2,5 2, Mittelwert,5,,5, Medienarchive Winter 2 Information Retrieval 4 4

41 Mittelwerte über alle Bewertungen eines Links Standardabweichung 6, 5, 4, 3, 2,,, Medienarchive Winter 2 Information Retrieval 4 4

42 Individuelle Bewertungen Etreme Einschätzungen zweier Testpersonen Proband C Proband R Medienarchive Winter 2 Information Retrieval 42 42

43 Verwaltung und Suche von Multimedia - Daten Anfrage Ergebnis Anfrageaufbereitung Feature Extraktion Optimierung Feature Werte Anfrageplan Ergebnisaufbereitung Formatumwandlung Transformation Rekonstruktion Ergebnisdaten Ähnlichkeitsberechnung Anfragebearbeitung Feature Index Feature Extraktion Feature Werte Feature Erkennung Feature Aufbereitung Rohdaten Vorverarbeitung Relationale DB Metadaten Strukturdaten MM Objekte Relationale Daten Medienarchive Winter 2 Information Retrieval 43 Vorverarbeiten: z.b. Bilder skalieren oder drehen oder entzerren, segmentieren in abgebildete Personen, einzelne Filmsequenzen Relationale Daten: beschreibende Elemente, technische Daten (Bildgröße, Speicherformat, Abspielzeit, ExiF ) Featurewerte: Texturen, Farbverteilung, Bewegungsvektoren Feature Index: Grundlage für die Suche nach gleichen oder ähnlichen Einträgen, mehrdimensionale features (Farbverteilung) Anfrageaufbereitung: Aufteilung in SQL-Abfragen mit exakten Treffen und Informationretrieval mit ähnlichen Ergebnissen, Ermittlung der Feature Werte des Vergleichsobjekts Ergebnisaufbereitung: An das Geräteprofil des Benutzers anpassen, Koordination unterschiedlicher Objekte 43

44 Beispiel Erstellung eines Fotoalbums Zeitlich zusammenhängende digitale Fotos, z.b. Urlaub, Familienfeier Automatische Auswahl der besten Fotos Boll, S., Sandhaus, P., Scherp, A., Thieme, S.: Multimedia Information Retrieval aus der Persperktive eines Fotoalbums Datenbankspektrum 8, 26 (33-39) Medienarchive Winter 2 Information Retrieval 44 44

45 Extraktion und Anreicherung von Features Personen erkennung Auswahl des besten aus N Fotos Klassifikation Innen / Aussen Schärfen analyse Belichtungs analyse Kalendarische Ereignisse Lichtbedingungen Season Detection Farb- / Helligkeits Histogramme Kanten Erkennung Bild ähnlichkeiten Gesichtserkennung Datum / Zeit Extraktion ExiF Aufnahme Features ExiF GPS Extraktion ExiF Medienarchive Winter 2 Information Retrieval 45 45

46 Exchangeable Image File Format ExiF Datum und Uhrzeit Orientierung (Hoch- oder Querformat) Brennweite Belichtungszeit Blendeneinstellung Belichtungsprogramm ASA-Wert ( Lichtempfindlichkeit ) GPS-Koordinaten (siehe Fotoverortung Geo-Imaging) Vorschaubild ( Thumbnail ) Medienarchive Winter 2 Information Retrieval 46 46