Klassifikation durch direkten Vergleich (Matching)

Transkript

1 Klassifikation durch direkten Vergleich (Matching) Eine triviale Lösung für die Klassifikation ergibt sich durch direkten Vergleich des unbekannten Musters in allen Erscheinungsformen der Äquivalenzklasse (Schablonenvergleich) gemäß einer Metrik d (Maß für die Klassenzugehörigkeit) mit den Prototypen einer Klasse (Bsp.: Holzpuzzle) Äquivalenzklasse: E G (x) :={g i (x) g i G} E G (x) d d d d 0 x 1 0 x 2 0 x 3 0 x 4 H. Burkhardt, Institut für Informatik, Universität Freiburg ME-I, Kap. 2c 1

2 Einführung einer Metrik d(x,y) für den Vergleich in unitären oder Innenprodukträumen (oder allgemeiner in Hilbert-Räumen): eine Metrik wird über das Innen- oder Skalarprodukt induziert d( E ( x), x ) = E ( x) x =< E ( x) x, E ( x) x > /2 G j G j G j G j j EG j d j j = E ( x) + x 2 < ( x), x > = ( x( p), x ) für p G Aus einem kleinsten Abstand resultiert ein größtes Innenprodukt bei normierten Vektoren (Maß für Ähnlichkeit ) H. Burkhardt, Institut für Informatik, Universität Freiburg ME-I, Kap. 2c 2

3 Skalarprodukte für kontinuierliche und digitalisierte Muster: Kontinuierliche Muster: 1D: < xy, >= xt ( ) ytdt ( ) 2D: < XY, >= X ( t, t ) Y( t, t ) dt dt Digitalisierte Muster: 1D: < xy, >= 2D: < XY, >= xy i i X Y i, j i, j H. Burkhardt, Institut für Informatik, Universität Freiburg ME-I, Kap. 2c 3

4 Berechnung des Skalarproduktes über den gesamten Parameterraum {p} der Bewegungsgruppe entspricht der Berechnung der Kreuzkorrelationsfunktion R x,y < x x >=< x p x p 0 0 E G ( ), j ( ), j>= R für xp ( ), x z.bsp. Translation bei Bildern der Dimension N N ergibt sich ein Aufwand, der proportional ist zu: N 2 {z} Skalarprodukt á N 2 {z} zykl.permut. = N 4 Die Korrelation lässt sich mit der schnellen Fouriertransformation effizienter berechnen, nämlich mit einem Aufwand von O(N 2 ld N) gemäß (siehe DBV-I): R x,y = F à1 (F(x) á F ã (y)) 0 j H. Burkhardt, Institut für Informatik, Universität Freiburg ME-I, Kap. 2c 4

5 Berechnung des Skalarproduktes über den gesamten Parameterraum {p} der Bewegungsgruppe hat im allgemeinen für ein Signal oder Bild der Dimension N einen Aufwand von: { dim( p ON ( 123 N ) ) Aufwand für ein Skalarprodukt Größe der Äquivalenzklasse Hierbei geht man davon aus, dass man jede Achse des Parameterraumes mit der Bilddimension auflöst, also z.b. N Translationen. H. Burkhardt, Institut für Informatik, Universität Freiburg ME-I, Kap. 2c 5

6 Affin-invariante Erkennung mit Korrelation in allen Parametern (matched Filter) Gegeben: Kontur mit N Punkten ON N = ON dim( p) 8 ( ) ( ) ops mit dim( p) : Freiheitsgrade 3 24 e.g. N = ops Annahme: 100 MIPS-Maschine (multiply-add) ops 16 8 ( ) 10 sek Jahre 8 = = 10 ops / sec 9 Alter des Kosmos: 5 10 Jahre H. Burkhardt, Institut für Informatik, Universität Freiburg ME-I, Kap. 2c 6

7 Klassifikation mit invarianten Merkmalen: Extraktion lageinvarianter Merkmale, anschließend Klassifikation im Merkmalsraum: E G (x) T x % d 1 d 2 d 3 d 4 0 x% 1 0 x% 2 0 x% 3 x% 0 4 xà = T(x) H. Burkhardt, Institut für Informatik, Universität Freiburg ME-I, Kap. 2c 7

8 Relevante and irrelevante Änderungen in Signalen und Bildern 1D 2D Idee: entferne alle irrelevante Änderungen mit Hilfe einer mathematischen Transformation T und verwende nur invariante Merkmale H. Burkhardt, Institut für Informatik, Universität Freiburg ME-I, Kap. 2c 8

9 Notwendige Bedingung für die Invarianz einer Abbildung T : 1) Notwendige Bedingung für die Invarianz bezüglich der Gruppenwirkung G: G x ~ x T( x ) = x% = x% = T( x ) Alle Elemente einer Äquivalenzklasse werden in einen Punkt des Merkmalsraumes abgebildet. Dies kann auch wie folgt formuliert werden: T( g x) = T( x) für g G i i H. Burkhardt, Institut für Informatik, Universität Freiburg ME-I, Kap. 2c 9

10 Invarianzbegriff bei zeitinvarianten Systemen Der oben eingeführte Invarianzbegriff darf nicht verwechselt werden mit der Definiton zeitinvarianter Systeme. Dort verlangt man, dass die Systemantwort auf eine verschobene Erregung bei unveränderter Form ebenfalls verschoben ist. Dies gilt sowohl für die Erregung mit einem δ-impuls, als auch für eine beliebige Erregung x. D.h.: T δ ( t) h( t) Impulsantwort T δ ( t t ) h( t t ) verschobene Impulsantwort 0 0 bzw.: T xt () yt () T x( t t ) y( t t ) 0 0 x() t yt () T H. Burkhardt, Institut für Informatik, Universität Freiburg ME-I, Kap. 2c 10

11 Operatorhomomorphismus Bei zeitinvarianten Systemen handelt es sich um einen Operatorhomomorphismus, d.h.es gilt: T(g i (x(t))) = g i (T(x(t))) = g i (y(t)) wobei.: g i (x(t)) = x(t àt i ) Dies bedeutet, dass die Operationen g und T vertauscht werden dürfen! H. Burkhardt, Institut für Informatik, Universität Freiburg ME-I, Kap. 2c 11

12 Vollständigkeit einer invarianten Abbildung T : 2) Die Vollständigkeit ist eine hinreichende Bedingung dafür, dass aus der Gleichheit zweier Merkmalsvektoren darauf geschlossen werden darf, dass die beiden Objekte aus der gleichen Äquivalenzklasse stammen (Umkehrschluss der notwendigen Bedingung): T ( x ) = T( x ) x ~ x 1 G D.h. es gibt keine Mehrdeutigkeiten bei der Zuordnung von Merkmalsvektoren zu Äquivalenzklassen. Schwächere Bedingung: Separierbarkeit (Vollständigkeit für eine Teilmenge) also z.bsp. Für die Menge aller Buchstaben bei der Zeichenerkennung H. Burkhardt, Institut für Informatik, Universität Freiburg ME-I, Kap. 2c 12

13 Abbildungseigenschaft der Transformation T: E G (x 1 ) E G (x 2 ) T T ~ x 1 Mehrdeutigkeit ~ x 2 E G (x 3 ) T ~ x 3 H. Burkhardt, Institut für Informatik, Universität Freiburg ME-I, Kap. 2c 13

14 Abbildungseigenschaften Maß für den Grad der Vollständigkeit T I T (x) E G (x) xà 1. Definition der Invarianten einer beliebigen kontrahienden Abbildung T: I T (x) :={x i T(x i )=T(x)} H. Burkhardt, Institut für Informatik, Universität Freiburg ME-I, Kap. 2c 14

15 Abbildungseigenschaften 2. Aus der notwendigen Bedingung der Invarianz folgt: E G (x) ò I T (x) muss Teilmenge sein! 3. Aus der Vollständigkeit folgt: E G (x) =I T (x) x X Bei der schwächeren Forderung der Separierbarkeit gilt diese Aussage nur für eine Teilmenge X 0 H. Burkhardt, Institut für Informatik, Universität Freiburg ME-I, Kap. 2c 15

16 Beispiele für lageinvariante Merkmale 1. Der Mittelwert von Bildern ist invariant bezüglich Euklidscher Bewegungen (Translation und Rotation). Jedoch: Merkmale nicht vollständig. A xö = N 1 PP x i,j 2. Das Histogramm oder die Häufigkeitsverteilung ebenso. Auch hier ist die notwendige Bedingung erfüllt, die Merkmale sind jedoch stark mehrdeutig. Man kann nämlich alle Bildpunkte beliebig permutieren, ohne das Histogramm zu verändern. Das Histogramm ist vollständig für die symmetrische Gruppe (alle N! Permutationen). Häufigkeit Grauwert H. Burkhardt, Institut für Informatik, Universität Freiburg ME-I, Kap. 2c 16

17 Satz: Nur nichtlineare Abbildungen sind in der Lage von kompakten Äquivalenzklassen Invarianten zu bilden. H. Burkhardt, Institut für Informatik, Universität Freiburg ME-I, Kap. 2c 17

18 Einfache Beispiele für invariante Abbildungen mit nichtlinearen Funktionen xà y=x 2 y= x Die Äquivalenzklasse wird gebildet auf der Basis betrags-gleicher Zahlen, also z.bsp.: (à 3) ø ï (+ 3) xà x Vollständige Invarianten! y = a 0 + a 2 x 2 + a 4 x 4 -x 2 -x 0 -x 1 x 1 +x 0 x 2 x Erfüllt notwendige, aber nicht hinreichende Bedingung; Mehrdeutigkeiten. Aber z.bsp. Separierbarkeit für x <x 0 H. Burkhardt, Institut für Informatik, Universität Freiburg ME-I, Kap. 2c 18

19 Nichtlineare Abbildungen zur Erzeugung von Invarianten linear affin nichtlinear nichtlinear H. Burkhardt, Institut für Informatik, Universität Freiburg ME-I, Kap. 2c 19

20 Weitere Anforderungen an die invarianten Abbildungen Stetigkeit der Abbildung Erhaltung von Clustern Was passiert bei systematischen Störungen? (Helligkeit- und Kontrastschwankungen) x = k x 0 + a u mit : u = H. Burkhardt, Institut für Informatik, Universität Freiburg ME-I, Kap. 2c 20

21 Lineare Systeme können diskriminieren zwischen Frequenzen oder spektralen Komponenten, nichtlineare Systeme sind in der Lage zwischen Äquivalenzklassen zu unterscheiden. Lemma: Gegeben sei eine lineare Abbildung S. Zwei Signale x 1,x 2 können nur zueinander äquivalent sein, wenn und nur wenn die Differenz x 1 -x 2 ein Element des Nullraums N(S) ist (dieser ist jedoch nicht kompakt).... Es ist unmöglich, mit linearen Abbildungen nichttriviale kompakte Äquivalenzklassen zu realisieren! H. Burkhardt, Institut für Informatik, Universität Freiburg ME-I, Kap. 2c 21