Sensorische Informationsverarbeitung und Haupkomponentenanalyse

Transkript

1 Sensorische Informationsverarbeitung und Hauptkomponentenanalyse 5 deg 5 deg 5 deg Rezeptive Felder von Neuronen im primären visuellen Korte (DeAngelis, Ohzawa, Freeman, 1995) I-NNG.d, , W. Senn Sensorische Informationsverarbeitung und Haupkomponentenanalyse Inhalt Prinzipien der kortikalen Bildverarbeitung und Synaptische Plastizität Bildung von rezeptiven Feldern Hebb sche Regel und Haupkomponentenanalyse Anwendung 1: Bildkompression Anwendung 2: Gesichtserkennung Anwendung 3: Anatomische Messungen Hauptkomponenten und Kovarianzmatri Faktoranalyse und internes Modell Biologie Statistik

2 Elemente der kortikalen Bildverarbeitung 120 Mio Stäbchen 1 Mio Ganglionzellen alles verteilt und parallel!! Datenkompression durch Merkmals-Etraktion Klassifikation mittels Merkmals-Karten und Feedback Etraktion der Hauptkomponenten durch Hebb sche Lernen Dekorrelation durch laterale Inhibition Einfügen in internes Modell durch Feedback-Loops Biochemische Grundlage des Hebb schen Lernens: Long-Term Potentiation (LTP) normale Übertragung Induktion von LTP Epression von LTP 1 Aktionspotential K + Glutamat K + Mg 2+ K + Mg 2+ Na + Ca 2+ Na + Na + Ca2+ CaMKII Einbau zusätzlicher Kanäle postsynaptisches Potential LTP verlangt starke prä- und post-synaptische Aktivität!

3 Bildung von orientierungselektiven rezeptiven Feldern Eingangsschicht (zb. Ganglionzellen) Ausgangsschicht (V1-Zellen) laterale Inhibition Merkmalskarte: Zellen mit ähnlichen Orientierungs- Präferenzen sind benachbart Hebb sches Lernen RFr entstehen durch Hebb sches Lernen und laterale Inhibition.....und entsprechen den Hauptkomponenten natürlicher Bilder!! Rezeptive Felder der V1-Neuronen Olshausen & Field,1996 Windrad (mehrere Orientierungen in einem Punkt) Swindale, NJ, 1992 Hebb sches Lernen etrahiert Hauptkomponenten Eingangsschicht Beispiel: n=2, Mittelwerte =0 Ausgangsneuron w y n w n w=hauptkomonente Aktivität Ausgangsneuron: n y i w w i i1 Hebb sches Lernen: w( t 1) w(t) y Hauptkomponente (w) = Richtung mit grösster Varianz der Daten, (=1,..,p), d.h. p Einheitsvektor w, der 1 T w ( ) maimiert. p 1 2

4 Beweis der Hauptkomponenten-Etraktion Aktivität Ausgangsneuron: n y i wi w i1 Hebb sches Lernen: w( t 1) w(t) y Fall y>0: Fall y<0: W(t+1) y W(t+1) y W(t) W(t) W(t) wird mit jedem Lernschritt in Richtung + oder gezogen, je nachdem ob y positiv oder negativ ist. Insgesamt wird W(t) in die Haupausdehnungsrichtung der Daten gezogen. Oja s Lernregel normalisiert den Gewichtsvektor Oja s Regel = Hebb+Normalisation des Gewichtsvektors: w( t 1) w(t) [ yw(t)]y Aktivität Ausgangsneuron: y w Fall w 1: yw(t) Fall w 1: yw(t) W(t+1) W(t) W(t+1) W(t) ( w) w y = Projektion von auf w

5 Etraktion von Hauptkomponenten höherer Ordnung Adaptive Principal Component Etraction (APEX-Algorithmus) Eingangsschicht Ausgangsschicht 1 y 1 2 a Adaptation gemäss: a(t 1) a(t) [y 1 y2a(t)] y2 Führt zu asymmetrischer lateraler Inhibition (und imitiert Gram-Schmitt Orthogonalisierungsverfahren) n w n1 w n2 y 2 Adaptation gemäss Oja: w( t 1) w(t) [ yw(t)]y y 2 y 1 Idee: Subtrahiere Projektion auf erste Hauptkomponente und bestimme die Hauptkomponente vom Rest. Ergebnis: APEX projiziert Daten auf Hauptkomponenten! w 8 Anwendung 1: Bildkompression mit Principal Components Original: grey level piels Zum Vergleich: JPEG: Quality Level 0.5 (=Aufteilung in 88 Piel, separate Kodierung)

6 Anwendung 1: Bildkompression mit PCA Kodierung: Aufteilung in Blöcke von 88 Piel. Etraktion der ersten 3 Hauptkomponenten,, w 3. Approimiere einen Block durch: y 1 + y 2 +y 3 w 3 Für jeden Block sind nur die 3 Koeffizienten y 1, y 2, y s zu speichern (und die Vektoren,, w 3 nur einmal). w 3 Komprimiertes Bild: Jeder Block ist durch y 1 + y 2 +y 3 w 3 ersetzt. Kompressionsrate = 3/(88) 0.05 Anwendung 1: Bildkompression mit PCA Verrauschtes Bild: = Original + Gauss sches Rauschen. PCA: Rekonstruktion des Bildes basierend auf verrauschtem Bild. Mit ersten 8 Hauptkomponenten (s. unten), Kompressionsrate = 8/(88) = 0.125

7 Anwendung 2: Gesichtserkennung mit PCA FaceIt Gesichtserkennung Datenfluss von FaceIt Funktionalität: - Screen lock (Identifzierung) - Überwachung - Video Search See Joe Atick, Visionics Statistik Modul: Etraktion der Hauptkomponenten der Gesichter ( Eigenheads ) Datenbank: Für jedes Gesicht Speicherung der 40 Hauptkoeffizienten Identifikation: Vergleich der Hauptkoeffizienten des aktuellen Gesichts mit den gespeicherten Anwendung 2: etrahierte Eigenheads w 3 Mittlerer Eigenhead (oben links) mit 15 signifikantesten Eigenheads (von insgesamt 40) in der Datenbank Atick et al.

8 Anwendung 3: Anatomische Messungen Erste 3 Haupkomponenten (PC) der 7 Variablen, zb mit APEX von zentrierten Daten etrahiert X 1 = w 3 X 7 = y 1 y 2 y 3 Women Men Interpretation: PC 1 = allgemeine Körpergrösse PC 2 = Schlankheit (Umfang des Handgelenks ist antikorreliert mit Länge des Arms) Jolliffe (1986), PCA Hauptkomponenten sind Eigenvektoren der Kovarianzmatri Zentrierte Daten: Vorderarmlänge (zentriert) X Umfang Handgelenk (zent.) Person 1 Person Kovarianzmatri von X: 1 T 4.1 C XX P Zerlegung von C mittels Eigenvektoren: T T 1.0 C 1w1 2w2w Zentrierte Daten von P=100 Personen mit Vektoren und. ( und sind orthonormale (!) Eigenvektoren von C; und ihre Eigenwerte.) Varianz von X in Richtung : T 1 T T T var( w 1X) w1 XX w1 w1cw1, da w 1 1 und orthonormal. P Somit: Varianz der Daten in Richtung des ersten Eigenvektors maimal! Kumulative Varianz = Varianz in Richtung + Varianz in Richtung

9 Hauptkomponentenanalyse transformiert Daten......und macht versteckte Faktoren sichtbar Eigenvektoren bilden Drehmatri: W, w Transformierte Daten: Y W T X Körpergrösse (zentriert) Schlankheit (zentriert) y 2 Äquivalentes Netzwerk: y y 1 versteckter Faktor 1 1 w22 y 2 versteckter Faktor 2 (Bem: Bei stark unterschiedlichen Mittelwerten wird PCA auf den standartisierten Daten durchgeführt) Faktoranalyse erklärt Entstehung der Daten Hauptkomponentenanalyse: Netzwerk, das versteckten Faktor (y) aus Daten () erkennt: T y w 2 1 w w 1 2 y versteckter Faktor Faktoranalyse: Netzwerk, das Daten () aus verstecktem Faktor (y) generiert: g 1 g 2 y versteckter Faktor 1 g1 1 gy ; y, 2 g2 2 mit Gauss ches Rauschen 1 und 1 Faktoranalyse: Suche Faktor g und Faktorladungen y, so dass die Daten durch gy approimiert werden. am besten Lösung: g = Hauptkomponente w, Faktorladungen y = Projektionen von auf g. Beweis: w w T =1, und somit gy = gw T = ww T =. Beispiel: X... ; g w ; gy X y wx (Gemäss vorhergehende Seite ist: X WY ) ;

10 Versteckter Faktor als internes Modell Erkennungs-Netzwerk und Generations-Netzwerk interagieren im Erkennungsprozess g 1 y y=versteckter Faktor = w internes Modell für 2 Bottom-Up g 2 g y erwarteter Vektor Top-Down Wach-Schlaf-Algorithmus zum Lernen des Erkennungs- und Generations-Netzwerks: Wach-Phase: Präsentation von, Berechnung von y=w T, Anpassen von g gemäss: g( t 1) g(t) ( gy)y Schlaf-Phase: Wahl von y, Berechnung von =gy, Anpassen von w gemäss: w ( t 1) w(t) (y w) Vorteil gegenüber Oja s Regel: Benützt nur Delta-Regel, biologisch plausibler, erklärt topdown gesteuerte Erwartungshaltung und Wahrnehmungsillusionen. Sensorische Informationsverarbeitung: Zusammenfassung Rezeptives Feld (RF) Ganglionzelle (Retina) Sensorisches Areal Frontallappen Datenkompression durch Merkmals-Etraktion (mit geeigneten RF ern=lokale Kanten verschiedener Orientierungen) Hebb sches Lernen Merkmale = Hauptkomponenten = RF laterale Inhibition Dekorrelation Hauptkomponenten höherer Ordnung Merkmalskarten, Klassifikation internes Modell (versteckte Faktoren)