Signalverarbeitung 2. Volker Stahl - 1 -

Transkript

1 - 1 -

2 Spracherkennung gestern und morgen - 2 -

3 Ziel Klassifikation von Signalen, Mustererkennung z.b. Sprache, Gestik, Handschrift, EKG, Verkehrssituationen, Sensor Signal Klasse 1 Klasse 2 Klasse n Vorverarbeitung: Berechnung von Merkmalvektoren Klassifikation: Vergleich mit Referenzmustern - 3 -

4 Inhalt Abstandsmaß für Vektorfolgen unterschiedlicher Länge Dynamische Zeitverzerrung, Dynamische Programmierung Berechnung eines Referenzmusters aus mehreren Beispielen Mittelwert, Varianz, Mahalanobis Abstand Zufallsvariablen Modellieren von Unsicherheit, Normalverteilung Hidden Markov Modelle, Lernen aus Beispielen Viterbi Training, Expectation Maximization (EM), k-means Algorithmus, Mischverteilungen Statistische Abhängigkeit, Kovarianz Vermeiden von Fehlklassifikationen, n-dimensionale Normalverteilung - 4 -

5 Inhalt (optional) Dekorrelation, Hauptachsentransformation Vereinfachung des Klassifikationsproblems durch Vorverarbeitung Maximum Likelihood Schätzung Theoretischer Hintergrund statistischer Lernverfahren - 5 -

6 Vorlesungsunterlagen Ilias bzw. Folien der Vorlesung Übungsaufgaben Daten für Experimente Literaturhinweise - 6 -

7 Leistungsnachweis Vorlesungsbegleitendes Programmierprojekt Entwicklung eines zuverlässigen Klassifikators Sukzessive Verbesserung, Hausaufgaben Programmiersprache C oder Matlab Abgabe in letzter Vorlesungswoche (Ausarbeitung und Software) - 7 -

8 Literatur Mathematical Methods and Algorithms for Signal Processing Todd K. Moon, Wynn C. Stirling Elementare Einführung in die Wahrscheinlichkeitsrechnung Karl Bosch (E-Book, 519.Bosch) Elementare Einführung in die angewandte Statistik Karl Bosch (519.Bosch) Mustererkennung mit Markov-Modellen Theorie, Praxis, Anwendungsgebiete Gernot A. Fink ( Fin) Pattern Classification and Scene Analysis Richard O. Duda, Peter E. Hart (519.Dud) The Elements of Statistical Learning Trevor Hastie, Robert Tibshirani, Jerome Friedman (519.Has) - 8 -

9 Beispiel: DARPA Grand Challenge 1957 Sputnik Schock Gründung der ARPA 1958 (Advanced Research Projects Agency) als Behörde des US Verteidigungsministeriums DARPA ( ), ARPA ( ), DARPA (1996- ) Aktuelles Budget 3 Mrd. $ - 9 -

10 Beispiel: DARPA Grand Challenge 1969 Arpanet Weitere Projekte: Tarnkappentechnologie, GPS, Grand Challenge 2004, Mohave Wüste Nevada, 241km. Grand Challenge 2005 Urban Challenge

11 - 11 -

12 - 12 -

13 - 13 -

14 Aktuelle DARPA Projekte (Quelle: Download ) Military Bioengineering & Human Enhancing Das Ziel heißt Human Enhancing, Soldaten sollen mit Hilfe von Drogen, Genen und Mikrochips schneller, härter und kampffähiger werden ein Motto, dem sich die Darpa mit viel Geld und Know-How widmet. Continuous Assisted Performance mit biotechnologischen Mitteln (Implantaten, Manipulation des Stoffwechsels, etc.) erreichen, dass Soldaten bis zu sieben Tage lang wach bleiben können, ohne dabei den Verstand zu verlieren. Brain Machine Interfaces ein Programm, für das der Darpa zurzeit 24 Millionen Dollar zur Verfügung stehen. Ziel von Brain Machine Interfaces (Hirn-Maschine-Schnittstellen) ist es, aus menschlichen Gehirnen Informationen zu gewinnen, die für Computer verwertbar sind Chips im Kopf sollen Panzer oder Hubschrauber oder auch den Soldaten steuern, dem sie implantiert wurden. Stellen Sie sich eine Zeit vor, in der Soldaten allein mittels Gedanken kommunizieren, stellen sie sich eine Zeit vor, in der menschliche Gehirne ihre eigenen drahtlosen Modems besitzen statt auf der Basis von Gedanken zu handeln, haben Kampfflugzeuge dann Gedanken, die handeln

15 (Quelle: Zeit Online, Download )

16 Mustererkennung Beispiel Schriftzeichenerkennung A

17 Erkennen heißt Klassifizieren Gegeben: Gesucht: Signal (bzw. daraus berechnete Merkmale): Muster Endlich viele Klassen Klasse, zu der das Signal gehört. Beispiele: Buchstabenerkennung Spracherkennung (Phonemerkennung, Worterkennung) Visuelle Qualitätskontrolle (ok, Ausschuss) Medizinische Diagnostik (Röntgenbilder, EKG, )

18 Klassifizieren heißt Vergleichen mit Bekanntem Gegeben: Gesucht: Zu klassifizierendes Muster Ein Referenzmuster zu jeder Klasse Die Klasse, deren Referenzmuster am ähnlichsten zu dem zu klassifizierenden Muster ist. Problem: Geeignetes Ähnlichkeitsmaß zwischen Mustern?

19 Beispiel Schriftzeichenerkennung Referenzmuster Klasse A: Referenzmuster Klasse B: A B Zu klassifizierendes Muster: A Ähnlichkeits- / Abstandsmaß?

20 Vorverarbeitung Berechnung trennscharfer Merkmale eines Musters: Merkmalvektoren. Zeitsignal (Sprache, Gesten, EKG ) Folge von Merkmalvektoren Vorverarbeitung ist anwendungsabhängig! Unterschiedliche Merkmale für Sprache, Gesten, Handschrift, Bilder,

21 Abstandsmaß zwischen Folgen von Merkmalvektoren Referenzmuster Klasse A: Referenzmuster Klasse B: Zu klassifizierendes Muster:

22 Euklidischer Abstand

23 Abstandsmaß für unterschiedlich lange Folgen? Referenzmuster Klasse A: Referenzmuster Klasse B: Zu klassifizierendes Muster:

24 Matching Referenz Test

25 Referenz Test Darstellung als Pfad in einem Suchgitter Referenz Test

26 Einschränkungen beim Matching Jedem Testvektor muss genau ein Referenzvektor zugeordnet werden! (Zuordnungsfunktion) Verboten! zweihundertdrei Zeitliche Reihenfolge muss beibehalten werden! (Monotone Zuordnungsfunktion) Verboten! dreihundertzwei

27 Einschränkungen beim Matching Die ersten und letzten Vektoren müssen einander zugeordnet werden! Fachhochschule hoch Erzwungen! Keine zwei aufeinanderfolgenden Referenzvektoren dürfen übersprungen werden! Siebenhundertfünfundzwanzig Verboten! Siebenundzwanzig

28 Gesucht: Pfad durch Gitter mit minimalen Kosten von links unten nach rechts oben monoton steigend maximale Steigung 2 (einen Referenzvektor überspringen) Referenz Test

29 Konsequenz: Nur 3 Arten von Übergängen im Gitter Next Übergang Loop Übergang Skip Übergang

30 Viterbi Algorithmus: Berechnung des optimalen Pfades

31 - 31 -

32 - 32 -

33 - 33 -

34 - 34 -

35 - 35 -

36 - 36 -

37 - 37 -

38 Verbesserung: Mehrere Referenzmuster pro Klasse Referenzmuster einer Klasse: Mittelwert für die Klasse: Modell Zustände

39 Problem: Referenzfolgen einer Klasse unterschiedlich lang Referenzmuster einer Klasse: Lösung: Alle Referenzvektorfolgen einer Klasse auf ein gemeinsames Modell fester Länge matchen!

40 Viterbi Training eines Modells Überblick: Bestimme Modell Länge Matching (Annahme lineare Zeitverzerrung) Initiale Schätzung der Modellvektoren Iteriere Matching (dynamische Zeitverzerrung, Viterbi) Neuberechnung der Modellvektoren

41 Wahl der Modell Länge Modell zu lang! Wahl der Modell Länge z.b. ½ Median der Längen der Referenzvektorfolgen

42 Lineare Segmentierung Modell Referenzmuster Lineare Zuordnung der Merkmalvektoren einer Referenzaufnahme zu den Modellzuständen

43 Beispiel Referenzmuster einer Klasse (gegeben) Länge 6 Länge 7 Modell für die Klasse (gesucht) Länge

44 Lineare Segmentierung

45 Initiale Schätzung der Modellvektoren Modellvektor = Mittelwert über alle Referenzvektoren, die dem Modellzustand zugeordnet wurden

46 Matchen der Referenzfolgen gegen das Modell mit Viterbi Algorithmus (Segmentierung)

47 Neuschätzung der Modellvektoren Modellvektor = Mittelwert über alle Referenzvektoren, die dem Modellzustand zugeordnet wurden Iteration: Matching mit neuem Modell, Modell neu schätzen aus neuer Zuordnung

48 Zahlenbeispiel