Lineare Prädiktion. Stephan Arlinghaus 9. November 2006

Transkript

1 Stephan Arlinghaus 9. November 2006

2 Gliederung 1 Einleitung Sprachanalyse... etwas Mathematik 2 Das autoregressive Modell (AR) (LP) 3 Kovarianzmethode Autokorrelationsmethode Methodenvergleich 4 5

3 Der Ausgangspunkt Sprachanalyse... etwas Mathematik

4 Sprachanalyse... etwas Mathematik verschiedene Betrachtungsweisen Unterschiedliche Merkmale (features) der Sprache sollen aus einem Sprachsignal s(n) extrahiert werden. Die relevante Sprachinformation kann oft sehr kompakt dargestellt werden (Ausnutzung von Redundanz). Gesucht ist ein Satz von Parametern, der das Sprachsignal effizient beschreibt.

5 Kurzzeit-Sprachanalyse Sprachanalyse... etwas Mathematik Sprache ist dynamisch Dennoch: gewöhnlich wird angenommen, dass sich Signaleigenschaften zeitlich nur langsam ändern Zerlegung des Sprachsignals in kurze Fenster, die einzeln analysiert werden.

6 Parameter des Zeitbereichs Sprachanalyse... etwas Mathematik Vorteil der Analyse im Zeitbereich: einfach in der Berechnung physikalische Interpretation leicht möglich Beispiel: Berechnung der zero-crossing rate (ZCR) ermöglicht schnelle Unterscheidung von stimmhaften und stimmlosen Lauten.

7 Sprachanalyse... etwas Mathematik Parameter des Frequenzbereichs Vorteil der spektralen Analyse: Wiederholungen eines Satzes von einem Sprecher unterscheiden sich im Zeitbereich oft sehr, sind sich im Spektralbereich jedoch sehr ähnlich. Allerdings ist ein Übergang in den Frequenzraum nötig. Beispiel: Formanten (bestimmte Frequenzen im Spektrum).

8 Sprachanalyse... etwas Mathematik unterschiedliche Zeitsignale des gleichen Wortes

9 Sprachanalyse... etwas Mathematik Die Transformation in den Frequenzbereich Da das Sprachsignal diskret vorliegt, erfolgt der Übergang vom Zeitbereich in den Spektralbereich mit Hilfe der (unilateralen) z-transformation: X(z) = Z{s n } = s n z n n=0 Diese Darstellung erweist sich im Folgenden als günstig. Wichtige Eigenschaften der z-transformation: Linearität Verschiebungssatz: Z{s n k } = z k Z{s n }

10 Sprachanalyse... etwas Mathematik Vergleich z-transformation und diskrete Fourier-Transformation (DFT) z-transformation X(z) = Z{s n } = s n z n n=0 Frequenzen werden je nach Betrag von z auf die ganze komplexe Ebene abgebildet. DFT X(k) = F{s n } = N 1 n=0 Abbildung der Frequenzen auf den Einheitskreis in der komplexen Ebene. ink 2π s n e N

11 Sprachanalyse... etwas Mathematik lineare zeitinvariante Systeme (LTI-Systeme) Ein LTI-System H ist definiert durch eine eindeutige mathematische Abbildung H : x(t) y(t); H ist linear und zeitinvariant. Filter sind LTI-Systeme. Ein LTI-System wird eindeutig durch seine Impulsantwort h(t) beschrieben. H(δ(t)) = h(t). Das Filtern ist eine Faltung mit der Impulsantwort h(t) des Filters H: H[s(t)](t) = (s h)(t) = y(t)

12 Faltung Einleitung Sprachanalyse... etwas Mathematik Definition (s h)(t) := s(τ) h(t τ) dτ Eigenschaften der Faltung: Kommutativität: s h = h s Faltungssatz: y(t) = (s h)(t) Y (f ) = F{y(t)} = S(f ) H(f ) Faltung mit der δ-distribution: (f δ)(t) = f (t)

13 Sprachanalyse... etwas Mathematik Übertragungsfunktion und Korrelationsfunktion Nach dem Faltungssatz gilt Y (f ) = H(f ) S(f ), wobei H(f ) als Übertragungsfunktion bezeichnet wird. Maß der Ähnlichkeit zweier Funktionen ist die Korrelationsfunktion Φ sg (τ) := s(t)g(t + τ) dt, die zur Autokorrelationsfunktion (AKF) wird, wenn s und g identisch sind.

14 Autokorrelationsfunktion Sprachanalyse... etwas Mathematik Φ ss (τ) := s(t)s(t + τ) dt Eigenschaften der Autokorrelationsfunktion: Für τ = 0 bezeichnet die AKF die Energie des Signals AKF ist maximal bei τ = 0 Φ ss (τ) = Φ ss ( τ) (Symmetrie) AKF von weißem Rauschen ist die δ-distribution

15 Spektrogramme Sprachanalyse... etwas Mathematik

16 Fragestellung Einleitung Das autoregressive Modell (AR) (LP) Gibt es bestimmte Merkmale in der Sprache, die es ermöglichen, Parameter zu finden, die die relevanten Informationen der Sprache enthalten? Dazu notwendig: Entwicklung eines Modells zur Beschreibung der Sprachentstehung.

17 Das autoregressive Modell (AR) (LP) Schematische Darstellung des menschlichen Artikulationssystems

18 Das Quelle-Filter-Modell Das autoregressive Modell (AR) (LP)

19 Das Quelle-Filter-Modell Das autoregressive Modell (AR) (LP)

20 Das Quelle-Filter-Modell Das autoregressive Modell (AR) (LP)

21 Filtermodellierung Das autoregressive Modell (AR) (LP) Zur Modellierung des Sprachsignals werden Anregungssignal und Filter des Vokaltraktes benötigt. Filter für Glottis (Stimmritze) und Lippen bleiben unberücksichtigt, da die Effekte beider Filter sich gegenseitig aufheben. Nasenraum bleibt unberücksichtigt, da er zur Modellierung nicht zwingend notwendig ist (dämpft bestimmte Frequenzen, mathematisch komplexerer Filter nötig). Die Anregungsfunktion beschrieben durch weißes Rauschen für stimmlose Laute Impulszug für stimmhafte Laute

22 Das Vokaltraktmodell Das autoregressive Modell (AR) (LP) Modell des Vokaltraktes ist ein Rohr der Länge L, zusammengesetzt aus M gleichlangen Zylinderabschnitten der Querschnittsflächen A i. Energieverluste an den Vokaltraktwänden bleiben unberücksichtigt. Rohr hat formabhängige Resonanzfrequenzen, die Formanten des Sprachsignals heißen.

23 Vokaltrakt als Röhre Das autoregressive Modell (AR) (LP)

24 Vokaltraktfilter Einleitung Das autoregressive Modell (AR) (LP) Anregung durch weißes Rauschen oder einen Impulszug: Vokaltrakt stellt rein rekursives/autoregressives System dar, beschrieben durch einen all-pole Filter. Ein System ist rein rekursiv, wenn seine Übertragungsfkt. H(z) für z 0 keine Nullstellen, sondern nur Pole besitzt: H(z) = b M k=1 a kz k

25 Vokaltraktfilter Einleitung Das autoregressive Modell (AR) (LP) H(z) = b 0 ist ein Verstärkungsfaktor b M k=1 a kz k M heißt Ordnung des autoregressiven Systems A(z) = M k=0 a kz k (a 0 = 1) heißt inverser Filter, 1/A(z) heißt all-pole Filter. a k sind die Filterkoeffizienten

26 Das autoregressive Modell Das autoregressive Modell (AR) (LP) Sprachsignal s(n) wird erhalten durch s(n) = h(n) e(n) wobei e(n) das Anregungssignal und h(n) die Impulsantwort des Vokaltraktes darstellt. In z-transformierter Schreibweise lautet die Gleichung: S(z) = H(z) E(z) = 1 A(z) E(z)

27 Das autoregressive Modell Das autoregressive Modell (AR) (LP) Synthesemodell: Analysemodell: mit dem inversen Filter S(z) = 1 A(z) E(z) E(z) = A(z) S(z) A(z) = M a k z k k=0 Nun: Bestimmung der Filterkoeffizienten a k.

28 (LP) Das autoregressive Modell (AR) (LP) Schätzung der Abtastwerte durch lineare Prädiktion der Form M s(n) = a i s(n i) i=1 Der (Prädiktions-)Fehler dieser Schätzung ergibt sich als M M e(n) = s(n) s(n) = s(n)+ a i s(n i) = a i s(n i), a 0 = 1 i=1 i=0 Man erhält nach z-transformation dieser Gleichung E(z) = A(z) S(z), was dem Analysemodell entspricht.

29 Das autoregressive Modell (AR) (LP) Vergleich autoregressives Modell und lineare Vorhersage Es liegt nahe, den Prädiktionsfehler e(n) mit dem Eingangssignal, sowie die a i mit den gesuchten Filterkoeffizienten von A(z) zu identifizieren!

30 Kovarianzmethode Autokorrelationsmethode Methodenvergleich Minimierung des Prädiktionsfehlers Die beste Schätzung von s(n) durch s(n) wird erreicht, wenn e(n) minimal wird. Minimierung des summierten quadratischen Fehlers, also von α = n 1 n=n 0 e 2 (n). n 0 und n 1 legen den Zeitraum fest, über den minimiert wird.

31 Kovarianzmethode Autokorrelationsmethode Methodenvergleich Minimierung des Prädiktionsfehlers Nach Einsetzen ergibt sich: ( n 1 M α = a i s(n i) = = n=n 0 n 1 i=0 M n=n 0 i=0 j=0 M i=0 j=0 c ij := ) 2 M a i s(n i)s(n j)a j M a i c ij a j n 1 mit n=n 0 s(n i)s(n j)

32 Kovarianzmethode Autokorrelationsmethode Methodenvergleich Minimierung des Prädiktionsfehlers α wird nun minimiert durch Nullsetzen der totalen Ableitung dα da, bzw. a i α = 0. Es folgt, dass alle partiellen Ableitungen von α nach a k verschwinden müssen: c 0k = α a k = 2 M a i c ik = 0 i=0 M a i c ik, k = 1,..., M i=1 Man hat nun ein M-dimensionales Gleichungssystem, mit dem die M Koeffizienten a i bestimmt werden können.

33 Kovarianzmethode Autokorrelationsmethode Methodenvergleich Berechnung der partiellen Ableitungen a k M M a i c ij a j i=0 j=0 = ak ( a 0 c 00 a 0 + a 0 c 01 a a 0 c 0M a M + a 1 c 10 a 0 + a 1 c 11 a a 1 c 1M a M +. a M c M0 a 0 + a M c M1 a a M c MM a M ) M = 2 a i c ik i=0

34 Kovarianzmethode Autokorrelationsmethode Methodenvergleich Erweiterung auf nicht-stationäre Signale Problem: Bei Änderung des Vokaltraktes ändert sich der Filter und damit die Filterkoeffizienten. Aber: Sprache ändert sich nur in Zeitintervallen von etwa 20 ms (endliche Artikulationsgeschwindigkeit) Daher: Signal in genügend kleine Abschnitte unterteilen und Verfahren auf Teilintervalle anwenden. zwei Verfahren zur Berechnung der Koeffizienten: a) Kovarianzmethode b) Autorkorrelationsmethode

35 Kovarianzmethode Autokorrelationsmethode Methodenvergleich Kovarianzmethode oder nicht-stationärer Ansatz Eine Folge von N Sprachsamples {s(n)} = {s(0), s(1),..., s(n 1)} ist bekannt setze Summationsgrenzen n 0 = M und n 1 = N 1, d.h. Fehlerminimierung nur über das Intervall [M, N 1] c ij = N 1 n=m s(n i)s(n j) alle N Samples werden zur Berechnung der Matrixelemente c ij benutzt

36 Autokorrelationsmethode Kovarianzmethode Autokorrelationsmethode Methodenvergleich Eine Folge von N Sprachsamples {s(n)} = {s(0), s(1),..., s(n 1)} ist bekannt setzte Summationsgrenzen n 0 = und n 1 = c ij = n= definiere s(n) = 0 für n / [0, N[ s(n i)s(n j) diese Grenzen vereinfachen die Darstellung der Matrixelemente c ij wie folgt

37 vereinfachte Matrixelemente Kovarianzmethode Autokorrelationsmethode Methodenvergleich c ij = = = n= n= N 1 i j n=0 = Φ(i j) s(n i)s(n j) s(n)s(n + i j) s(n)s(n + i j)

38 Kovarianzmethode Autokorrelationsmethode Methodenvergleich Vergleich Kovarianz- und Autokorrelationsmethode Kovarianzmethode Löse M a i c ij = c 0j, i=1 für j = 1,..., M, mit c ij = N 1 n=m e(n) = s(n i)s(n j) M a i s(n i) i=0 Autokorrelationsmethode Löse M a i Φ(i j) = Φ(j), i=1 für j = 1,..., M, mit Φ(l) = N 1 l n=0 e(n) = s(n)s(n + l) M a i s(n i) i=0

39 Kovarianzmethode Autokorrelationsmethode Methodenvergleich Vergleich Kovarianz- und Autokorrelationsmethode Kovarianzmethode kurzes Rechteckfenster kann zur Analyse genügen sehr genaue Ergebnisse Anwedung bei stark nicht-stationären Signalen konstruierte Filter können instabil werden Autokorrelationsmethode längeres Fenster benötigt ungenauere Ergebnisse einfaches Gleichungssystem, da c ij toeplitz, wofür effiziente Lösungsalgorithmen (z.b. Levinson-Durbin Rekursion) bekannt sind. gute Filterstabilität

40 der linearen Prädiktion ist eine der mächtigsten Methoden der Sprachanalyse und wird benutzt... als eine Form der Sprachkompression (in Mobiltelefonen), zur digitalen und verschlüsselten Übertragung von Sprache über schmalbandige Kanäle, zur Formantenanalyse (auch andere Verfahren...),...

41 mit MATLAB Spektrogramm der Wörter lineare Prädiktion : nur Betrachtung quasi-stationärer Signale benutzt werden die Vokale a, e und u gezeigt werden die Unterschiede der Formanten in Abhängigkeit der Vokale, sowie die Abhängigkeit der Übertragungsfunktion von der Ordnung der Prädiktion

42 Spektrum und Übertragungsfunktionen des Lautes /a/, Ordnungen M = 8 (mitte) und M = 15 (unten)

43 Übertragungsfunktionen der Laute /a/ (oben) und /u/ (unten), M = 15

44 Spektrogramm der Wortfolge lineare Prädiktion

45 Modellierung des menschlichen Artikulationssystems durch Quelle-Filter-Modell unberücksichtigt bleiben Energieverluste an den Vokaltraktwänden sowie der gesamte Nasaltrakt Anregungsfunktion ist weißes Rauschen oder ein Zug von δ-impulsen Filter des Vokaltraktes ist all-pole Filter (keine Nullstellen) autoregressives Modell: Sprachsignal ist Faltung des Einganssignals mit Impulsantwort des Filters

46 : Schätzung der Signalsamples durch Linearkombination vorheriger Samples Minimierung des Prädiktionsfehlers ( ˆ= Eingangssignal) Berechnung der Filterkoeffizienten mit Kovarianz- oder Autokorrelationsmethode Spracherkennung (Formanten) und starke Datenkompression (bis zu 96%) möglich

47 Vielen Dank für die Aufmerksamkeit.