A. Anhang Daubechies-Wavelets General characteristics: Compactly supported wavelets with extremal phase and highest number of vanishing moments for a

Transkript

1 A. Anhang A.1. Eigenschaften von Wavelets und Wavelet-Familien Die folgenden tabellarischen Zusammenstellungen der wichtigsten Eigenschaften der in dieser Arbeit verwendeten Wavelet-Typen und Wavelet-Familien sind der Wavelet Toolbox fur Matlab Version 5.2 entnommen [109]. Haar-Wavelet General characteristics: Compactly supported wavelet, the oldest and the simplest wavelet. scaling function phi = 1 on [0 1] and 0 otherwise. wavelet function psi = 1 on [0 0.5], = -1 on [0.5 1] and 0 otherwise. Family Short name Examples Orthogonal Biorthogonal Compact support DWT CWT Haar haar haar is the same as db1 possible possible Support width 1 Filters length 2 Regularity haar is not continuous Symmetry Number of vanishing moments for psi 1 Reference: I. Daubechies, Ten lectures on wavelets, CBMS, SIAM, 61, 1994,

2 A. Anhang Daubechies-Wavelets General characteristics: Compactly supported wavelets with extremal phase and highest number of vanishing moments for a given support width. Associated scaling filters are minimum-phase filters. Family Short name Order N Examples Daubechies db N strictly positive integer db1 or haar, db4, db15 Orthogonal Biorthogonal Compact support DWT CWT possible possible Support width 2N-1 Filters length 2N Regularity about 0.2 N for large N Symmetry far from Number of vanishing moments for psi N Reference: I. Daubechies, Ten lectures on wavelets, CBMS, SIAM, 61, 1994, Coiets General characteristics: Compactly supported wavelets with highest number of vanishing moments for both phi and psi for a given support width. Family Coiflets Short name coif Order N N = 1, 2,..., 5 Examples coif2, coif4 Orthogonal Biorthogonal Compact support DWT possible 140

3 A.1. Eigenschaften von Wavelets und Wavelet-Familien CWT possible Support width 6N-1 Filters length 6N Regularity Symmetry near from Number of vanishing moments for psi 2N Number of vanishing moments for phi 2N-1 Reference: I. Daubechies, Ten lectures on wavelets, CBMS, SIAM, 61, 1994, Biorthogonale Spline-Wavelets General characteristics: Compactly supported biorthogonal spline wavelets for which symmetry and exact reconstruction are possible with FIR filters (in orthogonal case it is impossible). Family Biorthogonals Short name bior Order Nr,Nd Nr = 1, Nd = 1, 3, 5 r for reconstruction Nr = 2, Nd = 2, 4, 6, 8 d for decomposition Nr = 3, Nd = 1, 3, 5, 7, 9 Nr = Nd = 4, Nr = Nd = 5 Nr = 6, Nd = 8 Examples bior3.1, bior5.5 Orthogonal Biorthogonal Compact support DWT CWT no possible possible Support width 2Nr+1 for rec., 2Nd+1 for dec. Filters length max(2nr,2nd)+2 but essentially bior Nr.Nd ld lr effective length effective length of LoF_D of HiF_D bior bior

4 A. Anhang bior bior bior bior bior bior bior bior bior bior bior bior bior Regularity for psi rec. Symmetry Number of vanishing moments for psi dec. Nr-1 and Nr-2 at the knots Nr-1 Remark: bior 4.4, 5.5 and 6.8 are such that reconstruction and decomposition functions and filters are near. Reference: I. Daubechies, Ten lectures on wavelets, CBMS, SIAM, 61, 1994,

5 A.2. Graphische Darstellung der verwendeten Wavelet-Funktionen A.2. Graphische Darstellung der verwendeten Wavelet-Funktionen Haar (Daubechies Typ 1) Daubechies Typ 2 Daubechies Typ 4 Daubechies Typ 8 Coiet Typ 1 Coiet Typ 2 Coiet Typ 3 Coiet Typ 4 Coiet Typ 5 Sturm-Liouville Tschebysche Abbildung A.1.: Verwendete Wavelet-Funktionen: Haar-Wavelet, Daubechies-Wavelets, Coiets, Sturm-Liouville- und Tschebysche-Wavelet. 143

6 A. Anhang Biorthogonal 2.2 Zerlegung Biorthogonal 2.2 Rekonstruktion Biorthogonal 2.8 Zerlegung Biorthogonal 2.8 Rekonstruktion Biorthogonal 3.3 Zerlegung Biorthogonal 3.3 Rekonstruktion Biorthogonal 3.7 Zerlegung Biorthogonal 3.7 Rekonstruktion Biorthogonal 5.5 Zerlegung Biorthogonal 5.5 Rekonstruktion Abbildung A.2.: Verwendete Wavelet-Funktionen: Biorthogonale Wavelets. 144

7 A.3. Genetische Algorithmen: Techniken und Operatoren A.3. Genetische Algorithmen: Techniken und Operatoren Die folgende kurze Beschreibung der implementierten Techniken und Operatoren beschrankt sich zwar auf den in dieser Arbeit angewendeten GA, gibt aber dennoch einen generellen Uberblick uber die innere Struktur von Genetischen Algorithmen. Techniken { Kodierung des kombinatorischen Optimierungsproblems Ein wichtiger Schritt bei der Anwendung von Genetischen Algorithmen ist die Kodierung des zu losenden Optimierungsproblems. Im hier vorliegenden Fall wird eine Bit-Kodierung verwendet, bei der ein Chromosom aus einer Reihe von Binarwerten (0 und 1) besteht. Soll die beste Kombination aus n Variablen (z.b. n Wellenzahlen oder Wavelet-Koezienten) fur ein Kalibrationsmodell ermittelt werden, so bildet ein Bit-String der Lange n ein Chromosom. Durch setzen von einzelnen Bits (Wert 1) auf dem Chromosom wird eine bestimmte potentielle Losung kodiert, die einer Kombination der zugehorigen Variablen entspricht. { Generationswechsel Beim Ubergang von einer Generation auf die nachste bleibt zum einen vorhandenes genetisches Material erhalten und wird zum anderen durch die Anwendung der Operatoren verandert. Bei der hier verwendeten Technik (steady state reproduction technique without duplicates)werden zwar die Chromosomen mit der hochsten Fitness auch zur Erzeugung neuer Chromosomen herangezogen, diese gehen aber auch unverandert in die neue Generation ein. Damit wird sichergestellt, da durch die Anwendung der Operatoren keine " guten\ Losungen vernichtet werden. Auerdem werden bei dieser Technik neu generierte Chromosomen nicht in die nachste Generation integriert, wenn sie Duplikate bereits vorhandener Chromosomen sind. { Auswahl von Chromosomen zur Reproduktion Fur die Anwendung der Operatoren mussen einzelne Chromosomen aus einer Population selektiert werden. Dies erfolgt zwar zufallig, aber bei der hier verwendeten Technik (roulette wheel parent selection) werden Chromosomen mit hoher Fitness bevorzugt ausgewahlt. Im Sinne des evolutionaren Selektionskriteriums " survival of the ttest\ wird somit " gutes\ genetisches Material bevorzugt durch Rekombination und Mutation vererbt. 145

8 A. Anhang Operatoren { Uniform crossover Der uniform crossover-operator steuert die Rekombination von genetischem Material im Algorithmus. Die der Natur nachempfundene wiederholte neue Kombination von Eigenschaften, die sich in der Selektion durchgesetzt haben, ist der wichtigste Bestandteil von Genetischen Algorithmen und unterscheidet diese von anderen Optimierungsverfahren. Zunachst werden zwei Chromosomen ausgewahlt, die aufgrund der Auswahltechnik (s.o.) zu denen mit hoherer Fitness in ihrer Generation zahlen. Mit einer zufallig generierten Schablone wird festgelegt, wie die Bits der " Eltern\-Chromosomen an die beiden neuen Chromosomen ( " Kinder\) weitergegeben werden. In dem in Abbildung A.3 gezeigten Beispiel werden die Bits bei einer 1 in der Schablone entsprechend wie bei den Ausgangschromosomen auf die neuen Chromosomen verteilt. Bei einer 0 hingegen werden die Bits vertauscht. Chromosom 1: Chromosom 2: Schablone Neues Chromosom 1: Neues Chromosom 2: Abbildung A.3.: Funktionsweise des uniform crossover-operators im Genetischen Algorithmus. Mit diesem Operator ist es moglich, durch die Kombination von Teilen zweier relativ guter Losungen eine bessere Losung zu generieren. Ebenso konnen schlechtere Losungen resultieren, was aber keine negativen Auswirkungen hat, da die ursprunglich als gut bewerteten Chromosomen bei der Anwendung der steady state reproduction technique erhalten bleiben. { Mutation Dieser Operator ersetzt ein Bit eines Chromosoms durch ein zufallig gewahltes neues Bit. Damit werden die ausgewahlten Chromosomen in einem geringeren Mae verandert als mit dem crossover-operator. In Abbildung A.4 sind drei mogliche Falle bei der Anwendung des Operators dargestellt. Da jedem Operator eine Anwendungswahrscheinlichkeit zugeordnet ist (s.u.), wird zunachst anhand einer Zufallszahl entschieden, ob der Operator zum Zuge kommt. Im ersten Beispiel wird kein 146

9 A.3. Genetische Algorithmen: Techniken und Operatoren Bit verandert, da keine der Zufallszahlen unter dem durch die Anwendungswahrscheinlichkeit festgelegten Wert von 0,2 liegt. Dies ist zwar im zweiten Beispiel der Fall, allerdings wird hier zufallig das ausgewahlte Bit durch das gleiche ersetzt, womit keine Mutation erfolgt ist. Erst im dritten Fall ndet eine Mutation statt, die zu einem neuen Chromosom fuhrt. Neues Neues Chromosome Zufallszahl Bit Chromosome ,34 0,56 0,23 0, ,84 0,14 0,39 0, ,41 0,60 0,09 0, Abbildung A.4.: Funktionsweise des mutation-operators im Genetischen Algorithmus (P =0,2 entspricht einer Anwendungswahrscheinlichkeit von 20 %). { Invader Der invader-operator dient dazu, neue Chromosomen vollkommen zufallig zu generieren. Damit wird besonders gegen Ende einer Optimierung, wenn die Population bereits weitgehend homogen ist, neues genetisches Material eingebracht. Die Wahrscheinlichkeit mit der die einzelnen Operatoren angewendet werden, andert sich linear von der ersten bis zur letzten durchlaufenen Generation n g (siehe Tabelle A.1). Damit soll sichergestellt werden, da der GA schneller in Richtung der optimalen Losung konvergiert. Tabelle A.1.: Wahrscheinlichkeiten P fur die Anwendung von Operatoren im Genetischen Algorithmus. Operator P Start P Ende Uniform Crossover 89,1 % 8,3 % Mutation 9,9 % 75,0 % Invader 1,0 % 16,7 % In den ersten Generationen sind die Populationen sehr heterogen, d.h. die einzelnen Chromosomen unterscheiden sich sehr stark voneinander. Da aber 147

10 A. Anhang gutes\ genetisches Material erhalten bleibt und durch die Anwendung des " crossover-operators rekombiniert wird, entstehen immer homogenere Populationen. Damit ist die Gefahr verbunden, da der Genetische Algorithmus zu einem lokalen Optimum, also einer suboptimalen Losung konvergiert. Daher wird, um stetig Veranderungen und ganz neues genetisches Material einzubringen, die Anwendungswahrscheinlichkeit der Operatoren mutation und invader erhoht. A.4. NIR-Spektren von Weizen: Einteilung der Datensatze Tabelle A.2.: Einteilung des Weizen-Datensatzes analog zu [168] in je einen Satz zur Kalibration (Weizen K ), internen und externen Validation (Weizen V1 und Weizen V2 ). Datensatz Standards Weizen K 10, 12, 15-17, 22, 24, 25, 36-39, 41, 43-45, 49, 54-58, 60, 63-65, 69, 70, 72, 73, 77, 79, 82, 83, 85-94, Weizen V1 1, 6, 13, 18, 21, 26, 34, 35, 46, 50, 51, 59, 62, 67, 74, 76, 80, 81, 84, 96 Weizen V2 14, 19, 23, 29-33, 42, 47, 48, 52, 53, 61, 66, 68, 71, 75, 78, 95 Die Standards 10,43 and 97 sind zweimal in Weizen K enthalten. 148

11 A.5. Klassizierung der NIR-Spektren von Kunststoverpackungen A.5. Klassizierung von on-line NIR-Spektren verschiedener Kunststoverpackungen Tabelle A.3.: Klassizierung der NIR-Spektren von Kunststoverpackungen mit LVQ: Prozentsatz der korrekt zugeordneten Spektren in der Validation und Komprimierungsraten. Datensatz IKS1 Haar-Wavelet db4-wavelet db8-wavelet Koezienten Koezienten Koezienten thresholding thresholding thresholding / % / % / % PE 76,5 6,9 76,3 6,8 79,2 6,7 PET 88,0 9,3 86,8 8,4 86,6 6,8 PP 77,3 9,6 76,6 8,3 79,0 8,8 PS 95,2 6,8 95,7 6,2 93,7 5,9 TETRA 98,0 3,3 97,3 3,3 98,4 2,2 LEER 91,4 2,3 90,5 2,4 91,3 2,3 gesamt 89,3 2,0 88,6 1,8 89,5 1,8 Komprimierung 88,9 8,0 89,3 6,4 89,3 6,4 Datensatz IKS2 haar-wavelet db4-wavelet db8-wavelet Koezienten Koezienten Koezienten thresholding thresholding thresholding / % / % / % PE 84,2 6,3 81,2 6,9 82,6 6,0 PET 88,1 6,3 85,2 7,2 87,1 6,1 PP 86,5 7,5 81,3 8,4 84,7 7,2 PS 86,8 11,5 76,1 13,8 78,8 12,3 TETRA 95,8 4,9 94,0 5,6 94,1 5,4 LEER 100,0 0,0 100,0 0,0 100,0 0,0 gesamt 91,1 2,3 88,2 2,2 89,7 2,1 Komprimierung 87,8 7,9 89,7 5,4 85,0 7,9 149

12 A. Anhang A.6. Wavelets in der quantitativen NIR-Spektrometrie Tabelle A.4.: Optimierung der Kalibration des Feuchtegehaltes von Weizen mit verschiedenen Fitnessfunktionen und Datensatzen: Liste der selektierten s-wavelet-koezienten. SEE-Optimierung SEEP-Optimierung M mit Datensatz mit Datensatzen Weizen K Weizen K, Weizen V ,64 17, ,64,4 17,64,4 4 17,64,35 17,64, ,64,35,14 17,64,4,35, ,64,35,14 17,64,35,14,9 7 64,4,35,14,9,3 17,64,35,14,9 8 64,4,35,14,9,3 17,64,35,14, ,4,35,14,9,3,71 17,64,4,35,9,3, ,64,4,35,9,3,2 17,64,4,35,63,71, ,4,35,14,9,3,71,2,1 17,64,14,9,3,2, ,4,35,14,3,2,1,39 17,64,14,9,3,2, ,4,35,14,3,2,1,39 64,35,14,9,3,2,1,39, ,4,35,14,3,2,1,39 64,35,14,9,3,2,1,39, ,4,35,14,3,2,1,39 14,9,3,2,1, ,4,35,14,3,2,1,39 64,14,9,3,2,1, ,4,35,14,2,1,39,0 64,14,9,2,1,18, ,4,35,14,2,1,39,0 14,9,2,1,72,18,0, ,35,14,9,3,71,2,1,39,62,10,18,0,42,28 64,35,14,9,3,2,1,39,0, ,35,14,3,63,71,2,1,39,72,10,18,0,28,68 64,35,14,9,3,2,1,39,0,28 150

13 A.6. Wavelets in der quantitativen NIR-Spektrometrie Tabelle A.5.: Kalibrationen des Weizendatensatzes mit PCR und PLS1: selektierte Faktoren. Kalibration des Feuchtegehaltes mit Standardparametern Kalibration des Feuchtegehaltes mit optimierten Parametern Faktoren Faktorauswahl Faktoren Faktorauswahl PCR 4 1-3, PLS Kalibration des Proteingehaltes mit Standardparametern Kalibration des Proteingehaltes mit optimierten Parametern Faktoren Faktorauswahl Faktoren Faktorauswahl PCR ,5-7,9,12-14, ,9-11,13 PLS

14 A. Anhang Tabelle A.6.: Kalibration des Weizen-Datensatzes: Liste der selektierten Koezienten fur die in den Abbildungen 3.17 und 3.18 (Seiten 93 und 94) gezeigten WCR- und FCR-Kalibrationsergebnisse. M Feuchte-Kalibrationen: selektierte Koezienten Protein-Kalibrationen: selektierte Koezienten WCR WCR FCR b22 cf1 haar db4 s t b33 b55 cf4 db4 s t FCR

15 A.6. Wavelets in der quantitativen NIR-Spektrometrie Tabelle A.7.: PCR- und PLS1-Kalibrationen des Weizen-Datensatzes mit Wavelet-Koezienten: selektierte Faktoren. Wavelet- Feuchte-Kalibrationen: Protein-Kalibrationen: Typ selektierte Faktoren selektierte Faktoren PCR PLS1 PCR PLS1 b b b b b cf cf cf cf cf haar db db db s t

16