Lösung von hochdimensionalen Anfangswertproblemen durch hierarchische Tensor-Approximation

Transkript

1 Lösung von hochdimensionaen Anfangswertprobemen durch hierarchische Tensor-Approximation Zur Erangung des akademisches Grades eines DOKTORS DER ATURWISSESCHAFTE von der Fakutät für Mathematik des Karsruher Instituts für Technoogie (KIT) genehmigte DISSERTATIO von Andreas Thomas Arnod (DIPL.-TECH. MATH. UIV.) aus Augsburg Tag der mündichen Prüfung: 17. Jui 2013 Referent: Korreferent: Prof. Dr. Tobias Jahnke Prof. Dr. Christian Lubich

2

3 Inhatsverzeichnis 1 Eineitung 1 2 iedrigrangapproximation der Lösung von Matrix-Differentiageichungen 5 3 Ein Überbick über Tensor-Formate Kanonisches Format Tucker-Format Hierarchisches Tucker-Format Zeitabhängige Approximation im hierarchischen Tucker-Format 33 5 Matrix-Darsteung von Tensoren 45 6 Differentiageometrie von Tensoren im hierarchischen Tucker-Format Interpretation as Mannigfatigkeit Krümmung der Mannigfatigkeit A posteriori Feheranayse der iedrigrangapproximation 83 8 Zeitabhängige Approximation der Back-Schoes-Geichung im H-Tucker-Format Die Back-Schoes-Geichung Formuierung des diskreten Anfangswertprobems umerische Lösung Literaturverzeichnis 115 iii

4

5 1. Eineitung Diese Arbeit befasst sich mit der zeitabhängigen Approximation von hochdimensionaen Anfangswertprobemen der Form Y ex (t) F (Y ex (t)), Y ex (0) Y 0 R 1... d, t 0, (1.1) mit einer Funktion F : R 1... d R 1... d. Geht das Anfangswertprobem aus der Diskretisierung einer partieen Differentiageichung hervor, so sind die Werte 1,..., d ein Maß für die Feinheit der Raumdiskretisierung. Bekannte hochdimensionae partiee Differentiageichungen sind beispiesweise die Back-Schoes-Geichung aus der Finanzmathematik, die Fokker-Panck-Geichung aus der Wahrscheinichkeitstheorie oder die Schrödingergeichung aus der Quantenmechanik. Setzen wir die Existenz einer Lösung des Anfangswertprobems voraus, so ist Y ex (t) zu edem Zeitpunkt ein d-dimensionaer Tensor mit insgesamt d ω1 ω Einträgen. Für 1... d besitzt der Tensor aso insgesamt d Einträge. Obgeich viee Verfahren zur numerischen Lösung eines Anfangswertprobems bekannt sind, scheitert deren Anwendung in hohen Dimensionen aufgrund der enormen Anzah an Freiheitsgraden. Sebst wenn es mögich wäre, den Tensor trotz seiner vieen Einträge im Computer-Speicher abzuegen, so würde mit der Dimension auch der numerische Aufwand für die Zeitintegration exponentie steigen. Richard Beman bezeichnet in [Be61] das exponentiee Ansteigen an Freiheitsgraden mit der Dimension as Fuch der Dimensionen. Da es schon für reativ keine Werte von d nicht mögich ist, ein Standardverfahren auf das Probem (1.1) anzuwenden, besteht ein mögicher Ausweg darin, vor dem numerischen Lösen das ursprüngiche Anfangswertprobem durch ein neues Anfangswertprobem zu approximieren, das weniger Unbekannte enthät und daher mit kassischen ODE-Verfahren geöst werden kann. Um ein reduziertes Probem zu erhaten, nimmt man an, dass die 1

6 2 1. Eineitung Lösung des Ausgangsprobems durch Funktionen einer bestimmten Form hinreichend gut approximiert werden kann. Diese Ansatzfunktionen sind dabei so gewäht, dass sie nur von einer gewissen Anzah an Parametern abhängen und weitaus weniger Freiheitsgrade aufweisen as beiebige Tensoren. Mit Hife des Variationsprinzips von Dirac-Frenke [Lub08] können dann Bewegungsgeichungen für die Parameter der Ansatzfunktionen hergeeitet werden. ach dem Lösen der Bewegungsgeichungen ermögichen die Ansatzfunktionen die Darsteung eines zeitabhängigen Tensors anhand der zeitabhängigen Parameter. Mit diesem Ansatz erhaten wir aus einem Anfangswertprobem immenser Größe ein nichtineares Probem moderater Größe. Liegt ein ineares Anfangswertprobem vor, so wird die Linearität nicht an das neue Probem vererbt. Während die Lösung von (1.1) ein zeitabhängiger Tensor mit einer beträchtichen Anzah an Einträgen ist, besteht die Lösung des neuen Probems aus einer mäßigen Anzah an zeitabhängigen Parametern. Die Frage ist nun, wie die Ansatzfunktionen in einer sinnvoen Weise gewäht werden können. Vieversprechende Kandidaten sind Tensorprodukte. Sie besitzen die Eigenschaft, einen hochdimensionaen Tensor aus dem Produkt von niederdimensionaen Tensoren zu erzeugen. ehmen wir as Beispie zwei Vektoren u R m und v R n. Insgesamt besitzen die beiden Vektoren m + n Freiheitsgrade. Betrachten wir nun aber die Matrix M u v T, so besitzt die Matrix m n Einträge und wird dabei voständig durch die beiden Vektoren beschrieben. Das Prinzip, eine Matrix aus dem Produkt zweier Vektoren zu erzeugen, ässt sich auf höhere Dimensionen erweitern, indem man beispiesweise das Tensorprodukt von d Vektoren verwendet, um einen d-dimensionaen Tensor zu erzeugen. Leider reicht ein einziges soches Tensorprodukt für eine zufriendensteende Approximation in den meisten Fäen noch nicht aus. Aus diesem Grund betrachtet man in der Rege Linearkombinationen von sochen Tensorprodukten. Dabei kann man verschiedene Ansätze verfogen, was auf verschiedene sogenannte Tensor-Formate führt. Das hierarchische Tucker-Format [HK09] ist eines dieser Formate. Es zeichnet sich dadurch aus, dass ein hochdimensionaer Tensor in einer rekursiven Weise durch niederdimensionae Obekte dargestet wird. Die Struktur des Formats führt dazu, dass die Anzah an Freiheitsgraden forma nur inear mit der Dimension wächst [Gra10], so dass die numerische Lösung von weitaus höherdimensionaen Anfangswertprobemen mögich ist. Ausgehend von dem Anfangswertprobem (1.1) findet die numerische Lösung in zwei Schritten statt: As Erstes stet man anhand des Anfangswertprobems (1.1) die Bewegungsgeichungen für die Parameter eines Tensors im hierarchischen Tucker-Format auf. Dieser Approximationsschritt ist as eine Reduktion des Modes zu verstehen. In einem zweiten Schritt sind diese Bewegungsgeichungen mit einem numerischen Integrator zu ösen. Abbidung 1.1 iustriert die Approximationsschritte dieser Vorgehensweise. 2

7 3 Gewöhniche Differentiageichung (immenser Größe) iedrigrangapproximation im Hierarchischen Tucker Format (Modereduktion) Gewöhniche Differentiageichung (moderater Größe) umerische Zeitintegration (beispiesweise mit ode45 in Matab) umerische Lösung Abbidung 1.1: Approximationsschritte Diese Arbeit ist der Anayse der Modereduktion, aso des ersten Approximationsschritts, gewidmet. Dabei orientiert sich unser Vorgehen an der Arbeit [KL07] von Koch und Lubich, wo mit Hife des Variationsprinzips eine zeitabhängige Approximation der Lösung einer Matrix-Differentiageichung bestimmt wird. Die dort entwicketen Methoden werden in [KL10] von den geichen Autoren auf die Approximation von hochdimensionaen Anfangswertprobemen im Tucker-Format [KB09] erweitert. In der voriegenden Dissertationen übertragen wir die Techniken von Koch und Lubich aus [KL07] und [KL10] auf das hierarchische Tucker-Format. Dabei eiten wir nicht nur die Bewegungsgeichungen der Darsteung her, sondern entwicken nach den Ideen von Koch und Lubich in [KL07] beziehungsweise [KL10] eine a posteriori Feheranayse der Modereduktion. Die voriegende Dissertation ist in fogender Weise gegiedert: In Kapite 2 eräutern wir die Vorgehensweise von Koch und Lubich in [KL07]. Die Ideen und Konzepte dieses Kapites biden die Grundage für die Hereitung einer zeitabhängigen Approximation im hierarchischen Tucker-Format in Kapite 4. In Kapite 3 steen wir die drei woh bekanntesten Tensor-Formate vor: Das kanonische Format, das Tucker-Format und das hierarchische Tucker-Format. In Kapite 4 präsentieren wir ein Hauptresutat dieser Arbeit: Die Formen zur zeitabhängigen Approximation eines Anfangswertprobems im hierarchischen Tucker-Format. Zu diesem Zweck bestimmen wir mit Hife des Variationsprinzips die Bewegungsgeichungen für die Parameter der Darsteung. Das Lösen dieser Bewegungsgeichungen führt zu einem zeitabhängigen Tensor, wecher die Lösung des hochdimensionaen Anfangswertprobems im hierarchischen Tucker-Format approximiert. In Kapite 5 führen wir einen Formaismus ein, wecher uns eraubt, einen Tensor as eine Matrix 3

8 4 1. Eineitung oder as einen Vektor darzusteen. Dieser Formaismus hift uns dabei, Rekursionen in den Formen aus Kapite 4 aufzuösen. In Abschnitt 6.1 aus Kapite 6 greifen wir die Resutate von Uschmaew und Vandereycken in [UV13] auf und zeigen, dass es sich bei der Menge an Tensoren im hierarchischen Tucker-Format um eine Untermannigfatigkeit des R 1... d handet. Mit dem Formaismus aus Kapite 5 sind wir dann in Abschnitt 6.2 in der Lage, eine Abschätzung über die Krümmung der Mannigfatigkeit herzueiten. achdem wir in Kapite 4 eine Mögichkeit vorsteen, ein hochdimensionaes Anfangswertprobem in der Menge der Tensoren im hierarchischen Tucker-Format zu approximieren, untersuchen wir in Kapite 7 die Genauigkeit dieser Approximation im Rahmen einer a posteriori Feheranayse. In den Beweisen dieses Kapites wird die Abschätzung über die Krümmung der Mannigfatigkeit die wesentiche Ingrediens sein. In Kapite 8 betrachten wir ein numerisches Beispie: Wir benutzen das hierarchische Tucker-Format zur Approximation der Lösung einer vierdimensionaen Back-Schoes-Geichung und untersuchen das Approximationsverhaten. Wir weisen darauf hin, dass zentrae Resutate der voriegenden Arbeit in ähnicher Form auch in dem kürzich erschienenen Artike [LRSV13] von Lubich, Rohwedder, Schneider und Vandereycken zu finden sind. Die Bewegungsgeichungen der iedrigrangapproximation werden dort mit etwas anderen Argumenten hergeeitet, doch sowoh die Abschätzungen der Krümmung der Mannigfatigkeit as auch die a posteriori Feherabschätzung werden mit einer ähnichen Strategie bewiesen. Wir möchten edoch betonen, dass die Resutate der voriegenden Dissertation zeitgeich und vöig unabhängig von der Arbeit [LRSV13] erziet wurden und bereits in dem Preprint [AJ12] dokumentiert sind. 4

9 2. iedrigrangapproximation der Lösung von Matrix-Differentiageichungen In diesem Kapite steen wir ein Verfahren zur dynamischen Approximation von Matrix- Differentiageichungen vor. Die Resutate dieses Kapites beruhen auf der Arbeit [KL07] von Koch und Lubich. Zwar sind Matrizen edigich zweidimensionae Obekte, edoch dienen die hier vorgesteten Konzepte as Grundage für das hierarchische Vorgehen in Kapite 4. As Modeprobem betrachten wir für eine Funktion F : R m n R m n das matrixwertige Anfangswertprobem Y ex (t) F (Y ex (t)), Y ex (0) Y 0 R m n, t 0. (2.1) Wir nehmen im Fogenden stets an, dass das Anfangswertprobem (2.1) eine eindeutige Lösung besitzt. Das ist beispiesweise dann erfüt, wenn die Funktion F : R m n R m n einer Lipschitz-Bedingung genügt, siehe [Wa00, Kapite 2 6]. Obgeich eine Lösung Y ex (t) zu edem Zeitpunkt stets eine Matrix wäre, kann sebst in diesem Fa die Anzah an Freiheitsgraden sehr groß werden. Resutiert beispiesweise das zweidimensionae Anfangswertprobem aus der Diskretisierung einer partieen Differentiageichung auf einem feinen Gitter, so erhaten wir große Werte für m und n. Um die Anzah an Freiheitsgraden zu reduzieren, suchen wir eine zeitabhängige Approximation von Y ex (t), weche in der Menge M r Y R m n : rang(y ) r veräuft. Ein soches Vorgehen ist sinnvo, wei die Lösung eines matrixwertigen Anfangswertprobems oft einen niedrigen essentieen Rang besitzt. 5

10 6 2. iedrigrangapproximation der Lo sung von Matrix-Differentiageichungen Die fogenden Beispie iustriert, wie eine Matrix, weche die Graustufenwerte der Pixe einer Fotografie enthaten, fu r verschiedene Werte von r durch ein Eement aus der Menge Mr approximiert wird. (a) Bestapproximation in M10 (b) Bestapproximation in M20 (c) Bestapproximation in M50 (d) Originabid Abbidung 2.1: Bestapproximation einer Graustufenmatrix in Mr Die Grafiken in Abbidung 2.1 zeigen die Bestapproximationen ener Graustufenmatrix in den Mengen M10, M20 und M50. Dabei verstehen wir unter der Bestapproximation einer Matrix M Rm n in der Menge Mr eine Matrix X Mr mit M. X M min X F F X M r Das Originabid1 aus Abbidung 2.1 besteht aus Bidpunkten. 1 University of Southern Caifornia. Signa and Image Processing Institute: Lena (Testbid). Verfu gbar onine: 6

11 7 Ehe wir auf das Variationsprinzip eingehen, weches uns eine zeitabhängige Approximation der exakten Lösung Y ex (t) in der Menge M r iefert, möchten wir noch einige Eigenschaften der Menge M r anführen. Zum Einen handet es sich bei der Menge M r um eine (m r)(n r)-dimensionae Untermannigfatigkeit des R m n, siehe [Lee03, Exampe 8.14]. Darüber hinaus bietet die Menge M r den Vortei, dass ede Matrix Y M r eine iedrigrangzeregung der Form Y U S V T (2.2) besitzt mit U R m r und V R n r as Matrizen mit orthonormaen Spaten und S GL(r, R), aso U T U I, V T V I und rang(s) r. (2.3) Die Existenz einer sochen Zeregung garantiert beispiesweise die Singuärwertzeregung, siehe [DH08, Satz 5.15]. Wendet man die Singuärwertzeregung an, um Matrizen U, S und V zu erhaten, weche (2.2) erfüen, so ist in diesem spezieen Fa die Matrix S sogar eine Diagonamatrix. Eine Zeregung von der Form (2.2) ist nicht eindeutig: Seien M u, M v O(r) beiebige orthogonae Matrizen, so wäre Y U S V T mit U UM T u, S Mu SM T v und V V M T v ebenfas eine Zeregung mit den gewünschten Eigenschaften. Der große Vortei in der Darsteung der Matrix Y durch die Matrizen U, S und V wird dann deutich, wenn wir den Speicheraufwand vergeichen: Setzen wir m n voraus, so müssen für eine Matrix Y insgesamt m 2 Zahen gespeichert werden. Betrachten wir hingegen den Speicheraufwand für eine Darsteung durch die Matrizen U, S und V, so iegt dieser bei 2mr + r 2 Einträgen. Wir erreichen aso eine Situation, in wecher der Speicheraufwand nur noch inear in m zu Buche schägt. Der achtei dieser Darsteung iegt darin, dass zur Rekonstruktion eines Eintrages der Matrix Y aus den Matrizen U, S und V insgesamt 2r 2 + r 1 Rechenoperationen nötig sind. Spate Spate Zeie Zeie Y U S V T Abbidung 2.2: Rekonstruktion eines Eintrages aus der Matrix Y Abbidung 2.2 zeigt schematisch, weche Einträge aus den Matrizen U, S und V verrechnet werden müssen, um einen Eintrag in der Matrix Y zu rekonstruieren. 7

12 8 2. iedrigrangapproximation der Lösung von Matrix-Differentiageichungen Es macht aso nur dann Sinn, eine Matrix Y durch eine Zeregung von der Form (2.2) darzusteen, wenn der Rang der Matrix Y moderat ist, aso r m und r n erfüt ist; dann ist der Speicheraufwand erhebich geringer und die Rekonstruktion eines Eintrages der Matrix Y mit mäßigem Rechenaufwand verbunden. Die Motivation, eine zeitabhängige Approximation des Anfangswertprobems (2.1) in der Menge M r zu suchen, besteht aso in erster Linie darin, die Anzah der Freiheitsgrade zu reduzieren. Ein naives Vorgehen bestünde darin, das Anfangswertprobem (2.1) zu ösen und zu edem Zeitschritt anhand der Singuärwertzeregung eine Bestapproximation X(t) zu bestimmen, siehe [EY36] und [GHS87]. Soch ein Vorgehen würde aber bedeuten, ein matrixwertiges Anfangswertprobem immenser Größe zu ösen und hätte nicht zuetzt aufgrund der Singuärwertzeregung erhebiche numerische Kosten zur Foge. Für m n sind zur Berechnung der Singuärwertzeregung O 4 3 n3 Rechenoperationen nötig. Ein aternatives Vorgehen iefert das Variationsprinzip von Dirac-Frenke. Diese Formuierung geht zurück auf die Mathematiker Pau Adrien Maurice Dirac und Yakov Iich Frenke, siehe [Dir30] und [Fre34], sowie [Lub08] für weitere Informationen. Das Zie des Variationsprinzips von Dirac-Frenke besteht darin, ein neues Anfangswertprobem herzueiten, dessen Lösung auf einer Mannigfatigkeit veräuft und die Lösung des eigentichen Probems approximiert. Wir erkären den Mechanismus des Variationsprinzips am Beispie der Mannigfatigkeit M r und des Anfangswertprobems (2.1). Angenommen, der Anfangswert Y 0 ist ein Eement der Mannigfatigkeit M r und wir befinden uns zu einem Zeitpunkt t in einem Punkt Y (t) auf der Mannigfatigkeit. Betrachten wir nun unser Anfangswertprobem (2.1), so wäre die Zeitabeitung in diesem Punkt F (Y (t)). Anstee dieser Zeitabeitung verwenden wir edoch die Proektion davon in den Tangentiaraum und erhaten auf diese Weise das neue Anfangswertprobem Y (t) P (Y (t))f (Y (t)), Y (0) Y 0 M r, t 0 (2.4) mit P (Y (t)) as den orthogonaen Proektor in den Tangentiaraum T Y M r. Dadurch, dass die Zeitabeitung zu edem Zeitpunkt ein Eement des Tangentiaraumes ist, bewegt sich die zeitabhängige Approximation nur in Richtungen, in denen sie die Mannigfatigkeit M r nicht verässt, siehe [HLW06, Theorem 5.2]. Wir nehmen im Fogenden an, dass das Anfangswertprobem (2.4) stets eine Lösung besitzt. 8

13 9 F(Y) TY M r P(Y)F(Y) M r Y Abbidung 2.3: Proektion in den Tangentiaraum T Y M r Abbidung 2.3 iustriert das Vorgehen des Variationsprinzips, wobei wir aus Gründen der Übersichtichkeit in der Abbidung auf das Zeitargument verzichtet haben. Eine zu (2.4) äquivaente Formuierung ist das Minimierungsprobem min Y (t) F (Y (t)) F Y (t) T Y M r oder die Variationsformuierung Y (t) F (Y (t)), δy 0 für ae δy T Y M r, (2.5) wobei wir as Skaarprodukt das Frobenius-Skaarprodukt A, B : tr A T B für A, B R m n wähen. Dadurch, dass die Approximation Y (t) in der Menge M r veräuft, existieren zeitabhängige Matrizen U(t), S(t) und V (t) mit den Eigenschaften (2.3), weche die Geichung Y (t) U(t) S(t) V T (t) erfüen. Zur dynamischen Approximation der Lösung von Matrix-Differentiageichungen ist es das Zie dieses Kapites, ähnich wie in [KL07] Bewegungsgeichungen für die Matrizen U(t), S(t) und V (t) herzueiten. Diese Bewegungsgeichungen begünstigen die Zeitintegration in der Hinsicht, dass zur Berechnung der Zeitabeitung edigich ein Geichungssystem mit r(r + m + n) Unbekannten geöst werden muss. Ehe wir in Theorem 2 die Bewegungsgeichungen für die zeitabhängigen Matrizen U(t), S(t) und V (t) vorsteen, ist es nötig, den Tangentiaraum der Mannigfatigkeit zu bestimmen. Anschießend nutzen wir die Variationsformuierung (2.5), um Bewegungsgeichungen für die Matrizen U(t), S(t) und V (t) herzueiten. Für die Definition des Tangentiaraumes greifen wir auf die Arbeit von Koch und Lubich in [KL07, Abschnitt 2.1] zurück. 9

14 10 2. iedrigrangapproximation der Lösung von Matrix-Differentiageichungen Lemma 1. Sei M r Y USV T eine Zeregung wie in (2.2). Dann ist δy genau dann ein Eement des Tangentiaraumes T Y M r, wenn Matrizen δu R m r, δs R r r und δv R n r existieren, weche die Gauge-Bedingungen U T δu 0 und V T δv 0 (2.6) erfüen, so dass δy die Darsteung δy δusv T + UδSV T + USδV T (2.7) besitzt. Darüber hinaus sind die Matrizen δu, δs und δv durch (2.7) und die Gauge- Bedingungen (2.6) eindeutig bestimmt und erfüen mit P U UU T, P V V V T PU I UU T, PV I V V T die Geichungen δs U T δy V, δu P U δy S 1, und δv P V δy T U S T. Beweis. Die Aussage des Lemmas wird in [KL07, Abschnitt 2.1] bewiesen. Mit Lemma 1 haben wir eine formae Beschreibung für die Eemente des Tangentiaraumes in einem Punkt der Mannigfatigkeit gefunden. Eine interessante Eigenschaft des Tangentiaraumes besteht darin, dass für edes Eement δy T Y M r eindeutige Matrizen δu, δs und δv existieren, weche den Gauge-Bedingungen genügen und die Geichung δy δusv T + UδSV T + USδV T erfüen. Mit der Charakterisierung des Tangentiaraumes sind wir in der Lage, die Bewegungsgeichungen der iedrigrangdarsteung zu bestimmen. Theorem 2. Für t [0, T ] sei Y (t) die Lösung des Anfangswertprobems Y (t) P (Y (t))f (Y (t)), Y (0) Y 0 M r mit Y 0 U 0 S 0 V T 0 wie in (2.2) und rang(y (t)) r. Dann git Y (t) U(t) S(t) V T (t) + U(t) S(t) V T (t) + U(t) S(t) V T (t), 10

15 11 wobei die zeitabhängigen Matrizen U(t), S(t) und V (t) für ae t [0, T ] die Bewegungsgeichungen und S(t) U T (t) F (Y (t)) V (t), U(t) PU(t) F (Y (t)) V (t) S 1 (t), V (t) PV (t) F T (Y (t)) U(t) S T (t) erfüen (U(0) U 0, S(0) S 0 und V (0) V 0 ist eine mögiche Wah für Anfangswerte). In den Bewegungsgeichungen von Theorem 2 erfordert die Berechnung der Zeitabeitung die Invertierung der zeitabhängigen Matrix S(t), beziehungsweise das Lösen eines inearen Geichungssystems. Ehe wir Theorem 2 beweisen, zeigen wir, dass die Geichungen des Theorems sowoh die Gauge-Bedingungen, as auch die Orthogonaität der Matrizen U(t) und V (t) erhaten. Lemma 3. Seien U(t), S(t) und V (t) die Lösungen der Bewegungsgeichungen aus Theorem 2. Dann geten einerseits die Gauge-Bedingungen U T (t) U(t) 0 und V T (t) V (t) 0 und andererseits die Orthogonaitätsbedingungen für ae t [0, T ]. U T (t) U(t) I und V T (t) V (t) I Beweis von Lemma 3. Wir zeigen zunächst, dass die Orthogonaität erhaten beibt. Die Zeitabeitung für den Term U T (t)u(t) erfüt die Geichung d U T (t) U(t)] dt U T (t) U(t) + U T (t) U(t) PU(t) F (Y (t)) V (t) S 1 (t) T U(t) + U T (t) PU(t) F (Y (t)) V (t) S 1 (t) S T (t) V T (t) F T (Y (t)) PU(t) U(t) + PU(t) U(t) T F (Y (t)) V (t) S 1 (t). Mit H(t) : S T (t) V T (t) F T (Y (t)) PU(t) U(t) fogt d U T (t) U(t)] dt H(t) + H T (t) für U T (t) U(t) I 0 für U T (t) U(t) I. (2.8) Das bedeutet, wenn die Geichung U T (0)U(0) I 11

16 12 2. iedrigrangapproximation der Lösung von Matrix-Differentiageichungen erfüt ist, so git wegen (2.8) für ae t [0, T ] auch U T (t)u(t) I. Die Gauge-Bedingung fogt unmittebar aus der Orthogonaität U T (t) U(t) PU(t) U(t) T F (Y (t)) V (t) S 1 (t) 0. Anaog erhaten wir V T (t)v (t) I und V T (t) V (t) 0 für ae t [0, T ]. Beweis von Theorem 2. Dadurch, dass die Geichungen des Theorems die Gauge-Bedingungen erhaten, fogt mit Lemma 1 Y (t) T Y M r. Wir beweisen die Aussage des Theorems, indem wir nachweisen, dass die Geichung Y (t) F (Y (t)), δy 0 (2.9) mit Y (t) wie aus Theorem 2 für ae δy T Y M r erfüt ist. In den fogenden Geichungen nutzen wir frequentiert die Zykizität der Spur. Das bedeutet, dass die Spur für beiebige Matrizen A R m n und B R n m die Geichung erfüt. Wir beginnen mit der Variation tr(ab) tr(ba) δy δu S(t) V T (t) (2.10) mit einem beiebigen δu R m r, das die Gauge-Bedingung U T (t)δu 0 erfüt. Dann git Y (t), δy U(t) S(t) V T (t) + U(t) S(t) V T (t) + U(t) S(t) V (t), δu S(t) V T (t) PU(t) F (Y (t)) V (t) S 1 (t) S(t) V T (t), δu S(t) V T (t) PU(t) F (Y (t)) V (t) V T (t), δu S(t) V T (t) tr V (t) V T (t) F T (Y (t)) PU(t) δu S(t) V T (t) tr F T (Y (t)) δus(t) V T (t) F (Y (t)), δu S(t) V T (t) F (Y (t)), δy. 12

17 13 Demnach git die Variationsformuierung (2.9) für Variationen (2.10). Betrachten wir nun die Variation δy U(t) S(t) δv T (2.11) mit einem beiebigen δv R n r, weches ebenfas der Gauge-Bedingung V T (t)δv 0 genügt, so git Y (t), δy U(t) S(t) V T (t) + U(t) S(t) V T (t) + U(t) S(t) V T (t), U(t) S(t) δv T U(t) S(t) V T (t), U(t) S(t) δv T T U(t) S(t) PV (t) F T (Y (t)) U(t) S T (t), U(t) S(t) δv T U(t) U T (t) F (Y (t)) PV T (t), U(t) S(t) δv tr P V (t) F T (Y (t)) U(t) U T (t) U(t) S(t)δV T tr F T (Y (t)) U(t) S(t) δv T F (Y (t)), U(t) S(t) δv T F (Y (t)), δy. Damit besitzt die Variationsformuierung (2.9) auch für Variationen (2.11) Gütigkeit. Zuetzt betrachten wir die Variation mit einem beiebigen δs R r r. Dann git Y (t), δy δy U(t) δs V T (t) (2.12) U(t) S(t) V T (t) + U(t) S(t) V T (t) + U(t) S(t) V (t), U(t) δs V T (t) U(t) S(t) V T (t), U(t) δs V T (t) tr V (t) S (t) U T (t) U(t) δs V T (t) U tr (t) F (Y (t)) V (t) T δs tr F T (Y (t)) U(t) δs V T (t) F (Y (t)), U(t) δs V T (t) F (Y (t)), δy. 13

18 14 2. iedrigrangapproximation der Lösung von Matrix-Differentiageichungen Die Variationsformuierung (2.9) ist aso auch für Variationen (2.12) gütig. Betrachten wir nun die Superposition der Variationen (2.10), (2.11) und (2.12), so spannen diese den gesamten Tangentiaraum auf und wir erhaten Y (t) F (Y (t)), δy 0 für ae δy T Y M r. Unser Vorgehen in dem Beweis von Theorem 2 unterscheidet sich von dem Vorgehen von Koch und Lubich in [KL07, Beweis von Proposition 2.1]. Wir haben uns für den Aternativweg entschieden, wei wir dieseben Techniken in Kapite 4 anwenden. Hinsichtich der Güte der Approximation sei darauf hingewiesen, dass die zeitabhängige Approximation Y (t) aus Theorem 2 nicht zwangsäufig einer Bestapproximation geicht. In [KL07, Theorem 6.1] steen Koch und Lubich eine a posteriori Anayse des Fehers der iedrigrangapproximation vor. Das Variationsprinzip offeriert nicht nur die Mögichkeit, die Lösung eines Anfangswertprobems im iedrigrangformat anzunähern, sondern auch eine zeitabhängige Matrix M(t) R m n auf der Mannigfatigkeit M r zu approximieren. Zu diesem Zweck benötigen wir eine Forme für die Proektion in den Tangentiaraum von M r, siehe [KL07, Proposition 2.1]. Koroar 4. Sei B R m n und M r Y U S V T wie in (2.2). Ferner seien δs U T B V, δu P U B V S 1, und δv P V B T U S T. Dann erfüt die Proektion von B in den Tangentiaraum T Y M r die Geichung P (Y )B δu S V T + U δs V T + U S (δv ) T. Beweis. Betrachten wir den Beweis von Theorem 2 und vertauschen den Term Y (t) mit P (Y )B und F (Y (t)) mit B, so fogt, dass P (Y )B δu S V T + U δs V T + U S (δv ) T die Variationsformuierung B P (Y )B, δy 0 für ae Eemente des Tangentiaraumes δy T Y M r erfüt. 14

19 15 Setzen wir voraus, dass M(t) eine zeitabhängige Matrix ist, die sich gatt in der Zeit bewegt, so können wir unter Verwendung der Zeitabeitung der Matrix, sowie der Proektion in den Tangentiaraum durch das Anfangswertprobem Y (t) P (Y (t)) M(t), Y (0) Y 0 M r, t 0 (2.13) eine Approximation Y (t) M(t) konstruieren, weche sich auf der Mannigfatigkeit M r bewegt. Koch und Lubich untersuchen in [KL07] die Approximation einer zeitabhängigen Matrix durch die Lösung des Anfangswertprobems (2.13) eingehend. Darüber hinaus iustrieren onnenmacher und Lubich in [L08] anhand von numerischen Experimenten die zeitabhängige Approximation der Lösung von matrixwertigen Anfangswertprobemen beziehungsweise einer zeitabhängigen Matrix. 15

20

21 3. Ein Überbick über Tensor-Formate Ehe wir auf verschiedene Tensor-Formate eingehen, steen wir vorab die dafür notwendigen Definitionen und otationen vor. Ein Tensor T R 1... d ist ein d-dimensionaes Zahenfed mit insgesamt d ω1 ω Einträgen. Eine äquivaente Darsteung eines Tensors ist die Interpretation des Zahenfedes as mutivariate Funktion. Mit den Indexmengen I ω {1,..., ω }, ω {1,..., d}, interpretieren wir T as eine mutivariate Funktion T : I 1... I d R, T T (i 1,..., i d ). Eine Matrix, aso ein zweidimensionaes Zahenfed, kann beispiesweise as eine bivariate Funktion betrachtet werden; die Funktionsargumente sind die Zeie und die Spate der Matrix und die Auswertung der Funktion entspricht dem Eintrag, wecher die Matrix in der betreffenden Zeien- und Spatenposition annimmt. Diese Darsteung ist vorteihaft bei der Konstruktion von hochdimensionaen Tensoren aus dem Produkt von niederdimensionaen Tensoren. As nächstes woen wir die Mutipikation zweier Tensoren definieren. Seien µ {µ 1,..., µ m } {1,..., d}, ν {ν 1,..., ν n } {1,..., d} und U : I µ R, I µ I µ1... I µm, V : I ν R, I ν I ν1... I νn. Da sich die Tensoren womögich in unterschiediche Richtungen erstrecken, definieren wir Hifstensoren U und V, weche in den gemeinsamen Richtungen κ {κ 1,..., κ k } µ ν veraufen, as U : I κ R, U(iκ1,..., i κk ) U(i µ1,..., i µm ) 17

22 18 3. Ein Überbick über Tensor-Formate beziehungsweise V : I κ R, V (iκ1,..., i κk ) V (i ν1,..., i νn ). Damit definieren wir das Produkt von U und V as (U V ) : I κ R, (U V )(i κ1,..., i κk ) U(i κ1,..., i κk ) V (i κ1,..., i κk ). Die Mutipikation zweier Tensoren kann aso as die punktweise Mutipikation ihrer Hifstensoren interpretiert werden. Für Tensoren A A(i 2, i 4, i 5 ) und B B(i 1, i 4, i 5 ) autet das Produkt beispiesweise (A B)(i 1, i 2, i 4, i 5 ) A(i 2, i 4, i 5 )B(i 1, i 4, i 5 ). Insbesondere in Kapite 4 wird eine weitere Abbidung von Bedeutung sein. Indexmengen Mit den definieren wir die Abbidung ι {ι 1,..., ι } µ ν, λ {λ 1,..., λ } (µ ν) \ (µ ν), aso κ {ι 1,..., ι, λ 1,..., λ }, U, V (i λ1,..., i λ ), : R µ 1... µm R ν 1... νn R λ 1... λ (3.1) ι1 i ι1 ι i ι (U V )(i ι1,..., i ι, i λ1,..., i λ ). Eine anschauiche Interpretation dieser Abbidung besteht darin, dass in den gemeinsamen Richtungen aufsummiert wird. Wenden wir beispiesweise Abbidung (3.1) auf zwei Tensoren A A(i 2, i 4, i 5 ) und B B(i 1, i 4, i 5 ) an, so erhaten wir A, B (i 1, i 2 ) 4 5 i 4 1 i 5 1 (A B)(i 1, i 2, i 4, i 5 ) 4 5 i 4 1 i 5 1 A(i 2, i 4, i 5 ) B(i 1, i 4, i 5 ). Erstrecken sich die Tensoren U und V in (3.1) in identische Richtungen, aso λ, so egen wir per Konvention R as Ziemenge von (3.1) fest. In diesem spezieen Fa stimmt die Abbidung mit dem Frobenius-Skaarprodukt überein; die Einträge der zwei Tensoren werden punktweise miteinander mutipiziert und anschießend aufsummiert. Setzen sich zwei Tensoren A und B aus dem Produkt von niederdimensionaen Tensoren zusammen, zum Beispie A(i 1, i 2, i 3 ) A 1 (i 1 )A 2 (i 2 )A 3 (i 3 ) und B(i 1, i 2, i 3 ) B 1 (i 1 )B 2 (i 2 )B 3 (i 3 ), 18

23 3.1. Kanonisches Format 19 so vereinfacht sich Abbidung (3.1) hinsichtich der Auswertung auf die fogende Weise A, B A 1, B 1 A 2, B 2 A 3, B 3. (3.2) Während auf der inken Seite von (3.2) die Abbidung, dreidimensionae Tensoren as Argumente besitzt, erscheint die Abbidung auf der rechten Seite edigich mit eindimensionaen Argumenten. Vergeichen wir den numerischen Aufwand zur Auswertung, so beträgt dieser auf der inken Seite Rechenoperationen und auf der rechten Seite 2( ) 1. Für wird der numerische Mehraufwand zur Auswertung der inken Seite von (3.2) deutich. Mit den zuvor vorgesteten Formaismen sind wir in der Lage, die woh bekanntesten drei Tensor-Formate vorzusteen. 3.1 Kanonisches Format Das kanonische Format ist eines der ersten Tensor-Formate und geht zurück auf den Mathematiker Frank Lauren Hitchcock in [Hit27a] und [Hit27b]. Definition 1 (Kanonisches Format). Sei r eine ganze Zah. Ein Tensor Y R 1... d ist genau dann im kanonischen Format, wenn für ae ω {1,..., d} und {1,..., r} univariate Funktionen U ω existieren, so dass Y der CP-Zeregung : I ω R U ω R ω Y (i 1,..., i d ) r d U ω (i ω ) 1 ω1 genügt. Dabei wird die Variabe r as Darsteungsrang des kanonischen Formats bezeichnet. Die Menge aer Tensoren im kanonischen Format mit Darsteungsrang r bezeichnen wir as CP(r). Der Begriff CP steht für Candecomp/Parafac und geht sowoh auf die Arbeit von Carro und Chang in [CC70], as auch auf die Arbeit von Harshman in [Har70] zurück, siehe [KB09, Abschnitt 3]. Das kanonische Format bietet den großen Vortei, dass es für moderate Werte von r mögich ist, einen hochdimensionaen Tensor mit sehr geringem Speicheraufwand darzusteen; zur Rekonstruktion eines Tensors im kanonischen Format genügt es, edigich die Funktionen beziehungsweise Vektoren Ui ω abzuspeichern. Setzen wir 1... d voraus, so ist es auf diese Weise mögich, einen Tensor, wecher aus d Einträgen besteht, aus edigich rd Unbekannten zu rekonstruieren. Ungückicherweise ist das kanonische Format für viee numerischen Anwendungen ungeeignet. Setzen wir voraus, dass ein Tensor 19

24 20 3. Ein Überbick über Tensor-Formate zu einer vorgegebenen Güte mindestens eine Approximation in der Menge CP(r) besitzt, so ist kein stabies Verfahren bekannt, weches die univariaten Basisfunktionen U ω einer der Approximationen bestimmt [Gra11, Concusion 11]. Siva und Lim zeigen in [dsl08, Proposition 4.1 (a)], dass die Menge CP(r) für d > 2 nicht abgeschossen ist. Dies führt dazu, dass ein Tensor A R 1... d der Menge CP(r) besitzt, das heißt nicht notwendigerweise eine Bestapproximation in A A F inf A T F : T CP(r) für ae A CP(r), siehe [dsl08, Proposition 4.1 (d)]. ähere Informationen zum kanonischen Format sind in [Hac12, Kapite 7 und 9], [HK09, Abschnitt 3.1] und [KB09, Abschnitt 3] zu finden. 3.2 Tucker-Format Im Gegensatz zum kanonischen Format weist das Tucker-Format nicht die zuvor beschriebenen Defizite auf und eignet sich insbesondere zur Approximation von zeitabhängigen Probemen. Definition 2 (Tucker-Format). Sei (r ω ) ω {1,...,d} eine Famiie positiver ganzer Zahen. Ein Tensor Y R 1... d ist genau dann im Tucker-Format, wenn ein Core-Tensor A R r 1... r d und für ae ω {1,..., d}, {1,..., r ω } univariate Basisfunktionen U ω existieren, so dass Y die Tucker-Zeregung : I ω R U ω R ω Y (i 1,..., i d ) r 1 r d 1 1 d 1 A( 1,..., d ) U 1 1 (i 1 )... U d d (i d ) besitzt und die fogenden Eigenschaften erfüt sind: (T1) Die univariaten Basisfunktionen U ω sind orthonorma, das heißt U ω i, U ω δi, für ae ω {1,..., d} und i, {1,..., r ω }. (T2) Die Foge U ω 1, Y,..., U ω r ω, Y ist für ae ω {1,..., d} inear unabhängig. Die Famiie (r ω ) ω {1,...,d} wird Tucker-Rang genannt. Die Menge aer Tensoren im Tucker-Format mit Tucker-Rang (r ω ) ω {1,...,d} bezeichnen wir mit Tucker (r 1,..., r d ). 20

25 3.2. Tucker-Format 21 Eigenschaft (T1) bedeutet keine Einschränkung an die Menge Tucker (r 1,..., r d ). Würde eine Darsteung voriegen, in der Eigenschaft (T1) nicht erfüt ist, so könnte man mittes der QR-Zeregung eine Darsteung mit orthonormaen Basisfunktionen konstruieren. Eigenschaft (T2) ist genau dann erfüt, wenn die Darsteung minimaen Rang besitzt; das bedeutet, dass für einen Tensor im Tucker-Format Y Tucker (r 1,..., r d ) keine Richtung ω {1,..., d} und keine Famiie positiver Zahen (rω) ω {1,...,d} existieren mit r ω r ω für ae ω {1,..., d} und r ω < r ω, so dass Y Tucker (r1,..., r d ). Betrachten wir den Speicheraufwand der Darsteung und setzen r 1... r d r und 1... d voraus, so müssen für den Core- Tensor und den Basisfunktionen insgesamt r d + rd Unbekannte abgespeichert werden. Vergeichen wir das mit der Anzah an Einträgen eines hochdimensionaen Tensors, so wächst der Speicheraufwand eines Tensors im Tucker-Format exponentie mit der Anzah an Dimensionen, edoch zu einer niedrigeren Basis. Das Tucker-Format erweist sich aso dann vorteihaft, wenn ein Tensor moderaten Tucker-Rang besitzt, aso d ω1 r ω d ω1 ω erfüt ist. In [DLDMV00] steen Lathauwer, Moor und Vandewae die Singuärwertzeregung höherer Ordnung vor. Das ist eine Zeregung, weche die bekannte Singuärwertzeregung auf Tensoren veragemeinert. Liegt ein Tensor im Tucker-Format vor, so assen sich unter Verwendung der Singuärwertzeregung höherer Ordnung die Basisfunktionen, sowie der Core-Tensor der Darsteung ermitten. Darüber hinaus ässt sich mit Hife der Singuärwertzeregung höherer Ordnung für einen Tensoren Y Tucker (r 1,..., r d ) mit r ω r ω für ae ω {1,..., d} und r ω > r ω für ein ω {1,..., d} eine Approximation in der Menge Tucker (r 1,..., r d ) bestimmen. Lathauwer, Moor und Vandewae geben in diesem Fa in [DLDMV00, Property 10] eine Abschätzung über die Güte der Approximation an. Weitere Informationen, weche das Format betreffen, sind in [Hac12, Kapite 8 und 10], [HK09, Abschnitt 3.2] und [KB09, Abschnitt 4] angeführt. Wir weisen darauf hin, dass das Tucker-Format in der Literatur häufig ohne der Bedingung (T2) zu finden ist. Wir setzen diese Annahme edoch voraus, wei die Menge Tucker (r 1,..., r d ) auf diese Weise auf eine Teimenge eingeschränkt wird, weche eine Untermannigfatigkeit des R 1... d ist 21

26 22 3. Ein Überbick über Tensor-Formate [KL10, Abschnitt 2.2 und 2.3]. Anaog zum Vorgehen in Kapite 2 ist es dadurch mögich, Anfangswertprobeme von der Gestat Y ex (t) F (Y ex (t)), Y ex (0) Y 0 R 1... d, t 0. mit F : R 1... d R 1... d mittes des Variationsprinzips von Dirac-Frenke in der Menge Tucker (r 1,..., r d ) zu approximieren. In [KL10, Theorem 2.1] eiten Koch und Lubich die daraus resutierenden Bewegungsgeichungen für die univariaten Basisfunktionen, sowie für den Core-Tensor her. Darüber hinaus entwicken sie eine Anayse für den Feher der Approximation. In [JH08] nutzen Jahnke und Huisinga diese Vorgehensweise zur Approximation der Lösung der Chemischen Mastergeichung. 3.3 Hierarchisches Tucker-Format In Abschnitt 3.1 wurde mit dem kanonischen Format eine Darsteung eingeführt, weche forma kein exponentiees Ansteigen in der Anzah an Unbekannten besitzt, edoch Instabiitäten in vieen numerischen Anwendungen aufweist. Mit dem Tucker-Format hingegen wurde in Abschnitt 3.2 eine Darsteung eingeführt, weche sich insbesondere zur zeitabhängigen Approximation von höherdimensionaen Anfangswertprobemen eignet, edoch aufgrund des Core-Tensors mit einem exponentieen Ansteigen an Unbekannten mit der Anzah an Dimensionen inhäriert ist. Das Zie des hierarchischen Tucker-Formats besteht darin, die Schwächen der zuvor vorgesteten Formate zu überwinden. Ehe wir das hierarchische Tucker-Format definieren, ist es nötig, den Begriff des Dimensionsbaumes einzuführen. Definition 3 (Dimensionsbaum). Ein Dimensionsbaum ist ein Binärbaum, wecher eine rekursive Zeregung der Menge {1,..., d} darstet. Jeder Knoten T besteht aus einer Auswah an Richtungen {1,..., d}. Die Wurze des Baumes 0 {1,..., d} enthät stets ae Richtungen. Mit Ausnahme der Wurze 0 besitzt eder Knoten einen Mutterknoten. Die Kindknoten 1 und 2 eines Knotens werden auch as Sukzessoren bezeichnet, ( 1, 2 ) succ( ), und erfüen die Reation 1 2 mit 1 2. Jeder Knoten ist entweder ein innerer Knoten oder ein Batt. Inneren des Baumes, wenn Ein Knoten iegt im I(T ) : { T : hat Sukzessoren}. Die Menge L(T ) : { T : hat keine Sukzessoren} bezeichnet die Bätter des Baumes. 22

27 3.3. Hierarchisches Tucker-Format 23 Abbidung 8.3 iustriert wie ein Dimensionsbaum einen dreidimensionaen Raum aufspatet. Mutter- und Kindknoten sind darin durch eine Kante verbunden Knoten des Baumes: 0 {1, 2, 3} 1 {1, 2} 2 {3} 12 {1} 11 {2} Sukzessoren: 11 ( 1, 2 ) succ( 0 ) ( 11, 12 ) succ( 1 ) Abbidung 3.1: Dimensionsbaum T Die Wurze 0 besteht aus der Menge {1, 2, 3} und enthät somit ae Richtungen eines dreidimensionaen Raumes. Diese Menge wird aufgespatet zu den Knoten 1 und 2, wobei 1 erneut ein innerer Knoten ist. Die Bätter des Baumes sind in Abbidung 8.3 durch das Symbo einzene Richtung repräsentiert. dargestet und enthaten nur noch ein einziges Eement, weches eine Der Abstand eines Knotens zu der Wurze des Dimensionsbaumes wird auch as das Leve des Knotens bezeichnet. In unserem Beispie ist das Leve der Knoten 1 und 2 geich 1, während die Knoten 11 und 12 auf Leve 2 sind. Mit dem Dimensionsbaum sind wir in der Lage, das hierarchische Tucker-Format zu definieren. Zu diesem Zweck haben wir Definition 3.1 in [Gra10] angepasst. Definition 4 (Hierarchisches Tucker-Format). Sei T ein Dimensionsbaum und (r ) T eine Famiie positiver ganzer Zahen mit r 0 1. Ein Tensor Y R 1... d ist genau dann im hierarchischen Tucker-Format, wenn Transfertensoren und univariate Funktionen B R r r 1 r 2 für ae I(T ) mit (1, 2 ) succ( ) existieren, so dass Y die Zeregung U i : I ω R für ae {ω} L(T ), i 1,..., r r 1 r 2 Y 1 1 besitzt, wobei die sogenannten -frames B 0 1,, U 1 U 2, ( 1, 2 ) succ( 0 ) U : I R für ae T \ { 0 }, i 1,..., r 23

28 24 3. Ein Überbick über Tensor-Formate die Rekursion r 1 r 2 Ui 1 1 B i,, U 1 U 2 für ae I(T ), ( 1, 2 ) succ( ) erfüen. Die Famiie (r ) T wird as hierarchischer Darsteungsrang bezeichnet. Die Menge aer Tensoren im hierarchischen Tucker-Format mit hierarchischem Darsteungsrang (r ) T bezeichnen wir mit H-Tucker ((r ) T ). Die Transfertensoren sind stets dreidimensionae Obekte; deshab interpretieren wir diese Tensoren nicht as mutivariate Funktionen. Wie aus der Definition deutich wird, sind zur Rekonstruktion eines Tensors im hierarchischen Tucker-Format Y H-Tucker ((r ) T ) edigich die Transfertensoren und die -frames an den Bättern erforderich. Sind die -frames der Sukzessoren eines Knotens bekannt, so kann mit dem entsprechenden Transfertensor das -frame des Mutterknotens rekonstruiert werden. Auf diese Weise können die -frames sukzessive wiederhergestet werden. Greifen wir das vorhergehende Beispie eines Dimensionsbaumes auf, so könnte ein dreidimensionaer Tensor durch die Transfertensoren an den Knoten 0 und 1 und den eindimensionaen -frames an den Bättern 11, 12 und 2 rekonstruiert werden. U 2 Y B 0 12 U 1 U B 1 11 U Abbidung 3.2: Rekonstruktionsschema eines Tensors im hierarchischen Tucker-Format B Die Wiederhersteung aus dem Tupe I(T ), U L(T ) ist auch ohne das Aufsteen der -frames im Inneren des Dimensionsbaumes mögich. Lemma 5 (Rekonstruktionsforme). Sei Y H-Tucker ((r ) T ) ein Tensor im hierarchischen Tucker-Format, wecher durch das Tupe B I(T ), U L(T ) dargestet wird. Dann besitzt die Rekonstruktion B Y Ψ I(T ), U L(T ) 24

29 3.3. Hierarchisches Tucker-Format 25 mit Ψ : R r r 1 r 2 R r {} R 1... d I(T ),( 1, 2 )succ( ) {} L(T ) die Darsteung B Ψ I(T ), U L(T ) BJ,J 1,J 2 J (r ) T I(T ),( 1, 2 )succ( ) L(T ) U J. (3.3) In Geichung (3.3) stet J einen Muti-Index dar, dessen Anzah an Einträgen mit der Anzah an Knoten im Dimensionsbaum übereinstimmt. Die Schreibweise J (r ) T bedeutet, dass der Muti-Index für eden Knoten T die Werte 1,..., r annehmen kann; die Summe in Geichung (3.3) reicht aso über insgesamt T r Summanden. Die Bezeichnung J gibt für einen Knoten T die Auswertung des Muti-Index J an ener Indexposition an, weche mit dem Knoten assoziiert ist. Beweis. Durch das Aufösen der Rekursion treten -frames edigich an den Bättern des Dimensionsbaumes auf und wir erhaten insgesamt so vie Summen, wie der Dimensionsbaum Knoten besitzt. Anstee eines formaen Beweises woen wir den Sachverhat an dem Dimensionsbaum verdeutichen, wecher uns zuvor bereits as Beispie gedient hat, siehe Abbidung 8.3 und 3.2. Dort git Y r 1 r r 1 r 2 B 0 1,, 1 1 r 1 r 2 B 0 1,, U 1 U 2 r 11 r r 11 r B 1,, U 11 U 12 U 2 B 0 1,, B 1,, U 11 U 12 U 2. Die Rekonstruktionsforme verdeuticht, dass ein Tensor im hierarchischen Tucker-Format B voständig durch das Tupe I(T ), U L(T ) beschrieben ist. Liegen andererseits nicht die Transfertensoren und die -frames an den Bättern des Dimensionsbaumes vor, sondern der gesamte Tensor, aso die insgesamt d ω1 ω Einträge des Zahenfedes, B so existieren Agorithmen, um daraus ein Tupe I(T ), U L(T ) zu berechnen, weches den Tensor gemäß Definition 4 rekonstruiert. Einen dieser Agorithmen steen wir in Kapite 5 vor, weitere Agorithmen zu diesem Zweck werden in [Gra10] angeführt. 25

30 26 3. Ein Überbick über Tensor-Formate Lemma 6 (Speicheraufwand). Sei Y H-Tucker ((r ) T ) ein Tensor im hierarchischen Tucker-Format, so genügen r r 1 r 2 + r {} I(T ) {} L(T ) ( 1, 2 )succ( ) Freiheitsgrade, um den Tensor darzusteen. Beweis. Ein Tensor im hierarchischen Tucker-Format kann durch seine Transfertensoren, sowie den -frames an den Bättern des Dimensionsbaumes rekonstruiert werden, siehe Rekonstruktionsforme. Die erste Summe in Lemma 6 zäht die Freiheitsgrade für die Transfertensoren, während die zweite Summe die Freiheitsgrade der -frames an den Bättern des Dimensionsbaumes wiedergibt, siehe auch [Gra10, Lemma 3.7]. Der große Vortei, den das hierarchische Tucker-Format bietet, ist der, dass die Anzah an Freiheitsgraden nicht änger exponentie mit der Dimension wächst. Wird ein Tensor im hierarchischen Tucker-Format dazu verwendet, eine hochdimensionae Funktion an diskreten Gitterpunkten darzusteen, so kann die Raumdiskretisierung erhebich feiner gewäht werden. Darüber hinaus ist bei geicher Diskretisierung die numerische Lösung von weitaus höherdimensionaen Probemen mögich. Ein Speziafa des hierarchischen Tucker-Formats ist das sogenannte Tensor-Train-Format. Hierbei weist der Dimensionsbaum eine speziee Struktur auf. Eine Verzweigung findet nur entang eines Astes des Baumes statt. Definition 5 (Tensor-Train-Format). Ein Tensor Y R 1... d ist genau dann im Tensor-Train-Format, wenn Y H-Tucker ((r ) T ) und für ae I(T ) mit ( 1, 2 ) succ( ) die Eigenschaft 1 L(T ) oder 2 L(T ) erfüt ist. 26

31 3.3. Hierarchisches Tucker-Format 27 Abbidung 3.3 iustriert einen mögichen Dimensionsbaum eines fünfdimensionaen Tensors im Tensor-Train-Format Knoten des Baumes: 0 {1, 2, 3, 4, 5} 1 {1} 2 {2, 3, 4, 5} 21 {2} 22 {3, 4, 5} 221 {3} 222 {4, 5} 2221 {4} 2222 {5} 1 Abbidung 3.3: Dimensionsbaum (Tensor-Train-Format) Dadurch, dass das Tensor-Train-Format nur ein Speziafa des hierarchischen Tucker- Formats ist, gehen wir im Rahmen dieser Arbeit nicht näher darauf ein. Stattdessen verweisen wir auf Literatur, weche spezie das Tensor-Train-Format betrachtet: Oseedets gibt in [Ose11] einen Überbick über das Tensor-Train-Format. Darüber hinaus stet er in [Ose11] einen Agorithmus vor, wecher einen beiebigen Tensor im Tensor-Train-Format approximiert und zeigt wie agemeine Tensor-Operationen an Effizienz gewinnen können, wenn sie auf Tensoren im Tensor-Train-Format ausgeführt werden. In [OT10] steen Oseedets und Tyrtyshnikov einen Agorithmus vor, wecher einen hochdimensionaen Tensor im Tensor-Train-Format interpoiert. Des Weiteren zeigen sie eine Methode zur Approximation von hochdimensionaen Integraen mit Hife des Tensor-Train-Formats. In [HRS12] zeigen Hotz, Rohwedder und Schneider, dass die Menge an Tensoren im Tensor-Train- Format eine Untermannigfatigkeit des R 1... d ist. Sie bestimmen den Tangentiaraum der Mannigfatigkeit und weisen auf numerische Anwendungen hin. Lemma 7 (Orthonormaität der Transfertensoren). Sei Y H-Tucker ((r ) T ) ein Tensor im hierarchischen Tucker-Format, wecher durch das Tupe B I(T ), U L(T ) dargestet wird. Dann sind die fogenden Aussagen äquivaent: sind orthonorma bezügich des Frobenius-Skaarpro- (a) Die -frames U T \{ 0 } dukts, aso U i, U δi, für ae T \ { 0 }, i, {1,..., r }. 27

32 28 3. Ein Überbick über Tensor-Formate (b) Die Geichung r 1 r 2 Bi 1,, B i 2,, δ i1,i 2 (3.4) 1 1 git für ae I(T ) \ { 0 }, ( 1, 2 ) succ( ), i 1, i 2 {1,..., r }. Des Weiteren sind die -frames U orthonorma bezügich des Frobenius-Skaarprodukts, aso L(T ) U i, U δi, für ae L(T ), i, {1,..., r }. Beweis. Sei (a) erfüt, I(T ) ein innerer Knoten, ( 1, 2 ) succ( ) und i 1, i 2 {1,..., r }. Dann fogt aus Definition 4 r U i1, Ui 1 2 woraufhin (b) fogt. r 2 r 1 r r 1 r 2 r 1 r r 1 r 2 Bi 1, 1, 1 Bi 2, 2, 2 U 1 1 U 2 1, U 1 2 U 2 2 Bi 1, 1, 1 Bi 2, 2, 2 U 1 1, U 1 2 U 2 1, U 2 2 Bi 1,, B i 2,,, (3.5) 1 1 Sei nun (b) erfüt, I(T ) ein innerer Knoten mit ( 1, 2 ) succ( ), so dass 1, 2 L(T ). Dann fogt mit Geichung (3.5) U i1, U i 2 δi1,i 2. Diesebe Argumentation zeigt wiederum die Orthonormaität des Mutterknotens von. Mittes Induktion über die Leve des Dimensionsbaumes fogt (a). Für die meisten numerischen Anwendungen ist das hierarchische Tucker-Format gemäß Definition 4 ungeeignet. Betrachten wir beispiesweise einen Agorithmus, der zu vorgegebenen -frames die Transfertensoren der Darsteung bestimmt, so besäße dieser Agorithmus eine schechte Kondition. Wären zwei der -frames eines Knotens nahezu identisch, so würde unter Umständen eine keine Störung zu einer großen Änderung im Transfertensor des Mutterknotens führen. Um diese Instabiität des Formats zu vermeiden, setzen wir für den Rest dieser Arbeit die fogende Annahme voraus. Annahme 1 (Orthonormaität der -frames). Sei Y H-Tucker ((r ) T ) ein Tensor im hierarchischen Tucker-Format, wecher durch das Tupe B I(T ), U L(T ) dargestet wird, so setzen wir fortan die Orthonormaität der -frames voraus, aso U i, U δi, für ae T \ { 0 }, i, {1,..., r }. 28

33 3.3. Hierarchisches Tucker-Format 29 Dadurch, dass zu edem Tensor im hierarchischen Tucker-Format ein Tupe B I(T ), U L(T ) gefunden werden kann, weches Annahme 1 erfüt, bedeutet diese Annahme keine Einschränkung der Menge H-Tucker ((r ) T ). Lemma 8. Ist Y H-Tucker ((r ) T ) ein Tensor im hierarchischen Tucker-Format, B wecher durch das Tupe I(T ), U L(T ) dargestet wird und T \ { 0 }, so git Y r i1 Y, U i U i. (3.6) Beweis. Für T \ { 0 }, ( 1, 2 ) succ( ) und i {1,..., r }, {1,...r 1 } git U i, U 1 r1 r r 2 r r 2 1 Bi,, U 1 U 2, U 1 B i,, U 2 B i,, U 2, U 1, U 1 Annahme 1 δ, woraufhin wir für U i die Darsteung U i r 1 r r 1 U 1 1 r 1 U 1 1 B i,, U 1 U 2 r2 1 B i,, U 2 U i, U 1 (3.7) erhaten. Wir zeigen nun (3.6) mittes Induktion über die Leve des Dimensionsbaumes. Für { 0 1, 0 2 } mit ( 0 1, 0 2 ) succ( 0) ist (3.6) erfüt (Induktionsanfang). ehmen wir nun an, (3.6) git für einen beiebigen Knoten I(T )\{ 0 } mit ( 1, 2 ) succ( ). Dann git r 1 1 Y, U 1 U 1 r 1 r Y, U i U i, U 1 1 r i1 Y. i1 r 1 Y, U i 1 U 1 U i, U 1 U 1 (3.7) U i 29

34 30 3. Ein Überbick über Tensor-Formate Anaog ässt sich für 2 die Geichung r 2 1 Y, U 2 U 2 Y zeigen, wodurch der Induktionsschritt vozogen wird und die Behauptung fogt. Lemma 9. Sei Y H-Tucker ((r ) T ) ein Tensor im hierarchischen Tucker-Format, B wecher durch das Tupe I(T ), U L(T ) dargestet wird. Dann sind die fogenden Aussagen äquivaent: (a) Die Funktionen Y, U 1,..., Y, U r sind inear unabhängig für ae T \ { 0 }. (b) Y besitzt minimaen hierarchischen Darsteungsrang, das heißt, es existiert keine andere Famiie positiver ganzer Zahen (r ) T und keinen Knoten mit so dass Y H-Tucker ((r ) T ). r r für ae T \ { 0 } und r < r, (3.8) Beweis. An dieser Stee zeigen wir edigich (a) (b). Die Rückrichtung des Beweises wird in Kapite 5 auf Seite 56 nachgetragen, da die Formaismen in diesem Kapite den Beweisschritt erhebich verkürzen. Angenommen (a) ist erfüt und es gäbe ein Tupe B I(T ), Ũ L(T ), durch weches Y dargestet wird, das den hierarchischen Darsteungsrang (r ) T aufweist und die Eigenschaften (3.8) erfüt. Mit Lemma 8 erhaten wir für Y die beiden Darsteungen r i 1 U i r Y, U i Y i1 U i Y, U i. Setzen wir nun die eine Darsteung in die andere ein, so erhaten wir Daraus fogt r Y i1 U i r i 1 r Y, U i i 1 r wären demnach inear abhängig. Dies ist ein Wi- Die Funktionen Y, U 1,..., Y, U derspruch zu Aussage (a). U i U i, U i Y, U i., U i Y, U i. 30

35 3.3. Hierarchisches Tucker-Format 31 Lemma 9 bringt einen Make in der Darsteung von Tensoren im hierarchischen Tucker- Format zum Vorschein: In Übereinstimmung mit Definition 4 und Annahme 1 kann die Darsteung mehr -frames besitzen, as zur Rekonstruktion benötigt werden. Um diese Redundanz in der Darsteung zu vermeiden, setzen wir eine weitere Annahme voraus. Annahme 2. Sei Y ein Tensor im hierarchischen Tucker-Format. Fortan setzen wir die ineare Unabhängigkeit der Funktionen Y, U 1,..., Y, U r für ae T \ { 0 } voraus. Im Gegensatz zu Annahme 1 bedeutet Annahme 2 eine Einschränkung der Menge H-Tucker ((r ) T ). So iegt beispiesweise ein Tensor, dessen Einträge aesamt geich 0 sind, nun nicht mehr in der Menge. Um nicht mehr Bezeichnungen einzuführen, as nötig sind, sehen wir davon ab, der eingeschränkten Menge einen neuen amen zu vereihen. Es sei darauf hingewiesen, dass wir fortan mit H-Tucker ((r ) T ) die Menge der Tensoren bezeichnen, weche Definition 4 und die Annahmen 1 und 2 erfüen. Die Anpassung des Formats bewirkt darüber hinaus, dass es sich bei der Menge H-Tucker ((r ) T ) nun um eine Mannigfatigkeit handet, was von essentieer Bedeutung zur Hereitung der Bewegungsgeichungen in Kapite 4 sein wird. Aufgrund der Anpassungen des Formats bezeichnen wir den hierarchischen Darsteungsrang fortan as hierarchischer Rang und die -frames as Basisfunktionen. In Kapite 4 werden zwei weitere Definitionen eine wichtige Roe spieen. Definition 6 (Singe-hoe Operator). Sei Y H-Tucker ((r ) T ) ein Tensor im hierarchischen Tucker-Format, dargestet durch das Tupe B I(T ), U L(T ). Für T \ { 0 } und i {1,..., r } definieren wir den Singe-hoe Operator S(Y,, i) as S(Y,, i) : Y, U i. Übertragen wir den Formaismus des Singe-hoe Operators auf Lemma 8, so erhaten wir für ein T \ { 0 } die Geichung Y r i1 S(Y,, i) U i. 31