Grundlagen 1: Modelle & Mengen

Transkript

1 Michael Wand Institut für Informatik. Angewandte Mathematik am Rechner 1 SOMMERSEMESTER 2017 << class Apples extends Fruits >> Kapitel 2 Grundlagen 1: Modelle & Mengen

2 2.1 Modelle

3 Grundlagen der Modellierung Modelle in verschiedenen Fachgebiete Mathematische Modelle Schwerpunkt: Deduktion Empirische Modelle Schwerpunkt: Induktion z.b. Naturwissenschaften (Bsp: Physik) z.b. Lebens- und Kulturwissenschaften (Bsp: Ökonomie) (Praktische) Informatik Schwerpunkt: Engineering Lösungen für Probleme Konkrete Berechnung

4 Grundlagen der Modellierung Mathematische Modelle Fokus auf Deduktion Start mit Annahmen: Axiome Studium von Schlußfolgerungen (Beweise) Oft anwendungsneutral Axiom 1 Axiom 3 Axiom 2 Axiom 4 Axiome des Modells Satz 1 Satz 2 Satz 3 mathematisches Modell

5 Mathematische Modelle Natürliche Zahlen 1,2,3,4, Operationen: +,,*, / Modell für diskrete Objekte Reelle Zahlen Modell: Kontinuierliche Gerade Reelle Vektorräume Modell eines Euklidischen Raumes N R R 3

6 Grundlagen der Modellierung Empirische Modelle Fokus auf Induktion Start mit Beobachtungen (Experimente) Hypothesen für Modelle (Erklärungen) Validierung Vorhersage neuer Beobachtungen Achtung: Nicht verwechseln mit vollständiger Induktion Sinnvolles Modell? (relative Stärke der Vorhersagen)

7 Das Problem mit der Induktion Wege zur Erkenntnis Deduktion: Logische Folgerung A B B C A C Logisch zwingende Schlüsse aus sicheren Annahmen Sichere Schlüsse, wenn man sich nicht verrechnet Induktion: Aus Beispielen auf das allgemeine Ein Apfel fällt zu Boden Ein Stein fällt zu Boden Ein Blatt fällt zu Boden Verallgemeinerungen können falsch sein Kein mathematischer Beweis, nur Indizien Gegenstände fallen zu Boden

8 Beobachtung Beobachtung Ideelle Welt Modelle, Vorstellungen Prinzip (H. Hertz, 1894) Bilder (Modelle) Folgen der Bilder denknotwendige Folgen (Vorhersagen) Gegenstand (Natur) naturnotwendige Folgen Gegenstand (Folgezustand) Reale, objektive Welt (unbekannt)

9 Frage Induktive Schlüsse Wann darf man verallgemeinern? Grundsätzlich: Verallgemeinerung zweifelhaft Warum soll ein Modell allgemein gelten? Überprüfung von Modellen Voraussagen machen Voraussagen überprüfen Wiederholbares Experiment Unter gleichen Bedingungen Verallgemeinerung gilt nur für diese Bedingungen

10 Beispiel Wirkt ein Medikament gegen eine Krankheit? Versuche an Personen Jeder unabhängig (keine gegenseitiger Einfluß) Zufällig ausgewählt (kein Einfluß von z.b. Alter o.ä.) Gleiche Bedingungen! Experiment 100 Patienten mit Medikament: 95 Patienten geheilt, 5 weiter krank 100 Patienten ohne Medikament: 20 Patienten geheilt, 80 weiter krank Medikament wirkt höchstwahrscheinlich

11 Fragen Beispiel Wie sicher sind wir? Statistik Wie stark ist der Effekt? Statistik Wirkt das Medikament auch gegen andere Krankheit? Neues Experiment Bestehende Erfahrungen mit Übertragbarkeit (Meta-Experiment)

12 No Free Lunch

13 Vorhersagen aus Modellen Wohnungspreise in Mainz 600 K 500 K 400 K 300 K 200 K 100 K disclaimer: numbers are made up this is no investment advice

14 Vorhersagen aus Modellen Wohnungspreise in Mainz 600 K 500 K 400 K 300 K 200 K 100 K disclaimer: numbers are made up this is no investment advice

15 Vorhersagen aus Modellen Wohnungspreise in Mainz 600 K Annahme: Alle Werte gleich wahrscheinlich 500 K 400 K 300 K 200 K 100 K disclaimer: numbers are made up this is no investment advice

16 Vorhersagen aus Modellen Wohnungspreise in Mainz 600 K 500 K 400 K 300 K 200 K 100 K disclaimer: numbers are made up this is no investment advice

17 Occam s Razor: Das Problem der Überanpassung

18 Vorhersagen aus Modellen Wohnungspreise in Mainz 600 K 500 K 400 K 300 K 200 K 100 K disclaimer: numbers are made up this is no investment advice

19 Vorhersagen aus Modellen Wohnungspreise in Mainz 600 K 500 K 400 K 300 K 200 K 100 K disclaimer: numbers are made up this is no investment advice

20 Vorhersagen aus Modellen Wohnungspreise in Mainz 600 K 500 K 400 K 300 K 200 K 100 K disclaimer: numbers are made up this is no investment advice

21 Overfitting

22 Bias Variance Tradeoff Empirische Modelle ein Kompromis Bias Wenig Flexibilität im Model systematische Fehler Varianz Zu viel Flexibilität Modellauswahl willkürlich Wahl der Parameter nicht statistisch abgesichert Mehr Daten nötig für komplexere Modelle Varianz (overfitting) kann katastrophal sein!

23 Modelle: Zusammenfassung

24 Mathematik Modelle Deduktion: Logische Schlüsse Folgerungen aus Annahmen Keine Aussagen über Realität Empirische Wissenschaft Induktion: Verallgemeinerung Wiederholbare Experimente Gleiche Bedingungen Bei gleich genauer Vorhersage: Einfacheres Modell sichere Vorhersage

25 Bezüge Empirische Wissenschaft Deduktives (mathematisches) Vorgehen um Modelle zu bauen Modelle zu verstehen Vorhersagen zu machen Experimente zu analysieren Informatik Beide Ansätze relevant Automatische empirische Wissenschaft heißt maschinelles Lernen Zusätzlich: Praktikabilität (Berechenbarkeit) von Modellen

26 2.2 Mengen

27 Grundlagen der Mathematik Bausteine Logik (Aussagen) Mengen Funktionen Weitere Abstraktion möglich Kategorientheorie Jenseits unserer Veranstaltung

28 Mengen Mathematics Sammlung von Elementen Gleiche Elemente können nur einmal enthalten sein Datentypen der Mathematik Objektive Eigenschaften = Gleichheit von Elementen Equivalenzrelation Python: def eq (self, other) Element in Menge enthalten? Python: def contains (self, item) Mathematisches Gebiet: Mengenlehre

29 Set Operations Konstruktion von Mengen Aufzählung A = {red, green, blue} Einfache Fälle Induktion 1 A, x A 2x A A = {1, 2,4,8, } Oft implizite Induktion mit Notation (nicht völlig objektiv) Auswahl B = {x A x erfüllt Bedingung} Teilmenge B A x B x A Potenzmenge P A = Menge aller Teilmengen von A A hat n Elemente P A hat 2 n Elemente Jedes Element kann enthalten sein oder nicht (1 Bit) Achtung: Nicht verwechseln mit induktiven Schlüssen

30 Set Operations Konstruktion von Mengen Vereinigung A B Alle Elemente aus beiden Mengen Schnitt A B Die Elemente, die in beiden Mengen enthalten sind Rest A \ B Die Elemente aus B werden entfernt Kartesisches Produkt A B Kombinationen a, b, a A, b B A d (d N) A d = a 1, a 2,, a d, a 1 A,..., a d A (d N)

31 Datentypen in Programmiersprachen

32 Kodierung von Mengen Elemente einer Menge Repräsentiere x M Durchnummerieren der Elemente M = m 1, m 2,, m n Jedes Element erhält einen eindeutigen Code Eindeutige Nummer Bitstring (auf Digitalrechnern) Repräsentation von Mengen Elemente der Potenzmenge 2 n Zustände, n Bits für Kodierung

33 Mengen als Datentypen Mengen in der Mathematik Datentypen für Variablen Mathematische (Algebraische) Strukturen Menge von Objekten (Elemente) Operationen auf diesen Elementen (Funktionen) Eigenschaften dieser Operationen (Axiome, Sätze) Datentypen in der Informatik Mögliche Werte (Zustände) von Variablen Definition über Operationen z.b. abstrakte Datentypen, Interfaces, OOP Eigenschaften von Operationen (oft implizit)

34 Datentypen Entsprechung Mengen Datentypen Repräsentation im Speicher A B Strukturen / Records / Tupel / Arrays Strukturen: class A {int x; int y; float z}; Arrays: A A, A n Rekursive Listen: A n = A A n 1, A B Vereinigungstypen (Union Types) Vererbung Discriminated Unions

35 Invarianten Invarianten und Axiomensysteme Informatik Annahmen über Verhalten von Typen Operationen / abstrakte Datentypen Mathematik Axiome für Mengen und Funktionen Dazu: Funktionen auf Mengen