Mathematische Grundlagen der Computerlinguistik

Transkript

1 Centrum für Informations- und Sprachverarbeitung (CIS) 23. Juni 2014

2 Table of Contents 1 2

3 Ordnung Ähnlich wie Äquivalenzrelationen den Begriff der Gleichheit generalisieren, generalisieren den Begriff einer Ordnung von Elementen. spielen immer dann eine Rolle, wenn man alle Elemente einer Menge in einer systematischen Reihenfolge behandeln will.

4 I Definition (Ordnungsrelation) Es sei R A A eine binäre Relation auf der Menge A. 1 R heißt Quasi-Ordnung auf A genau dann, wenn R reflexiv und transitiv ist. 2 R heißt partielle Ordnung auf A genau dann, wenn R transitiv, reflexiv und antisymmetrisch ist. 3 Eine partielle Ordnung R auf A heißt lineare Ordnung oder Totalordnung genau dann, wenn zusätzlich gilt: a, b A : (R(a, b) R(b, a))

5 II Ist R eine Ordnung des Typs 1-3, so schreibt man meist a R b oder a b anstatt R(a, b), außerdem a < b falls a b und nicht b a. Wie diese Schreibweise andeutet, werden anstelle der oben definierten partiellen und lineare Ordnungen manchmal auch strikte Versionen betrachtet, wo ein Element nie zu sich selbst in Relation steht.

6 Strikte Ordnungen Definition (strikte Ordnung) Sei R A A eine binäre Relation auf der Menge A. 1 R heißt strikte partielle Ordnung auf der Menge A genau dann wenn R irreflexiv und transitiv ist. 2 R heißt strikte lineare Ordnung genau dann, wenn außerdem gilt: a b A : R(a, b) R(b, a) Üblicherweise werden strikte Ordnungen mit dem Symbol < bezeichnet. Man beachte, dass jede strikte (partielle oder lineare) Ordnung < automatisch vollständig unsymmetrisch im folgenden Sinn ist: für a b A gilt niemals a < b und b < a. In der Tat folgt aufgrund der Transitivität aus a < b und b < a sofort auch a < a was der Irreflexivität widerspricht.

7 Strikte vs. nicht strikte Ordnungen Lemma Man kann aus jeder partiellen oder linearen Ordnung durch Weglassen der Identität eine strikte Version < erhalten und umgekehrt auch aus jeder strikten partiellen oder linearen Ordnung durch Vereinigung mit der Identitätsrelation Id A eine normale (d.h. reflexive) partielle oder lineare Ordnung erhalten. Aus dem Lemma folgt, dass es für die folgenden Betrachtungen nicht von Bedeutung ist, ob wir die strikte oder die nicht strikte Version der Ordnungsrelation betrachten. Wir werden auf strikte Ordnungen somit nicht weiter eingehen.

8 Maximale und minimale Elemente Definition (maximal / minimal) Es sei eine partielle Ordnung auf der menge A. 1 Das Element a A heißt minimal (maximal) bezüglich genau dann, wenn für alle b A aus b a (respektive a b) stets b = a folgt. 2 Das Element a A heißt das kleinste (größte) Element bezüglich genau dann, wenn für alle b A stets a b (respektive b a) gilt. Es muss nicht immer minimale (maximale), kleinste (größte) Elemente bezüglich einer gegebenen Ordnung geben. Falls das kleinste (größte) Element existiert ist es eindeutig und stets auch minimal (maximal); die Umkehrung gilt aber in der Regel nicht, da es viele minimale Elemente geben kann.

9 Beispiele I Die folgenden Beispiele sollen die charakteristischen Eigenschaften der drei Ordnungstypen verdeutlichen. Es gilt immer dass jede lineare Ordnung stets auch eine partielle Ordnung ist, jede partielle Ordnung wiederum eine Quasi-Ordnung. Es handelt sich somit um eine hierarchische Begriffsbildung. Man spricht von echten partiellen Ordnungen (echten Quasi-Ordnungen), wenn eine partielle Ordnung (Quasi-Ordnung) vorliegt, die nicht weitergehend eine linerare (partielle) Ordnung darstellt. 1 Die natürliche Ordnung auf der Menge N natürlichen Zahlen ist eine lineare Ordnung. Es ist 0 das eindeutig bestimmte kleinste Element von N bezüglich. Es gibt dagegen kein maximales Element.

10 Beispiele II 2 Die natürlichen Ordnungen der rationalen oder reellen Zahlen sind ebenfalls lineare Ordnungen. Sie besitzen weder minimale noch maximalen Elemente. 3 Es sei M eine beliebige Menge. Dann ist die Inklusionsbeziehung eine partielle Ordnung auf der Potenzmenge P(M). Hat M zumindest zwei Elemente, so ist diese Ordnung aber keine lineare Ordnung. Es ist das kleinste Element, M das größte Element bezüglich. Bei echten partiellen Ordnungen gibt es Elemente, die nicht miteinander vergleichbar sind. Falls M = {1, 2} so sind die beiden Teilmengen {1} und {2} bezüglich der Inklusionsbeziehung unvergleichbar.

11 Beispiele III Erhalten bleibt aber bei partiellen Ordnungen die folgende Eigenschaft: falls zwei verschiedene Elemente bezüglich vergleichbar sind, so legt die Ordnung stets eine eindeutige Reihenfolge zwischen den Elementen fest.

12 Beispiele IV 4 Es sei A eine Menge von Personen. Für a A sein f (a) die Größe der Person a gemessen in cm. Mit bezeichnen wir die übliche Ordnung auf N. Für a, b A definieren wir a b : f (a) f (b) Dann ist im allgemeinen Fall keine partielle Ordnung sondern eine Quasi-Ordnung.

13 Beispiele V In der Abbildung sind die Messungen von 4 Personen dargestellt. Person 1 und 2 (respektive 3 und 4) haben jeweils die selbe Körpergröße. Die Ordnung auf A ist durch Pfeile angedeutet. Sie wird die durch induzierte Quasiordnung auf A genannt. Es gilt unter Anderem 1 2 und 2 1. Dies verletzt die von partiellen Ordnungen geforderte Antisymmetrie. Bei Quasi-Ordnungen kann es also vorkommen, dass wir zwei verschiedene Elemente zwar mittels der Ordnung vergleichen können, aber daraus trotzdem keine eindeutige Reihenfolge der Elemente erhalten. Die meisten in der Praxis auftretenden Quasi-Ordnungen (nich alle) haben die Eigenschaft, dass man sogar stets zwei Elemente bezüglich der Ordnung vergleichen kann. Alle Arten von Messungen mit einer linearen Messskala definieren

14 Beispiele VI Quasi-Ordnungen diesen Typs auf der menge der messenden Objekte. Viele steigerbaren Adjektive (schneller, heißer, dicker, besser,... ) lassen sich mit Quasi-Ordnungen dies Typs assoziieren.

15 Nachfolger und Vorgänger Definition (Nachfolger und Vorgänger) Es sei eine partielle Ordnung auf der Menge A. Das Element b A heißt Nachfolger von a A genau dann, wenn a < b gilt. In dieser Situation heißt umgekehrt a sein Vorgänger von b. Gilt außerdem, dass es kein Element c A gibt mit a < c < b, so heißt b ein direkter Nachfolger von a, und umgekehrt heißt a ein direkter Vorgänger von b.

16 Beispiele I Hier folgt nun eine Liste von Beispielen um die Konzepte zu verdeutlichen. 1 Bezeichnet die übliche Ordnung auf N, so ist 0 das kleinste Element, für jedes n N ist stets n + 1 der direkter Nachfolger von n. 2 Bezeichnet die übliche Ordnung auf den reellen Zahlen so hat kein Element einen direkten Nachfolger oder einen direkten Vorgänger bezüglich und es gibt kein minimales (maximales) oder kleinstes (größtes) Element.

17 Beispiele II 3 Es sei A = {a 1, a 2,..., a n } ein Alphabet, A bezeichne die Menge aller Wörter über dem Alphabet A. Für jede Teilmenge W A definiert u v : u ist ein Präfix von v eine partielle Ordung auf W, die Präfixordnung genannt wird. Wir betrachten den Fall genauer, wo W endlich und unter Präfixbildung abgeschlossen ist. Das Diagramm hat hier die Form eines Baums. Der Baum, der sich für die Menge mit den Wörtern a, aa, aac, aach, aache, aachen, aal, aar, aas, ab, abb, abbau, abbi, abbil, abbild, an, anna, anne, anno, anni ergibt, ist in der nachfolgenden Abbildung dargestellt, wobei sich das einem Knoten η entsprechende Wort durch die Labels aller Knoten von der Wurzel bis zu η.

18 Beispiele III Ähnliche Bäume, sogenannte Tries, werden in der Informatik und der Computerlinguistik zur internen Repräsentation von Wörterbüchern verwendet.

19 Beispiele IV 4 Es sei A = {a 1, a 2,..., a n } ein Alphabet, dass durch a 1 < A a 2 < A < A a n geordnet sei. Es bezeichne A die Menge aller Wörgter über dem Alphabet A. Dann wird durch x 1... x k y 1... y l : k l und x 1 = y 1,..., x k = y k i, 0 i < min(k, l) wo x 1 = y 1,..., x i = y i und x i+1 < A y i+1 eine lineare Ordnung auf A definiert, die lexikographische Ordnung von A genannt wird. Es handelt sich um die übliche Wortreihenfolge in Lexika, Telefonbüchern etc. Die Wortliste a, aa, aac, aach, aache, aachen, aal, aar, aas, ab, abb, abbau, abbi, abbil, abbild, an, anna, anne, anno, anni ist lexikographisch geordnet.

20 Quasi-Ordnungen I Das Beispiel mit der Ordnung zwischen Personen über deren Körpergröße verdeutlicht den eigentlichen Unterschied zwischen echten Quasi-Ordnungen und partiellen Ordnungen. Es kann (wird) vorkommen, dass zwei (oder mehr) Personen die selbe Körpergröße (in cm.) haben. Somit gibt es keine Möglichkeit, diese Personen eindeutig in eine Reihenfolge einzuordnen. Bei Quasi-Ordnungen kann es somit vorkommen, dass zwei vergleichbare Objekte nicht in eine eindeutige Reihenfolge einsortiert werden können.

21 Quasi-Ordnungen II Dieser unschöne Effekt soll nun im Weiteren aufgelöst werden. Eine naheliegende Idee um diesen unerwünschten Effekt aufzulösen, ist die Verwendung von Äquivalenzrelationen. Über eine geeignete Äquivalenzrelation auf der Menge A kann die Quasi-Ordnung auf der Quotientenmenge A/ ausgeführt werden. Es werden genau diejenigen Elemente von der Äquivalenzrelation identifiziert, die Probleme verursachen. Die Quotientenmenge kann als Vereinfachung der Menge A angesehen werden. Die Quasi-Ordnung kann dann auf der Quotientenmenge A/ in die echte partielle Ordnung überführt werden.

22 Quasi-Ordnungen III Beispiel Betrachtet man das Beispiel folgender Quasi-Ordnung, fällt auf, dass die Elemente der Teilmenge {1, 2} wechselseitig in der Relation stehen. Dasselbe gilt für die Elemente der Teilmente {3, 4}.

23 Quasi-Ordnungen IV Wenn man nun die nicht-umkehrbaren Pfeile ignoriert erhält man folgende Abbildung:

24 Quasi-Ordnungen V Gerade der Vergleich der Elemente 1 und 2 bzw. 3 und 4 ist problematisch, da er zu keiner eindeutigen Reihenfolge führt. Geht man nun durch die kanonische Abbildung κ auf die Quotientenmenge A/ über, werden eben diese problematischen Paare identifiziert. Es bleib noch eine Ordnung in geeigneter Weise zu definieren, die die Quasi-Ordnung wiederspiegelt und eine partielle Ordnung ist. Es gibt eine natürliche Weise: da jedes Element von [3] = {3, 4} bezüglich kleiner ist als jedes Element von [1] = {1, 2} definiert man einfach [3] < [1].

25 Lemma (Quasi-Ordnung) Lemma (Quasi-Ordnung) Es sei eine Quasi-Ordnung auf der Menge A. Dann wird durch a b : (a b b a) eine Äquivalenzrelation auf A definiert. Auf der Quotientenmenge A/ sei nun die Relation durch [a] [b] : a b erklärt. ist dann wohldefiniert und eine partielle Ordnung.

26 Beweis I Wohldefiniertheit Es seien [a 1 ] = [a 2 ] und [b 1 ] = [b 2 ] Äquivalenzklassen in A/. Wir müssen zeigen, dass wir dasselbe Resultat erhalten, wenn wir zur Definition von einerseits [a 1 ] und [b 1 ], andererseits [a 2 ] und [b 2 ] verwenden. Es muss also gezeigt werden, dass a 1 b 1 und a 2 b 2 äquivalent sind. Wegen der Symmetrie reicht eine Richtung aus. Es gilt also a 1 b 1. Wegen [a 1 ] = [a 2 ] und [b 1 ] = [b 2 ] gelten auch a 2 a 1 und b 1 b 2. Wegen der Transitivität gilt nun auch a 2 b 2.

27 Quasi-Ordnungen und Zyklen Wen man mit κ die kanonische Abbildung von A in die Quotientenmenge A/ bezeichnet, so ist in der vorherigen Situation genau die durch κ und induzierte Quasi-Ordnung auf A. Folgendes Lemma verdeutlicht nochmals den Unterschied zwischen Quasi-Ordnungen und partiellen Ordnungen von einer anderen Perspektive. Lemma (Quasi-Ordnungen und Zyklen) Es sei eine Quasi-Ordnung auf der Menge A. Dann ist eine partielle Ordnung genau dann, wenn A keine nicht-trivialen -Zyklen enthält (nur triviale -Zyklen enthält).

28 Beweis Beweis Es sei eine partielle Ordnung und somit antisymmetrisch. Es sei a 0 a 1 a n ein -Zyklus. Somit gilt per Definition a 0 = a n. Falls der Zyklus nicht-trivial ist (er enthält zwei unterschiedliche Elemente) muss es ein Element a i a 0 geben. Aus der Transitivität von folgt einerseits a 0 a i, andererseits auch a i a n = a 0. Dies ist ein Widerspruch mit der Antisymmetrie von : a 0 a i und a i a 0 und a i a 0. Der Widerspruch zeigt, dass der Zyklus a 0,..., a n trivial sein muss. Umgekehrt nehmen wir an, dass A keine nicht-trivialen -Zyklen enthält. Dann muss antisymmetrisch sein: andernfalls gäbe es Elemente a 0, a 1 A mit a 0 a 1 und a 1 a 0. Dann wäre die Folge a 0, a 1, a 0 ein nicht-trivialer Zyklus.

29 Beweis durch Kontraposition Im ersten Teil des Beweises wurde die Trivialität des betrachteten Zyklus dadurch bewiesen, dass aus der gegenteiligen Annahme ein Widerspruch zur Voraussetzung, nämlich dass eine partielle Ordnung ist, hergeleitet. Man nennt diese Technik Beweis durch Kontraposition.

30 Lemma Lemma Es sei eine partielle Ordnung auf der nichtleeren endlichen Menge A. Dann besitzt A ein bezüglich minimales Element und ein bezüglich maximales Element.

31 Beweis Da A können wir ein Element a 0 A auswählen. Falls a 0 minimal ist, sind wir fertig. Wenn a 0 nicht minimal ist, so muss es ein Element a 1 < a 0 geben. Solange wir kein minimales Element gefunden haben fahren wir auf diese Weise fort. Da A endlich ist, und keine nicht-trivialen -Zyklen enthält müssen wir nach endlich vielen Schritten an einem minimalen Element ankommen. Wen wir dieselbe Methode auf die duale Ordnung anwenden, erreichen wir ein minimales Element bezüglich, also ein maximales Element bezüglich.

32 Table of Contents 1 2

33 tl;dr Quasi-Ordnungen sind reflexive, transitive binäre Relationen. Partielle Ordnungen sind antisymmetrische Quasi-Ordnungen. Lineare Ordnungen sind partielle Ordnungen, deren alle Elemente mit Pfeilen verbunden sind. Strikte (partielle oder Quasi-) Ordnungen sind irreflexiv anstatt reflexiv.