Bioinformatik für Lebenswissenschaftler

Transkript

1 Bioinformatik für Lebenswissenschaftler Oliver Kohlbacher, Steffen Schmidt SS Paarweises Alignment Teil I Abt. Simulation biologischer Systeme WSI/ZBIT, Eberhard Karls Universität Tübingen Übersicht Paarweises Alignment Anzahl möglicher Alignments Komplexität von Algorithmen Needleman-Wunsch-Algorithmus Komplexität Umsetzung in Python 2 Ähnlichkeit und Distanz Wie kann man die Ähnlichkeit zweier Sequenzen beschreiben? Einfachste Möglichkeit: Zählen identischer Zeichen GATCGTTCG CATGGTTGA Problem: Was bei Sequenzen unterschiedlicher Länge? GATCGTTCG GATCGTTCG- GATCGTTCG ---GGTTGA G---GTT-GA -GGTTGA-- Ähnlichkeit: (Anzahl Matches) Analog die Distanz (Anzahl Mismatches):

2 Ähnlichkeit und Distanz Bei der Suche nach dem besten Alignment hat man zwei äquivalente Möglichkeiten Minimiere die Distanz Maximiere die Ähnlichkeit (Score) Distanzfunktionen und Ähnlichkeitsfunktionen gibt es in Hülle und Fülle. Einige werden wir nächstes mal im Detail besprechen. Für heute werden wir die bereits aus der letzten Vorlesungen bekannte Funktion verwenden, die einfach Mismatches zählt: Naiver Algorithmus Naiv kann man ein optimales Alignment mit folgendem Algorithmus berechnen: min_dist A + B Für jedes Alignment (A, B ) von A und B: Wenn d(a, B ) < min_dist: min_dist d(a, B ) bestes_alignment (A, B ) Gib min_dist, bestes_alignment aus Frage: Wie lange benötigt dieser Algorithmus zum Berechnen aller Alignments zweier Proteine der Länge 500? Anzahl möglicher Alignments Nehmen wir zwei Sequenzen A und B der Länge n an Im schlimmsten Fall enthält das Alignment n Gap-Symbole je Sequenz und hat die Länge 2n, im einfachsten Fall keine Gaps: ACGTA----- ACGTA -----TAGCA TAGCA Ein Alignment mit 0 k n Gaps je Sequenz hat n + k Spalten In der ersten Sequenz gibt es also n + k unterschiedliche Möglichkeiten die k Gaps zu platzieren In der zweiten Sequenz kann man die k Gaps nur noch an n (n + k) - k = n Positionen ohne Gaps platzieren Insgesamt gilt also für die Anzahl der Alignments: k 2

3 Anzahl möglicher Alignments Durch ähnliche Überlegungen kann man herleiten, dass für Sequenzen beliebiger Längen n und m für die Anzahl möglicher Alignments gilt: Mit Hilfe der Stirling-Formel kann man diese Zahl für große n und m mit m n zu 2/π 4 n annähern (Details bitte glauben!) Anzahl möglicher Alignments wächst exponentiell mit n: n 2/π 4 n 10 ~ ~ ~ ~ Erzeugen aller Alignments Beispielrechnung: Aktuelle Rechner arbeiten mit Taktfrequenzen um 3 GHz Könnte(!) ein Computer je ein Alignment pro Taktzyklus auswerten, würde er für die Alignments zweier Proteine der Länge / 3*10 9 / / 365 = Jahre benötigen Explizite Auswertung aller möglichen Alignments ist also keine sinnvolle Option Was uns fehlt ist der richtige Algorithmus! Laufzeitanalyse for i in range(n): for j in range(n): for k in range(n): a = a + for i in range(n): a = a + for i in range(5*n): a = a + for i in range(10*n): a = a + Möchte man die Laufzeit zweier Programme analysieren, so zählt man üblicherweise die Rechenoperationen, die auszuführen sind. Interessant ist dabei der Vergleich, wie diese Zahl mit der Größe der Eingabe (z.b. der Sequenzlänge n) variiert In den obigen Programmen können wir zum Beispiel die Anzahl der Additionen ( a = a + ) betrachten. n = 3 n = 20 Links: 3 * 3 * 3 = 27 Additionen 20 * 20 * 20 = 8000 Rechts: = 48 Additionen = 320 3

4 t t O-Notation In der Informatik verwendet man die so genannte O- Notation um das asymptotische Laufzeitverhalten eines Algorithmus in Abhängigkeit von der Eingabe (seine Komplexität) anzugeben Diese Notation vernachlässigt alle konstanten Faktoren, beschreibt also nur wie stark die Rechenzeit mit der Eingabegröße wächst Für unseren Algorithmus zur Berechnung der Distanz ist die Laufzeit z.b. O(n), wobei n die Länge der beiden Sequenzen ist Eine Verdopplung der Eingabelänge bewirkt also eine Verdopplung der Laufzeit Ein Algorithmus der O(n 2 ) Zeit benötigt, würde für eine doppelt so große Eingabe die vierfache Zeit benötigen O-Notation Die O-Notation sagt nichts darüber aus, ob eine bestimmte Problemgröße mit einem Algorithmus lösbar ist! Stattdessen trifft sie eine Aussage darüber, wie der Algorithmus beim Übergang zu immer größeren Probleminstanzen skaliert Algorithmen mit geringerer Komplexität können für sehr kleine Probleminstanzen langsamer sein (und sind es auch oft) O(1) O(n) O(n) O(n^2) O(2^n) 800 O(1) O(n) O(n) O(n^2) O(2^n) n n Naives Alignment Welche Komplexität hat nun unser naiver Alignmentalgorithmus? Wir zählen einfach triviale Operationen, z.b. Zuweisungen Für die Laufzeitanalyse sind dabei insbesondere Schleifen sehr wichtig Hier: Wir erzeugen alle (ca. 4 n ) Alignments Für jedes Alignment werten wir die Distanz aus (O(n)) Die Komplexität des Algorithmus ist also O(n 4 n ) Asymptotisch (für große n) spielt der lineare Term keine Rolle, die Komplexität ist also O(4 n ) Laufzeit ist exponentiell in der Sequenzlänge n 4

5 Exponentielle Laufzeit Algorithmen mit exponentieller Laufzeit sind nur für sehr kleine Problemgrößen handhabbar Nach unserer einfachen Abschätzung erreichen wir bereits bei Sequenzen der Länge 26 Rechenzeiten von einem Jahr! Die überwältigende Mehrheit aller möglichen Alignments ist nicht optimal uns interessieren aber nur optimale Alignments! Ein Großteil der Rechenzeit wird auf offensichtlich unsinnige Alignments vergeudet! Wie können wir nun optimale Alignments berechnen ohne alle Alignments explizit betrachten zu müssen? worksheets/html/ex1wk1.html Alignments Berechnen des Scores zweier Alignments von A = ACGTAGTAGCA und B = ACTTAGTACGT ACGTAGTAGC-A ACGTAGTA-GCA ACTT-GTACGTA ACTTG-TACGTA Beobachtung: Die Alignments der Präfixe der Länge vier von A und B sind identisch. Damit auch die Scores der Alignments dieser Präfixe. Wir berechnen die Scores vieler Teilalignments immer wieder! Idee: Merke die besten Scores dieser Teilalignments und berechne sie nicht ständig neu. Konstruktion von Alignments A = ACGTAGTAGCA und B = ACTTGTACGTA Das Alignment der Präfixe A[1..i] und B[1..j] kann nur auf eine der folgenden drei Möglichkeiten enden: A A - Bsp.: ACGT- G - G ACTTG 1. Fall: A mit G 2. Fall: A mit - 3. Fall: - mit G Jedem der drei Fälle entspricht ein Präfixalignment der vorhergehenden Spalten: 1. Fall: A[1..i-1] mit B[1..j-1] 2. Fall: A[1..i-1] mit B[1..j] 3. Fall: A[1..i] mit B[1..j-1] 5

6 Konstruktion von Alignments Formal: Alignment für A[1..i] und B[1..j] endet in a i mit b j, a i mit ε oder ε mit b j Distanz des Alignments ergibt sich aus Distanz des jeweiligen Präfixalignments und der Distanz der neuen Spalte: d i-1,j-1 + d(a i, b j ) d i-1,j + d(a i, ε) d i,j-1 + d(ε, b j ) Für die Distanz optimaler Alignments ist natürlich nur das Minimum davon interessant: min(d i-1,j-1 + d(a i, b j ), d i-1,j + d(a i, ε), d i,j-1 + d(ε, b j )) ist ein Ansatz zur Lösung von Optimierungsproblemen, bei dem bereits berechnete Teillösungen abgespeichert werden In unserem Fall speichern wir die bereits berechneten Distanzen von Präfixalignments Dadurch lässt sich die ständige Neuberechnung dieser Alignments vermeiden ist eine wichtige Technik in der Bioinformatik, die z.b. auch in der Proteinstruktur-Vorhersage Anwendung findet Wir wollen nun unser Alignment-Problem mit Hilfe der dynamischen Programmierung lösen und den Algorithmus in Python implementieren Gegeben: Sequenzen A, B mit A = m, B = n Distanzfunktion d(a, b) 1, falls a b 0, falls a = b Gesucht: optimales Alignment Ansatz Merke bereits berechnete Teilergebnisse in (m+1)x(n+1)-matrix D Matrixelement D i,j enthält dann die Distanz für ein optimales Alignment von A[1..i] und B[1..j] - A C G T D 0,0 D 1,1 D m,n 6

7 Die 0. Spalte/Zeile der Matrix beschreibt Alignments die mit einem Gapzeichen beginnen Gemäß unserer Überlegung über Präfixalignments gilt für die Matrixelemente: Damit ergibt sich der Inhalt einer Zelle der Matrix aus den Werten der drei Nachbarzellen links, oben und links oben - A C G T D 0,0 D m,n Mit dieser einfachen Rechenanweisung lassen sich die Einträge der Matrix Element für Element ausfüllen Das untere rechte Element D i,j enthält nach Konstruktion die gesuchte Distanz des optimalen Alignments! Die Konstruktion der Matrix wollen wir nun am Beispiel nachvollziehen - A C G T D 0,0 D m,n Der Eintrag D 0,0 entspricht dem Alignment zweier leerer Sequenzen und wird daher mit 0 initialisiert - 0 A C G T 7

8 Der Eintrag D 0,0 entspricht dem Alignment zweier leerer Sequenzen und wird daher mit 0 initialisiert. Die Einträge D 0,j und D i,0 entsprechen Alignments nur mit Gaps: D 3,0 entspricht dem Alignment AGC A C G T Der Eintrag D 0,0 entspricht dem Alignment zweier leerer Sequenzen und wird daher mit 0 initialisiert. Die Einträge D 0,j und D i,0 entsprechen Alignments nur mit Gaps: D 3,0 entspricht dem Alignment AGC --- D 3,0 hat daher den Wert A C G T Der Eintrag D 0,0 entspricht dem Alignment zweier leerer Sequenzen und wird daher mit 0 initialisiert. Die Einträge D 0,j und D i,0 entsprechen Alignments nur mit Gaps: D 3,0 entspricht dem Alignment AGC --- D 3,0 hat daher den Wert 3 Die übrigen Werte analog A 1 C 2 G 3 T 4 8

9 Die restliche Tabelle wird nun nach obiger Gleichung eingesetzt Wir berechnen jeweils das Minimum der drei benachbarten Matrixelemente und der zugehörigen Distanzen D 1,1 = min( D 0,1 + d(-, A), D 0,0 + d(a,a), D 1,0 + d(a,-)) = 0 A 1 C 2 G 3 T 4 Die restliche Tabelle wird nun nach obiger Gleichung eingesetzt Wir berechnen jeweils das Minimum der drei benachbarten Matrixelemente und der zugehörigen Distanzen D 1,1 = min( D 0,1 + d(-, A), D 0,0 + d(a,a), D 1,0 + d(a,-)) = 0 A C 2 G 3 T 4 Die restliche Tabelle wird nun nach obiger Gleichung eingesetzt Wir berechnen jeweils das Minimum der drei benachbarten Matrixelemente und der zugehörigen Distanzen D 1,1 = min( D 0,1 + d(-, A), D 0,0 + d(a,a), D 1,0 + d(a,-)) = 0 A C G T

10 Ausfüllen der DP-Matrix liefert in D m,n die optimale Distanz Problem: Distanz alleine reicht nicht wie findet man das zugehörige Alignment? Wir wissen für jedes Matrixelement, auf welche Weise das Minimum erzeugt wurde (von oben, links, diagonal) Speichere Richtung in zweiter Matrix T Verfolge Pfad zurück A C G T Traceback der T-Matrix Diagonal: Matche zwei Zeichen Horizontal: matche Zeichen aus B mit Gap Vertikal: matche Zeichen aus A mit Gap Diagonal von (4,3) nach (3,2) T C A C G T Traceback der T-Matrix Diagonal: Matche zwei Zeichen Horizontal: matche Zeichen aus B mit Gap Vertikal: matche Zeichen aus A mit Gap Diagonal von (3,2) nach (2,2) GT GC A C G T

11 Traceback der T-Matrix Diagonal: Matche zwei Zeichen Horizontal: matche Zeichen aus B mit Gap Vertikal: matche Zeichen aus A mit Gap Vertikal von (2,1) nach (1,1) CGT -GC A C G T Traceback der T-Matrix Diagonal: Matche zwei Zeichen Horizontal: matche Zeichen aus B mit Gap Vertikal: matche Zeichen aus A mit Gap Diagonal von (1,1) nach (0,0) ACGT A-GC A C G T Mehrdeutigkeit der Lösung Es gibt in der Regel nicht ein optimales Alignment, sondern mehrere gleich gute Alternativen ACGG und TT ACGG ACGG ACGG ACGG TT-- T T --TT -TT- Alle diese Alignments (und noch einige mehr) haben die gleiche Distanz (4). Bessere Distanzen sind nicht möglich! Die unterschiedlichen Lösungen entsprechen unterschiedlichen Pfaden durch die Matrix Sie entstehen dadurch, dass das Minimum der drei Möglichkeiten zu identischen Distanzen führt Unser Algorithmus liefert nur eines dieser Alignments! 11

12 Needleman-Wunsch-Algorithmus Der eben beschriebene Algorithmus, der optimale paarweise Alignments mit dynamischer Programmierung findet, wurde 1970 von Saul Needleman und Christian Wunsch vorgestellt Er wird daher häufig auch Needleman-Wunsch- Algorithmus genannt und ist einer der Grundalgorithmen der Sequenzanalyse Eine gute Möglichkeit den Algorithmus im Detail auszuprobieren haben Sie in den Übungen oder auf folgender Website (Vorsicht: andere Distanzfunktion!) Needleman, Wunsch: A general method applicable to the search for similarities in the amino acid sequence of two proteins, J. Mol. Biol. (1970), 48, Komplexität Wie sieht es nun mit der Laufzeit des Needleman-Wunsch-Algorithmus aus? Steigt auch dort die Laufzeit exponentiell mit der Sequenzlänge? Analyse Größe der DP-Matrix: (m+1)x(n+1) Zeit zum Füllen der Matrix: O(mn) Zeit für Traceback: O(m+n) insgesamt O(mn) Für Sequenzen ähnlicher Länge also keine exponentielle, sondern quadratische Laufzeit! Needleman-Wunsch in Python Wir wollen nun den Kernteil des Needleman-Wunsch- Algorithmus in Python implementieren Traceback-Matrix unterschlagen wir hier der Kürze halber ( Übung!) Beispielcode verwendet einige Dinge in Python, die Sie aus der letzten Vorlesung kennen Listen Matrix-Klasse (numpy) 12

13 Python Listen Listen sind eine geordnete Folge von Elementen (genauer: Objekte) eines beliebigen Typs Listen lassen sich verändern >>> l = [17, 5, 3] >>> l[2] += 5 >>> l.append('a') [17, 5, 8, 'a']" Viele Python-Funktionen akzeptieren Listen als Argumente z.b. die Funktion min berechnet das Minimum einer Liste: >>> l = [170, 55, 3, 244] " ">>> print min(l)" "3" Python Matrix Listen sind in Python nur eine von vielen Datenstrukturen Das externe Modul namens numpy stellt Arrays zur Verfügung Eindimensionale Arrays ( Vektoren ) Zweidimensionale Arrays ( Matrizen ) N-dimensionale Arrays (allgemeine Tensoren) numpy stellt Ihnen Operationen aus der linearen Algebra (z.b. Matrixmultiplikationen) zur Verfügung, import numpy # Lade Modul A = numpy.zeros([3]) # Vektor der Länge 3 A[1] = 5 # Setzt 2. Element M = numpy.zeros([3,3])# eine 3x3-Matrix M[0,0] = M[1,1] = M[2,2] = 2 print A print M Ausgabe: [0 5 0] [[2 0 0] [0 2 0] [0 0 2]] Needleman-Wunsch Teil I # Importiere Matrixklasse import numpy # Distanzfunktion def d(a,b): if a == b: return 0 else: return 1 A = 'ACGT' # Initialisierung der Sequenzen B = 'AGC' m = len(a) # Reine Bequemlichkeit: Längen der n = len(b) # Sequenzen D = numpy.zeros([m+1, n+1]) # Erzeuge DP-Matrix 13

14 Needleman-Wunsch Teil II for i in range(m+1): D[i,0] = i for j in range(n+1): D[0,j] = j # Initialisierung # der DP-Matrix # Berechne DP-Matrix for i in range(1,m+1): for j in range(1,n+1): # Berechne Distanzen d_horiz = D[i-1,j] + d(a[i-1], "-") d_diag = D[i-1,j-1] + d(a[i-1], B[j-1]) d_vert = D[i,j-1] + d("-, B[j-1]) # Speichere Minimum in DP-Matrix D D[i,j] = min([d_horiz, d_diag, d_vert]) Literatur + Links Webseite zum interaktiven Experimentieren: Zum Thema in Lehrbüchern: Setubal/Meidanis, Introduction to Computational Molecular Biology, S. 53ff Merkl/Waack, Bioinformatik Interaktiv, S. 95ff 14