Bioinformatik für Biochemiker

Transkript

1 Bioinformatik für Biochemiker Oliver Kohlbacher WS 2009/ Paarweises Alignment Teil I Abt. Simulation biologischer Systeme WSI/ZBIT, Eberhard Karls Universität Tübingen Übersicht Paarweises Alignment Anzahl möglicher Alignments Komplexität von Algorithmen Needleman-Wunsch-Algorithmus Komplexität Umsetzung in Python 2 Ähnlichkeit und Distanz Wie kann man die Ähnlichkeit zweier Sequenzen beschreiben? Einfachste Möglichkeit: Zählen identischer Zeichen GATCGTTCG CATGGTTGA Problem: Was bei Sequenzen unterschiedlicher Länge? GATCGTTCG GATCGTTCG- GATCGTTCG ---GGTTGA G---GTT-GA -GGTTGA-- Ähnlichkeit: (Anzahl Matches) Analog die Distanz (Anzahl Mismatches):

2 Ähnlichkeit und Distanz Bei der Suche nach dem besten Alignment hat man zwei äquivalente Möglichkeiten Minimiere die Distanz Maximiere die Ähnlichkeit (Score) Distanzfunktionen und Ähnlichkeitsfunktionen gibt es in Hülle und Fülle. Einige werden wir nächste Woche im Detail besprechen. Für heute werden wir die bereits aus der letzten Vorlesung bekannte Funktion verwenden, die einfach Mismatches zählt: Naiver Algorithmus Naiv kann man ein optimales Alignment mit folgendem Algorithmus berechnen: min_dist à A + B Für jedes Alignment (A, B ) von A und B: Wenn d(a, B ) < min_dist: min_dist à d(a, B ) bestes_alignment à (A, B ) Gib min_dist, bestes_alignment aus Frage: Wie lange benötigt dieser Algorithmus zum Berechnen aller Alignments zweier Proteine der Länge 500? Anzahl möglicher Alignments Nehmen wir zwei Sequenzen A und B der Länge n an Im schlimmsten Fall enthält das Alignment n Gapsymbole je Sequenz und hat die Länge 2n, im einfachsten Fall keine Gaps: ACGTA----- ACGTA -----TAGCA TAGCA Ein Alignment mit 0 k n Gaps je Sequenz hat n + k Spalten in die man k Gaps platzieren kann Es gibt also dieser Gaps unterschiedliche Möglichkeiten der Platzierung In der zweiten Sequenz kann man die k Gaps nur noch an die (n + k) - k = n Positionen ohne Gaps setzen Insgesamt gilt also für die Anzahl Alignments: 2

3 Anzahl möglicher Alignments Durch ähnliche Überlegungen kann man herleiten, dass für Sequenzen beliebiger Längen n und m für die Anzahl möglicher Alignments gilt: Mit Hilfe der Stirling-Formel kann man diese Zahl für große n und m mit m ¼ n zu 2/π 4 n annähern (Details bitte glauben!) Anzahl möglicher Alignments wächst exponentiell mit n: n 2/π 4 n 10 ~ ~ ~ ~ Erzeugen aller Alignments Beispielrechnung: Aktuelle Rechner arbeiten mit Taktfrequenzen um 3 GHz Könnte(!) ein Computer je ein Alignment pro Taktzyklus auswerten, würde er für die Alignments zweier Proteine der Länge / / / 365 = Jahre benötigen Explizite Auswertung aller möglichen Alignments ist also keine sinnvolle Option ) Was uns fehlt ist der richtige Algorithmus! Laufzeitanalyse for i in range(n): for j in range(n): for k in range(n): a = a + for i in range(n): a = a + for i in range(5*n): a = a + for i in range(10*n): a = a + Möchte man die Laufzeit zweier Programme analysieren, so zählt man üblicherweise die Rechenoperationen, die auszuführen sind. Interessant ist dabei der Vergleich, wie die Zahl mit der Größe der Eingabe (z.b. Sequenzlänge n) variiert In den obigen Beispielen können wir zum Beispiel die Anzahl der Additionen ( a = a + ) betrachten. n = 3 n = 20 Links: 3 * 3 * 3 = 27 Additionen20 * 20 * 20 = 8000 Rechts: = 48 Additionen = 320 3

4 O-Notation In der Informatik verwendet man die so genannte O- Notation um das asymptotische Laufzeitverhalten eines Algorithmus in Abhängigkeit von der Eingabe (seine Komplexität) anzugeben Diese Notation vernachlässigt alle konstanten Faktoren, beschreibt also nur die Stärke des Wachstums der Rechenzeit mit der Eingabegröße Für unseren Algorithmus zur Berechnung der Distanz ist die Laufzeit z.b. O(n), wobei n die Länge der beiden Sequenzen ist Eine Verdopplung der Eingabelänge bewirkt also eine Verdopplung der Laufzeit Ein Algorithmus der O(n 2 ) Zeit benötigt, würde für eine doppelt so große Eingabe die vierfache Zeit benötigen O-Notation O-Notation sagt nichts darüber aus, ob eine bestimmte Problemgröße mit einem Algorithmus lösbar ist! Stattdessen trifft sie eine Aussage darüber, wie der Algorithmus beim Übergang zu immer größeren Probleminstanzen skaliert Algorithmen mit besserer Komplexität können für sehr kleine Probleminstanzen langsamer sein (und sind es auch oft) Naives Alignment Welche Komplexität hat nun unser naiver Alignmentalgorithmus? Wir zählen einfach triviale Operationen, z.b. Zuweisungen Für die Laufzeitanalyse sind dabei insbesondere Schleifen sehr wichtig Hier: Wir erzeugen alle (ca. 4 n ) Alignments Für jedes Alignment werten wir die Distanz aus (O(n)) Insgesamt benötigt der Algorithmus also O(n 4 n ) Zeit Asymptotisch (für große n) spielt der lineare Term keine Rolle, die Laufzeit ist also O(4 n ) ) Laufzeit ist exponentiell in der Sequenzlänge n 4

5 Exponentielle Laufzeit Algorithmen mit exponentieller Laufzeit sind nur für sehr kleine Problemgrößen handhabbar Nach unserer einfachen Abschätzung erreichen wir bereits bei Sequenzen der Länge 26 Rechenzeiten von einem Jahr! Andererseits ist die überwältigende Mehrheit aller exponentiell vielen möglichen Alignments offensichtlich nicht optimal uns interessieren aber nur optimale Alignments! Ein Großteil der Rechenzeit wird auf offensichtlich unsinnige Alignments vergeudet! Wie können wir nun optimale Alignments berechnen ohne alle Alignments explizit berechnen zu müssen? worksheets/html/ex1wk1.html Alignments Berechnen des Scores zweier Alignments von A = ACGTAGTAGCA und B = ACTTAGTACGT ACGTAGTAGC-A ACGTAGTA-GCA ACTT-GTACGTA ACTTG-TACGTA Beobachtung: Die Alignments der Präfixe der Länge vier von A und B sind identisch. Damit auch die Scores der Alignments dieser Präfixe. ) Wir berechnen die Scores vieler Teilalignments immer wieder! Idee: Merke die besten Scores dieser Teilalignments und berechne sie nicht ständig neu. Konstruktion von Alignments A = ACGTAGTAGCA und B = ACTTGTACGTA Das Alignment der Präfixe A[1..i] und B[1..j] kann nur auf eine der folgenden drei Möglichkeiten enden: A A - Bsp.: ACGT- G - G ACTTG 1. Fall: A mit G 2. Fall: A mit - 3. Fall: - mit G Jedem der drei Fälle entspricht ein Präfixalignment der vorhergehenden Spalten: 1. Fall: A[1..i-1] mit B[1..j-1] 2. Fall: A[1..i-1] mit B[1..j] 3. Fall: A[1..i] mit B[1..j-1] 5

6 Konstruktion von Alignments Formal: Alignment für A[1..i] und B[1..j] endet in a i mit b j, a i mit ε oder ε mit b j Distanz des Alignments ergibt sich aus Distanz des jeweiligen Präfixalignments ohne die letzte Spalte und Distanz der neuen Spalte: d i-1,j-1 + d(a i, b j ) d i-1,j + d(a i, ε) d i,j-1 + d(ε, b j ) Für die Distanz optimaler Alignments ist natürlich nur das Minimum davon interessant: min(d i-1,j-1 + d(a i, b j ), d i-1,j + d(a i, ε), d i,j-1 + d(ε, b j )) ist ein Ansatz zur Lösung von Optimierungsproblemen, bei dem bereits berechnete Teillösungen abgespeichert werden In unserem Fall speichern wir die bereits berechneten Distanzen von Präfixalignments Dadurch lässt sich die ständige Neuberechnung dieser Alignments vermeiden ist eine wichtige Technik in der Bioinformatik, die z.b. auch in der Proteinstruktur-Vorhersage Anwendung findet Wir wollen nun unser Alignment-Problem mit Hilfe der dynamischen Programmierung lösen und den Algorithmus in Python implementieren Gegeben: Sequenzen A, B mit A = m, B = n Distanzfunktion d(a, b) 1, falls a b 0, falls a = b Gesucht: optimales Alignment Ansatz Merke bereits berechnete Teilergebnisse in (m+1)x(n+1)- Matrix D Matrixelement D i,j enthält dann die Distanz für ein optimales Alignment von A [1..i] und B[1..j] - A C G T D 0,0 D 1,1 D m,n 6

7 Die 0. Spalte/Zeile der Matrix beschreibt Alignments die mit einem Gapzeichen beginnen Gemäß unserer Überlegung über Präfixalignments gilt für die Matrixelemente: Damit ergibt sich der Inhalt einer Zelle der Matrix aus den Werten der drei Nachbarzellen links, oben und links oben - A C G T D 0,0 D m,n Mit dieser einfachen Rechenanweisung lassen sich die Einträge der Matrix Element für Element ausfüllen Das untere rechte Element D i,j enthält nach Konstruktion die gesuchte Distanz des optimalen Alignments! Die Konstruktion der Matrix wollen wir nun am Beispiel nachvollziehen - A C G T D 0,0 D m,n Der Eintrag D 0,0 entspricht dem Alignment zweier leerer Sequenzen und wird daher mit 0 initialisiert - 0 A C G T 7

8 Der Eintrag D 0,0 entspricht dem Alignment zweier leerer Sequenzen und wird daher mit 0 initialisiert. Die Einträge D 0,j und D i,0 entsprechen Alignments nur mit Gaps: D 3,0 entspricht dem Alignment AGC A C G T Der Eintrag D 0,0 entspricht dem Alignment zweier leerer Sequenzen und wird daher mit 0 initialisiert. Die Einträge D 0,j und D i,0 entsprechen Alignments nur mit Gaps: D 3,0 entspricht dem Alignment AGC --- D 3,0 hat daher den Wert A C G T Der Eintrag D 0,0 entspricht dem Alignment zweier leerer Sequenzen und wird daher mit 0 initialisiert. Die Einträge D 0,j und D i,0 entsprechen Alignments nur mit Gaps: D 3,0 entspricht dem Alignment AGC --- D 3,0 hat daher den Wert 3 Die übrigen Werte analog A 1 C 2 G 3 T 4 8

9 Die restliche Tabelle wird nun nach obiger Gleichung eingesetzt Wir berechnen jeweils das Minimum der drei benachbarten Matrixelemente und der zugehörigen Distanzen D 1,1 = min( D 0,1 + d(-, A), D 0,0 + d(a,a), D 1,0 + d(a,-)) = 0 A 1 C 2 G 3 T 4 Die restliche Tabelle wird nun nach obiger Gleichung eingesetzt Wir berechnen jeweils das Minimum der drei benachbarten Matrixelemente und der zugehörigen Distanzen D 1,1 = min( D 0,1 + d(-, A), D 0,0 + d(a,a), D 1,0 + d(a,-)) = 0 A C 2 G 3 T 4 Die restliche Tabelle wird nun nach obiger Gleichung eingesetzt Wir berechnen jeweils das Minimum der drei benachbarten Matrixelemente und der zugehörigen Distanzen D 1,1 = min( D 0,1 + d(-, A), D 0,0 + d(a,a), D 1,0 + d(a,-)) = 0 A C G T

10 Ausfüllen der DP-Matrix liefert in D m,n die optimale Distanz Problem: Distanz alleine reicht nicht wie findet man das zugehörige Alignment? Wir wissen für jedes Matrixelement, auf welche Weise das Minimum erzeugt wurde (von oben, links, diagonal) Speichere Richtung in zweiter Matrix T Verfolge Pfad zurück A C G T Traceback der T-Matrix Diagonal: Matche zwei Zeichen Horizontal: matche Zeichen aus B mit Gap Vertikal: matche Zeichen aus A mit Gap Diagonal von (4,3) nach (3,2) T C A C G T Traceback der T-Matrix Diagonal: Matche zwei Zeichen Horizontal: matche Zeichen aus B mit Gap Vertikal: matche Zeichen aus A mit Gap Diagonal von (3,2) nach (2,2) GT GC A C G T

11 Traceback der T-Matrix Diagonal: Matche zwei Zeichen Horizontal: matche Zeichen aus B mit Gap Vertikal: matche Zeichen aus A mit Gap Vertikal von (2,1) nach (1,1) CGT -GC A C G T Traceback der T-Matrix Diagonal: Matche zwei Zeichen Horizontal: matche Zeichen aus B mit Gap Vertikal: matche Zeichen aus A mit Gap Diagonal von (1,1) nach (0,0) ACGT A-GC A C G T Mehrdeutigkeit der Lösung Es gibt in der Regel nicht ein optimales Alignment, sondern mehrere gleich gute Alternativen ACGG und TT ACGG ACGG ACGG ACGG TT-- T T --TT -TT- All diese Alignments (und noch einige mehr) haben die gleiche Distanz (4). Bessere Distanzen sind nicht möglich! Die unterschiedlichen Lösungen entsprechen unterschiedlichen Pfaden durch die Matrix Sie entstehen dadurch, dass das Minimum der drei Möglichkeiten zu identischen Distanzen führt Unser Algorithmus liefert nur eines dieser Alignments! 11

12 Needleman-Wunsch-Algorithmus Der eben beschriebene Algorithmus, der optimale paarweise Alignments mit dynamischer Programmierung findet, wurde 1970 von Saul Needleman und Christian Wunsch vorgestellt Er wird daher häufig auch Needleman-Wunsch- Algorithmus genannt und ist einer der Grundalgorithmen der Sequenzanalyse Eine gute Möglichkeit den Algorithmus im Detail auszuprobieren haben Sie in den Übungen oder auf folgender Website (Vorsicht: andere Distanzfunktion!) Needleman, Wunsch: A general method applicable to the search for similarities in the amino acid sequence of two proteins, J. Mol. Biol. (1970), 48, Komplexität Wie sieht es nun mit der Laufzeit des Needleman-Wunsch-Algorithmus aus? Steigt auch dort die Laufzeit exponentiell mit der Sequenzlänge? Analyse Größe der DP-Matrix: (m+1)x(n+1) Zeit zum Füllen der Matrix: O(mn) Zeit für Traceback: O(m+n) ) insgesamt O(mn) Für Sequenzen ähnlicher Länge also keine exponentielle, sondern quadratische Laufzeit! Needleman-Wunsch in Python Wir wollen nun den Kernteil des Needleman-Wunsch- Algorithmus in Python implementieren Traceback-Matrix unterschlagen wir hier der Kürze halber (! Übung!) Beispielcode verwendet einige neue Dinge in Python, die Sie bisher noch nicht kennen Module Listen Matrix-Klasse Diese werden wir zunächst kurz vorstellen 12

13 Python Module Module sind eine Möglichkeit existierenden Code wieder zu verwenden und anderen zur Verfügung zu stellen Man kann dazu einfach den Code in eine eigene Datei speichern und diese dann mit dem import-kommando von Python laden: # Modul Dist.py # Dieses Modul implementiert # Die Distanzfunktion d und # kann von anderen Programmen # verwendet werden. def d(a, b): if a == b: return 0 else: return 1 # Berechnung der Distanz import Dist # Lade Modul Dist A = `ACGT` B = `A-GG` a = 0 for i in range(len(a)): d = d + Dist.d(A[i], B[i]) # Die Distanzfunktion wird # über den Namen des Moduls # angesprochen: Dist.d Python Listen Listen sind Aneinanderreihungen beliebiger Werte (genauer: Objekte), die man zusammenfassen will Viele Python-Funktionen akzeptieren Listen als Argumente Möchte man z.b. das Minimum von vier Werten berechnen, so definiert man eine Liste mit diesen Werten und ruft dann die Funktion min mit dieser Liste auf: l = [170, 55, 3, 244] print min(l) Listen definiert man in Python, indem man die einzelnen Werte in eckige Klammern schreibt Vorsicht: eckige Klammern hinter einer Variablen bedeuten den Zugriff mit einem oder mehreren Indices! Nicht verwechseln! Ergebnis dieses kurzen Programms ist natürlich 3 Python Matrix Listen sind in Python nur eine von vielen Datenstrukturen Mit Hilfe von Arrays kann man große Mengen von Zahlen darstellen Sowohl eindimensionale ( Vektoren ), als auch zweidimensionale ( Matrizen ) oder mehrdimensionale Arrays (allgemeine Tensoren) sind möglich Diese Arrays sind in Python nicht in der Sprache selbst verankert, sondern werden von einem externen Modul namens numarray zur Verfügung gestellt, das separat installiert werden muss Dafür stellt numarray Ihnen sehr schnelle und einfache Operationen aus der linearen Algebra (z.b. Matrixmultiplikationen) zur Verfügung, die Sie nicht mehr selbst implementieren müssen Wir werden die array-klasse aus numarray verwenden um unsere DP-Matrix darzustellen 13

14 Python Matrix Eine Matrix kann man auf viele Arten erzeugen. Wir wollen die Matrix nicht nur erzeugen sondern am besten auch gleich mit Nullen füllen Das geht mit der Funktion numarray.zeros, deren Argument eine Liste mit der Größe in den jeweiligen Dimensionen ist import numarray # Lade Modul A = numarray.zeros([3]) # Definiert Vektor # der Länge 3 A[1] = 5 # Setzt 2. Element print A M = numarray.zeros([3,3]) # definiert eine 3x3-Matrix M[0,0] = M[1,1] = M[2,2] = 2 print M print A * M Ausgabe: [0 5 0] [[2 0 0] [0 2 0] [0 0 2]] [[ 0 0 0] [ ] [ 0 0 0]] Needleman-Wunsch Teil I # Importiere Matrixklasse import numarray # Distanzfunktion def d(a,b): if a == b: return 0 else: return 1 A = ACGT # Initialisierung der Sequenzen B = AGC m = len(a) # Reine Bequemlichkeit: Längen der n = len(b) # Sequenzen D = numarray.zeros([m+1, n+1]) # Erzeuge DP-Matrix Needleman-Wunsch Teil II for i in range(m+1): # Initialisierung D[i,0] = i # der DP-Matrix for j in range(n+1): D[0,j] = j # Berechne DP-Matrix for i in range(1,m+1): for j in range(1,n+1): # Berechne Distanzen d_horiz = D[i-1,j] + d(a[i-1],"-") d_diag = D[i-1,j-1] + d(a[i-1],b[j-1]) d_vert = D[i,j-1] + d("-", B[j-1]) # Speichere Minimum in DP-Matrix D D[i,j] = min([d_horiz, d_diag, d_vert]) 14

15 Literatur + Links Setubal/Meidanis, Introduction to Computational Molecular Biology, S. 53ff Merkl/Waack, Bioinformatik Interaktiv, S. 95ff Webseite zum interaktiven Experimentieren: 15