Beispielbild. Lernen & Gedächtnis. Prinzipien und Modelle der Klassischen Konditionierung. SoSe 2008

Transkript

1 Beispielbild Lernen & Gedächtnis Prinzipien und Modelle der Klassischen Konditionierung SoSe 2008

2 Gesetze des assoziativen Lernens Frage: Gelten die Gesetze der Assoziation in der Konditionierung? Wird Konditionierung vollständig aus Kontiguität, Frequenz und Intensität vorhergesagt? 1: Kontiguität beschreibt das gemeinsame Auftreten zweier Ereignisse 2

3 Gesetze des assoziativen Lernens 1: Kontiguität Rolle des US CS Zeitintervalls Trace (Spuren-Konditionierung) vs. Delay (Verzögerungs-Konditionierung) vs. Pawlows Ergebnisse zeigen, dass die Verzögerung effektiver als die Spur ist wie von der Assoziationslehre vorhergesagt. 3

4 Gesetze des assoziativen Lernens 1: Kontiguität CR-Stärke Intervall zwischen CS und US Befunde von Moeller (1954) zeigen, dass bei einem Intervall von mehr als 2s keine Konditionierung mehr möglich ist Schätzung für die Integrationszeit im neuronalen System, welches die Kontiguität erkennen muss. CS-US-Intervall 4

5 Gesetze des assoziativen Lernens 1: Kontiguität Probleme mit der Kontiguität Die Konditionierung ist schlechter, wenn CS und US gleichzeitig präsentiert werden oder wenn der CS nach dem US präsentiert werden. Bedeutet dies, dass bei simultaner Konditionierung keine Assoziation gebildet wird? 5

6 Gesetze des assoziativen Lernens 1: Kontiguität Sensorische Vorkonditionierung Phase 1: Ton + Licht (simultan) Phase 2: Licht + Schock (Verzögerung) Phase 3: Ton SNIFFY Interpretation: Assoziationen werden auch gebildet, wenn Reize (CS & US) simultan präsentiert werden. Allerdings scheint der CS seinen prädiktiven Wert zu verlieren, d.h. dem Organismus bleibt keine Vorbereitungszeit. Weshalb also reagieren? Konditionierung ist ein adaptiver Prozess! 6

7 Kontingenz 1966 : Schicksalsjahr für die Idee der Kontiguität Rescorla: Predictability and number of pairings in Pavlovian fear conditioning. Psychonomic Science Garcia & Koelling: Relation of cue to consequence in avoidance learning. Psychonomic Science Prinzip der Kontingenz Prinzip der Preparedness 7

8 Kontingenz Forderung der Kontingenz: US muss ein valider Prädiktor des Auftretens des US sein. Kontingenz ist ein statistisches Wahrscheinlichkeitsmaß, dass zwei bedingte Wahrscheinlichkeiten verrechnet. Kontingenz = p(us CS) p(us no CS) CS CS CS Kontingenz = = 0 CS CS CS Kontingenz = 1 0 = 1 CS CS CS Kontingenz = = 0.4 = US Wichtig: Man braucht immer die Gegenprobe p(us no CS)! 8

9 Kontingenz Positive Kontingenzen Kontingenz niedrig CS CS CS CS CS CS Rescorla-Experiment: Ton + Schock Konditionierung mit konstanter Kontiguität Kontingenz hoch Ergebnis: Starker Konditionierungseffekt (CER) in der Kontingenz/hoch-Gruppe, kein Konditionierungseffekt in der Kontingenz/niedrig-Gruppe 9

10 Kontingenz Negative Kontingenzen Kontingenz niedrig CS CS CS CS CS CS Rescorla-Experiment: Ton + Schock Konditionierung mit konstanter Kontiguität Kontingenz fehlt Ergebnis: Die konditionierte Angstreaktion (CER) lässt in der Kontingenz/fehlt-Gruppe nach. 10

11 Bereitschaft (prepardness) Prinzip der Preparedness Experimentelle Grundidee: Wieso lernt die Ratte so schnell Geschmacksaversionen? Problem für die Kontiguität: Wieso vermeidet die Ratte spezifisch einen Geschmack, aber nicht die assoziierten visuellen Cues (oder Plätze)? Praktische Anwendungen: -Jagdverhalten von Koyoten. -Gewichtsverlust nach Chemotherapie 11

12 Bereitschaft (prepardness) Flüssigkeitsaufnahme Geschm. Neutr. prä Geschm. post Neutr. Experiment: Bestrahlung (Übelkeit) 1) Wasser neutral oder Geschmack 2) Trinkprozedur (neutral) mit Licht und Ton gekoppelt 3) Bestrahlung 4) Test: Licht oder Ton Ergebnis: Geschmack wurde assoziiert Kontrolle: Elektrischer Schock (Freezing) 1) Wasser neutral oder Geschmack 2) Trinkprozedur (neutral) mit Licht, Ton & Elektroschock gekoppelt 4) Test: Licht oder Ton Ergebnis: Licht & Ton wurde assoziiert 12

13 Bereitschaft (prepardness) Zusammenfassung der Ergebnisse 1) Geschmack + Übelkeit : kann assoziiert werden 2) Geschmack + Elektroschock: kann nicht assoziiert werden 13

14 Bereitschaft (prepardness) Implikationen 1: Geschmacksaversionen erklären, wie Präferenzen für Nahrungsmittel entstehen. Es handelt sich um einen eigenständigen Prozess, der nicht an visuelle oder sonstige Reize gebunden ist. Implikationen 2: Geschmacksaversionen zeigen, dass Kontiguität alleine nicht ausreichend für Lernen ist. Sogar eine zeitliche Verzögerung von bis zu 24h kann zu einer gelernten Geschmacksaversion führen. Ein anderes Lernprinzip? Rolle von typischer klassischer Konditionierung: Vorbereitung auf Nahrungsaufnahme, Gefahrensituation, Paarung etc. Rolle von Geschmacksaversion: Vermeidung von Nahrung. Werden alle situativen Umstände auch konditioniert, wird das Verhalten unangemessen und es entsteht eine Selektionsnachteil. 14

15 Blockierung Leo Kamins Design Zwei-Gruppen-Design in einer Angstkonditionierungsaufgabe: 1. CER auf Licht wird bei Ratten geprüft, die bei Darbietung von Licht & Ton einen Elektroschock erhalten. 2. Was passiert aber, wenn eine Gruppe schon vorab auf den Ton konditioniert wurde? Erster Training Hauptexperiment Gruppe 1 Ton/Licht Schock Gruppe 2 Ton Schock Ton/Licht - Schock SNIFFY 15

16 Blockierung K VK Originalergebnisse In der Gruppe der naiven Ratten gibt es eine CER-Reaktion auf Licht von 0.05, d.h. eine starke Angstreaktion. In der Gruppe der vorkonditionierten Ratten gibt es einen sehr schwachen Effekt auf den Lichtreiz nach der Konditionierung von Interpretation Es liegt eine Blockierung vor. Grundlage: Wenn ein Organismus einen schmerzhaften Reiz erfährt, dann sucht er aktiv nach Hinweisreizen, die im Gedächtnis abgespeichert werden können. Der Prozess findet jedoch nur statt, wenn der Reiz unerwartet auftritt. Naive Ratten Schock ist überraschend. Gedächtnisspur wird zu Ton & Licht gelegt. Erfahrene Ratten Schock ist nicht überraschend. Gedächtnisspur wird nicht zu Licht gelegt. 16

17 Blockierung Kontrollexperiment Was passiert, wenn der US nicht erwartet ist? Erster Training Hauptexperiment Gruppe 1 Ton - Schock Ton/Licht Schock Gruppe 2 Ton Schock Ton/Licht Schock Schock Einführung eines zweiten Schocks (Verzögerung 5s) nach dem ersten Schock Aufgrund des zweiten Schocks wird eine Assoziation zum Licht gebildet und auch die vorkonditionierte Gruppe reagiert auf das Licht. 17

18 Blockierung Implikationen 1: Blockierung ist ein weiterer Einwand gegen die Idee der Kontiguität. Für die Konditionierung ist wichtig, dass nicht jeder Reiz, der einem US vorhergeht, assoziiert wird. Konditionierung fokussiert sich auf die Reize, die gute Prädiktoren sind. Implikationen 2: Blockierung ist ein Indiz dafür, das kognitive Mechanismen in die Konditionierung eingeschaltet sind. Gedächtnis und Aufmerksamkeit spielen bei der Konditionierung eine zentrale Rolle. Konditionierung beschränkt sich auf autonome Reaktionen, nicht aber auf das autonome Nervensystem! 18

19 Modelle zur Klassischen Konditionierung 19

20 Rescorla-Wagner-Modell Was erklärt die Formel? Was sagt diese Formel voraus? Wieso ist dies die vielleicht wichtigste Formel in der Psychologie? 20

21 Rescorla-Wagner-Modell Ausgangspunkt: Kontingenz, Prepardness, Blockierung implizieren, dass hinter der Konditionierung mehr als nur die simultane Aktivierung von zwei Hirnzentren steht. Überraschung : Die Kombination aus Ton/Licht + Schock muss nicht zu einer Konditionierung für den Lichtreiz führen. Der US (Schock) muss nämlich überraschend sein! Nur dann wird eine Suche im Gedächtnis initiiert. 21

22 Rescorla-Wagner-Modell Leo Kamins Botschaft: Lernen hängt von der Diskrepanz zwischen unserer Erwartung und dem Erleben ab. Wenn ein erwartetes Ereignis eintritt, lernen wir nicht! Werden wir überrascht, suchen wir nach Kontingenzen. Modifikation von Rescorla & Wagner: Der Grad der Überraschung determiniert, wie stark der Konditionierungseffekt ist. Je unerwarteter der Reiz, desto stärker die Konditionierung. 22

23 Rescorla-Wagner-Modell Lernkurve und der Parameter V: V = Stärke der Assoziation von CS & US V nimmt nicht linear über die Zeit zu, sondern folgt einer Sättigungsfunktion Lernkurve und der Parameter V: V(i) = Veränderung der Stärke über einen fixen Zeitraum i V(max) = Asymptote, der sich die Funktion annähert (Sättigungswert) 23

24 Rescorla-Wagner-Modell Wie kommt nun der Überraschungswert in diese Funktion? Beziehung zwischen V und V(max) Im frühen Stadium der Konditionierung (1) ist die Differenz hoch. D.h. der Grad der Überraschung ist hoch. V(max) Im späten Stadium der Konditionierung (2) ist die Different geringer. D.h. der Grad der Überraschung ist gering. Der Grad der Überraschung ist korreliert mit dem Anwachsen der assoziativen Stärke. 24

25 Rescorla-Wagner-Modell Wie sagt man nun V(i) vorher: V(i) = V(max) V(i) Das Anwachsen der Stärke der Assoziation in einem Trial i wird determiniert aus der Differenz zwischen V(max) und der augenblicklichen Assoziationsstärke V(i). 25

26 Rescorla-Wagner-Modell Problem 1 Manches Konditionieren geht langsam (Speichelfluss), manches Konditionieren geht schnell (Geschmacksaversion). Wie verändert dies das Modell? Man muss einen Parameter einfügen: V(i) = c(v(max) V(i)) V(max) legt das Niveau der Asymptote fest. c legt fest, wie schnell sich die Funktion ändert. 26

27 Rescorla-Wagner-Modell Problem 2 Wie kann ich das Modell evaluieren? Wie viele Parameter benötige ich zur Schätzung? ser = (shr x D x K x V) - (sir + Ir) +/- sor Lösung: Die Werte (c, V(max)) werden zufällig festgesetzt. D.h. dass man nur qualitative Aussagen über den Lernverlauf treffen kann, keine quantitativen. Hull 27

28 Rescorla-Wagner-Modell Evaluation: Simpler Konditionierungsprozess Typ: Ton / Fleisch Speichel V(max) : 1.0 und c=0.3 V(i) = c(v(max) V(i)) Zeitpunkt Ass. Stärke V(i) (1-0.0) = (1-0.3) = (1-0.51)= (1-0.66) =

29 Rescorla-Wagner-Modell Evaluation: Extinktion Typ: Ton Speichel V(max) : 0 und c=0.3 V(i) = c(v(max) V(i)) Zeitpunkt Ass. Stärke V(i) (0-0.66) = (0-0.46) = ( )=

30 Rescorla-Wagner-Modell Evaluation: Blockierung Typ: Ton/Licht Schock Implikation: V(CS1, CS2) = V(CS1) + V(CS2) Und V(US1,i) = V(CS2,i) = c(v(max) V(CS1, CS2)) CS1 (Ton) in der ersten Phase gegeben. Maximale Ass-Stärke erreicht: V(CS1) = 1.0 CS1 (Ton) und CS2 (Licht) werden in der zweiten Phase kombiniert: V(CS1,CS2) = V(CS1) + V(CS2) = = 1 Was ist hier der Assoziationsanstieg für den CS2 (Licht)? V(CS2,i) = c(v(max) V(CS1, CS2)) = 0.3 ( ) = 0 (mit V(max) : 0 und c=0.3) 30

31 Rescorla-Wagner-Modell Evaluation: Kontingenz CS CS CS Kontingenz = hoch = US CS CS Kontingenz = niedrig CS CS Erklärung: CS2 CS2 CS2 CS2 Organismus sucht nach einem CS (z.b. Surren des Ventilators) Konsequenz: Da CS2 häufiger mit dem US gekoppelt wird, ist dessen assoziative Stärke auch höher. Und: dieser neue CS ist vermutlich konstant vorhanden 31

32 Rescorla-Wagner-Modell Problemfälle für das Modell Licht - Schock Licht Licht Licht - Schock Licht Latente Inhibition oder CS Preexposure Effect: CS wird schwieriger zu konditionieren, weil man wahrscheinlich lernt, ihn zu ignorieren. Nicht erklärbar mit dem Rescorla-Wagner-Modell! 32

33 Rescorla-Wagner-Modell Problemfälle für das Modell Licht - Schock Ton - Schock Ton+Licht - V(Licht) = 0.5 V(Ton) = 0.5 V(Ton+Licht) = 1.0 Konfigurales Lernen: Eine Reizzusammensetzung kann schwieriger als CS fungieren. Eine simple Summation der Reize funktioniert nicht, da das Ereignis als Stimulus-Compound verarbeitet wird. Nicht erklärbar mit dem Rescorla-Wagner-Modell! CR Ton Licht Ton+Licht Zeit 33

34 Rescorla-Wagner-Modell Bewertung Vorteile Das Modell kann eine Reihe komplexer Lernvorgänge erklären, wie z.b. die Extinktion oder das Blocking. Probleme Das Modell fokussiert sich nur auf die Beziehung zwischen CS und US aber nicht auf die Geschichte des Lernens oder seine Umgebung. Diese können aber die CS-US- Assoziationen modulieren. Aber: Alle Modifikationen des Modells implementieren seine Kernannahmen: Das Lernen ist asymptotisch und basiert auf einer Veränderung der Assoziationsstärke zwischen US und CS. 34

35 Was lernt man bei der Konditionierung? Iwan Pawlow Konditionierung führt zu einer Reiz- Substitution. D.h. der CS ersetzt die Wirkung des US. Die Idee: Der US löst normalerweise eine automatische (angeborene) Handlung aus. Der CS bekommt nach einer Reihe von Paarungen mit dem US die gleiche Kompetenz. Reaktionen des Hundes auf einen konditionierten Lichtreiz: Hund wird versuchen, ob die Lampe zu essen ist. CS wird US!!! 35

36 Was lernt man bei der Konditionierung? Evidenz für die Reiz-Substitution: Autoshaping (Jenkins & Moore, 1973) Lichtreiz wird bei Tauben einmal mit Wasser und einmal mit Körnern konditioniert. Effekt: CS (Licht-Wasser) wird mit geschlossenem Schnabel und offenen Augen (=Trinken) beantwortet. CS (Licht-Körner) wird mit offenem Schnabel und geschlossenen Augen (=Nahrung) beantwortet. 36

37 Was lernt man bei der Konditionierung? Edward Tolman Konditionierung bildet Erwartungen aus. CS-US-Paarung führt dazu, dass CS ein Signal für das Auftreten des US wird. Aber: Der CS wird nicht der US!!! 37

38 Was lernt man bei der Konditionierung? Evidenz für die Erwartungs-Idee: Colwill & Motzkin, 1994 Ratten bekamen zwei Arten von Verstärkung aus einer Box: CS1 Zuckerlösung CS2 Futter-Pellets Intervention: Zuckerlösung wird mit Übelkeit gekoppelt Resultat: Annäherungsverhalten an die Box nur noch, wenn CS2 auftritt. Interpretation: Differenzielles Annäherungsverhalten drückt eine differenzielle Erwartung aus. 38

39 Was lernt man bei der Konditionierung? Was stimmt nun? Vielleicht beides Kortikales System für die Bildung von Erwartungen Subkortikales System für die Reizsubstitution Zwei-System-Hypothese 39

40 Was lernt man bei der Konditionierung? Kortikales System: Evolutionsgeschichtlich jung, Primär in den Ablauf bewusster Informationsverarbeitung eingebettet, arbeitet langsam. Subkortikales System: Evolutionsgeschichtlich alt, vermittelt auch unbewusste Prozesse, läuft schnell ab. 40

41 Was lernt man bei der Konditionierung? Beispiel Angst Nach der Theorie von LeDoux vermittelt die Amygdala die schnelle Furchtreaktion, ohne dass eine genaue Inhaltsanalyse vorgenommen wurde. Die Inhaltsanalyse wird durch den Neokortex durchgeführt. 41

42 Was lernt man bei der Konditionierung? Folge einer Läsion der Amygdala Obwohl die Handlungskontingenzen klar erkannt werden, wird keine normale emotionale Reaktion gezeigt. (Damasio, 2003) 42

43 Was lernt man bei der Konditionierung? Folge einer Läsion des Hippokampus Der Patient kann nicht die Kontingenz zwischen zwei Ereignissen angeben (Farbe Stromstoß), zeigt jedoch eine deutliche autonome Reaktion. 43

44 Was lernt man bei der Konditionierung? Ist die konditionierte Reaktion (CR) immer identisch mit der unkonditionierten Reaktion (UR)? Speichelfluss: Chemische Zusammensetzung des Speichels ändert sich. Augenblinzler: Latenz und Dauer des Blinzlers sind nicht identisch. Verhalten: Futter Licht Konditionierung: Wieso gähnt & keucht der Hund? Ton Schock Konditionierung: Wieso springt die Ratte nicht? Ton Futter Konditionierung: Wieso Zucken die Ratten mit den Köpfen? 44

45 Was lernt man bei der Konditionierung? Ist die konditionierte Reaktion (CR) immer identisch mit der unkonditionierten Reaktion (UR)? Behavior System Theorie: Konditionierung hat einen Effekt auf den motivationalen Zustand des Organismus. Der CS löst eher ein Appetenzverhalten aus, d.h. eine Orientierungsreaktion, die vom eigentlichen UR differieren kann. 45