Semiparametrisches Kredit Scoring

Transkript

1 Semiparametrisches Kredit Scoring Marlene Müller Fraunhofer Institut für Techno- und Wirtschaftsmathematik (ITWM) Kaiserslautern Bernd Rönz, Wolfgang Härdle Center for Applied Statistics and Economics (CASE) Humboldt-Universität zu Berlin

2 Übersicht Ausfallwahrscheinlichkeiten Problem und Datenbeschreibung Logistisches Kredit Scoring Semiparametrisches Kredit Scoring Test des semiparametrischen Modells Missklassifikation und Performance-Kurven Folie 1

3 Kredit Rating/Scoring neue Bedeutung durch Basel II: Eigenkapitalunterlegung von Kreditrisiken angepaßt an individuelles Kreditrisiko Möglichkeiten für Banken: Ratings und Ausfallwahrscheinlichkeiten externer Ratingagenturen interne Ratings (IRB-Ansatz) bessere Anpassung an eigenes Kreditportfolio Kernproblem: Schätzung von Ausfallwahrscheinlichkeiten (PDs) Referenz: The New Basel Capital Accord ( Basel II ) Folie 2

4 Aus Ausfallwahrscheinlichkeiten... werden bestimmt Ratingklassen AAA, AA+, AA,..., BB,..., D entsprechen z.b. PDs 0.01%, 0.02%, 0.03%,..., 1.17%,..., 100% erwarteter Verlust EL = PD EAD LGD Folie 3

5 Methoden zur Bestimmung von PDs Diskriminanzanalyse/Klassifikationsmethoden Bestimmung von Scores kategorielle Regressionsmodelle (Logit/Probit, Panel, geordnete Kategorien) Bestimmung von Scores + Ausfallwahrscheinlichkeiten Merton-Ansatz (Aktie des Unternehmens wird als Option auf Firmenwert betrachtet) Ausfallwahrscheinlichkeit durch distance to default Jarrow, Lando, Turnbull (Übergangswahrscheinlichkeiten) Folie 4

6 Kategorielle Regressionsmethoden Modell und Prognose für P (Y = 1 X) = E(Y X) Logit-Modelle (Logistische Diskriminanzanalyse) Modifikationen Probit-Modell (andere Linkfunktion) Panelmodelle Stichprobenselektionskorrektur (Heckman-Schätzer) Folie 5

7 Datenbeispiele Stichprobe für Autokredite Ja Nein (in %) Y Kreditausfall Bisherige Kredite OK Beschäftigt Min Max Mittel St.Abw. Kreditdauer (Monate) Kreditbetrag (DM) Alter (in Jahren) Referenzen: Fahrmeir & Hamerle (1984), Fahrmeir & Tutz (1995) Folie 6

8 Französische Bankdaten Abhängige Variable Y (Kreditstatus, 0= Nicht-Ausfall, 1= Ausfall ) Metrische Variablen X2 bis X9. Kategorielle Variablen X10 bis X24. Schätz- Validierungsstichprobe stichprobe 0 ( Nicht-Ausfälle ) 5808 (94%) 1891 (94.6%) 1 ( Ausfälle ) 372 ( 6%) 107 ( 5.4%) total Tabelle 1. Zusammenfassung. Folie 7

9 Deskriptive Analyse X2 X3 Density Density X X X X5 Density Density X X Abbildung 1. Kerndichteschätzungen, Variablen X2 bis X5. Folie 8

10 X6 X7 Density 1.5 Density X X X X9 Density Density X X Abbildung 2. Kerndichteschätzungen, Variablen X6 bis X9. Folie 9

11 Scatterplots X Y X X4 X5 X2 X3 X4 Abbildung 3. Scatter-Kontur-Plots, Variablen X2 bis X5. (Beobachtungen zu Y=1 in schwarz.) Folie 10

12 Y X X X4 X5 X2 X3 X4 Abbildung 4. Kontur-Kontur-Plots, Variablen X2 bis X5. (Beobachtungen zu Y=1 in schwarz.) Folie 11

13 Y X X X8 X9 X6 X7 X8 Abbildung 5. Scatter-Plots, Variablen X6 bis X9. (Beobachtungen zu Y=1 in schwarz.) Folie 12

14 Y X X X8 X9 X6 X7 X8 Abbildung 6. Scatter-Kontur-Plots, Variablen X6 bis X9. (Beobachtungen zu Y=1 in schwarz.) Folie 13

15 Logistisches Kredit Scoring Logit-Modell (logistische Diskriminanzanalyse) P (Y = 1 X) = F 24 j=2 βj X j + β 0, F ( ) = e X j bezeichnet jte Variable, falls Xj metrisch (j {2,..., 9}) Vektor von Dummies, falls Xj kategoriell (j {10,..., 24}) Folie 14

16 Logit-Modell binäre abhängige Variable 1 falls Y = v(x) u > 0 Y = 0 sonst Y = latente Variable, (negativer) Kredit-Score v( ) = Indexfunktion, die Beziehung zwischen X und Y modelliert, z.b. EY = v(x) = 24 j=2 β j X j + β 0 u F Fehlerterm. Folie 15

17 Variable Koeffizient St.Abw. t-wert Variable Koeffizient St.Abw. t-wert X0 (const.) X19# X X19# X X19# X X19# X X19# X X19# X X19# X X19# X X19# X10# X20# X11# X20# X12# X20# X13# X21# X14# X21# X15# X22# X15# X22# X15# X22# X15# X22# X15# X22# X16# X22# X16# X22# X16# X22# X16# X22# X16# X22# X17# X23# X17# X23# X17# X24# X17# X17# X18# X18# X18# X18# df 6118 X18# Log-Lik X18# Devianz Folie 16

18 Performance (Lorenzkurven) berechne Scores, z.b. S = X 5 oder S = 24 j=2 β j X j + β 0 plotte 1 F (s) = P (S > s) ( Ausfall klassifiziert) vs. 1 F 1 (s) = P (S > s Y = 1) ( Ausfall klassifiziert und tatsächlich Ausfall ) Folie 17

19 1-F(s Y=1) 100% optimal curve Lorenz curve Percentage of Defaults 1-F(s) 100% Percentage of Applicants (ordered from bad to good) Folie 18

20 Performance Logit-Modell, AR= F(s Y=1) 1-F(s) Abbildung 7. Performance-Kurve für Logit-Modell (rot) und optimale Kurve (blau). Folie 19

21 AR = 0.076, +X2 AR = 0.168, -X3 AR = 0.043, -X4 AR = 0.023, +X5 1-F1 1-F1 1-F1 1-F1 1-F 1-F 1-F 1-F AR = 0.024, +X6 AR = 0.052, -X7 AR = 0.165, -X8 AR = 0.107, -X9 1-F1 1-F1 1-F1 1-F1 1-F 1-F 1-F 1-F Abbildung 8. Lorenzkurven für alle Variablen Folie 20

22 AR = 0.043, -X4 AR = 0.023, +X5 AR = 0.052, -X7 1-F1 1-F1 1-F1 1-F T = 0.063, -X4 1-F T = 0.050, +X5 1-F T = 0.065, -X7 f0, f f0, f1 f0, f X X X Abbildung 9. Lorenzkurven, Dichten (bed. auf Y ) für ausgewählte Variablen. Folie 21

23 Wie hängt Y (genauer: log( p )) von einer 1 p Variablen ab? Variable X y t Abbildung 10. Marginale Abhängigkeit, Variable X5. Dickere Punkte entsprechen mehr Beobachtungen. Folie 22

24 Variable X2 Variable X3 y y t t Variable X4 Variable X5 Variable X y y y t t t Abbildung 11. Marginale Abhängigkeiten, Variablen X2 bis X5, X7. Folie 23

25 Semiparametrisches Kredit Scoring Partiell lineares Logit-Modell P (Y = 1 X, T ) = F {β X + m(t )} wobei F ( ) bekannte (Link-)Funktion, hier wie zuvor F ( ) = 1 1+e m( ) unbekannte glatte Funktion β unbekannter Parametervektor Folie 24

26 Maximum Likelihood im GLM E(Y X) = µ = G{X β}, V ar(y X) = σ 2 V (µ) Maximierung der (Log-)Likelihoodfunktion l(y, µ) = i l i (Y i, µ i ) = i Y i log(µ i ) + (1 Y i ) log(1 µ i ) bzw. Minimierung der Devianz Dev(Y, µ) = 2 max µ l(y, µ) 2l(Y, µ) Algorithmus: iteratively reweighted least squares Referenz: McCullagh & Nelder (1989) Folie 25

27 Semiparametrisches Maximum Likelihood GPLM ( generalized partial linear model ) E(Y X, T ) = µ = G{X β + m(t )}, V ar(y X, T ) = σ 2 V (µ) Kombination von klassischem und geglättetem (Log-)Likelihood für β: iteratively reweighted least squares +modifizierte Designmatrix für m( ): Nadaraya-Watson (oder anderer) Glätter Folie 26

28 Schätzung im GPLM E(Y X, T ) = G ( X β + m(t ) ) β kann bei bekanntem m geschätzt werden (parametrische Methode, gewichtete KQS), m kann bei bekanntem β geschätzt werden (nichtparametrische Methode, Nadaraya-Watson-Typ) Schätzverfahren Profile Likelihood, (verallgemeinerter) Speckman-Schätzer Backfitting, modified Backfitting Referenzen: Severini & Staniswalis (1994), Speckman (1988), Hastie & Tibshirani (1990) Folie 27

29 Algorithmus (verallgemeinerter Speckman-Schätzer) parametrischer Teil β new = ( X W X ) 1 X W z, nichtparametrischer Teil m new = S(z X β) mit S = Smoothermatrix, X = (I S)X, z = (I S)z = X β W 1 v. X Design, I Identitätsmatrix, v = (l i ), W = diag(l i ) Folie 28

30 Schätzmatrix Das Updaten des Index X β + m kann durch eine lineare Schätzmatrix ausgedrückt werden: X β new + m new = Rz mit R = X { X W X } 1 X W(I S) + S. Folie 29

31 χ 2 Test wenn (bei Konvergenz) η = Rz = R( η W 1 v), η = X β + m Dev (y, µ) (z η) W 1 (z η) Approximative Freiheitsgrade df err ( µ) = n tr ( 2R R WRW 1) oder df err ( µ) = n tr (R) Referenz: Hastie & Tibshirani (1990) Folie 30

32 Anwendung nichtparametrische Einbeziehung von Variable T = X5 P (Y = 1 X 5, X 5 ) = F βj X j + m 5 (X 5 ) j 5 nichtparametrische Einbeziehung von T = (X4,X5) P (Y = 1 X 4, 5, (X 4, X 5 )) = F βj X j + m 45 (X 4, X 5 ) j 4,5 Folie 31

33 Nichtparametrisch in X2, Logit X2 X3 X4 X5 X7 X4,X5 X4,X5 Konstante X X X X X X X X Tabelle 2. Parametrische Koeffizienten für Variablen X2 bis X9. (Fettgedruckte Werte sind zu 5% signifikant.) Folie 32

34 P (Y = 1 X) = F 24 βj X j + m 5 (X 5 ) j=2,j 5 Variable X5 y, mlin(t), m(t) t Abbildung 12. Marginale Abhängigkeit, Variable X5. Dickere Punkte entsprechen mehr Beobachtungen. Parametrisches (rot) und GPLM- Logit-Modell (grün). Folie 33

35 Variable X2 Variable X3 y, mlin(t), m(t) y, mlin(t), m(t) t t Variable X4 Variable X5 Variable X7 y, mlin(t), m(t) y, mlin(t), m(t) y, mlin(t), m(t) t t t Abbildung 13. Marginale Abhängigkeiten, Variablen X2 bis X5, X7. Parametrisches (rot) und GPLM-Logit-Modell (grün). Folie 34

36 Variable X Abbildung 14. Bivariate nichtparametrische Schätzung für Variablen X4, X5. Folie 35

37 Test des Semiparametrischen Modells Nichtparametrisch in X2, Logit X2 X3 X4 X5 X7 X4,X5 X4,X5 Devianz df α AIC Pseudo-R % 14.9% 14.8% 15.0% 15.1% 15.1% 15.6% 15.6% Tabelle 3. Statistische Charakteristika der parametrischen und semiparametrischen Logit-Fits. Folie 36

38 Missklassifikation und Performance-Kurven Nichtparametrisch in X2, Schranke s Logit X2 X3 X4 X5 X7 X4,X5 X4,X Nicht-Ausfall Ausfall Nicht-Ausfall Ausfall Nicht-Ausfall Ausfall Tabelle 4. Missklassifikationen: Y = Ausfall obwohl F (Ŝ) s bzw. Y = Nicht-Ausfall obwohl F (Ŝ) > s. Validierungsstichprobe. Folie 37

39 Performance Variable X5, AR= F(s Y=1) 1-F(s) Abbildung 15. Performance-Kurven, parametrisches Logit- (rot) und semiparametrisches Logit-Modell (grün) mit nichtparametrischer Variable X5. Folie 38

40 Performance Variable X2, AR=0.538 Performance Variable X3, AR= F(s Y=1) 1-F(s Y=1) 1-F(s) 1-F(s) Performance Variable X4, AR=0.527 Performance Variable X5, AR=0.556 Performance Variable X7, AR= F(s Y=1) 1-F(s Y=1) 1-F(s Y=1) 1-F(s) 1-F(s) 1-F(s) Abbildung 16. Performance-Kurven für nichtparametrische Variablen X2 bis X5, X7 (separat). Folie 39

41 Performance Variable X5, AR=0.556 Performance Variablen X4, X5, AR= F(s Y=1) 1-F(s Y=1) 1-F(s) 1-F(s) Abbildung 17. Performance-Kurven für nichtparametrische Variablen X5 (links) und X4, X5 (rechts). Folie 40

42 Zusammenfassung nichtparametrische Komponenten im Modell bieten Vorteile nichtparametrischer Diskriminanzanalyse in Kombination mit leichter Intepretierbarkeit, Schätzung von Ausfallwahrscheinlichkeiten können explorativ zu Bestimmung von Transformationen von Variablen eingesetzt werden können explorativ zu Bestimmung von Interaktionen zwischen Variablen eingesetzt werden erlauben Sepzifikationstests auf Gültigkeit der parametrischen Definition von Transformationen Folie 41

43 Ausblick Kombination von semiparametrischen Modellen mit Panelansätzen/GEE, geordnete Kategorien optimale Bestimmung der Glättungsparameter Kombination mit existierenden Verfahren für additive Modelle (gemeinsame Implementierung) Folie 42