Vertrauen Sie automatisierter Entscheidungsfindung? Lorena Jaume-Palasí AlgorithmWatch

Transkript

1 Vertrauen Sie automatisierter Entscheidungsfindung? Lorena Jaume-Palasí AlgorithmWatch

2 Automatisierte Entscheidung? Handlungsstrang 1. Interessen 2. Absichten 3. Rationalität > Wille 4. Entscheidung > Handlung

3 Automatisierte Entscheidung? Handlungsstrang 1. Interessen 2. Absichten 3. Rationalität > Wille 4. Entscheidung 5. Ausführung

4 Lernen, Autonomie, Intelligenz und Algorithmen

5 Entscheidungsstruktur

6 Marktführer

7 Software Anwendungen Kernbestand HR Strategisches HR Personal-Tracking Zeit und Anwesenheit Bewerberverwaltung (ATS) Lohnabrechnung Leistungsbewertung Personaleinsatzplanung Personaleinsatz- Planung Lernmanagementsystem Sozialschutzleistungen

8 Trends I. Konsolidierung verschiedener Anwendungen in einem Anbieter, um den gesamten Zyklus eines Mitarbeiters tracken zu können. Bspw. SAP erwirbt Success Factors Oracle erwibt Taleo Salesforce integriert Rypple

9 Trends II. Software als Dienstleistung, web-basierte Dienstleistungen III. Konsumerisierung der HR Software-Anwendungen (Nutzung von Social Media für Recruiting, mobile Apps für HR Management)

10 Software Anwendungen Kernbestand HR Strategisches HR Personal-Tracking Zeit und Anwesenheit Bewerberverwaltung (ATS) Lohnabrechnung Leistungsbewertung Personaleinsatzplanung Personaleinsatz- Planung Lernmanagementsystem Sozialschutzleistungen

11 Mehrwert der Anwendungen Vorurteil vs. Inkonsistenz Inkonsistenz (white noise) bezieht sich auf Schwankungen im Urteil Eine inkonsistenzfreie Umgebungen gibt es nur Im Rahmen sehr strikter, streng definierter Verfahren, die subjektive Urteile vermeiden Welche Sparten zeigen die meiste Anfälligkeit? Mediziner, Finanzspezialisten, Projekt Manager, Richter, Führungskräfte > allgemein: Arbeitsprozesse definiert durch generelle Prinzipien und informelle Erfahrung

12 Inkonsistenz. Beispiele Kahneman Studie (2016) Software-Entwickler wurden an zwei unterschiedlichen Tagen um eine Zeiteinschätzung für die Erledigung einer Aufgabe gebeten. Die geschätzten Zeiten wiechen im Durchschnitt ca. 71% voneinander ab. Bei Pathologen, die zweimal über die Relevanz des Befundes derselben Biopsie urteilen mussten, lag die Korrelation zwischen allen Evaluationen bei 0,61 (von 1,0).

13 Inkonsistenz Experten treffen Entscheidungen, die von ihren Peers, von vorherigen Entscheidungen und von den gegebenen Regeln abweichen. Diese Entscheidungen zeigen jedoch gewisse Muster Inkonsistenz: vor und nach den Mahlzeiten, bei bestimmten Wetter, etc. Bias: konstante unterschiedliche Handhabung aufgrund nicht adäquater/nicht legitimer Kriterien Vorurteile und Inkonsistenz haben einen ethischen Impakt.

14 Vorurteil vs Inkonsistenz

15 Vorurteil vs Inkonsistenz Vorurteile setzen Kenntnisse über die richtige Antwort/die richtige Verhaltensweise voraus, sonst können sie nicht identifiziert und gemessen werden Inkonsistenz kann gemessen werden, ohne eine solche Antwort zu kennen.

16 Vorurteil vs Inkonsistenz

17 Fehler im Verfahren Fehler im Entscheidungsdesign

18 Fehler im Verfahren Fehler im Entscheidungsdesign

19 Fehler im Verfahren Einseitige Kriterien

20 Fehler im Verfahren Der falsche Algorithmus

21 Fehler im Verfahren Einseitige Hardware / einseitige Algorithmen

22 Fehler im Datenbestand Historische Daten The Future Might Not Be Like the Past Eingeschränkte Datensets Nicht die beste Evaluationsmethode Keine kurzfristige/mittelfristige Vorhersagen möglich

23 Fehler im Datenbestand Einseitige Datenbanken

24 Fehler im Datenbestand Verzerrung bei der Datengenerierung (Auswahl) Halo Effekt: höhe Bewertungen eines Mitarbeiters bei bestimmten Kriterien kann zu ungerechtfertigten höheren Bewertungen in anderen Kriterien führen. Teufelshörner Effekt: schlechte Bewertungen eines Mitarbeiters bei bestimmten Kriterien kann zu ungerechtfertigten schlechten Bewertungen in anderen Kriterien führen. Mittelwert Prädisposition: der Manager bewertet seine Mitarbeiter(MA)mit einem MA Mittelwert in allen Kriterien. Kleber (Spill over) Effekt: wenn vergangene Bewertungen die aktuelle Bewertungen beeinflussen.

25 Grenzen der Methodik Behaviorally Anchored Rating Scale (BARS) Fokussiert auf individuelle statt auf Team Performance Relationale Werte 20/70/10 (High-Performer, Durchschnitt-, Non- Performer). Diskriminierung durch Parametrisierung Unfairness durch generelle Kriterien Implizite vordefinierte Kriterien (Gute vs schlechte Performance) 360 Evaluation Fehlende Kontextualisierung begleitender Arbeitsumstände Subjektive Bewertungen als objektiver Masstab

26 Komponenten HR stat. Methoden Bestand & Personal- daten Algorith men Software Output Auswer tung Entscheidung

27 Akteure Software Anbieter Statistisches HR Modell Ggf. Triangulierung mit anderen Datenbestände Algorithmus Datenwissenschaftler (extern, in House) HR Abteilung / Controlling

28 Kontakt: facebook.com/algorithmwatch twitter.com/algorithmwatch