Reinhard Merkel Universität Hamburg. Zur ethischen Bewertung sicherheitsrelevanter Forschung

Transkript

1 Reinhard Merkel Universität Hamburg Zur ethischen Bewertung sicherheitsrelevanter Forschung

2 Objekte einer möglichen Zuschreibung von Dual-Use-Eigenschaften 1. Forschung: Formen wissenschaftlichen Handelns 2. Technologien: Formen verfügbaren Wissens 2.1 propositionales Wissen ( knowing that ) 2.2 praktisches Wissen ( knowing how ) 3. Materielle Produkte: verwendbare Gegenstände Diese drei Sphären haben jeweils unterschiedliche Distanz zu einem potentiellen Missbrauch durch Dritte: (1.) ist davon weiter entfernt als (2.) und dieses weiter als (3.). Auf der Hand liegt ein einfacher systematischer Zusammenhang: Forschung zielt (meist) auf die Entwicklung verfügbaren Wissens und dieses (sehr oft ) auf die Erzeugung bestimmter Produkte.

3 Kriterien der Ermittlung bzw. Zuschreibung von Dual-Use-Eigenschaften In den Empfehlungen von DFG und Leopoldina werden solche Kriterien nicht formuliert. Dort heißt es nur ganz allgemein: Der Forscher soll [ ] bei missbrauchsgefährdeten Arbeiten auch die Folgen seiner Forschung berücksichtigen, deren nützliche Ergebnisse von anderen Personen zu schädlichen Zwecken missbraucht werden können. So formuliert kann das als Dual-Use-Kriterium nicht gut gemeint sein. Die bei jedem neuen Forschungsergebnis bestehende und gänzlich triviale Möglichkeit eines Missbrauchs durch andere ruft keine Dual-Use-Bedenken auf den Plan. Bedingung jeder normativen Maßgabe ist es aber, dass ihr Anwendungsbereich hinreichend genau bestimmt werden kann.

4 Die Definition des Ethikrats... bezogen auf Dual Use Research of Concern (DURC) in Anlehnung an die international anerkannte Definition des NSABB : lebenswissenschaftliche Arbeiten, bei denen anzunehmen ist, dass sie Wissen, Produkte oder Technologien hervorbringen, die unmittelbar von Dritten missbraucht werden könnten, um das Leben oder die Gesundheit einer Vielzahl von Menschen, die Umwelt oder sonstige bedeutsame Rechtsgüter zu schädigen. Auch das ist als Definition nicht hinzureichend. Es erfasst (1.) nur den potentiellen Missbrauch durch Dritte, lässt (2.) zahlreiche schwierige Fragen offen und erfordert (3.) eine Reihe von Klarstellungen. Hier einige davon:

5 Offene Fragen, notwendige Präzisierungen Erfassen die DURC-Kriterien auch Forschungen, für deren Ziele zu befürchten ist, dass zwar nur der intendierte, also richtige Gebrauch (primary use) davon gemacht wird, aber ggf. von den falschen Personen oder Institutionen? Beispiel: Hightech-Massenvernichtungswaffen gebraucht, wenn sie von den USA, aber ipso facto missbraucht, wenn sie von China (oder Nordkorea) eingesetzt würden? M.E. ja und zwar nicht wegen China oder Nordkorea, sondern weil allen Kriegswaffen das erhebliche Risiko ihrer Verwendung unter Verletzung des humanitären Völkerrechts anhaftet. Zur Abgrenzung: kein DURC-relevantes Forschungsergebnis war aber Einsteins Formel e = mc 2. (Frage: warum genau?)

6 Fragen, Präzisierungen (II) Erfassen die Kriterien auch Fälle als Missbrauch, in denen die ggf. katastrophal destruktive Verwendung (v.a. von Technologien) nicht auf vorsätzliches, sondern auf fahrlässiges Verhalten zurückgeht? Beispiel: Reaktorkatastrophe von Tschernobyl. M.E. nein; das ist kein Umstand, durch den die Reaktorforschung sozusagen ex post als DURC identifiziert worden wäre. Die Möglichkeit, ja Absehbarkeit von Unfällen, und würden sie durch noch so gravierend verwerfliches Verhalten herbeigeführt, macht neue Technologien nicht zu DURC-relevanten Gegenständen. Die Frage der DURC-Relevanz kann also nicht allein mit Blick auf mögliche katastrophale Folgen beantwortet werden.

7 Fragen, Präzisierungen (III) Erfassen die Kriterien Fälle, in denen das Forschungsergebnis selbst als direkte schwere Schädigung eines sonstigen bedeutsamen Rechtsguts qualifiziert wird, aber 1. nicht von allen Beurteilern und 2. nicht im Modus einer schnellen massenhaften Wirkung an einer Vielzahl von Menschen, sondern erst über eine zeitlich lang ausgedehnte Wirkung in fernerer Zukunft? Beispiel: Genome Editing (durch CRISPR/Cas) zur Verbesserung des Genoms menschlicher Embryonen in vitro also als Keimbahneingriff mit Wirkung für alle künftigen Generationen. M.E. nein, wiewohl viele das als gravierende Verletzung der Menschenwürde beurteilen. (Erneut Frage: warum genau nicht?)

8 Abschließender Hinweis: aus einem Report der Nationalen Geheimdienste der USA von vor drei Monaten CRISPR/Cas ist also sehr wohl DURC-relevant aber nicht, weil man damit das menschliche Genom gezielt verändern, sondern weil man neue, ggf. extrem gefährliche Viren erzeugen kann

9 Zur Frage der Verantwortung: Wissenschaftler und andere an der Wissenschaft Beteiligte Die Bestimmung konkreter Verantwortlichkeiten bedarf einer Unterscheidung und jeweils funktionsspezifischen Beurteilung der an Forschung und Wissenschaft Beteiligten; das sind v.a. - die Wissenschaftler; - die Institutionen, in denen sie tätig sind; - die für die Publikation wissenschaftlicher Ergebnisse Zuständigen; - die Institutionen der Forschungsförderung; - die Wissenschaftspolitik; - die wissenschaftlich interessierte Öffentlichkeit. Mit den unterschiedlichen Zuständigkeiten dieser Gruppen sind jeweils spezifische Verantwortlichkeiten verbunden.

10 Zur Frage der Verantwortung: Wissenschaftler und andere an der Wissenschaft Beteiligte Die Bestimmung konkreter Verantwortlichkeiten bedarf einer Unterscheidung und jeweils funktionsspezifischen Beurteilung der an Forschung und Wissenschaft Beteiligten; das sind v.a. - die Wissenschaftler; - die Institutionen, in denen sie tätig sind; - die für die Publikation wissenschaftlicher Ergebnisse Zuständigen; - die Institutionen der Forschungsförderung; - die Wissenschaftspolitik; - die wissenschaftlich interessierte Öffentlichkeit. Mit den unterschiedlichen Zuständigkeiten dieser Gruppen sind jeweils spezifische Verantwortlichkeiten verbunden.

11 Verantwortung : einige grundlegende Unterscheidungen Verantwortung kausale V. Rollen -V. Schuld kollektive V. Handlungs- / Verhaltensbeitrag des Verantwortlichen: bloße Verursachung Innehaben bestimmter Position vorwerfbarer Bruch einer anerkannten Verhaltensnorm individ. Beitrag zu gemeinschaftl. Unternehmen zeitliche Orientierung: zurückschauend primär voraussch. zurückschauend voraus- oder zurücksch. 11

12 Gegenstände der Verantwortung des Forschers (Pflichten) im Kontext von DURC Die Empfehlungen von DFG und Leopoldina skizzieren dafür einen groben Rahmen, den ich als Grundlage nehme: I. Grundsatz: nicht nur rechtliche, auch ethische Pflichten II. Risikoanalyse III. Risikominimierung IV. Abwägungen: - zu erwartender Nutzen - Höhe und Wahrscheinlichkeit eventuellen Schadens (unter Berücksichtigung der Schwierigkeit einer Umsetzung der Forschungsergebnisse für destruktive Zwecke) - Grad der Beherrschbarkeit der Schadensfolgen V. Eigenes angemessenes Reagieren auf Ergebnis der Abwägung: Entscheidungen

13 Gegenstände der Verantwortung des Forschers (Pflichten) im Kontext von DURC Die Empfehlungen von DFG und Leopoldina skizzieren dafür einen groben Rahmen, den ich als Grundlage nehme: I. Grundsatz: nicht nur rechtliche, auch ethische Pflichten II. Risikoanalyse III. Risikominimierung IV. Abwägungen: - zu erwartender Nutzen - Höhe und Wahrscheinlichkeit eventuellen Schadens (unter Berücksichtigung der Schwierigkeit einer Umsetzung der Forschungsergebnisse für destruktive Zwecke) - Grad der Beherrschbarkeit der Schadensfolgen V. Eigenes angemessenes Reagieren auf Ergebnis der Abwägung: Entscheidungen

14 Ethische Pflichten: zur Klassifizierung moralischer Normen nach dem Gewicht ihrer Gebote nach der Reichweite ihrer Anerkennung nach dem Grund ihrer Geltung Einhaltung geboten Einhaltung erwünscht Individual -moral Sozialmoral nicht-rationale Grdl. rationale Grdl. Pflichtmoral Tugendmoral von Einzelperson anerkannt von Gesellschaft anerkannt z.b. Religion z.b. Sozialkontrakt -Modelle Wechselbeziehungen Nicht-rational heißt nicht irrational oder unvernünftig ; es heißt nur: ohne genuinen Anspruch auf rationale Begründung! 14

15 Ethische Prinzipien: Maßgaben für die Abwägungsentscheidung Die Gefahr besonders gravierender Schadensfolgen als (begriffliches) Kriterium für DURC verweist auf die Notwendigkeit, jedenfalls Prinzipien einer konsequentialistischen Ethik anzuwenden: interpersonale Maximierung des positiven Outcomes. Das ist aber nicht ausreichend. Wie für jede vernünftige Ethik müssen außerdem sog. deontologische (pflichtenethische) Prinzipien herangezogen werden: als normative Grenzkriterien. Das bedeutet insbesondere, dass eine verrechnende Abwägung noch so großer potentieller Vorteile für viele mit dem Opfer des Lebens (auch nur weniger) Dritter ausgeschlossen ist. Im Zusammenhang mit DURC wird dieses Prinzip oft missverstanden, meist in best. Fassungen des sog. Vorsorgeprinzips.

16 Precautionary Principle: Vorsorgeprinzip Das Vorsorgeprinzip kursiert in zahlreichen unterschiedlichen Varianten. Eine davon hat Hans Jonas (sinngemäß) so formuliert: Handle so, dass du den Fortbestand der Menschheit nicht gefährdest, vermeide den größtmöglichen vorstellbaren Schaden, und versuche nicht, ihn mit denkbaren Vorteilen abzuwägen. Das ist hinreichend vage, um auch auf DURC projiziert und dort für sämtliche Forschungen, zu deren möglichen Schadensfolgen der Tod vieler Menschen gehören könnte, als Abwägungsverbot und kategorische Unterlassungspflicht gedeutet zu werden. Das ist eine sehr starke und dezidiert risiko-averse Deutung des Vorsorgeprinzips: Tue nichts, was die Gefahr der (Mit-)Verursachung solcher katastrophalen Folgen mit sich bringt. Diese Deutung ist freilich verfehlt.

17 Missverstandenes Vorsorgeprinzip Im Zusammenhang von DURC geht es für den Forscher nicht um die Frage, ob sein Handeln für künftige katastrophale Folgen, die Dritte herbeiführen, kausal werden könnte. Vielmehr geht es um Zurechnung: darum, ob sein Tun bösartigen Dritten so in die Hände spielt, dass deren von ihm ermöglichtes destruktives Handeln auch ihm selbst noch zugerechnet werden kann. Das erfordert in jedem Einzelfall eine komplexe normative Analyse. Mit ihr wird die Grenze dessen bestimmt, was in der Diktion des Rechts, aber auch der Ethik, erlaubtes Risiko heißt. Dem kann ich hier nicht genauer nachgehen. Einige knappe (und apodiktische) Anmerkungen:

18 Erlaubtes Risiko Die (Rollen-)Verantwortung des Forschers ist in solchen Fällen die eines Beteiligten am Gesamtbetrieb seiner jeweiligen Wissenschaft; damit wird ihm auch ein (schwaches) Element kollektiver Verantwortung zugewiesen. Für viele Formen (schwach) kollektiven Handelns akzeptieren wir dessen einzelne Handlungsbeiträge als erlaubtes Risiko, auch wenn gravierend destruktive Folgen des Gesamthandelns genau bekannt und statistisch sicher sind. Beispiel: Straßenverkehr. Wann und wodurch ein (kollektives) Risikohandeln, das zu einer Art objektiver Kooperation mit Schurken werden kann, unerlaubt wird, hängt von diversen normativen Kriterien ab. Abstrakt sind sie leicht zu benennen (zb das der erkennbaren Tatgeneigtheit der Dritten); ihr konkreter Inhalt ist aber oft sehr schwer zu bestimmen. Für DURC gilt das in ganz besonderem Maß.

19 Abschließend Aus dem bisher Gesagten lässt sich als ein erstes risikoethisches und ethik-didaktisches Gebot das Folgende ableiten: 1. Das oben skizzierte grundbegriffliche Schema (Risikoanalyse, Risikominimierung, Abwägungen, Gegenmaßnahmen) ist in Unterkategorien auszudifferenzieren, die normativ relevante Unterschiede widerspiegeln hier ein schlichtes Beispiel 2. Diese Unterkategorien sind mit Modellszenarien zu veranschaulichen. 3. Daraus sind in der Perspektive der hier dargelegten ethischen Prinzipien Maßgaben für DURC zu entwickeln.

20 Vielen Dank!