VORSCHAU. Welche moralischen und ethischen Implikationen bringt die Entwicklung von immer autonomeren und intelligenteren Robotern mit sich?

Transkript

1 S II C Problemfelder der Moral Beitrag 23 Roboterethik 1 Roboterethik eine Einführung in moralische und ethische Implikationen Ildikó Farkas, Wildberg Welche moralischen und ethischen Implikationen bringt die Entwicklung von immer autonomeren und intelligenteren Robotern mit sich? Klasse: 1113 Dauer: 13 Stunden Arbeitsbereich: Problemfelder der Moral / Technikethik Ob in der Industrie, der Raumfahrt oder im Haushalt Roboter sind aus unserem Alltag nicht mehr wegzudenken. Sie übernehmen Arbeiten, die für Menschen zu gefährlich oder zu mühsam sind. Seit den 1960er-Jahren bauen sie Autos, entschärfen Bomben und reinigen unsere Wohnzimmer. In den letzten Jahrzehnten hat die Entwicklung und Forschung im Bereich der Robotik (Robotertechnik) jedoch einen großen Sprung gemacht. Welche moralischen und ethischen Implikationen bringt die Entwicklung von immer autonomeren und intelligenteren Robotern mit sich? Diese Einheit führt die Lernenden in die Roboterethik ein und hinterfragt deren rasante technische Entwicklung. Die Jugendlichen erweitern ihre Urteilskompetenz, indem sie sich von dem Bild des Roboters aus der Science-Fiction lösen und sich mit dem aktuellen Entwicklungs- und Forschungsstand auseinandersetzen. Thinkstock.

2 2 Roboterethik C Problemfelder der Moral Beitrag 23 S II Fachwissenschaftliche Orientierung I Der Traum von Maschinenwesen ein historischer Überblick Bereits Hephaistos, der Gott der Schmiede und des Feuers, erschuf sich in der Ilias von Homer mechanische Helferinnen: [...] und Jungfraun stützten den Herrscher, goldene, Lebenden gleich, mit jugendlich reizender Bildung: Diese haben Verstand in der Brust, und redende Stimme, haben Kraft, und lernten auch Kunstarbeit von den Göttern. [...] 1 Auch Aristoteles philosophierte in seiner Politik über selbstständige Werkzeuge. Und er bezieht sich dabei auf Hephaistos: Wenn jedes Werkzeug auf Geheiß, oder auch vorausahnend, das ihm zukommende Werk verrichten könnte, wie des Dädalus Kunstwerke sich von selbst bewegten oder die Dreifüße des Hephaistos aus eigenem Antrieb an die heilige Arbeit gingen, wenn so die Weberschiffe von selbst webten, so bedarf es weder für den Werkmeister der Gehilfen noch für die Herren der Sklaven konstruierte Wolfgang von Kempelen, ein österreichisch-ungarischer Hofbeamter, einen Schachroboter, den sogenannten Schachtürken. Dieser wirkte auf den Zuschauer, als könne er selbstständig Schach spielen, obgleich ein Mensch in diesem Apparat steckte, der ihn bediente. Julien Offray de La Mettrie, Schüler René Descartes, verfolgte den Gedanken, dass natürliche, biologische Abläufe des menschlichen Körpers mit der Mechanik eines Uhrwerks vergleichbar seien. Der Mensch ist eine Maschine, welche so zusammengesetzt ist, dass es unmöglich ist, sich zunächst von ihr eine deutliche Vorstellung zu machen und folglich sie zu definieren. 3 In der Romantik entstand eine der bekanntesten menschenähnlichen literarischen Figuren: Olimpia aus E.T.A. Hoffmanns Erzählung Der Sandmann (1815). Der Protagonist verliebt sich in die angebliche Tochter des italienischen Professors Spalanzani, die nur ein Automat ist. Ein Automat mit starren toten Augen, steifen Schritten und einem künstlichen Aussehen. Olimpia kann nicht richtig kommunizieren. Sie repliziert nur immer wieder die Worte: Ach! Ach!. 4 Bis zu diesem Zeitpunkt gab es den Begriff Roboter noch nicht. Man bezeichnete diese Apparaturen als Automat oder mechanischer Mensch. Der Begriff Roboter hielt erstmals 1921 Einzug in den Sprachgebrauch, als der tschechische Schriftsteller Karel Čapek den von seinem Bruder Josef Čapek geprägten Begriff Roboter in seinem Drama R.U.R. 5 ( Rossum s Universal Robots ) verwendete. Čapek erzählt von einem Unternehmen, welches künstliche Menschen herstellt (die Robots ), welche den Menschen als billige, ihrer Rechte beraubte Arbeitskräfte dienen. Diese Maschinenmenschen jedoch begehren auf und vernichten die Menschheit. Das tschechische Wort robota lässt sich als Fronarbeit bzw. Zwangsarbeit übersetzen erlangt die Falsche Maria aus Fritz Langs Stummfilm Metropolis Berühmtheit. Sie facht die Faszination von Maschinenmenschen erneut an. In der Stadt der Zukunft namens Metropolis existiert eine Zweiklassengesellschaft. Die Arbeiterklasse muss riesige Maschinen bedienen, um den Gewinn der Oberschicht zu maximieren. Eines Tages trifft Freder Fredersen, Sohn des Herrschers von Metropolis, die schöne Maria aus der unterirdischen Stadt und verliebt sich in sie. Die Arbeiter sind zunehmend frustriert. Sie wehren sich dagegen, ausgebeutet zu werden und im Elend zu leben. Darum verschleppt der Wissenschaftler Rotwang Maria, die von den Arbeitern geschätzt wird, und konstruiert eine mechanische Doppelgängerin. Sie stachelt die Arbeiter zu einer Revolution an. Schlussendlich klärt sich das falsche Spiel auf. Unterschicht und Oberschicht reichen sich die Hände. Die mechanische Maria wurde zu einer Pop-Ikone und diente auch als Vorbild für den berühmten C3-PO aus George Lucas Star Wars. Der Begriff der Robotik wurde insbesondere durch den Science-Fiction-Schriftsteller Isaac Asimov bekannt. In seinem Werk Runaround entwickelte er zum ersten Mal seine berühmten drei Robotergesetze, die hierarchisch aufgebaut sind: 1. Ein Roboter darf kein menschliches Wesen (wissentlich) verletzen oder durch Untätigkeit gestatten, dass einem menschlichen Wesen (wissentlich) Schaden zugefügt wird.

3 S II C Problemfelder der Moral Beitrag 23 Roboterethik 3 2. Ein Roboter muss den ihm von einem Menschen gegebenen Befehlen gehorchen es sei denn, ein solcher Befehl würde mit Regel eins kollidieren. 3. Ein Roboter muss seine Existenz schützen, solange dieser Schutz nicht mit Regel eins oder zwei kollidiert. In zwei seiner weiteren Romanen ergänzte er die Gesetze durch das nullte Gesetz: 0. Ein Roboter darf die Menschheit nicht verletzen oder durch Passivität zulassen, dass die Menschheit zu Schaden kommt. Deutlich wird, dass neben aller Faszination für Maschinenwesen auch eine gewisse Urangst existiert, vor Robotern, welche die Menschheit versklaven oder auszulöschen suchen. Seit dem Film Metropolis begegnen uns mal mehr oder weniger freundliche Roboter in Filmen: Robby aus Alarm im Weltall, C3-PO und R2-D2 in Star Wars bis hin zu T-800 in Terminator. Obwohl solche Androiden und Cyborgs reine Science-Fiction sind, gehören Roboter inzwischen zum Alltag. II Die Entwicklung der Robotik ein historischer Abriss Nach der Erfindung des Transistors 1947 kamen ab Mitte der 1950er-Jahre die ersten Maschinen mit numerischer Steuerung (NC-Maschinen) auf den Markt. George Devol, ein amerikanischer Erfinder, meldete 1946 ein Patent für ein Magnetaufzeichnungsgerät zur Maschinensteuerung an. Dies gilt heute als die Geburtsstunde der Entwicklung von Industrierobotern stellte die Firma Unimation den ersten kommerziell erhältlichen, hydraulisch betriebenen Industrieroboter ( Unimate ) vor. Dahinter stand nicht nur der Gedanke, Arbeit zu optimieren, sondern Arbeiter zu entlasten, durch Roboter, die für Menschen gefährliche Arbeiten übernehmen. Der erste autonome mobile Roboter, der sich selbstständig innerhalb von Räumen bewegen konnte, wurde 1970 am Stanford Research Institute entwickelt und hieß Shakey startete die Entwicklung des humanoiden Roboters Wabot 1 in Tokio. Zeitgleich wurde in Deutschland der erste Industrieroboter mit sechs elektromechanisch angetriebenen Achsen entwickelt. In den 1980er-Jahren fanden Industrieroboter schließlich routinemäßig Einsatz in der Automobilindustrie. Auch wurden in dieser Zeit die ersten Laborroboter entwickelt, die seitdem in der Medikamentenentwicklung und im Bereich der Biotechnologie eingesetzt werden. Diese Roboter sparen sehr viel Zeit. Viele Abläufe im Labor ließen sich durch sie beschleunigen startete Honda ein Programm zur Entwicklung humanoider Roboter, das Humanoid Robot Research and Development Program. Aus ihm ging 2004 der Roboter ASIMO (Advanced Step in Innovative Mobility) hervor. III Medizin, Industrie und Militär in welchen Bereichen werden Roboter heute eingesetzt? Neben dem Einsatz in der Industrie finden Roboter auch in der Medizin, beim Militär, aber auch im Haushalt Verwendung. Sie unterstützen Ärzte bei Operationen und fräsen Knochen millimetergenau. Unbemannte Drohnen sind aus der modernen Kriegführung nicht mehr wegzudenken. Sie dienen der Erkundung und gezielten Bombardierung, aber auch der Bergung sowie der Bomben- und Mienenentschärfung übernahm Google die Firma Boston Dynamics, ein Robotik-Unternehmen, das im Auftrag des amerikanischen Militärs forscht. Zu bekannten autonomen Laufrobotern der Firma zählen unter anderem Atlas (ein humanoider Roboter), Spot (ein hundeartiger Laufroboter) oder LS3 (eingesetzt zum Tragen der Ausrüstung). Auch in der Pflege dienen Sozialroboter mittlerweile der Unterstützung und Entlastung des Personals. Sie heben Patienten, dienen zu deren Unterhaltung oder als Mittel gegen Vereinsamung und Depressionen. In der Medizin findet die Verschmelzung von Roboter und Mensch schon heute statt, z. B. im Falle von Prothesen oder Neuroimplantaten. Auch die Unterhaltungsindustrie produziert immer lukrativere Roboterprodukte. Lieferbar sind bereits jetzt Roboterhunde namens Aibo und Sony. Ende 2015/Anfang 2016 wird auch der soziale Roboter JIBO erhältlich sein. Auch der Hersteller LEGO setzt auf Roboter mit seinen Baukästen Mindstorms und schließlich dem Roboter-Bauset NXT.

4 S II C Problemfelder der Moral Beitrag 23 Roboterethik 7 Materialübersicht Stunde 1 und 2 M 1a (Ab) M 1b (Bd) M 2 (Tx) Stunde 3 M 3 (Tx) Stunde 4 bis 6 M 4 (Tx) M 5 (Tx) M 6 (Tx) M 7 (Tx) Stunde 7 und 8 M 8 (Tx) M 9 (Bd/Fo) Stunde 9 und 10 M 10 (Tx) M 11 (Tx) Ein Roboter, was ist das eigentlich? Eine Definition erarbeiten Wir konzipieren einen Roboter! Sie sind unter uns! Wie definiert man den Begriff Roboter? Roboter heute und morgen Einsatzmöglichkeiten erörtern Bald sind sie überall! Ein Interview mit Noel Sharkey Roboter im Dienste des Menschen eine Gruppenarbeit Gruppe 1: Roboter in der Medizin Gruppe 2: Roboter in der Pflege Gruppe 3: Roboter beim Militär Gruppe 4: Roboter im Sozialleben Benötigen Roboter Gesetze? Asimovs Robotergesetze Isaac Asimov und die Robotergesetze Der Roboter ist schuld! Wer trägt die Verantwortung, wenn Roboter versagen? Achtung! Fehlfunktion Fallbeispiele erörtern Roboter und Verantwortung ein paar Zitate Stunde 11 und 12 Welche Beziehung besteht zwischen Mensch und Roboter? M 12 (Ab) M 13 (Tx) Stunde 13 M 14 (Ab) Es ist doch nur eine Maschine, oder?! Arbeiten mit Videoclips Roboter können Menschen in Verlegenheit bringen ein seltsamer Versuch Roboter morgen? Ein Ausblick in die Zukunft Cynthia Breazeal: Der Aufstieg persönlicher Roboter ein Videovortrag Anmerkungen Ab = Arbeitsblatt, Bd = Bild, Fo = Farbfolie, Tx = Text.

5 8 Roboterethik C Problemfelder der Moral Beitrag 23 S II M 1a Wir konzipieren einen Roboter! Stellen Sie sich vor, Sie arbeiten mit im Team des weltberühmten Technikinstituts Skynett. Dort werden Roboter entwickelt. Entwerfen Sie einen Roboter nach Ihren Vorstellungen und starten Sie anschließend eine Verkaufskampagne. Aufgaben (M 1a) Bedenken Sie bei Ihrer Konzeption eines Roboters folgende Punkte: Über welche Funktionen sollte der Roboter verfügen? Was ist der Zweck des Roboters? Wer ist Ihre Zielgruppe bzw. an wen wollen Sie den Roboter später verkaufen? Wie und wo wollen Sie später für Ihr Produkt werben? Wie soll der Roboter aussehen? Wie viel wird der Roboter im Verkauf später kosten? U A Entwerfen Sie anschließend ein anschauliches Plakat, das zum Kauf Ihres Produkts animiert und die wichtigsten Informationen enthält. Überzeugen Sie Ihre Mitschülerinnen und Mitschüler anschließend davon, dass sie Ihren Roboter unbedingt kaufen müssen. H C M 1b Sie sind unter uns! S R Schon heute sind Roboter Teil unserer Welt. Betrachten Sie die nachfolgenden Bilder und die hier dargestellten Einsatzmöglichkeiten von Robotern. O V Kuka Robotics. Foto: TATRC. Photo by Plymouth University. Aufgaben (M 1b) 1. Welches der drei Bilder finden Sie am interessantesten? Begründen Sie Ihre Wahl. 2. Beschreiben Sie die drei Bilder. Wo bestehen zwischen den abgebildeten Robotern Gemeinsamkeiten und wo Unterschiede? 3. Verfassen Sie eine kurze Definition des Begriffs Roboter.

6 S II C Problemfelder der Moral Beitrag 23 Roboterethik 9 M 2 Wie definiert man den Begriff Roboter? Was ist eigentlich ein Roboter? Und woher stammt der Begriff? Informieren Sie sich mithilfe der nachfolgenden Auszüge aus Lexika über Entstehung und Bedeutung des Wortes. Robot Institute of America Ein Roboter ist ein programmierbares Mehrzweck-Handhabungsgerät für das Bewegen von Material, Werkstücken, Werkzeugen oder Spezialgeräten. Der frei programmierbare Bewegungsablauf macht ihn für verschiedenste Aufgaben einsetzbar. data2.blog.de/media/267/893267_882c6d25d0_d.doc Duden (duden.de) 1. a. (der menschlichen Gestalt nachgebildete) Apparatur, die bestimmte Funktionen eines Menschen ausführen kann; Maschinenmensch b. (Technik) (mit Greifarmen ausgerüsteter) Automat, der ferngesteuert oder nach Sensorsignalen bzw. einprogrammierten Befehlsfolgen anstelle eines Menschen bestimmte mechanische Tätigkeiten verrichtet 2. (früher) Arbeiter im Frondienst Planet Wissen Der Begriff Roboter leitet sich ab vom tschechischen robota, das so viel heißt wie Fronarbeit. [ ] Roboter sind Maschinen, die sich selbstständig bewegen und verschiedene Tätigkeiten erledigen können. Das unterscheidet Roboter von ferngesteuerten Maschinen, die Befehle von Menschen benötigen und damit nicht selbstständig sind. Auch Automaten sind keine Roboter, da sie nur eine einzige Arbeit ausführen. Auch Computer gelten nicht als Roboter, weil sie sich nicht bewegen können. und_roboter/roboter_mechanische_helfer/ pwwbrobotermechanischehelferinallenlagen100.html Wikipedia (deutsch) Ein Roboter ist eine technische Apparatur, die dazu dient, dem Menschen mechanische Arbeit abzunehmen. Roboter können sowohl stationäre als auch mobile Maschinen sein und werden von Computerprogrammen gesteuert. Wikipedia (englisch) A robot is a virtual or mechanical artificial agent. In practice, it is usually an electro-mechanical system which, by its appearance or movements, conveys a sense that it has intent or agency of its own. The word robot can refer to both physical robots and virtual software agents [...]. There is no consensus on which machines qualify as robots, but there is general agreement among experts and the public that robots tend to do some or all of the following: move around, operate a mechanical limb, sense and manipulate their environment, and exhibit intelligent behavior, especially behavior which mimics humans or other animals. ITWissen.info Roboter sind programmgesteuerte Maschinen für Handhabungen ohne menschlichen Eingriff. Die Roboter-Steuerung erfolgt durch Computer, die mit Sensoren und anderen erkennungstechnischen Elementen, Bewegungs-, Greif-, Halte- und Bearbeitungs organe zusammenwirken. Aufgaben (M 2) 1. Erstellen Sie eine Liste. Was ist allen Definitionen gemeinsam? Vergleichen Sie anschließend Ihre Definition eines Roboters mit den obigen Definitionen. Gibt es Gemeinsamkeiten? Wo bestehen Unterschiede? 2. Warum ist es schwierig, zu definieren, was ein Roboter ist? Begründen Sie Ihre Überlegungen.

7 S II C Problemfelder der Moral Beitrag 23 Roboterethik 19 M 7 Gruppe 4: Roboter im Sozialleben Aufgaben (M 7) Gruppe 4 1. Informieren Sie sich im Internet über die Roboter Jibo und KISMET. Wie funktionieren diese Roboter und welche Aufgaben übernehmen sie? 2. Erläutern Sie die Vor- und Nachteile dieser Roboter. 3. Überlegen Sie, welche Auswirkungen der Einsatz von Sozialrobotern auf die Gesellschaft haben könnte. 4. Wer trägt die rechtliche bzw. ethische Verantwortung, wenn Robotern Fehler unterlaufen? Begründen Sie Ihre Meinung. Wie sollten Roboter programmiert sein? Entwerfen Sie drei ethische Regeln, ihr Verhalten zu steuern. Entwerfen Sie drei ethische Verhaltensregeln für das Handeln von Menschen gegenüber Robotern. Formulieren Sie Ihre Ergebnisse in Form eines kategorischen Imperativs. Erstellen Sie ein Handout zu den Aufgaben und präsentieren Sie Ihre Ergebnisse in der Klasse. Unter diesen Links können Sie sich im Internet informieren: I JIBO (Englisch) II KISMET (Englisch)

8 28 Roboterethik C Problemfelder der Moral Beitrag 23 S II M 8 Isaac Asimov und die Robotergesetze Der Science-Fiction Autor Isaac Asimov beschäftigte sich intensiv mit dem Zusammenleben von Menschen und Robotern und entwickelte die folgenden drei Gesetze der Robotik, die in seiner Kurzgeschichte Runaround erstmalig Erwähnung fanden. Aufgaben (M 8) 1. Ein Roboter darf einem menschlichen Wesen keinen Schaden zufügen oder durch Untätigkeit zulassen, dass einem menschlichen Wesen Schaden zugefügt wird. 2. Ein Roboter muss den Befehlen gehorchen, die ihm von Menschen erteilt werden, es sei denn, dies würde gegen das erste Gebot verstoßen. 3. Ein Roboter muss seine eigene Existenz schützen, solange solch ein Schutz nicht gegen das erste oder zweite Gebot verstößt. Asimov erweiterte die drei Gesetze in der Erzählung Das galaktische Imperium um ein weiteres Gesetz, das er das nullte Robotergesetz nannte. Dieses Gesetz stellte Asimov den anderen Gesetzen als übergeordneten Grundsatz voran. 0. Ein Roboter darf der Menschheit keinen Schaden zufügen oder durch Untätigkeit zulassen, dass der Menschheit Schaden zugefügt wird. 1. Vergleichen Sie Ihre Gesetze mit denen, die Isaac Asimov aufgestellt hat. Wo sind die Gemeinsamkeiten bzw. Unterschiede? 2. Erläutern Sie, inwiefern die Gesetze sinnvoll und umsetzbar sind.

9 S II M9 C Problemfelder der Moral Beitrag 23 Roboterethik 29 Der Roboter ist schuld! Macht ein Mensch einen Fehler, so sprechen wir von Schuld und Verantwortung. Doch was passiert, wenn ein Roboter einen Fehler macht oder eine Fehlfunktion hat? U A H C O V Ioannis Milionis/mycartoons.de S R Aufgaben (M 9) 1. Beschreiben und analysieren Sie die Karikatur. 2. Erläutern Sie, welche menschlichen Eigenschaften dem Roboter indirekt in der Karikatur zugeschrieben werden.

10 38 Roboterethik C Problemfelder der Moral Beitrag 23 S II M 13 Roboter können Menschen in Verlegenheit bringen ein seltsamer Versuch Roboter sind aus unserem Alltag nicht mehr wegzudenken und für viele Menschen mehr als nur Maschinen. Doch was sind die Gründe dafür, dass wir mit Robotern mitfühlen und eine Bindung zu ihnen aufbauen? Beispiel 1: Roboter und Soldaten Soldaten fühlen sich den Militärrobotern wie PackBot oder Talon mehr verbunden als anderen Maschinen, da sie sich bewegen und einen Körper besitzen [ ], sagt die Psychologin Julie Carpenter, die die Beziehung zwischen Soldaten und ihren Robotern erforscht. [ ] Militärroboter übernehmen Aufgaben von Menschen, retten Leben und werden so zum Teil des Teams. [ ] Die Einsamkeit und die weite Entfernung von daheim führen dazu, dass Soldaten sogar Beerdigungen und Gedenkfeiern für Roboter abhalten. Besonders diejenigen, die die Roboter steuern, haben eine besonders enge Bindung zu den Maschinen, da sie sehr viel Zeit mit ihnen verbringen (Wartungen, Übungen usw.). Der Roboter wird zur Hand des Operateurs, die an seiner Stelle Verhaltens- und Kooperationsaufgaben übernimmt. Beispiel 2: Abnehmen mit dem Roboter Menschen neigen dazu, auch unbelebten Objekten Absichten und mentale Zustände zuzuschreiben. Dieses Verhalten machte sich das US-amerikanische Unternehmen Intuitive Automata zunutze und baute einen Prototypen eines Abnehm-Roboters, der mit verschiedenen Personen getestet wurde. Der Firmengründer Cory Kidd stellte fest, dass sich die Tester der Roboter doppelt so lange mit dem Abnehm- Programm beschäftigten als die Kontrollgruppe, welche die identische Software lediglich auf einem Laptop verwendete. Der Abnehmwillige entwickelte eine persönliche, emotionale Beziehung zu dem Roboter, der ihn bei der Diät unterstützte, und war eher dazu bereit Diätsünden bzw. Rückschläge und Probleme mit der Maschine zu diskutieren als mit einem menschlichen Berater. Aufgaben (M 13) 1. Arbeiten Sie heraus, warum wir Menschen eine Bindung zu Robotern aufbauen. 2. Beschreiben Sie den in Beispiel 3 skizzierten Versuch und erläutern Sie, warum die Versuchspersonen ihren Befehl zurück nahmen. 3. Beurteilen Sie die Ergebnisse aus den beiden Texten hinsichtlich der Zukunft der Roboterethik Beispiel 3: Roboter können Menschen in Verlegenheit bringen [ ] Wie aber soll ein Roboter auf einen unethischen Befehl reagieren? Wenn er ihn einfach nicht ausführt, könnte der Mensch annehmen, dass einfach nur eine Funktionsstörung vorliegt. Der Roboter muss daher ausdrücklich protestieren. Wie das auf Menschen wirkt, untersuchten die Forscher an der Tufts University mithilfe von humanoiden Nao-Robotern. Die Versuchspersonen sollten den Roboter anweisen, einen Turm aus Bauklötzen einzureißen, den er gerade selbst gebaut hatte. Der Roboter hatte zuvor verbal seinen Stolz über das Bauwerk geäußert und protestierte nun gegen den Befehl ( Aber ich habe ihn selbst gebaut. ), begann sogar zu schluchzen und folgte den Anweisungen erst nach wiederholter Aufforderung. Einige Versuchspersonen nahmen den Befehl daraufhin zurück. In der anschließenden Befragung zeigte sich, dass viele sich unwohl dabei fühlten, dem Roboter Schmerzen zuzufügen. Das Experiment wurde mehrfach variiert, etwa indem nicht der Erbauer des Turms selbst ihn wieder einreißen sollte, sondern ein anderer Roboter, oder indem nicht-humanoide Roboter zum Einsatz kamen. Es zeigte sich, dass das Aussehen des Roboters keine entscheidende Bedeutung für das Empfinden der Versuchspersonen hatte. Um ihn als moralischen Agenten wahrzunehmen, sei das Verhalten offenbar wichtiger, sagte Scheutz. Von großer Bedeutung sei auch der Grad der Differenziertheit bei der Interaktion. Verbaler Protest könne Menschen dazu bringen, Kommandos zu überdenken. [...] die bisherigen Experimente seien bemerkenswert, zeigten sie doch, dass ein moralisches Dilemma mit Robotern möglich sei obwohl allen Beteiligten klar sei, dass es sich doch nur um eine Maschine, ein Werkzeug handle.