Semestertext SiBe1 (Informatik) Technikfolgeabschätzung zum Thema Chancen und Risiken künstlicher Intelligenz im Alltag

Transkript

1 Semestertext SiBe1 (Informatik) Technikfolgeabschätzung zum Thema Chancen und Risiken künstlicher Intelligenz im Alltag Autoren Stefan Preisig Hauptbetreuung Thomas Baumberger Datum

2 Technikfolgeabschätzung Chancen und Risiken künstlicher Intelligenz im Alltag Preisig Stefan, IT15tbWin Inhalt Künstliche Intelligenz eine Gefahr für die Menschheit?... 3 Aktueller Stand der Forschung... 3 Risiko durch unkontrollierte Entwicklung... 4 Risikominimierung... 4 Wirtschaftliche Möglichkeiten und ökologische Aspekte... 5 Sozialverträglichkeit und Ethische Aspekte... 6 Wie gefährlich ist künstliche Intelligenz nun wirklich?... 7 Literaturverzeichnis... 8 Abb. 1: Künstliche Intelligenz Quelle: Chancen und Risiken künstlicher Intelligenz im Alltag Seite 2 von 8

3 Künstliche Intelligenz eine Gefahr für die Menschheit? Künstliche Intelligenz (KI) hat sich in unserem Alltag längst ausgebreitet. Heutzutage finden wir überall intelligente Systeme von quasi-intelligenten Algorithmen bis hin zu völlig autonomen Systemen wie selbstfahrenden Autos. Die Fähigkeiten sowie die generelle Vernetzung nehmen ständig zu eine Trendwende ist nicht in Sicht. Im Moment steht die KI-Forschung noch am Anfang, was aber geschieht wenn wir plötzlich von echter KI also von Maschinen mit Bewusstsein und intuitivem Allgemeinverständnis umgeben sind? Abb. 2: Microsoft Cortana, eine synthetische Intelligenz Quelle: Film "Halo: Nightfall" (2014) Aktueller Stand der Forschung Die Forschung im Bereich der KI versucht die Grenzen der heutigen Computer- und Softwaretechnologie zu überwinden und die Flexibilität menschlichen Handelns und Denkens nachzubilden. Obwohl in letzter Zeit die Fortschritte stetig zunehmen können wichtige Grundfragen noch nicht beantwortet werden. [1] Im Moment bauen sämtliche praktischen Anwendungen der KI auf sogenannten Expertensystemen auf. Diese lösen unter festen Rahmenbedingungen bestimmte Aufgaben und verbessern sich dabei selbstständig. Der nächste Schritt ist das selbstständige Lernen komplett neuer Fähigkeiten und anschliessend das Erlernen des eigentlichen Lernens selbst. [2] [4] Chancen und Risiken künstlicher Intelligenz im Alltag Seite 3 von 8

4 Wie die Geschichte des Computerchips mit all seinen Folgen für unseren Alltag zeigt, braucht es manchmal nur wenig für einen revolutionären Durchbruch. Selbst wenn es noch 100 Jahre dauert oder gar nie dazu kommt, müssen wir jederzeit zumindest mit dieser Möglichkeit rechnen und uns bereits jetzt darauf vorbereiten. Risiko durch unkontrollierte Entwicklung Die gigantische Rechenleistung zukünftiger Computersysteme in Kombination mit KI ergibt eine gefährliche Mischung. Kommt dann noch ein Durchbruch in der Forschung hinzu, ergibt sich die Gefahr einer unkontrollierten Entwicklung künstlicher Intelligenz wie wir sie von verschiedensten Kinofilmen her kennen. Abb. 3: Roboter aus dem Film "Terminator Genisys" (2015) Grundsätzlich muss diese Entwicklung nicht negativ sein sondern kann falls wir es mit einer wohlwollenden Intelligenz zu tun haben fast ausschliesslich positive Aspekte haben. Auch die Erfahrungen mit unserer persönlichen individuellen Entwicklung zeigen, dass deren Folgen hauptsächlich von deren Charaktereigenschaften und Absichten abhängen. Risikominimierung Wie können wir also sicherstellen, dass eine zukünftige KI uns gegenüber gut gesinnt ist und in unserer Absicht handelt? Ist das überhaupt möglich? Und was genau heisst in unserer Absicht? Zu dieser Frage machen sich Philosophen und Science-Fiction-Autoren bereits seit Jahrzehnten Gedanken. Der Science-Fiction Autor Isaac Asimov zum Beispiel hat Chancen und Risiken künstlicher Intelligenz im Alltag Seite 4 von 8

5 dafür schon 1942 die bekannten drei Gesetze der Robotik [Abb. 4] entwickelt, die bei jedem künstlichen Gehirn auf tiefstem Level implementiert werden sollen. Kommt die künstliche Intelligenz durch eine Handlung oder deren Unterlassung in Konflikt mit einem der drei Gesetze, so wird das künstliche Gehirn automatisch abgeschaltet. 1. Ein Roboter darf kein menschliches Wesen verletzen oder durch Untätigkeit gestatten, dass einem menschlichen Wesen Schaden zugefügt wird. 2. Ein Roboter muss den ihm von einem Menschen gegebenen Befehlen gehorchen es sei denn, ein solcher Befehl würde mit Regel eins kollidieren. 3. Ein Roboter muss seine Existenz beschützen, solange dieser Schutz nicht mit Regel eins oder zwei kollidiert. Abb. 4: Asimovs Gesetze der Robotik [5] Eine solche Lösung funktioniert jedoch nur falls sich die KI in eine Richtung entwickelt, in der die künstlichen Gehirne von Grund auf designt werden. Basiert die Entwicklung auf eigenständigem Lernen, so ist wie bei uns Menschen die korrekte Erziehung mit menschlichen Werten wohl die einzige Möglichkeit den Charakter einer KI zu beeinflussen. Ob diese Vorkehrungen ausreichen werden um die Gefahren einer unkontrollierten Entwicklung zu bannen wird sich wohl erst zeigen wenn es soweit ist. Als einzige Alternative bleibt nur sämtliche Forschung und Entwicklung auf diesem Gebiet global zu unterbinden, was jedoch kaum durchsetzbar sein wird. Wirtschaftliche Möglichkeiten und ökologische Aspekte Wenn wir es aber schaffen, die Entwicklung künstlicher Intelligenz entsprechend zu steuern, eröffnet uns das nahezu unbegrenzte Möglichkeiten. Von einem Szenario wo Roboter eingesetzt werden um unbeliebte oder gefährliche Arbeiten zu erledigen bis hin zu einer global vernetzten Superintelligenz die das ganze globale Wirtschaftssystem koordiniert ist alles vorstellbar. Die Verbesserungen durch eine weitsichtige Anwendung künstlicher Intelligenz haben auch positive ökologische Auswirkungen. Gesteigerte Effizienz von der Herstellung über die Nutzung bis hin zur Entsorgung von Waren führt zu weniger Chancen und Risiken künstlicher Intelligenz im Alltag Seite 5 von 8

6 Abfall und minimiert die Umweltverschmutzung. Eine weniger nachsichtige Verwendung hingegen birgt die bereits bekannten Nachteile der Industrialisierung im Extremfall jedoch um Grössenordnungen verstärkt. Sozialverträglichkeit und Ethische Aspekte Wenn man die Auswirkungen der Computerrevolution auf unser Alltagsleben als Vorlage nimmt, wird klar dass eine weitere Revolution in Richtung KI unser Leben wie wir es heute kennen nochmals komplett verändern wird. Wenn KIs zu menschlichem Verhalten fähig sind ergeben sich einige interessante Fragestellungen. [6] Von rechtlichen Aspekten der KI wie Gleichberechtigung über soziale Themen wie Beziehungen bis zur Frage, was mit der Menschheit geschieht wenn sich KIs unbegrenzt weiter entwickeln. Bereits heute sind solche Fragen aktueller als wir auf Anhieb denken würden. Automatisierte Systeme nehmen uns Entscheidungen und Tätigkeiten ab, wodurch unsere Technologieabhängigkeit wächst. [7], [8] Abb. 5: Roboter in Menschenform [6] Chancen und Risiken künstlicher Intelligenz im Alltag Seite 6 von 8

7 Wie gefährlich ist künstliche Intelligenz nun wirklich? Die Entwicklung echter KI bietet ein beinahe unbegrenztes Potential, birgt jedoch auch unüberschaubare Risiken. Es ist also unabdingbar, dass wir rechtliche, technische und ethische Regeln und Grenzen festlegen und deren Einhaltung sicherstellen. Der Durchbruch bei der KI lässt sich nicht verhindern. Egal ob er erst in 100 Jahren kommt oder bereits morgen wenn wir bereit sein wollen wenn es soweit ist müssen wir uns bereits jetzt mit diesem Thema und seinen Folgen auseinandersetzen. Preisig Stefan (5980) Abb. 6: Künstliche Intelligenz [9] Chancen und Risiken künstlicher Intelligenz im Alltag Seite 7 von 8

8 Literaturverzeichnis [1] M. Kaku, The future of the mind : the scientific quest to understand, enhance, and empower the mind, New York: Doubleday, 2014, S [2] C. Hajaj, N. Iiazon und D. Same, «A Strategy-Aware Technique for Learning Behaviors from Discrete Human Feedback», in Proceedings of twenty-eighth AAAI Conference on Artificial Intelligence and the twenty-sixth Innovative Applications of Artificial Intelligence Conference [and the Fifth Symposium on Educational Advances in Artificial Intelligence], Québec City, Québec, Canada, July S [3] T. Bernold, «Aspects of technology assessment - the future-role of artificial-intelligence», R & D Management, Bd. 15, Nr. 2, S , [4] P. Gelepithis, «AI and human society», AI & Society, Bd. 13, Nr. 3, S , [5] I. Asimov, Meine Freunde, die Roboter, München: Heyne, 1982, S. 67 [6] A. Pihan. ( ). 10 Bereiche, in denen wir heute schon innovative künstliche Intelligenz finden, Der Innovationsblog [Online]. URL: [Stand: ]. [7] C. Bennett, «Federal-Government Information Technology - Electronic Record Systems and Individual Privacy - US Congress of Technological Assessment», Government Information Quarterly, Bd. 5, Nr. 1, S , [8] M. Daum, Chancen und Risiken der systemischen Kontingenz Künstlicher Intelligenz in einer postindustriellen Weltgesellschaft, München: Ludwig-Maximilians-Universität München: Faculty of Social Sciences, 2008, S [9] G. Duncan. ( ). How DeepMind s artificial intelligence will make Google even smarter [Online]. URL: [Stand: ] Chancen und Risiken künstlicher Intelligenz im Alltag Seite 8 von 8