Welche Moral haben und brauchen intelligente Maschinen?

Eigentlich ist klar: Roboter sind Maschinen und keine Menschen. Gebaut werden sie unter anderem, um den Menschen von rein mechanischer oder repetitiver Arbeit zu entlasten. Ihre Intelligenz ist nicht nat¨¹rlich, sondern von Computerprogrammen gesteuert.

Infolge der Fortschritte der k¨¹nstlichen Intelligenz, des maschinellen Lernens und der selbstlernenden Algorithmen erweitern sich aber die Einsatzm?glichkeiten f¨¹r Maschinen. In der Industrie oder auch in Forschungslabors der ETH Z¨¹rich werden heute intelligente Roboter entwickelt und im Transport-, Gesundheits- und Produktionsbereich eingesetzt. Zudem sind bereits Angebote f¨¹r Sicherheits-, Pflege- oder Dienstroboter auf dem Markt (vgl. ?externe Seite 10vor10? vom 21. M?rz 2017). Hinzu kommen weniger offensichtliche Anwendungen k¨¹nstlicher Intelligenz wie zum Beispiel solche f¨¹r Finanzwesen und Handel, soziale Netzwerke und digitale Werbung.

Verschiedene Institute, Laboratorien und Spin-offs der ETH Z¨¹rich wirken an der Entwicklung von selbst?ndigen Robotern mit und machen aus Z¨¹rich laut der NZZ eine ?externe Seite Hauptstadt der Roboter?.

Wie gut entscheidet eine Maschine?

Auch wenn derzeit intelligente Maschinen den Menschen im Denken nicht ¨¹berfl¨¹geln k?nnen und vor allem Routineaufgaben ¨¹bernehmen, so l?st ihr Aufkommen doch Fragen aus. Wenn k¨¹nstliche Maschinen ?lernen? und ?entscheiden?, was passiert dann, wenn ihre Handlungen und Entscheidungen nach menschlichem Ermessen nicht ?gut? sind? Wer ist dann f¨¹r sie verantwortlich? Wer haftet, wenn sie Schaden anrichten?

Augenf?llig werden solche moralischen und juristischen Fragen bei selbststeuernden Fahrzeugen und bei Kriegsrobotern (vgl. externe Seite Tages-Anzeiger vom 20. M?rz 2017). Wer entscheidet, ob ein intelligentes Waffensystem schiesst oder nicht? Unterscheidet ein Waffensystem zwischen einer Kampfsituation und einer Gefechtspause, zwischen fremden Soldaten und Zivilisten? Wie entscheidet ein selbststeuerndes Auto, wenn pl?tzlich ein Kind auf die Strasse springt, ausweichen aber eine gr?ssere Gruppe von Menschen gef?hrdet? Noch gibt es keine vollst?ndig autonomen Waffen und Autos, wohl aber weitere Fragen: Wer etwa ist f¨¹r Fehler in grossen Organisationen verantwortlich oder in komplexen Netzwerken, in denen Menschen und Maschinen am Werk sind?

Immer ein Mensch, sagen die einen. Man muss f¨¹r solche F?lle einen zus?tzlichen Rechtsstatus f¨¹r ?digitale Personen? einrichten, sagen andere. Muss man ¨¹berhaupt gesetzgeberisch handeln oder besser steuerpolitisch? Zum Beispiel die Wertsch?pfung besteuern, die Roboter erzeugen, zumal dann, wenn Menschen ihretwegen Arbeit verlieren?

Das sind Fragen, die bis vor kurzem der Science Fiction vorbehalten schienen. Zuletzt haben jedoch renommierte Zeitschriften wie ?externe Seite Nature?, ?externe Seite The Economist?, ?externe Seite Fortune? oder ?externe Seite heise online? die Fragen, wie moralisch Maschinen sein m¨¹ssen, oder welche Ethik f¨¹r k¨¹nstliche Intelligenz n?tig ist, prominent zum Thema gemacht. Auch politisch gewinnen sie an Bedeutung wie zum Beispiel parlamentarische Vorst?sse in der Schweiz und externe Seite in Europa zeigen, wobei die europ?ische externe Seite Resolution sowohl rechtliche Regelungen f¨¹r die Robotik umfasst als auch einen ethischen Verhaltenskodex f¨¹r Robotik-Ingenieure.

Robotik ¨C ein Thema der Ethik

Auch die ETH Z¨¹rich kennt ¨C zum Beispiel in der Ausbildung ¨C Formate, in denen die wissenschaftliche T?tigkeit reflektiert wird: zum Beispiel die ?Critical Thinking?-Initiative und die ?Cortona Woche? oder auch der Masterstudiengang ?Geschichte und Philosophie des Wissens?. In diesem Umfeld haben sich ETH-Studierende und Doktorierende aus Geistes-, Ingenieur- und Computerwissenschaften zusammengeschlossen und das Projekt ?externe Seite Robotik und Philosophie? ins Leben gerufen. Im Februar haben sie einen Workshop organisiert, der sich mit den moralischen Auswirkungen von intelligenten Maschinen und Robotern befasst hat. Eingeladen waren Kennerinnen der Ethik der k¨¹nstlichen Intelligenz wie die Kognitionswissenschaftlerin und ?externe Seite Roboterversteherin? Joanna Bryson, der Technikphilosoph Peter Asaro und die ETH-Ideenhistorikerin Vanessa Rampton. Zu dieser Roboterethik-Gruppe geh?ren Lisa Schurrer und Naveen Shamsudhin.

Den Blick erweitern

Naveen Shamsudhin hat eben sein Doktorstudium am Multi-Scale Robotics Lab abgeschlossen. Seine Doktorarbeit befasst sich mit mikrorobotergesteuerten Instrumenten, mit denen sich die Mechanik des Pflanzenwachstums erforschen l?sst. 2009 kam er als Bundesstipendiat (ESKAS) an die ETH Z¨¹rich und absolvierte hier ein Masterstudium in Mikro- und Nanosystemen am Automatic Control Laboratory.

?Technologieentwicklung ist eine Herausforderung, und als Entwickler identifizieren wir uns sehr stark mit unserem Werk?, sagt Shamsudhin, ?aber manchmal, oder meiner Meinung nach beunruhigend oft, geht leicht die umfassendere Perspektive verloren und man reflektiert nicht genug, wozu und f¨¹r wen die Technologie entwickelt wird.? Die Verbreitung neuer Technologien in der Gesellschaft k?nne zwar einige ihrer Probleme l?sen, aber auch neue verursachen oder zu neuen Ungleichheiten f¨¹hren, sagt er. Sich an transdisziplin?ren Projekte zu beteiligen, sei deshalb sehr wichtig, um den fachlichen Blickwinkel auszuweiten.

Den Austausch mit den Ingenieuren und Informatikern sch?tzt auch Lisa Schurrer, Studentin des Masters in ?Geschichte und Philosophie des Wissens?. ?F¨¹r Philosophen ist das Gespr?ch mit Ingenieuren ein Realit?ts-Check, wie realistisch gewisse theoretische Annahmen sind und was sich technisch ¨¹berhaupt umsetzen l?sst.? Wichtig findet sie, dass die ethische Reflexion nicht erst am Ende eines Entwicklungsprozesses stattfindet, sondern bereits am Anfang in der Entwurfsphase.

Ganz einfach wird die ?bersetzung ethischer Grunds?tze in die Programmiersprachen nicht: Schliesslich beherrschen lernende Roboter vor allem Routine-Situationen. Ethisches Verhalten ist aber mehr als simples Regelbefolgen. Menschen haben auch eine Art moralisches Gef¨¹hl daf¨¹r, was sie in einer bestimmten, allenfalls auch ungewohnten Situation tun sollen und was nicht. Ob Roboter und Computer je ein vergleichbar situatives, moralisches Gesp¨¹r entwickeln werden, ist eine sehr offene und ebenfalls ethisch diskutable Frage ¨C denn auch ?mitf¨¹hlende? Roboter w¨¹rden Daten sammeln, die die Privatsph?re verletzen k?nnten.

externe Seite Hier gibt es weitere Videos vom Roboterethik-Workshop.