Das Blackbox-Problem

Herr Grewe, was haben Sie aus Ihrer Zivildienstzeit mitgenommen, in der Sie mit kognitiv beeintr?chtigten Kindern gearbeitet haben?

Benjamin?Grewe: Ich habe bemerkt, dass etwa Motivation oder Humor oft vollst?ndig unbeeintr?chtigt sind ¨C selbst wenn ¨¹bergeordnete Funktionen wie die Erfassung abstrakter Konzepte oft nicht richtig zu funktionieren scheinen. Das menschliche Gehirn ist wirklich komplex.

Kann k¨¹nstliche mit menschlicher Intelligenz mithalten?

Grewe: Bei meinem Einstieg ins maschinelle Lernen programmierte ich zun?chst ein k¨¹nstliches neuronales Netzwerk, um zu analysieren, wie der Mensch lernt, unter anderem ?ngste. Allerdings funktionierte es nicht wie beabsichtigt: Was man ihm auch zeigte, das Netzwerk reagierte immer ?ngstlich. K¨¹nstliche Intelligenz (KI) soll einige Aspekte der menschlichen Intelligenz nachahmen, aber eben nicht alle. Was w¨¹rde ein intelligentes Auto bringen, das einem den Dienst verweigert, weil es gerade zu viel Angst vor dem Fahren hat?

Agata?Ferretti: Moderne KI ist aufgabenorientiert. Die Gef¨¹hlsebene ist dagegen nicht ansatzweise so weit ausgebildet. Menschliche Intelligenz hingegen l?sst sich nicht darauf reduzieren, eine bestimmte Aufgabe herausragend zu meistern. So gesehen k?nnte man KI sogar als ?dumm? bezeichnen, denn sie eignet sich nur f¨¹r eng eingegrenzte Einsatzbereiche.

Grewe: Es wird jedoch zunehmend darauf fokussiert, KI k¨¹nftig f¨¹r mehr als nur einen speziellen Aufgabenbereich zu trainieren. So versucht man beispielsweise KI-Sprachsysteme mittels riesiger Internet-Textdatenbanken intelligenter zu machen. Die dabei entwickelten Algorithmen k?nnen zwar grammatikalisch korrekte Texte erstellen, ihren Inhalt verstehen sie jedoch nur ansatzweise. Sie verwenden etwa das Wort ?Hund?, ohne je einen gesehen oder ber¨¹hrt zu haben, geschweige denn von einem gebissen worden zu sein.

Ferretti: ?hnliche Beispiele gibt es auch in der Medizin, wo KI zur bildgest¨¹tzten Krebsdiagnose verwendet wird. Ein Arzt greift bei seiner Einsch?tzung auf medizinisches Wissen und Erfahrung zur¨¹ck. Die KI hingegen st¨¹tzt sich unter anderem auf Lichtverh?ltnisse oder R?nder im Bild. Diese Aspekte sind wichtig daf¨¹r, Muster zu erkennen, haben f¨¹r den Arzt jedoch nicht immer eine klinische Bedeutung. Mensch und Maschine bewerten die Aussagekraft dieser Korrelation also unterschiedlich.

Grewe: Das ist ein wichtiger Aspekt. Bei feindseligen Angriffen zum Beispiel, sogenannten Adversarial Attacks, versuchen Forschende, k¨¹nstliche neuronale Netze zu ¨¹berlisten. So zeigen sie etwa das Bild eines Hundes, ?ndern dann drei bestimmte Pixel und das Netzwerk erkennt anschliessend eine Katze. Darauf w¨¹rde ein Mensch nie hereinfallen.

Einen Hund mit einer Katze zu verwechseln, klingt zwar lustig, aber bei Krebsdiagnosen steht ja einiges auf dem Spiel¡­

Ferretti: Das stimmt, und dabei gibt es selbst dann ein Problem, wenn die Systeme korrekt arbeiten. Patienten misstrauen den Ergebnissen unter Umst?nden, wenn sie die Hintergr¨¹nde nicht verstehen. ?rzte und Patienten bauen Vertrauen in ein System auf, wenn es sich als verl?sslich erwiesen hat, und sie merken, dass m?gliche Implikationen transparent kommuniziert werden. Sich f¨¹r das Recht der Benutzer auf entsprechende Erkl?rungen und ein bestimmtes Mass an Transparenz einzusetzen, w¨¹rde das Vertrauen in diese Systeme st?rken.

Allerdings r?umen selbst Wissenschaftler ein, bei manchen Systemen gar nicht zu wissen, was und wie sie lernen¡­

Grewe: Das ist ein gr?sseres, generelles Problem des maschinellen Lernens. Bis vor Kurzem programmierten Forschende Roboter mittels direkter Befehlscodes: ?Um diesen Becher zu greifen, bewege deine Hand nach rechts und schliesse sie bei Position XY.? Sie wussten also genau, was der Roboter macht. Jetzt speisen sie ihm jedoch umfangreiche Bilddaten ein, er versucht auf gut Gl¨¹ck verschiedene Bewegungen und wenn er den Becher erwischt, sagen sie ihm: ?Das war gut, jetzt lernen und bitte wiederholen.? Forschende programmieren und kennen damit also nicht mehr jeden einzelnen Prozessschritt, sondern bringen stattdessen Algorithmen das gew¨¹nschte Verhalten mittels extensiven Lernens bei. Dabei hat man es aber mit einer echten Blackbox zu tun. Niemand weiss genau, wie diese Algorithmen funktionieren. Das gr?sste Problem dabei ist, dass sie manchmal komplett versagen und wir die Gr¨¹nde daf¨¹r nicht kennen.

Wir brauchen also interpretierbares maschinelles Lernen, dessen Modell von Beginn an auf Transparenz ausgelegt ist?

Ferretti: Ein bestimmtes Mass an Erkl?rbarkeit w?re n¨¹tzlich. Das kann auch dazu beitragen, die Haftungsfrage zu kl?ren, falls etwas schiefgeht. Setzt man die Technologie etwa im Gesundheitswesen ein, muss nachvollziehbar sein, wer f¨¹r eine Fehldiagnose verantwortlich ist ¨C ein Arzt, der sich irrte, oder ein Fehler im KI-System.

Grewe: Es muss klar sein, wann und warum KI-Systeme Fehler machen. Trifft ein Mensch eine Entscheidung, k?nnen wir ihn nach den Gr¨¹nden daf¨¹r fragen. Bei k¨¹nstlichen neuronalen Netzwerkalgorithmen ist das noch nicht m?glich.

Ferretti: Ausserdem m¨¹ssen wir dar¨¹ber sprechen, welche Daten wir in diese Maschinen einspeisen. Wenn man davon ausgeht, dass unsere Welt auch von Vorurteilen und Ungerechtigkeit gepr?gt ist, laufen wir Gefahr, dass Maschinen diese Probleme reproduzieren, sofern man nichts dagegen tut. Zudem k?nnten Stichprobenverzerrungen in den Daten zu Diskriminierung f¨¹hren. Gibt man der Maschine etwa haupts?chlich Datens?tze, die Tumore auf heller Haut zeigen, erkennt sie wahrscheinlich keine Wucherungen auf dunkler Haut. Diese Systeme m¨¹ssen genauestens getestet werden, damit f¨¹r die n?tige Neutralit?t der Daten gesorgt ist und Diskriminierung verhindert werden kann.

Wie lassen sich diese ethischen Anforderungen erf¨¹llen?

Ferretti: Das ist schwierig. In unserem Labor arbeiten wir daran, Qualit?tssicherungssysteme und Rahmenbedingungen zu entwickeln, die zur Pr¨¹fung solcher Technologien erforderlich sein sollten. Die bisherigen Ethik- und Rechtsinstrumente aus der medizinischen Forschung m¨¹ssen an die neuen Probleme von KI-Algorithmen angepasst werden. Die Herausforderung besteht darin, ein System zu entwickeln, das mit dieser rasant fortschreitenden Technologie Schritt halten und diese ad?quat evaluieren und ¨¹berwachen kann.

Brauchen wir neue Vorgaben?

Ferretti ¨C Wir m¨¹ssen klarstellen, wie die ethischen Prinzipien f¨¹r die KI-Entwicklung praktisch zu interpretieren und umzusetzen sind. Mittlerweile gibt es viele verschiedene KI-Ethikrichtlinien, aber es besteht Unsicherheit dar¨¹ber, wie diese genau umzusetzen sind, da die Auffassungen der jeweiligen Stakeholder unterschiedlich sind. Gleichzeitig gelten strenge Vorgaben f¨¹r die Verwendung sensibler ¨C beispielsweise medizinischer ¨C Daten, die in Spit?lern erfasst werden. Ganz anders sieht es bei Daten aus sozialen Medien oder Fitness-Apps aus, auch wenn sie teils zu ?hnlichen Zwecken genutzt werden. Wie soll man diese Daten aus verschiedenen Quellen verwalten? Wir brauchen einen umfassenderen Governance-Rahmen, der Datenschutz, Gerechtigkeit sowie mehr Transparenz gew?hrleistet und die technologische Entwicklung ¨¹berwacht.

Technologieunternehmen verf¨¹gen meist ¨¹ber deutlich mehr Rechenleistung als Hochschulen. Schr?nkt Sie das als Forscher ein?

Grewe ¨C In manchen Bereichen wie der Sprachmodellierung ist das bereits problematisch, da Hochschulen dort nicht wettbewerbsf?hig sind. Diese Hochleistungs-KI-Modelle werden mit Texten aus dem gesamten Internet trainiert. Das erfordert Rechenressourcen, die Millionen von Dollar kosten. Andererseits: Ich habe zwar nicht das gesamte Internet gelesen, denke aber, dass ich trotzdem intelligenter bin als alle aktuellen KI-Sprachmodelle. Ich glaube, dass wir ein ganz anderes Lernkonzept brauchen, damit KI-Algorithmen Probleme besser verstehen und universeller l?sen.

Inwiefern anders?

Grewe ¨C Vielleicht ist es an der Zeit, sich von statistischem Lernen und Big Data zu verabschieden und sich daran zu orientieren, wie Kinder lernen. Dabei denke ich an verk?rperte Systeme, die zun?chst Grundlagen lernen, um ganz einfache abstrakte Konzepte zu entwickeln. Anschliessend k?nnen sie darauf aufbauend immer komplexere Interaktionen und Schemata erlernen. Zus?tzlich sollten wir fach¨¹bergreifender an die Algorithmenforschung herangehen, indem wir beispielsweise Informatik und maschinelles Lernen mit Robotik, Neurowissenschaften und Psychologie kombinieren.

Frau Ferretti, w¨¹rde dieser Ansatz zu weniger oder mehr ethischen Problemen f¨¹hren?

Ferretti ¨C Daraus w¨¹rden sich letztlich mehr Probleme ergeben ¨C die Frage ist, von welchem Zeitrahmen wir hier sprechen. Zun?chst m¨¹ssen wir uns mit aufgabenorientierten Tools befassen, die das Leben leichter machen und verbessern k?nnten. Diese bringen bereits ¨¹beraus herausfordernde ethische Probleme mit sich. Die Zukunft wird spannend!