ETHIK

Wann wir Menschroboterherstellern vertrauen sollen

Janina LohJANINA LOH | 08.07.2019

Politische Schwergewichte wie die EU und die OECD scheinen sich derzeit ein regelrechtes Wettrennen in der Formulierung ethischer Richtlinien für den Einsatz vertrauenswürdiger Künstlicher Intelligenz (KI) zu liefern. So hat sich eine durch die EU Kommission einberufene 52köpfige High Level Expert Group on Artificial Intelligence am achten April 2019 für ethische Richtlinien für eine vertrauenswürdige KI ausgesprochen, gefolgt von den von der OECD am 22. Mai 2019 publizierten Grundsätzen für eine ebenfalls vertrauenswürdig genannte KI. Wieder einen Monat später fügte die EU am 26. Juni 2019 ihren Empfehlungen eine ethische Checkliste mit 33 Punkten zur Bewertung von KI als vertrauenswürdig hinzu. 

Auch die Österreichische Forschungsförderungsgesellschaft fragt in einer aktuellen Pilot-Ausschreibung zum Ideen Lab 4.0 danach, wie “KI-Systeme bzw. deren Algorithmen unter Berücksichtigung ethischer Grundsätze möglichst vertrauensvoll [zu] gestalten” seien.  

Entwicklungen wie diese und ähnliche sind einerseits zu begrüßen, da sie erste Schritte hin zu einer längst überfälligen ethischen Einhegung technologischer Innovationen auf (inter-)nationaler und globaler Ebene darstellen. Andererseits beunruhigt der fast schon phraseologisch anmutende Gebrauch von Begriffen wie z.B. vertrauenswürdig. Denn, so macht uns der Philosoph Thomas Metzinger (selbst Mitglied der EU Expertinnen- und Expertengruppe) aufmerksam, “Maschinen sind nicht vertrauenswürdig, nur Menschen können vertrauenswürdig sein – oder eben auch nicht.” Die von der EU euphorisch “trustworthy” genannte KI sei nicht mehr als “eine von der Industrie erdachte Marketing-Narrative”. 

Aber warum eigentlich? Und was wäre so schlimm daran, wenn es sich dabei tatsächlich lediglich um einen Werbeslogan handelt, sofern damit ein verantwortungsvoller Umgang mit KI durch potenzielle Nutzerinnen (im Folgenden werden alle Geschlechter in der weiblichen Form mit gemeint) provoziert wird?  

Metzinger will nicht etwa implizieren, dass man Maschinen theoretisch Vertrauen schenken könnte, wenn es nur, sagen wir, (gleichwie) bessere Maschinen wären. Er spricht Maschinen generell Vertrauenswürdigkeit ab, da sie keine Menschen sind. Dem ist insofern zuzustimmen, als Vertrauen eine optimistische Haltung darstellt, die jemand gegenüber einer Person in einer Situation der Unsicherheit einnimmt, da man ihr Urteilskraft attestiert. Urteilskraft ist die Fähigkeit, eine Situation und das Handeln in dieser einzuschätzen und das Wissen, dass jemand benötigt, in selbiger zu navigieren, entsprechend zu interpretieren. Vertrauen ist nur dort gefragt, wo wir weder über absolute Kontrolle und vollständiges Wissen verfügen noch gar keine Kontrolle und keinerlei Informationen haben. Vertrauen bedarf eines gewissen Möglichkeitsspielraums, aber weder vollständige Einsicht in einen fraglichen Sachverhalt noch die Annahme eines radikalen Verlusts möglicher Einflussnahme. 

Stellen Sie sich vor, Sie rufen eine Klempnerin, weil Sie eine defekte Wasserleitung haben. Sie erwarten (und vertrauen nicht), dass die Klempnerin die Regeln kennt, die ihre Berufsrolle definieren, d.h., dass sie über ein spezifisches Wissen verfügt, dass sie weiß, wie man defekte Wasserleitungen repariert. Das alles können Sie mit gutem Recht erwarten. Dafür benötigen Sie kein Vertrauen. Allerdings ist besagter Klempnerin dahingehend zu vertrauen, dass sie diese Regeln entsprechend einem jeweiligen Fall interpretiert, zu Ihrem Wohle auslegt und ggf. für Sie persönlich individualisiert und anpasst und also ein gutes Urteilsvermögen an den Tag legt. Hier erst kommt die Vertrauenswürdigkeit ins Spiel: Nicht aufgrund unserer gerechtfertigten Erwartungen hinsichtlich des Wissens der Klempnerin über die Regeln, die ihre berufliche Rolle als solche definieren, sondern aufgrund unserer Annahme, dass die Klempnerin über Urteilskraft verfügt, halten wir sie für vertrauenswürdig. 

Entscheidend ist, dass es keine objektive Definition von einem guten Urteil im Allgemeinen gibt und keinen Common sense darüber, wie oft es jemand versäumen darf, ein gutes Urteil abzugeben, bevor sie ihrer Vertrauenswürdigkeit verlustig geht. Das Urteil als praktische Argumentation (was mehr meint als bloße Rationalität) hängt vom spezifischen Kontext ab, von der Erfahrung also, die die vertrauende Person im Umgang mit der zu vertrauenden Person hat  (handelt es sich etwa um eine langjährige, gute Freundin oder um eine Klempnerin von einer etablierten Firma), sowie von dem Ausmaß berechtigter Erwartungen, die die konkrete Vertrauenssphäre einhegen.

Dieser Begriff des Vertrauens, der Metzingers Äußerung zugrunde zu liegen scheint, legt nahe, dass wir in erster Linie Menschen und nicht Dingen vertrauen können. Denn im Normalfall unterscheiden wir zwischen gerechtfertigten Erwartungen hinsichtlich eines Wissens über Rollen, Regeln und Gesetze auf der einen Seite und echtem Vertrauen aufgrund der Zuschreibung von Urteilskraft, die diese Rollen, Regeln und Gesetze interpretiert, auf der anderen Seite. Da das Beurteilen allgemein als menschliche Kompetenz angesehen wird, würden die Meisten wohl zustimmen, dass wir gemeinhin nur Menschen und nicht Dingen vertrauen können.

Wenn wir etwa behaupten, dass wir darauf vertrauen, dass unser Auto richtig funktioniert, vertrauen wir tatsächlich den Menschen, die das Auto gebaut haben. Wir vertrauen nicht darauf, dass sie über das notwendige Wissen verfügen, um ein funktionierendes Auto zu bauen, was wir zu Recht erwarten dürfen. Sondern dass sie ihre Rolle als Herstellerinnen und Designerinnen angemessen interpretieren, in unsicheren Situationen gute Urteile fällen und innerhalb der Regeln und Gesetze, die ihren Beruf definieren, zu navigieren in der Lage sind. 

Vertrauen ist an Urteilskraft gebunden; jede Entität, die mit Urteilskraft ausgestattet ist, kann potenziell als vertrauenswürdig gelten. Die Behauptung, ‘dem eigenen Auto zu vertrauen’, ist daher lediglich eine metaphorische Redeweise – vergleichbar solchen Fällen, wenn wir etwa den Regen für das Nass-Sein der Straße verantwortlich erklären und entsprechend darauf vertrauen würden, dass der Regen die Strasse nass macht -, insofern man tatsächlich lediglich damit sagt, dass man eine berechtigte Erwartung in das gute Funktionieren des Autos hat. 

Auch die klügsten artifiziellen Systeme verfügen derzeit noch nicht über Urteilskraft in dem Sinne, dass wir berechtigt wären, sie für vertrauenswürdig zu halten. Von vertrauenswürdiger KI zu sprechen ist, wie Metzinger bereits in aller Deutlichkeit sagt, eine Marketingstrategie zur Beruhigung potenzieller Nutzerinnen, um sie zum Kauf jener Technologien zu bewegen, die nach den EU- und OECD-Richtlinien irgendwann vielleicht die Auszeichnung mit einem Gütesiegel TAI (= Trustworthy AI) verdient hätten. 

Von vertrauenswürdiger KI zu sprechen meint eigentlich, dass wir der Industrie bzw. denjenigen, die artifizielle Systeme kreieren und auf den Markt bringen, Vertrauen entgegen bringen. Und zwar noch nicht einmal, dass wir darauf vertrauen, dass sie über das nötige Wissen verfügen, um ihrer jeweiligen Profession angemessen nachzugehen. Denn das dürfen wir zu Recht erwarten und also schlicht voraussetzen. Nein, der Industrie zu vertrauen heißt anzunehmen, dass diese ihr Wissen und dessen Grenzen realistisch beurteilt, an individuelle Fälle situationsspezifisch sensibel anpasst und ausschließlich zum Wohle der Gesellschaft, der die fraglichen Technologien dienen soll, einsetzt! Nebenbei ist es vielleicht interessant zu wissen, dass die EU High Level Expert Group on AI fast vollständig aus Vertreterinnen der Industrie besteht, es finden sich lediglich vier Ethikerinnen unter ihnen, einer von ihnen Metzinger. Ich bin mir nicht sicher, dass die fraglichen Akteurinnen in der Industrie mein Vertrauen in diesem umfassenden Ausmaß, dass die EU- und OECD-Richtlinien und Checklisten nahelegen, verdient haben. Sind Sie es?