KI-Ethik: Verantwortung, Würde und Religion

Eine KI (künstliche Intelligenz) ist ein Computerprogramm, das aus sehr vielen Beispielen Muster lernt. Danach kann es zum Beispiel Texte schreiben, Bilder erkennen oder Vorschläge machen. Wenn so ein Vorschlag jemandem schadet, stellt sich die Frage: Wer trägt die Verantwortung? Verantwortung tragen heißt, für eine Handlung und ihre Folgen geradezustehen und sie begründen zu müssen. Moralisch nennt man alles, was gutes oder schlechtes Handeln betrifft.

Der Deutsche Ethikrat ist ein Gremium, also eine Gruppe von Fachleuten, das in Deutschland Politik und Öffentlichkeit in ethischen Fragen berät. Nach seiner Meinung können Maschinen keine Verantwortung übernehmen. Moralische Verantwortung können laut Ethikrat nur „natürliche Personen“ übernehmen, also Menschen, die in der Lage sind, „aktiv, zweckgerichtet und kontrolliert auf die Umwelt einzuwirken“. Maschinen können zwar komplizierte Aufgaben erledigen, führen Veränderungen aber „nicht absichtlich herbei“. Entscheidend ist also, ob jemand überhaupt absichtlich handeln kann, nicht, ob ein bestimmter Fehler absichtlich passiert ist. Ein Mensch kann auch für einen Fehler verantwortlich sein, den er nicht wollte, etwa wenn er nicht sorgfältig genug geprüft hat. Deshalb liegt die Verantwortung bei den Menschen, „die in je unterschiedlichen Funktionen hinter diesen Systemen stehen“, wenn nötig „im Rahmen institutioneller Verantwortung“. Eine Institution ist eine Organisation mit festen Aufgaben und Regeln, zum Beispiel eine Firma, eine Schule oder eine Behörde.

Ob Maschinen verantwortlich sein können, ist umstritten. Die meisten Autoren, die sich damit befassen, verneinen es. Der Philosoph Colin Allen und weitere Autoren meinen dagegen: Ein künstliches System kann moralisch verantwortlich sein, wenn sich sein Verhalten nicht von dem einer moralischen Person unterscheiden lässt. Der Philosoph Matthias Rath hält dagegen, dass Maschinen die Willensfreiheit fehlt, also die Freiheit, selbst zu wollen und zu wählen. Sie können sich nicht absichtlich über ihre eigenen Regeln hinwegsetzen, ohne dass genau das einprogrammiert wurde.

Der Philosoph Andreas Matthias warnt vor einer Verantwortungslücke: Bei einer lernenden Maschine können Hersteller oder Betreiber nach seiner Ansicht grundsätzlich nicht mehr vorhersagen, wie sie sich künftig verhält. Deshalb könne man sie dafür auch nicht moralisch verantwortlich oder haftbar machen. Haftbar sein heißt, für einen Schaden aufkommen zu müssen. Eine zweite Gefahr heißt Automation Bias (englisch, etwa: Verzerrung durch Automatik): Menschen vertrauen Ergebnissen von Computern oft mehr als menschlichen Entscheidern. Mit der Zeit kann die KI dann als der eigentliche Entscheider gelten, und die menschliche Verantwortung wird ausgehöhlt. Wer der Sicht des Ethikrats folgt, zieht daraus eine Folgerung: Schon vor dem Einsatz sollte klar sein, welche Menschen und welche Institution für welchen Teil geradestehen.

Ethik ist das Nachdenken darüber, welches Handeln gut und richtig ist. Zwei bekannte ethische Theorien helfen dir, einen KI-Fall zu beurteilen. Sie stellen verschiedene Fragen und kommen deshalb manchmal zu verschiedenen Ergebnissen.

Die Pflichtethik fragt: Ist die Handlung selbst erlaubt, und welche Pflichten habe ich gegenüber anderen? Ein wichtiger Vertreter ist der deutsche Philosoph Immanuel Kant (1724–1804). Kant geht davon aus, dass der Mensch ein Zweck an sich ist. Ein Zweck an sich ist etwas, das einen eigenen Wert hat und nicht bloß Werkzeug für andere ist. Deshalb darf ein Mensch nicht einem fremden Zweck unterworfen werden. Die Menschenwürde wird nach dieser Sicht verletzt, wenn ein Mensch einen anderen bloß als Mittel für seine eigenen Zwecke benutzt, etwa durch Sklaverei, Unterdrückung oder Betrug. Das Wort „bloß“ ist wichtig: Wer jemanden um Hilfe bittet und ihn dabei als Person mit eigenen Zielen achtet, benutzt ihn nicht bloß als Mittel.

Der Utilitarismus (von lateinisch „utilis“, nützlich) fragt dagegen nach den Folgen. Der englische Philosoph Jeremy Bentham (1748–1832) vertrat ihn als Erster in Europa als ausgearbeitetes System. Bentham meinte, Menschen streben nach Freude und wollen Schmerz vermeiden. Daraus leitete er das Prinzip des Nutzens ab: Gut ist all das, was „das größte Glück der größten Zahl“ hervorbringt. Später sprach er nur noch vom „Prinzip des größten Glücks“. Wer utilitaristisch urteilt, schätzt also für alle betroffenen Menschen ab, wie viel Glück und Leid jede Möglichkeit bringt, und wählt die Möglichkeit mit dem besten Gesamtergebnis.

Bei KI-Fällen können die beiden Theorien in Konflikt geraten. Eine KI kann vielen Menschen nützen und dabei wenigen schaden, zum Beispiel einer kleinen Gruppe, deren Daten heimlich verwendet werden. Ein Utilitarist rechnet den Schaden der wenigen gegen den Nutzen der vielen. Aus Kants Sicht gibt es dagegen eine Grenze: Wer Menschen täuscht oder bloß als Mittel benutzt, handelt falsch, auch wenn viele davon profitieren. Gegen den Utilitarismus wird deshalb oft eingewandt, dass er kleine Gruppen zu wenig schützt. Für ein gutes Urteil prüfst du einen Fall mit beiden Fragen und begründest, welches Argument dir stärker erscheint.

Es gibt viele Richtlinien, die beschreiben, wie KI gut eingesetzt werden soll. Die Forscher Jobin, Ienca und Vayena haben 84 solcher Dokumente untersucht, die überwiegend zwischen 2016 und 2019 veröffentlicht wurden. Sie fanden 11 übergreifende Grundsätze, also Grundsätze, die sich durch die Dokumente ziehen. Am häufigsten kam Transparenz vor. Weitere sind zum Beispiel Gerechtigkeit und Fairness, Verantwortung und Rechenschaftspflicht sowie Freiheit und Autonomie. Daraus kannst du vier Prüffragen für eine KI-Entscheidung ableiten.

Fairness: Wird eine Gruppe ungerecht benachteiligt? Eine KI arbeitet mit einem Algorithmus, also einer genauen Schritt-für-Schritt-Anleitung für den Computer, und lernt aus Daten. Wenn dabei ein Merkmal stark zählt, das wenig über die Fähigkeit aussagt, und eine Gruppe bei diesem Merkmal seltener vorkommt, kann diese Gruppe benachteiligt werden. Ein Beispiel aus der Arbeitswelt: Bei Einstellungsverfahren wurde der Ruf der Hochschule, an der jemand gelernt hat, stark gewichtet, obwohl er kaum etwas über die Fähigkeiten der Bewerber aussagt. Minderheiten, also kleinere Gruppen in der Gesellschaft, die seltener an angesehenen Hochschulen studieren, wurden so durch die Entscheidung des Algorithmus benachteiligt.

Transparenz: Kann man verstehen, wie und warum entschieden wurde? Die Forscher Luciano Floridi und Josh Cowls nennen dafür den Grundsatz der Erklärbarkeit. Nach ihnen lassen sich die anderen ethischen Grundsätze nur umsetzen, wenn auch Laien, also Menschen ohne Fachwissen, nachvollziehen können, welchen Nutzen oder Schaden eine KI bringt und wer für welche Folgen verantwortlich ist.

Menschliche Aufsicht: Prüft ein Mensch die Entscheidung, und kann er sie ändern? Eine Aufsicht hilft wenig, wenn der Mensch bloß abnickt. Ein Mensch in der Kontrolle ist auf die Daten der Maschine angewiesen und kann unter Zeitdruck stehen; dazu kommt der Automation Bias aus dem ersten Abschnitt. Echte Aufsicht heißt deshalb: genug Zeit, eigene Informationen und das Recht, anders zu entscheiden.

Beschwerdemöglichkeit: Kann widersprechen, wer betroffen ist? Rechenschaftspflicht ist die Pflicht, Entscheidungen zu begründen und für sie einzustehen. Damit sie nicht leer bleibt, braucht es einen Weg, auf dem sich ein betroffener Mensch beschweren kann und ein Mensch seinen Fall neu prüft. Ohne diesen Weg kann ein Fehler unbemerkt bleiben.

Die Menschenwürde ist der Wert, den jeder Mensch hat, weil er ein Mensch ist. Sie steht jedem kraft, also aufgrund, seines Menschseins zu. Der Rechtswissenschaftler Günter Dürig beschrieb diesen Wert als etwas „unverlierbar und unverzichtbar immer Vorhandenes“: Er ist immer schon da und muss niemandem erst verschafft werden. Im Grundgesetz, der Verfassung Deutschlands, heißt es in Artikel 1 Absatz 1: „Die Würde des Menschen ist unantastbar.“ Für KI ist das wichtig, weil manche KI-Anwendungen Menschen nach Zahlen und Merkmalen einordnen. Wie man begründet, dass ein Mensch mehr ist als seine Daten, dafür gibt es religiöse und säkulare Argumente.

Ein religiöses Argument stützt sich auf Gott, eine heilige Schrift oder die Lehre einer Religion. Im ersten Buch der Bibel, der Genesis (1. Buch Mose), heißt es in Kapitel 1, Vers 27, in der Einheitsübersetzung von 2016, einer deutschen Bibelübersetzung: „Gott erschuf den Menschen als sein Bild, als Bild Gottes erschuf er ihn. Männlich und weiblich erschuf er sie.“ Diesen Gedanken nennt man Gottebenbildlichkeit. In jüdischer und christlicher Auslegung wird der Vers oft so gedeutet, dass jeder Mensch eine Würde von Gott hat, die nicht von seiner Leistung abhängt. Was „Bild Gottes“ genau bedeutet, verstehen Ausleger unterschiedlich. Zu Freiheit und Verantwortung: Im Vers davor (Genesis 1,26) sollen die Menschen über die Tiere und die ganze Erde „walten“. Manche Ausleger lesen das als Auftrag, verantwortlich zu handeln. In dieser Deutung wird der Mensch als jemand angesprochen, der selbst entscheiden kann und für sein Handeln geradesteht. Ein religiöses Argument zur KI könnte daher lauten: Wer einen solchen Auftrag hat, darf seine Entscheidung und Verantwortung nicht einfach an eine Maschine abgeben.

Ein säkulares Argument kommt ohne Berufung auf Gott oder eine heilige Schrift aus. Kant geht davon aus, dass der Mensch ein Zweck an sich ist (siehe zweiter Abschnitt). Das Grundgesetz schützt die Würde als Recht, ganz gleich, ob jemand an Gott glaubt. Zur Freiheit: Die Forscher Floridi und Cowls fordern den Grundsatz der Autonomie, also der Selbstbestimmung: Menschen müssen die volle Entscheidungsfreiheit darüber haben, ob und welche Aufgaben sie an KI-Systeme abgeben. Unter den 11 Grundsätzen aus den 84 untersuchten Richtlinien steht außerdem der Schutz vor Manipulation und Überwachung. Manipulation heißt, jemanden heimlich so zu beeinflussen, dass er nicht mehr frei entscheidet.

Für ein begründetes Urteil gehst du in drei Schritten vor. Erstens: Unterscheide, woher ein Argument seine Begründung nimmt, aus dem Glauben oder aus Vernunft und Recht. Zweitens: Prüfe, wo die Argumente zum gleichen Ergebnis kommen und wo nicht. Religiöse und säkulare Begründungen können beide dazu führen, dass Menschen nicht wie bloße Datenpunkte behandelt werden. Drittens: Formuliere dein Urteil mit Gründen. Ein religiöses Argument kannst du verstehen und darstellen, ohne selbst gläubig zu sein; ebenso kannst du als gläubiger Mensch ein säkulares Argument verstehen.