Digitalethik: KI und Medien verantwortlich beurteilen

Digitale Ethik ist ein Teilgebiet der Ethik. Ethik denkt darüber nach, was richtig und gut ist. Die Digitale Ethik fragt, welche Regeln für die Digitalisierung und für das Auswerten riesiger Datenmengen gelten sollen. Oft geht es um künstliche Intelligenz (KI): Das sind Computerprogramme, die aus vielen Beispielen Muster lernen und dann Vorschläge machen oder entscheiden. Weitere Themen sind Überwachung, Privatsphäre und soziale Medien.

Viele digitale Werkzeuge können nützen und schaden. Die Digitale Ethik beschreibt dazu Konflikte aus vielen Bereichen. In der Medizin werden KI-Programme für Diagnosen eingesetzt, also zum Erkennen von Krankheiten. Dabei stellt sich die Frage, wer haftet, wenn ein solches System einen Fehler macht. Bei sozialen Medien geht es um den Einfluss von Filterblasen und Fake News auf die Meinungsfreiheit und die Demokratie. Eine Filterblase entsteht, wenn ein Programm dir vor allem Beiträge zeigt, die zu deinen früheren Klicks passen. Fake News sind falsche Nachrichten, die wie echte aussehen. Auch Hassrede, also Beiträge, die Menschen wegen ihrer Gruppe herabsetzen, und Cybermobbing, also das Beleidigen, Bloßstellen oder Ausgrenzen anderer über das Internet, gehören zu den Themen.

Eine Chance ist ein möglicher Nutzen, ein Risiko ein möglicher Schaden. Begründet unterscheidest du beides, wenn du drei Fragen beantwortest: Worin besteht der Nutzen oder der Schaden? Wen trifft er? Unter welcher Bedingung tritt er ein? Der Satz „Soziale Medien sind schlecht“ beantwortet keine dieser Fragen. Begründet ist dagegen: „Wenn ein Programm mir vor allem Beiträge zeigt, die zu meinen Klicks passen, sehe ich andere Meinungen seltener.“ So erkennst du auch, dass dieselbe Technik einem Menschen helfen und einem anderen schaden kann.

Der erste Blick gilt den Daten. Die Datenschutz-Grundverordnung (DSGVO) ist ein Gesetz der Europäischen Union (EU), des Zusammenschlusses vieler europäischer Staaten. Sie nennt personenbezogene Daten „alle Informationen“, die sich auf einen bestimmten oder bestimmbaren Menschen beziehen. Bestimmbar heißt: Man kann direkt oder auf Umwegen herausfinden, wer gemeint ist, zum Beispiel über einen Namen, eine Kennnummer, Standortdaten oder eine Online-Kennung, an der ein Gerät im Internet erkannt wird.

Danach fragst du: Wer ist betroffen? Die DSGVO nennt den Menschen, um dessen Daten es geht, „betroffene Person“. Von einem Fall können aber auch andere betroffen sein, etwa Freunde auf einem Foto oder Familien, die von einer Entscheidung abhängen.

Dann geht es um Macht: Wer sammelt die Daten, wer entscheidet und wer weiß mehr? Das Bundesverfassungsgericht ist das höchste deutsche Gericht für Fragen des Grundgesetzes. Es formulierte 1983 im sogenannten Volkszählungsurteil das Recht auf informationelle Selbstbestimmung. Anlass war eine geplante große Befragung der Bevölkerung. Das Gericht warnte: Wer nicht weiß oder nicht beeinflussen kann, welche Informationen über sein Verhalten gespeichert werden, passt aus Vorsicht sein Verhalten an. Das schadet nach Ansicht des Gerichts nicht nur der Freiheit des Einzelnen, sondern auch dem Gemeinwohl, denn eine Demokratie braucht Bürger, die selbstbestimmt mitmachen. Bürger sollen wissen können, „wer was wann und bei welcher Gelegenheit über sie weiß“. Macht hat in einem digitalen Fall oft, wer die Daten besitzt und die Regeln einer App festlegt. Wer abhängig ist, etwa weil er eine App für den Verein nutzen soll, kann schwerer Nein sagen.

Zuletzt fragst du: Wer ist verantwortlich? An automatischen Systemen sind viele beteiligt: die Firma, die das Programm baut, die Stelle, die es einsetzt, und die Menschen, die es bedienen. Die Digitale Ethik diskutiert zum Beispiel, wer haftet, wenn ein medizinisches Diagnoseprogramm einen Fehler macht oder ein selbstfahrendes Auto versagt. Haften heißt, für einen Schaden einstehen zu müssen. Ist die Verantwortung auf viele verteilt, wird sie leicht übersehen. Deshalb hilft es, für jede Aufgabe zu nennen, wer zuständig ist.

Viele denken: Ein Computer entscheidet neutral, weil er keine Gefühle hat. Das stimmt so nicht. Eine KI lernt aus Trainingsdaten, also aus vielen alten Beispielen. Eine häufige Ursache für Fehlurteile liegt in diesen Daten: Sie können alte Ungleichheiten oder Vorurteile der Gesellschaft enthalten. Werden solche Daten ohne Korrektur verwendet, wiederholen Programme bestehende Diskriminierungen, also Benachteiligungen bestimmter Gruppen. Man nennt das algorithmische Verzerrung. Ein Algorithmus ist eine genaue Rechenvorschrift, nach der ein Programm arbeitet. Ein bekanntes Beispiel: Die Forscherinnen Joy Buolamwini und Timnit Gebru zeigten 2018 in einer Studie, dass Gesichtserkennungsprogramme, die Firmen verkaufen, bei Frauen mit dunkler Hautfarbe Fehlerraten von über 30 Prozent hatten. Bei weißen Männern arbeiteten dieselben Programme nahezu fehlerfrei.

Für die Prüfung helfen die Ethik-Leitlinien für vertrauenswürdige KI von 2019, die die Europäische Kommission veröffentlicht hat. Die Europäische Kommission ist eine Behörde der EU, die unter anderem neue Gesetze vorschlägt. Die Leitlinien nennen sieben Kernanforderungen, die KI-Systeme erfüllen sollten, um als vertrauenswürdig zu gelten. Es sind Empfehlungen, kein Gesetz. Vier davon brauchst du hier.

Transparenz heißt Durchschaubarkeit: Menschen müssen wissen, dass sie es mit einem KI-System zu tun haben, und über seine Fähigkeiten und Grenzen informiert werden. Entscheidungen sollten so erklärt werden, dass die Betroffenen sie verstehen. Fairness: Unfaire Verzerrungen müssen vermieden werden, weil sie schutzbedürftige Gruppen an den Rand drängen und Vorurteile verstärken könnten. Menschliche Aufsicht: KI-Systeme sollten Menschen helfen, gut informierte Entscheidungen zu treffen, und es braucht Wege, wie Menschen das System überwachen und lenken. Beschwerdemöglichkeit: Unter dem Punkt Rechenschaftspflicht, also der Pflicht, für ein System und seine Ergebnisse geradezustehen, verlangen die Leitlinien angemessene Rechtsbehelfe. Das sind Wege, sich gegen eine Entscheidung zu wehren, etwa ein Widerspruch: Man verlangt, dass die Entscheidung noch einmal geprüft wird.

Daneben gibt es ein Gesetz der EU, die KI-Verordnung. Sie folgt einem weitgehend risikobasierten Ansatz und ordnet KI-Systeme in vier Risikoklassen ein: inakzeptables (nicht annehmbares) Risiko, hohes Risiko, begrenztes Risiko und ohne Risiko. Welche Pflichten genau gelten, regelt das Gesetz. In dieser Lektion geht es um die ethische Frage, ob eine Entscheidung erklärt, fair, kontrolliert und anfechtbar ist.

Eine Schutzregel sagt, was mit Menschen in einem digitalen Fall nicht geschehen darf oder was ihnen zusteht. Beispiel: „Eine KI darf eine wichtige Entscheidung über einen Menschen vorbereiten, aber ein Mensch prüft sie.“ Eine gute Begründung stützt sich auf zwei Bausteine: auf die Menschenwürde und auf ein säkulares Kriterium.

Die Menschenwürde ist der Wert, den jeder Mensch hat, weil er ein Mensch ist. Im Grundgesetz (GG), der Verfassung Deutschlands, steht in Artikel 1 Absatz 1: „Die Würde des Menschen ist unantastbar. Sie zu achten und zu schützen ist Verpflichtung aller staatlichen Gewalt.“ Bekannt ist dazu die sogenannte Objektformel, die durch den Rechtswissenschaftler Günter Dürig Bedeutung erlangte: Die Würde ist verletzt, wenn der Staat einen Menschen zum bloßen Objekt macht, ihn also wie einen Gegenstand oder bloß als Mittel zum Zweck behandelt. Das Bundesverfassungsgericht hat diese Formel mehrfach benutzt, sie aber auch als nicht ausreichend angesehen.

Die Würde lässt sich unterschiedlich begründen. Christlich: Im ersten Buch der Bibel (Genesis 1,27) erzählt die Schöpfungsgeschichte, dass Gott den Menschen als sein Bild erschafft, als Mann und Frau. Diese Lehre heißt Gottebenbildlichkeit. Viele Christen leiten daraus ab, dass jeder Mensch Würde hat, weil Gott ihn gewollt hat, und nicht, weil er etwas leistet oder nützlich ist. Das ist eine Glaubensaussage, die nicht jeder teilt. Philosophisch: Der Philosoph Immanuel Kant (1724–1804) ging davon aus, dass der Mensch ein Zweck an sich ist und deshalb keinem fremden Zweck unterworfen werden darf. Die Würde wird verletzt, wenn jemand einen anderen bloß als Mittel für eigene Zwecke benutzt, etwa durch Sklaverei, Unterdrückung oder Betrug. Diese Begründung kommt ohne Glauben aus.

Säkular heißt: nicht religiös begründet. Ein säkulares Kriterium können Menschen mit und ohne Glauben prüfen. Aus dieser Lektion kennst du zum Beispiel Selbstbestimmung (du kannst wissen und mitentscheiden, was mit deinen Daten geschieht), Fairness (niemand wird wegen seiner Gruppe benachteiligt) und Transparenz. Gut begründet ist eine Schutzregel, wenn du zeigst, wie der konkrete Fall die Würde berührt und welches säkulare Kriterium er verletzen würde.