Ethiker zu Leo-Enzyklika: Die eigentliche Arbeit kommt erst noch

Die erste Enzyklika von Papst Leo XIV. mit dem Titel "Magnifica humanitas" widmet sich dem Umgang mit Künstlicher Intelligenz (KI). Der Papst fordert unter anderem strengere Richtlinien, ohne aber die Technologie grundsätzlich abzulehnen. Der Eichstätter Philosoph und Digitalisierungsethiker Norbert Paulo spricht im katholisch.de-Interview über die Stärken des Schreibens, problematische Nähe zu Tech-Unternehmen – und die Frage, warum konkrete Lösungen weitgehend fehlen.

Frage: Professor Paulo, Papst Leo XIV. hat den Umgang mit KI in seiner Enzyklika als eine Zukunftsfrage der Menschheit bezeichnet. Wie bewerten Sie diese Grundlinie des Lehrschreibens?

Paulo: Ich glaube, dass der Papst da ein sehr gutes Gespür hat. KI ist eben nicht einfach nur eine weitere neue Technologie, die hier oder da als Werkzeug eingesetzt wird. Die Enzyklika macht sehr klar, dass KI Auswirkungen auf praktisch alle Lebensbereiche hat. Wir haben es mit einer Technologie zu tun, deren Wirksamkeit wir uns, glaube ich, noch gar nicht vollständig bewusst machen. Insofern ist das tatsächlich eine Menschheitsfrage.

Frage: Der Papst knüpft an die berühmte Sozialenzyklika "Rerum Novarum" von Leo XIII. aus dem Jahr 1891 an und deutet KI als neue soziale Frage unserer Zeit. Finden Sie diesen Vergleich überzeugend?

Paulo: Ja, absolut. Die Anknüpfung ist sehr sinnvoll. Damals ging es um die industrielle Revolution und ihre sozialen Folgen, die zunächst kaum bedacht wurden. Man war stark auf Produktions- und Gewinnmaximierung fixiert und hat einfach gemacht – erst später wurden die Konsequenzen sichtbar. Heute befinden wir uns in einer ähnlichen Situation, nur in gewisser Weise noch dramatischer: Die Skalierungseffekte sind enorm, und KI greift in deutlich mehr Lebensbereiche ein. Deshalb ist der Bezugspunkt zu "Rerum Novarum" wirklich gut gewählt. Leos Enzyklika führt Grundgedanken fort, die es in der katholischen Soziallehre schon lange gibt. Vieles darin entspricht auch dem, was in der ethischen Debatte längst Konsens ist. Insofern ist das eine gelungene Fortschreibung früherer Gedanken.

Frage: Leo XIV. warnt davor, dass KI Macht in den Händen weniger Konzerne bündeln und neue Formen der Entmenschlichung hervorbringen könne. Treffen diese ethischen Sorgen die zentralen Probleme der aktuellen KI-Entwicklung?

Paulo: Ja, das sind zentrale Punkte. Man muss sie immer mitdenken, gerade wenn man sich von der Dynamik neuer Modelle und technischer Entwicklungen treiben lässt. Vor ein paar Jahren galt OpenAI als der "gute" Akteur, jetzt wird oft Anthropic in dieser Rolle gesehen. Dass bei der Vorstellung der Enzyklika sogar ein Anthropic-Mitgründer im Vatikan anwesend war, zeigt genau das Problem: Einige wenige Menschen bestimmen über Technologien, die für große Teile der Menschheit zentral geworden sind. Meist sind das junge Männer in den USA. Und wenn solch gravierende Entscheidungen in wenigen, demokratisch nicht legitimierten Händen liegen, ist das historisch selten gut ausgegangen. Deshalb ist der Punkt, den der Papst anspricht, wirklich zentral. Umso mehr fand ich es irritierend, dass ausgerechnet Vertreter eines Unternehmens wie Anthropic bei der Präsentation so prominent eingebunden waren. Das wirkte fast wie eine Aufwertung genau jener Akteure, die man eigentlich kritisiert.

Frage: Was glauben Sie: Woher kommt dieser Widerspruch?

Paulo: Naivität ist das sicher nicht. Im Vatikan weiß man sehr genau, was man tut. Aber ehrlich gesagt kann ich es mir auch nicht ganz erklären. Meine Vermutung ist, dass man sich ein Stück weit davon treiben lässt, dass Anthropic derzeit als das "gute" Unternehmen gilt. In der Fachwelt gibt es zudem Spekulationen über mögliche finanzielle Verbindungen des Vatikans zu Anthropic. Das wäre zumindest eine Erklärung, die man bei anderen Akteuren sofort diskutieren würde. Beim Papst selbst wäre ich damit allerdings sehr vorsichtig. So einfach ist es vermutlich nicht.

Frage: Der Papst fordert gesellschaftliche Kontrolle und wertebasierte Regeln für KI. Was müsste daraus nun konkret folgen – politisch, gesellschaftlich oder mit Blick auf Bildung und Arbeitswelt?

Paulo: Genau das ist die entscheidende Frage. Die Enzyklika gibt zunächst einmal einen grundsätzlichen Weg vor – zumindest für die katholische Welt. Jetzt muss man diese Prinzipien auf konkrete Lebensbereiche herunterbrechen und in den dort bestehenden Spannungen arbeiten: Denn fast jede technologische Entwicklung bringt zugleich positive und problematische Aspekte mit sich. Ich hätte mir allerdings gewünscht, dass die Enzyklika dabei konkreter wird. Sie bleibt auf einer sehr hohen Abstraktionsebene. Aus philosophisch-ethischer Sicht steht darin wenig, was in der Debatte nicht ohnehin längst Konsens wäre. Inhaltlich war das für mich deshalb nicht besonders innovativ. Die eigentliche Arbeit – nämlich die Prinzipien konkret auszuformulieren – wurde nun an uns alle weitergereicht.

Frage: Was bedeutet das?

Paulo: Es braucht jetzt gesellschaftliche Diskussionen und daraus folgend konkrete Regulierung. Ansätze gibt es ja bereits, etwa mit dem AI Act der Europäischen Union. Aber das sind erst die ersten Schritte. Ich bin allerdings etwas skeptisch, wie gut das auf Grundlage dieser Enzyklika gelingen wird. Der Text ist sehr idealistisch. Auf der einen Seite beschreibt er zurecht die problematische Realität der KI-Entwicklung, auf der anderen Seite formuliert er hohe sozialethische Ideale wie Solidarität und soziale Gerechtigkeit. Doch diese beiden Ebenen liegen derzeit sehr weit auseinander. Die spannende Aufgabe wäre gewesen, stärker aufzuzeigen, wie man diese Lücke schließen kann. Genau das hätte ich mir detaillierter gewünscht.

Frage: Wird die Kirche in dieser Debatte vor allem als Mahnerin wahrgenommen – oder kann sie tatsächlich Einfluss auf politische und technologische Entwicklungen nehmen?

Paulo: Natürlich wird eine Enzyklika nicht eins zu eins in Politik umgesetzt. Ein Donald Trump wird sie kaum lesen und danach plötzlich umfassende Regulierung auf den Weg bringen. Aber man sieht ja schon jetzt das weltweite Medienecho. Der Papst hat eine enorme öffentliche Autorität. Wenn er solche Dinge ausspricht, entfaltet das eine andere Wirkung, als wenn ein KI-Ethiker das tut. Deshalb wird die Enzyklika durchaus Druck erzeugen und Debatten beeinflussen. Ob daraus am Ende konkrete Regulierung entsteht, muss man sehen. Aber zumindest ist nun sehr klar formuliert, dass KI stärker vom Menschen her gedacht werden muss. Und allein das ist schon ein wichtiger Impuls.

Frage: Sollte der Vatikan nun selbst konkrete Maßnahmen oder Initiativen zum Umgang mit KI entwickeln?

Paulo: Ich glaube, im Vatikan weiß man ziemlich genau, welche Rolle man übernehmen kann und welche nicht. Die Kirche ist weltweit hervorragend vernetzt – in Bildungseinrichtungen, sozialen Projekten und vielen gesellschaftlichen Bereichen. Dort kann sie durchaus wirksame Initiativen anstoßen, etwa beim Zugang zu Bildung oder bei ethischen Leitlinien. Deshalb denke ich schon, dass die Kirche Möglichkeiten hat, konkret Einfluss zu nehmen. Eine gemeinsame Gesetzesinitiative etwa mit dem Europäischen Parlament ist dagegen aber natürlich nicht die Aufgabe des Vatikan.

Frage: Was denken Sie: Wie reagieren die großen Tech-Unternehmen und die sogenannten "Tech-Bros" wie Peter Thiel auf die Enzyklika? Interessiert die das überhaupt?

Paulo: Wahrgenommen wird das auf jeden Fall. Gerade in den USA wird intensiv darüber diskutiert. Das habe ich seit gestern in der KI-Fachwelt sehr deutlich beobachtet. Dabei spielt sicher auch eine Rolle, dass der Papst selbst Amerikaner ist. Dadurch wird er dort anders wahrgenommen als seine Vorgänger – gewissermaßen als "einer von uns". Wenn ein amerikanischer Papst Kritik an der maßgeblich amerikanischen Tech-Branche formuliert, hat das ein besonderes Gewicht. Menschen wie Peter Thiel – der ja ein bekennender, tiefgläubiger Christ mit sehr eigenem Verständnis davon ist, was das bedeutet – nehmen das sicherlich sehr genau zur Kenntnis. Ob die Kritik des Papstes sie am Ende wirklich hart trifft, ist eine andere Frage.