Katholische Chatbots: Zwischen Lehramt, Algorithmus und Autorität

"Wir bauen katholische KI." Groß steht dieser Satz auf der Internetseite eines katholischen Start-ups aus den USA. Ziel des Start-ups ist es, die kirchliche Lehre für Interessierte leichter zugänglich zu machen. Ein Kernprodukt ist das  Programm "Magisterium AI", das dem populären Chatbot "ChatGPT" ähnelt. Nach eigenen Angaben ist die App in über 165 Ländern und mehr als 50 Sprachen verfügbar. Inhaltlich greift sie demnach auf rund 22.600 lehramtliche Dokumente sowie etwa 2.300 theologische und philosophische Werke zurück – darunter Schriften von Thomas von Aquin, Augustinus und den Kirchenvätern. Und die Heilige Schrift, würden Protestanten fragen? Auch die ist enthalten – samt Auslegungen und Kommentaren.

Doch wie verhält es sich mit kirchenpolitischen Fragen? Katholisch.de hat die katholische KI benutzt und auf Deutsch nachgefragt : Was sagt Papst Leo XIV. zum Synodalen Weg in Deutschland? Und wie lautet die aktuelle Position des Vatikans? Zur ersten Frage durchsuchte die KI das Internet nach einschlägigen Ansprachen und wurde bei einer fliegenden Pressekonferenz vom 2. Dezember auf dem Rückflug von Beirut nach Rom fündig. In einer kurzen Zusammenfassung heißt es: "Leo XIV. hob die laufenden Treffen zwischen deutschen Bischöfen und Kardinälen der Römischen Kurie hervor, die sicherstellen sollen, dass der deutsche Weg mit dem der universalen Kirche im Einklang bleibt. Er erwartete Anpassungen auf beiden Seiten und äußerte Optimismus für ein positives Ergebnis." Zitiert wurde dabei die entsprechende Ansprache.

Tendenz in eine Richtung

Für die Frage nach der Position des Vatikans nennt die App hingegen das Abschlussdokument der Weltsynode zurück. Die Antwort: "Der Vatikan unterstützt den Synodalen Weg als Beitrag zur Synodalität, priorisiert jedoch Kommunion, Partizipation und Mission im Einklang mit dem Finaldokument der Synode 2024." Auf die Bitte, die positiven Aspekte des Synodalen Weges herauszuarbeiten, wird deutlich, in welche Richtung das Programm tendiert: Statt die Originaldokumente des Synodalen Weges selbst zu analysieren, zieht es vor allem wissenschaftliche Arbeiten aus dem amerikanischen Kontext heran, die stärker die Vorbehalte betonen. So wird etwa ein Aufsatz aus der Zeitschrift "Communio" aus dem Jahr 2021 zitiert – "Communion, Sacramental Authority, and the Limits of Synodality" von Nicholas J. Healy Jr., der sich allgemein mit Synodalität sowie kirchlicher und sakramentaler Autorität befasst. Das Fazit lautet schließlich: "Der Synodale Weg in Deutschland, als Teil des universalen Synodenprozesses der Kirche, birgt Potenzial für Erneuerung durch gesteigerte Beteiligung, gegenseitiges Hören und missionarische Ausrichtung – vorausgesetzt, er bleibt im Einklang mit der katholischen Tradition und der universalen Kirche." Weitere Beiträge sind jene kritischen Äußerungen des ehemaligen argentinischen Kirchenoberhaupts, Papst Franziskus (2013–2025).

Gegen Ende des vergangenen Jahres brachte dann schließlich der Fernsehsender K-TV einen deutschsprachigen Ableger der App auf den Markt – basierend auf der amerikanischen Version. Entsprechend ähneln sich die Antworten zum Synodalen Weg weitgehend, mit einem entscheidenden Unterschied: Die deutsche Variante greift auf das hauseigene Fernseharchiv zurück und ergänzt Texte durch eigenes Videomaterial. So finden sich Beiträge mit Pater Karl Wallner ebenso wie Interviews vom Katholikentag mit den Bischöfen Heiner Wilmer und Bertram Meier. Was den Datenschutz angeht, so wurde betont, dass nichts auf den Servern bleibe. "Wir sammeln keine Namen, Wohnorte, Geburtsdaten oder dergleichen mehr", sagte etwa der K-TV Chef in einem Interview mit der Tagespost. Die Theologin, Philosophin und KI-Expertin Anna Puzio sieht das kritisch. "Wir haben dies sehr eindrücklich beobachten können, als spätestens mit der zweiten Amtszeit zur unheiligen Verbindung von Trumps US-Politik und Big Tech kam", sagte sie im Gespräch mit katholisch.de. "In einer rechtsextremistischen Politik könnten sensible Daten genutzt werden, um Menschen zu verfolgen, zum Beispiel aufgrund von Abtreibungen oder Herkunft. Viele Menschen teilen mehr Daten mit Chatbots als sie mit anderen Menschen teilen würden. KI und Technologien sind auch politisch".

Kritisch hinterfragen

Ähnelt die katholische KI damit Elon Musks Wikipedia-Ableger Grokpedia? Musks KI-basierte Wikipedia verfasst die Artikel selbst – ohne menschliche Zuarbeit, drängt jedoch in eine bestimmte ideologische Richtung. Spätestens bei Fragen zu Papst Leo XIV., den US-Bischöfen und der Politik Donald Trumps zeigt sich, dass einiges beim katholischen Chatbot kritisch zu hinterfragen ist. So antwortet dieser auf die Frage nach einer Stellungnahme der US-Bischöfe zu Trumps Einwanderungspolitik: "Die United States Conference of Catholic Bishops (USCCB) hat keine direkte Stellungnahme zu Donald Trump oder seiner spezifischen Politik abgegeben."

Das ist so nicht korrekt. Auf ihrer Vollversammlung in Baltimore im November vergangenen Jahres hatten sich die Bischöfe nahezu einstimmig gegen Trumps Migrationspolitik positioniert. Sie sahen sich verpflichtet, ihre Stimme "zur Verteidigung der von Gott gegebenen Menschenwürde zu erheben". Damit trafen sie einen Nerv – insbesondere bei der Führung der US-Einwanderungs- und Zollbehörde (ICE) und bei jenen politischen Akteuren, die Massendeportationen vorantreiben. Zuletzt waren die Bischöfe in ähnlicher Geschlossenheit 2013 aufgetreten, als es unter Präsident Barack Obama um kostenlose Verhütungsmittel als verpflichtende Leistung betrieblicher Krankenversicherungen ging. Auch mit Blick auf Massenabschiebungen betonten sie: "Wir lehnen die wahllose Massenabschiebung von Menschen ab." Zugleich beteten sie "für ein Ende der entmenschlichenden Rhetorik und Gewalt – gleich, ob sie sich gegen Migranten oder gegen Strafverfolgungsbehörden richtet".

Warum listet der katholische Chatbot dieses nahezu historische Dokument der US-Bischofskonferenz nicht auf? Handelt es sich um eine ideologische Schlagseite oder schlicht um mangelnde Aktualisierung, wie auch bei anderen KI-Systemen vorkommt? Ähnlich war es etwa, als Programme wie etwa ChatGPT lange Zeit nicht wussten – und meist noch immer nicht wissen –, wer amtierender Papst ist. Zwar ist dieses Problem inzwischen teilweise behoben, doch bis vor Kurzem war noch von Franziskus als lebendem Papst die Rede. Die Programme kannten Papst Leo XIV. schlicht nicht oder definierten ihn trocken als fiktiven Charakter. Puzio vermutet hinter der "katholischen KI" mangelne Diversität und gewinnorientierende Ziele. "Magisterium und katholisch.ai legen nicht konkret offen, wer wie an der Entwicklung der Technologie beteiligt war und auch nicht, ob und wie Theologinnen und Theologen eingebunden wurden", so die Expertin. Es lasse sich aber stark vermuten, dass diese viel zu wenig beteiligt wurden. 

Die beiden genannten Chatbots seien ihr zufolge wenig geeignet als Recherchequellen, da sie "kaum fundiertes Wissen bieten und daher mit Vorsicht zu genießen sind". Und, so Puzio weiter: "Der christliche Glaube hat so viele Quellen mehr als offizielle kirchliche Lehrschriften. Er bezieht sich auf die gelebten religiösen Erfahrungen von Menschen aus aller Welt. Dabei werden viele Stimmen nicht gehört, z. B. diejenigen von Frauen und queeren Personen, Menschen mit Behinderungen, People of Colour und diejenigen aus dem nicht-westlichen Raum. Durch diese Chatbots werden die Stimmen dieser Menschen nun vollständig ignoriert."

Theologe: Führt eher zur individuellen Glaubenserfahrung

Apps seien in unserem digitalen Zeitalter dennoch unvermeidlich, meint der italienische Theologe Massimo Faggioli, der lange in den USA gearbeitet hat, inzwischen aber in Irland lebt und lehrt. Im Gespräch mit katholisch.de sagte er, er frage sich, inwieweit Entwickler die liturgischen und sakramentalen Dimensionen des christlichen Lebens berücksichtigten. Besonders problematisch sei die Gefahr, dass eine App zu einer weniger kirchlichen und stärker individualisierten Glaubenserfahrung führen könne. Der Umbruch durch Künstliche Intelligenz sei aus seiner Sicht sogar größer als der Wechsel vom Zeitungslesen am Küchentisch hin zum Lesen auf dem eigenen Gerät. "Die christliche Erfahrung ist eine Begegnung mit Gott – aber auch mit und durch andere Menschen, in physischer Gegenwart", so Faggioli. "Es bleibt abzuwarten, inwieweit eine App eine solche Erfahrung vermitteln oder ermöglichen kann."

In welche Richtung sich die katholische KI entwickeln wird, lässt sich derzeit schwer prognostizieren. Vermutlich wird die App "Magisterium" nicht die einzige auf dem Markt sein. Die bisherigen Beispiele erlauben noch keine eindeutige Bewertung – zumal die aktuelle Version der App nur zehn Chats zulässt. Zu wenig, um sich ein größeres Bild machen zu können. Einen Hinweis auf die mögliche Ausrichtung liefert jedoch auch ein Blick auf den Gründer des Start-ups der katholischen KI, Matthew Harvey Sanders. Auf seinem X-Profil feierte er zuletzt den Erfolg der Gebetsapp "Hallow", über die katholisch.de bereits mehrfach berichtet hat. Prominent unterstützt wurde sie unter anderem von Mark Wahlberg, Jonathan Roumie und der Sängerin Gwen Stefani. Große Aufmerksamkeit erhielt "Hallow" aber 2024 durch einen Werbespot während der Halbzeitshow des NFL-Superbowls – ein kostspieliger Auftritt beim medialen Großereignis. Zu Weihnachten folgte eine weitere Marketingkampagne mit den genannten Stars. Zu den Investoren zählen unter anderem Peter Thiel und der heutige US-Vizepräsident JD Vance, die aufgrund von Datenschutzfragen hinsichtlich vorheriger Projekte (etwa Palantir) in die Kritik geraten sind.

Wie sensibel solche Daten sein können, zeigte ein Bericht des "Wall Street Journal" aus dem Jahr 2019. Demnach nutzte die konservative Interessengruppe Catholic Vote bei den US-Senatswahlen 2018 Daten aus religiösen Apps, um Personen zu identifizieren, die innerhalb von 60 Tagen mindestens zweimal eine katholische Kirche besucht hatten. Diese Nutzer erhielten einen sogenannten "Religionsintensitätswert". Rund 600.000 Menschen wurden daraufhin gezielt mit Wahlwerbung angesprochen. Unterstützt wurde der republikanische Kandidat Josh Hawley, während seine demokratische Gegnerin Claire McCaskill als "antikatholisch" dargestellt wurde. Hawley gewann die Wahl.

Kann sowas auch hierzulande passieren? Ob katholische KI am Ende vor allem ein neues Werkzeug kirchlicher Bildung oder ein Filter mit eigener theologischer Schlagseite wird, bleibt offen. Klar ist jedoch: Wo Algorithmen beginnen Glaubensinhalte zu ordnen und zu gewichten, stellt sich neu die Frage nach Autorität, Verantwortung – und nach dem Ort kirchlicher Erfahrung im digitalen Raum. Selbst Papst Leo XIV. warnte eindringlich: „Es wird sehr schwer werden, die Gegenwart Gottes in der KI zu entdecken. In menschlichen Beziehungen können wir zumindest Zeichen seiner Gegenwart finden.“ Die Kirche sei, so der Papst, nicht gegen technologischen Fortschritt. Doch „wie die Dinge jetzt gerade laufen, wird das menschliche Herz inmitten der technologischen Entwicklung verloren gehen“.