Erzbistum Köln regelt die Nutzung von künstlicher Intelligenz
Das Erzbistum Köln regelt die Nutzung von Künstlicher Intelligenz durch Institutionen und Einrichtungen in der Erzdiözese. Kardinal Rainer Maria Woelki setzte zum Jahresbeginn eine KI-Nutzungs-Ordnung in Kraft, die festlegt, unter welchen Voraussetzungen KI-Anwendungen genutzt werden dürfen. Zulässig ist eine Nutzung demnach nur dann, wenn die geplante Anwendung mit minimalem oder geringem Risiko im Sinne der Risikoklassen 4 und 3 der euopärischen KI-Verordnung verbunden ist. Geringes Risiko besteht, wenn durch die Anwendung eine Manipulationsgefahr ausgeht, weil beispielsweise Anwendenden nicht klar ist, dass sie mit einer Maschine interagieren. Minimales Risiko wird bei allen Anwendungen angenommen, die nicht in eine höhere Risikoklasse fallen.
Jede geplante Nutzung von KI-Systemen ist gemäß der Ordnung mit dem Bereich IT & Digitalisierung des Erzbischöflichen Generalvikariates im Vorfeld abzustimmen. Die Entwicklung und das Training eigener KI-Systeme ist nur mit Genehmigung des Bereichs zulässig. Genehmigt werden nur solche Vorhaben, denen keine technischen, sicherheitsrelevanten oder datenschutzrechtlichen Belange entgegenstehen. Eine Verarbeitung von personenbezogenen Daten durch KI-Systeme muss immer durch den betrieblichen Datenschutzbeauftragten des Generalvikariates freigegeben werden. Die Eingabe von vertraulichen und personenbezogenen Daten in frei zugängliche KI-Plattformen wie ChatGPT ist untersagt.
Kennzeichnungspflicht für Chatbots
Kirchliche Stellen, die KI-generierte Inhalte nutzen, müssen diese auf Richtigkeit, Plausibilität und Angemessenheit prüfen, Texte müssen einer redaktionellen Kontrolle unterzogen werden. Der Einsatz von KI-Anwendungen mit Risikoklasse 3 muss nach außen transparent kenntlich gemacht werden. Zur Risikoklasse 3 gehören beispielsweise Chatbots.
Ebenfalls am 1. Januar sind KI-Richtlinien für den Vatikanstaat in Kraft getreten, die einen allgemeinen ethischen Rahmen für die Nutzung von Künstlicher Intelligenz durch Institutionen des Kirchenstaats festlegen und die im Lauf des Jahres durch weitere Durchführungsbestimmungen ergänzt werden sollen. In der Europäischen Union ist seit August eine Verordnung über künstliche Intelligenz in Kraft getreten, deren Bestimmungen schrittweise bis August 2027 wirksam werden. Zentral ist darin die Einstufung von KI-Systemen in vier Risikoklassen. Neben den im Erzbistum Köln zulässigen Risikoklassen gibt es Regelungen für Systeme mit inakzeptablem sowie hohem Risiko. (fxn)
