Mexikanischer Kardinal wird Opfer von Deepfake-Video

Der mexikanische Kardinal Carlos Aguiar Retes ist Opfer eines Deepfake-Videos geworden. Ein Unternehmen habe mit Hilfe künstlicher Intelligenz (KI) die Stimme des Erzbischofs von Mexiko nachgeahmt und so den Eindruck erweckt, dass Retes in einem Video Werbung für ein angebliches Wundermittel gegen Diabetes mache, wie die katholische Zeitung "Desde la Fe" jetzt berichtete. Grundlage für das Deepfake-Video sei eine offizielle Video-Botschaft des Erzbischofs zum neuen Jahr gewesen; bei diesem habe das Unternehmen Retes mit Hilfe der KI andere Worte in den Mund gelegt.

In dem Video hatte "Retes" erklärt, dass er eine Diabetes-Erkrankung dank eines neuen Wundermittels überwunden habe. Der Kardinal habe in Wahrheit jedoch keinerlei Kenntnis von dem Medikament, das Video stelle einen "klaren Betrugsversuch" dar, zitierte die Zeitung einen mit dem Fall betrauten Priester. Es sei bereits Beschwerde gegen das Video eingelegt worden. Der Kardinal rief die Bevölkerung den Angaben zufolge zudem dazu auf, nicht auf "solche Täuschungen hereinzufallen" und keine "Wunderprodukte" zu kaufen, die mit irreführender Werbung in sozialen Netzwerken beworben würden.

Die Imitation von Stimmen mit Hilfe von KI hat in den vergangenen Monaten zugenommen. Inzwischen gibt es mehrere Online-Dienste, mit deren Hilfe Stimmen mit wenig Aufwand geklont werden können. In der Regel wird eine Stimmprobe hochgeladen und von der KI analysiert. So entsteht in wenigen Minuten ein künstlicher Stimmenklon. Danach reicht es, einen beliebigen Text einzugeben, den die geklonte Stimme dann „spricht“. Die Technik wird laut Medienberichten häufig durch Kriminelle missbraucht – etwa zum Identitätsdiebstahl oder bei betrügerischen Schockanrufen. (stz)