Ein Bild von Papst Franziskus, dem Oberhaupt der katholischen Kirche, wie er Popstar Madonna umarmt und küsst, ist in den sozialen Medien viral gegangen. Später wurde jedoch bekannt, dass das Bild mithilfe von KI-Technologie erstellt wurde. Madonna postete das intime Bild des Papstes mit Madonna auf ihrem Instagram. Danach begann eine neue Debatte über dieses Deepfake-Bild und das KI-Video.
Obwohl Papst Franziskus schon lange vor Deepfake-Technologie warnt. Auf einem Bild, das im März letzten Jahres viral ging, war er in einer Pufferjacke bei Balenciaga zu sehen. Später wurde bekannt, dass auch dieses Bild mithilfe von KI erstellt wurde. Dieses Bild war so realistisch, dass viele Menschen es für echt hielten. Der Papst selbst warnte jedoch vor solchen Bildern und äußerte in einer Rede im Januar seine Besorgnis über die Verbreitung falscher Informationen durch Deepfakes.
„Fake News. Heutzutage kann man mit Technologien wie ‚Deepfake‘ Bilder erstellen, die glaubwürdig aussehen, aber komplett gefälscht sind. Auch ich bin Opfer dieser Art der Bilderzeugung geworden“, sagte er.
Der italienische Digitalkünstler Riccdick, der die Bilder von Papst Franziskus mit Madonna erstellt hat, sagte, sein Ziel sei es gewesen, die Menschen zum Nachdenken und Lachen zu bringen. Eines seiner Deepfake-Bilder zeigt Papst Franziskus mit seinem Arm um Madonnas Taille. Doch ein weiterer Deepfake des Papstes hat für noch mehr Kontroversen gesorgt: Sein Gesicht wurde in das von Luigi Mangione verwandelt, dem mutmaßlichen Mörder des CEO von UnitedHealthcare, Brian Thompson.
„Mein Job ist es, die Menschen durch Memes zum Umdenken zu bringen und die Gesellschaft auf allen Ebenen aufzurütteln“, sagte Rickdick. „Ich wollte weder eine Religion noch eine Person beleidigen.“Experten zufolge sind Persönlichkeiten wie der Papst, die eine große öffentliche Präsenz haben, leichte Ziele für Deepfake-Technologie. „Es gibt viele Bilder, Videos und Audiodateien von Persönlichkeiten wie dem Papst im offenen Internet, weshalb KI-Modelle sein Aussehen und seine Haltung leicht nachahmen können.“
Rickdick nutzte für seine Arbeit eine kostenpflichtige Plattform, Cree.AI. Es ist jedoch auch möglich, solche Bilder mit kostenlosen Plattformen wie Stable Diffusion zu erstellen.
Experten warnen, dass Deepfake-Technologie zwar die Kreativität fördern, aber auch irreführende und schädliche Auswirkungen haben kann. Es ist zu einem weit verbreiteten Trend geworden, mächtige Persönlichkeiten in ungewöhnlichen oder peinlichen Situationen darzustellen, was nicht nur satirisch ist, sondern auch soziale Verwirrung stiften kann. Solche Debatten um Persönlichkeiten wie Papst Franziskus haben ethische Fragen über den Einsatz von KI-Technologie aufgeworfen.