Franciscus sprak over zijn angsten en hoop voor kunstmatige intelligentie (AI) in zijn boodschap voor de Werelddag van de Sociale Communicatie van de Rooms-Katholieke Kerk, die op 12 mei wereldwijd wordt gevierd.
Hoewel hij er bij de mensen op aandrong om "catastrofale voorspellingen en hun afstompende effecten" over nieuwe dingen tijdelijk opzij te zetten, was zijn drie pagina's tellende boodschap vooral ernstig en waarschuwde hij voor "cognitieve vervuiling" die de werkelijkheid kan vervormen, valse verhalen kan promoten en mensen in ideologische echokamers kan opsluiten.
"We hoeven alleen maar te denken aan het aloude probleem van desinformatie in de vorm van nepnieuws, dat vandaag de dag gebruik kan maken van
'deepfakes', namelijk het creëren en verspreiden van beelden die volkomen plausibel lijken maar vals zijn - ook ik ben hier het slachtoffer van geweest," schreef Franciscus.
Hij verwees blijkbaar naar een nepafbeelding van hem die vorig jaar viraal ging op sociale media. Het beeldde hem af in een enkellange witte pufferjas, gepost door iemand die een beeldgenererend programma gebruikte.
Francis had het ook over valse "audioberichten die de stem van een persoon gebruiken om dingen te zeggen die die persoon nooit gezegd heeft".
Op maandag zei de procureur-generaal in de Amerikaanse staat New Hampshire dat zijn kantoor een onderzoek had ingesteld naar de herkomst van nep-robocalls die de stem van president Joe Biden simuleerden en kiezers aanmoedigden om dinsdag geen stem uit te brengen in de presidentiële voorverkiezing.
"De simulatietechnologie achter deze programma's kan nuttig zijn op bepaalde specifieke gebieden, maar het wordt pervers wanneer het onze relatie met anderen en met de werkelijkheid verstoort," schreef de paus.
Hij herhaalde een oproep die hij vorige maand deed voor een juridisch bindend internationaal verdrag om AI te reguleren.
In de boodschap van woensdag sprak hij over de "geassocieerde pathologieën" van AI, waaronder een afname van pluralisme en een proliferatie van "groepsdenken", waarbij consensusstandpunten worden ingenomen zonder kritiek van buitenaf of alternatieven in overweging te nemen.
Franciscus sprak ook over het gevaar van AI in de media, in het bijzonder in de verslaggeving over oorlog, waarvan hij zei dat die onderworpen zou kunnen worden aan een parallelle oorlog die gevoerd wordt door middel van desinformatiecampagnes.
AI moet de rol van de journalistiek in het veld ondersteunen en niet uitschakelen, zei hij.
