Paus Leo XIV waarschuwt voor "te aanhankelijke" AI-chatbots

Paus Leo, de eerste Amerikaanse paus in de geschiedenis, heeft een bijzondere invalshoek op technologie. Waar veel leiders het vooral hebben over privacy en algoritmes, kijkt hij naar wat AI doet met ons als mensen. Met name relaties en onze manier van denken.

Voor veel mensen gaat het tegenwoordig zo: je begint een gesprek met een chatbot om een recept te vragen, en ineens eindigt het in een lange uitwisseling vol empathie en steun. Dat klinkt misschien prima, maar volgens Paus Leo is daar een risico aan verbonden. Hij waarschuwt dat zulke systemen — altijd beschikbaar, vriendelijk en gepersonaliseerd — ons kunnen beïnvloeden zonder dat we het doorhebben. Ze zouden zelfs “verborgen architecten van onze emotionele staat” kunnen worden, die subtiel bepalen hoe we denken en voelen.

In zijn boodschap voor de Werelddag van de Sociale Communicatie benadrukte hij dat AI-systemen steeds meer lijken op levenslange vrienden, vertrouwelingen of zelfs partners. Maar dat is geen echte interactie, zegt hij, en het kan onze behoefte aan echte menselijke relaties ondermijnen.

Paus Leo is niet anti-technologie. Integendeel: hij erkent dat AI heel veel goeds kan doen. Maar hij pleit voor regulering, ethische kaders en samenwerking tussen techbedrijven, beleidsmakers, journalisten en opvoeders. Volgens hem moet technologie mensen helpen, niet emotioneel afhankelijk maken van algoritmen.

Een belangrijk argument van de paus is dat we het verschil moeten blijven zien tussen wat door computers wordt gegenereerd en wat echt door mensen is bedacht, geschapen of gevoeld.

Paus Leo is de modernste Paus die we ooit hebben gehad. Door zijn relatief jonge leeftijd van 70 jaar heeft hij de transitie naar de digitale wereld volop meegemaakt. Hij draagt bijvoorbeeld een smartwatch en was actief op sociale media vóór zijn verkiezing, wat zijn betrokkenheid bij moderne communicatie onderstreept.

Wat hij zegt is dus totaal niet gek, als AI ons kan laten vergeten wat echte verbinding is, dan staan we voor een uitdaging die verder gaat dan techniek, het raakt aan wat het betekent om mens te zijn. Het is een cliché dat technologie de wereld verandert, maar misschien verandert het ons wel van binnenuit, en dat maakt pauselijke reflecties verrassend relevant. Velen van ons wimpelen makkelijk weg wat een religieus leider zegt, maar soms is het toch de moeite waard om te luisteren.