Onze redacteur reflecteert op de eerste encycliek van paus Leo XIV 'Magnifica humanitas,' waarin de paus oproept tot technologische vooruitgang zonder dat het menselijke hart achteruitgaat.
Door Andrea Tornielli
In het tijdperk van kunstmatige intelligentie, met de menselijke waardigheid in gevaar van overschaduwing door enorme concentraties van technologische macht die buiten alle controle zijn, en door nieuwe vormen van dehumanisering, roept paus Leo XIV ons op tot de "dringende plicht" om diep menselijk te blijven.
De opvolger van Petrus nodigt ons uit om technologie te laten vooruitgaan "zonder het hart te laten achteruitgaan," zelfs temidden van onze tijden vol polarisatie en geweld, waarin de uitbreiding van een "cultuur van macht" en oorlog als instrument van internationale politiek worden gerehabiliteerd.
Hij nodigt ons uit om de grenzen en kwetsbaarheid van de mensheid te accepteren en deze niet als een fout te beschouwen die gecorrigeerd moet worden, zoals technocratische ideologie doet. De paus vermaant ons om naar de wereld te kijken niet vanuit het standpunt van de machtigen, maar van onderaf, door de ogen van degenen die lijden, te beginnen met de minsten.
We moeten de mensheid beschouwen, zegt hij, door de ogen van God, die onze zwakte op Zich heeft genomen en deze heeft getransformeerd in een plaats van redding, want "zelfs wanneer machines uitblinken in efficiëntie, blijft een menselijk gelaat dat om aandacht vraagt het middelpunt van onze geschiedenis."
Magnifica humanitas-de eerste encycliek van paus Leo XIV-is niet primair een analytische tekst over kunstmatige intelligentie, noch gaat het in op de details van processen die voortdurend evolueren.
Het is eerder een "summa" die de principes van de Sociale Leer van de Kerk toepast op onze tijd van AI, door de belangrijke punten van het pauselijke magisterium te consolideren en bij te werken.
Het is een tekst die een einde maakt aan het misverstand van degenen die, vertrouwend op de absolute vrijheid van markten en nieuwe technologieën, de leer van de pausen over de noodzaak van gedeeld menselijk bestuur van AI, integrale ecologie, economische structuren die "structuren van zonde" worden, en de afwijzing van oorlog, de rug toekeren.
Paus Leo XIV, die zijn naam ontleende aan paus Leo XIII, de auteur van Rerum novarum, nodigt ieder van ons in deze tijd van digitale revolutie uit om een actieve rol op zich te nemen. De opbouw van de "beschaving van de liefde," zegt hij, wordt bereikt door kleine en volhardende daden van trouw die in staat zijn dehumanisering tegen te gaan. Deze taak betreft ons allen intiem, zegt hij.
Paus Leo herinnert ons eraan dat "onrechtvaardigheden niet alleen voortkomen uit de verkeerde keuzes van individuen, maar ook uit structuren, mechanismen en economische en culturele systemen die ongelijkheid produceren," en dat "ontwikkeling niet werkelijk menselijk is als het het verbruik voor sommigen verhoogt terwijl het kosten en lasten op anderen afschuift, of hele regio's in ondergeschikte rollen dwingt."
Helaas gebeurt dit al vandaag de dag op het gebied van nieuwe technologieën en de middelen die zij vereisen.
De encycliek stelt dat het principe van privébezit "een onmisbare maatschappelijke rol" vervult en wordt gesteund door de Kerk. "Vandaag moeten we, naast de goederen die voor iedereen bestemd zijn, ook nieuwe vormen van eigendom in overweging nemen, zoals patenten, algoritmen, digitale platforms, technologische infrastructuur en data," om te voorkomen dat er nieuwe vormen van uitsluiting en vrijheidverlies ontstaan of verankerd raken.
Technologie, zegt hij, is geen eenvoudig hulpmiddel; wanneer het de standaard wordt waarop alles wordt beoordeeld, "begint het te dicteren wat belangrijk is en wat kan worden weggegooid," waardoor "mensen worden gereduceerd tot louter tandwielen in een systeem dat gericht is op steeds grotere efficiëntie."
Vandaag, merkt hij op, ligt de controle over platforms, infrastructuur, data en rekencapaciteit "niet bij de staten, maar bij grote economische en technologische actoren." Deze bedrijven, zegt hij, stellen de voorwaarden voor toegang, de regels van zichtbaarheid en de mogelijkheid tot deelname zelf vast.
"Wanneer dergelijke macht in handen van enkelen geconcentreerd is," zegt de paus, "tendens het ernaar om ondoorzichtig te worden en publieke controle te ontlopen, waardoor het risico van vervormde vormen van ontwikkeling toeneemt die nieuwe afhankelijkheden, uitsluitingen, manipulaties en ongelijkheden in het leven roepen."
De paus bevestigt de noodzaak om verder te gaan dan de theorie van de "rechtvaardige oorlog" en roept op tot het onder de strikste ethische beperkingen stellen van het gebruik van kunstmatige intelligentie in oorlog, omdat "geen enkel algoritme oorlog moreel aanvaardbaar kan maken."
Kunstmatige intelligentie is een beslissend element geworden in het vormen van de publieke opinion door middel van manipulatie van beelden en inhoud, waardoor het steeds moeilijker wordt om waarheid van leugen te onderscheiden.
Er zijn ook veel onbekenden met betrekking tot de arbeidsmarkt. In dit verband herinnert de encycliek eraan dat het niet langer mogelijk is om uitsluitend op de "onzichtbare hand" van de markt te vertrouwen.
Politieke systemen hebben de taak om economische en technologische dynamieken te begeleiden naar het algemeen welzijn, het bevorderen van waardig werk, sociale inclusie en een eerlijke verdeling van de voordelen van innovatie.
Menselijk blijven, processen besturen en monopolies vermijden die de macht van enkelen ten koste van het leven van velen vergroten: dit is het pad dat de paus aangeeft, dat geen barricades opricht en het gebruik van AI niet outright verwerpt.
Integendeel, paus Leo wijst op de vele positieve aspecten en nuttige toepassingen van AI. Tegelijkertijd legt hij uit, is het niet genoeg om een ethische vraag te stellen over het goede of slechte doel waarvoor AI wordt gebruikt.
Het is essentieel, zegt hij, om eerder in te grijpen en te vragen hoe een systeem is ontworpen en welke ideeën over de persoon en de samenleving zijn ingeschreven in de data en modellen die het aansteken.
Om deze reden roept hij op tot adequate juridische kaders, onafhankelijke toezicht, gebruikerseducatie en vooral tot "een politiek systeem dat zijn taak niet afschuift."
Anders, zegt paus Leo XIV, zal verandering alleen worden bestuurd door technocratische logica en zal het worden gepresenteerd als "noodzakelijk en onvermijdelijk," uiteindelijk regels opleggend "gedicteerd" door degenen die de data, infrastructuren en rekencapaciteit bezitten.
Paus Leo zegt daarom dat we AI moeten "ontwapenen" - dat wil zeggen, de "veronderstelling dat technische macht automatisch het recht om te regeren verleent" ondermijnen.
We moeten dit doen, zegt hij, niet om technologie op te geven, maar om te voorkomen dat het de mensheid domineert en het voor discussie open te stellen.
In plaats van onze menselijkheid op te geven, moeten we "getuigen van de grootheid van de mensheid, waarin God Zijn woning heeft gemaakt."
Bedankt voor het lezen van ons artikel. U kunt op de hoogte blijven door u te abonneren op onze dagelijkse nieuwsbrief. Klik gewoon hier
