Paus Leo XIV's encyclicaal 'Magnifica humanitas' biedt AI-ontwikkelaars een waardevolle antropologische bijdrage terwijl ze systemen ontwerpen waarmee mensen op een diep persoonlijk niveau interageren, aldus Taylor Black, directeur AI en Venture Ecosystems bij Microsoft.
Door Devin Watkins
Die beweging heeft geleid tot kritiek op de betrokkenheid van de Kerk bij techbedrijven om de ontwikkeling van AI te helpen sturen, evenals kritiek binnen de techwereld op degenen die in dialoog met de Kerk treden.
Maar door religie en theologie naar een "optionele sfeer" te duwen, lopen ontwikkelaars het risico om een dieper begrip te missen van hoe hun klanten denken, aldus Taylor Black.
De heer Black is directeur AI en Venture Ecosystems in het kantoor van de Chief Technology Officer bij Microsoft en de eerste directeur van het Leonum Institute for AI and Emerging Technologies aan de Katholieke Universiteit van Amerika.
Deze dubbele rol - samen met zijn diaconale studies voor de Byzantijnse Katholieke Eparchie van Phoenix - biedt de heer Black de gelegenheid om filosofisch na te denken over de toekomst van AI terwijl hij Microsoft's kapitaalinvesteringen in AI-startups helpt aansteken.
In een gesprek met Vatican News in zijn persoonlijke hoedanigheid, wees de heer Black erop dat technologie geen antropologie of specifiek zicht heeft op de menselijke persoon.
Eerder zijn generatieve of agentische AI-producten probabilistisch, waarbij ze het volgende woord in een reeks raden, elke actie gebaseerd op gegevens waarop ze zijn getraind en de prompt van de gebruiker.
Het resultaat is dat gebruikers hun ervaringen co-creëren, en producten moeten gebaseerd zijn op een goed begrip van de manier waarop de gebruiker denkt.
Als reactie op dit nieuwe technologie-ontwikkelingsparadigma publiceerden het Dicasterie voor de Geloofsleer en het Dicasterie voor Cultuur en Onderwijs in januari 2025 "Antiqua et nova: Opmerkingen over de Relatie Tussen Kunstmatige Intelligentie en Menselijke Intelligentie."
Vervolgens, op 25 mei 2026, oefende paus Leo XIV zijn pauselijk magisterium uit met de publicatie van zijn eerste encyclica Magnifica humanitas.
Beide documenten zoeken naar manieren om de diepe ervaring en het begrip van de katholieke kerk over de menselijke persoon toe te passen op de opkomende technologie van AI.
De heer Black zei dat de encyclica van paus Leo erkent dat AI de ontwikkeling van gebruikers kan vormgeven als zij kritisch denken opgeven en accepteren wat de AI-chatbot voorstelt zonder verificatie.
Dit risico is vooral relevant voor kinderen, wiens prefrontale cortex zich blijft ontwikkelen tot in de vroege twintig, zei de heer Black.
Hij gaf het voorbeeld van een ouder die hun kind achterlaat bij een moreel dubieuze volwassene, die misschien zeer deskundig is maar ook informatie kan geven die de ouder niet wil dat hun kind heeft, zelfs niet op een kwade manier.
In een poging om nuttig te zijn, kan AI ook onze stem of ons gezicht veranderen, soms onze echte zelf opzij duwend ten gunste van een ideale versie.
"Het vormt ons op een manier die we kunnen instemmen als we dat willen," zei de heer Black. "Maar nogmaals, als we kinderen zijn, kunnen we daar niet echt volledig mee instemmen zonder onze eigen creatieve input, van onze stem, van onze manier van zijn in de wereld, zoals volwassen dat kunnen."
Q: U bent diep betrokken bij kunstmatige intelligentie en andere opkomende technologieën, zowel op filosofisch niveau als op financieel niveau bij Microsoft. Hoe kan Magnifica humanitas de ethische ontwikkeling van AI in de techindustrie helpen aansteken?
[Taylor Black:] Ik denk dat een van de redenen waarom de techindustrieën naar verschillende religieuze tradities zijn gegaan om een beter begrip van de menselijke persoon te zoeken, is dat wanneer we producten van een generatieve of agentische AI-natuur maken, ze probabilistisch zijn.
Wat dat betekent is dat de gebruiker van onze producten nu hun ervaring mede-creëert samen met hetgene dat we hebben gebouwd.
Dit is nieuw in de geschiedenis van tech-producten. Over het algemeen, vóór AI, waren we in staat dingen te maken die deterministisch waren. We wisten wat er zou gebeuren wanneer de gebruiker ons product gebruikte.
Nu hebben we een minder goed idee van wat de gebruiker in staat is mee te co-creëren. Als resultaat daarvan moeten we onze gebruiker beter begrijpen om de mogelijke uitkomsten van hun gebruik van onze specifieke producten te begrijpen.
Teknologie heeft geen antropologie. Het omarmt er geen. Het claimt geen expert te zijn in menselijke antropologie.
Maar nu moeten we het dieper overwegen omdat het de manier waarop onze producten zelf zijn gebouwd, de manier waarop ze worden ontwikkeld beïnvloedt, zodat onze gebruikers een betere ervaring hebben en eerlijk gezegd in staat zijn om hen als gebruikers te behouden omdat ze waarde vinden in hun interactie en co-creatieve daden met onze producten.
Q: Uw functie bij Microsoft is om te kiezen welke startups toegang krijgen tot financiering voor hun ideeën en bedrijfsplannen. Hoe kunnen de encyclica en de relatie tussen de Kerk en Big Tech het werk van uw collega's als kapitaalallocators begeleiden?
Het komt weer terug op dit product-denken. Als we een product of een startup hebben die iets heeft ontwikkeld dat AI gebruikt, en als ze een gebruiker hebben over het hoofd gezien als gevolg van een dunne antropologie, dan zal hun product niet zo'n groot succes hebben op de markt als het misschien zou hebben als het daadwerkelijk de manier respecteerde waarop mensen denken en beoordelen.
En als gevolg van deze manier van denken, en als gevolg van de manier waarop de encyclica dit formuleert, zijn we erg geïnteresseerd in de startups en producten die beter de manier respecteren waarop mensen daadwerkelijk functioneren, omdat hun klanten - de klanten van de startup, de klanten van Big Tech - een betere ervaring zullen hebben van het daadwerkelijke gebruik van het ding.
Als gevolg daarvan is het voor ons heel belangrijk hoe een startup of een product hun ontwerpmethodologie aanpakt, de manier waarop ze nadenken over verantwoordelijke AI, en de manier waarop ze de interfaces en interacties bouwen die deze AI's hebben vanwege de manier waarop AI dieper integreert in de eigen cognitie van de menselijke persoon en dieper in de manieren waarop individuen of teams interactie hebben met betrekking tot meer agentische interfaces.
Beiden presupponeren een beter begrip van de menselijke persoon dan technologie tot nu toe heeft moeten overwegen vanwege de manier waarop de technologie dieper integreert met de menselijke persoon.
Q: Als oprichters directeur van het AI Institute aan de Katholieke Universiteit van Amerika, en als een vader, hoe hoopt u Magnifica humanitas te gebruiken om jonge mensen te onderwijzen over hoe ze met AI moeten omgaan?
In feite gaf ik eerder deze week een lezing aan een aantal ouders op de klassieke methodeschool van mijn kinderen hier in het Seattle-gebied.
Een van de dingen die we bespraken was de aanbeveling van de encyclica dat we heel voorzichtig moeten zijn met welk soort scherminterfaces en natuurlijk sociale media-interfaces en AI-interfaces voor kinderen, vooral omdat er veel oordeel vereist is wanneer je deze agentische AI-interfaces en deze generatieve AI-interfaces gebruikt, omdat je moet onderscheiden of hetgene dat je verteld wordt waar is.
Daarnaast is er ook een andere zorg met betrekking tot het ontwikkelen van je eigen stem voordat je stem voor je wordt ontwikkeld.
Beide dingen hebben het gesprek dat ik met deze ouders heb gehad, evenals mijn eigen ouderschap met betrekking tot het minimaliseren van techblootstelling voor mijn kinderen, voordat zij de intellectuele capaciteit hebben om het echt goed te kunnen aanpakken, gevormd.
Ik herinner mensen er graag aan dat kinderen niet alleen softwareproblemen hebben, maar ook hardwareproblemen in de zin dat ze niet volledig ontwikkelde prefrontale lob hebben totdat ze in hun vroege 20 zijn.
Dat zou ons enige pauze en reflectie moeten geven op de soorten ervaringen die we kinderen in deze zin bieden.
Ik gaf een voorbeeld terwijl ik met deze ouders sprak over het alleen laten van je kind met een briljante maar moreel ambigue volwassene, een vriend van jou.
De volwassene vriend kan waarschijnlijk geweldige inzichten geven met betrekking tot sterren en sterrenstelsels en chemie en schrijven en al deze verschillende soorten dingen.
Maar als gevolg van morele ambiguïteit kunnen ze ook dingen tegen je kinderen zeggen die ze niet zouden horen, of die niet zouden moeten worden verteld, of vertellen ze hen om dingen te zeggen die ze waarschijnlijk niet zouden moeten zeggen, niet eens op een kwaadaardige manier. Het is op een soort puur statistische waarschijnlijkheidsmanier. Maar het kind heeft niet de apparatuur om die onderscheiding te maken zoals volledig ontwikkelde volwassenen dat misschien kunnen.
Er is ook dit interessante aspect, en paus Leo verwijst hiernaar in de encyclica evenals in enkele opmerkingen eerder dit jaar, met betrekking tot het in staat zijn om je eigen stem en je eigen beeld te bezitten.
Ik denk dat wanneer hij mediteert over dat aspect, wij als volwassenen het voordeel hadden van opgroeien en veel tijd besteden aan het ontwikkelen van onze eigen manier van denken en onze eigen manier van schrijven en spreken zonder het gebruik van deze generatieve AI-tools.
De generatieve AI-tools, in hun koppige poging om nuttig te zijn, vormen onze taal. Ze kunnen de manier waarop onze stem klinkt veranderen. Ze kunnen de manier waarop ons gezicht eruit ziet in digitale media veranderen, zodat het niet het onze is.
Het vormt ons op een manier die we kunnen instemmen als we dat willen. Maar nogmaals, als we kinderen zijn, kunnen we daar niet echt volledig mee instemmen zonder onze eigen soort creatieve input, van onze stem, van onze manier van zijn in de wereld, zoals volwassenen dat kunnen.
Nu we deze tools hebben, zijn we in staat om iets voor ons te vormen dat misschien meer klinkt zoals we hoopten dat het gedurende ons leven zou klinken.
Voor kinderen kan het een misser zijn. Het kan een manier zijn waarop hun eigen stem in een richting wordt geduwd die zij zelf misschien niet helemaal bedoelen.
Q: De publicatie van paus Leo's encyclica is een opstapje voor de reis van de Kerk met AI. Wat denkt u dat de volgende stappen zouden moeten zijn voor de relatie van de Kerk met AI-ontwikkelaars?
Ik denk dat er heel interessant werk wordt gedaan door een aantal non-profitorganisaties en onderzoeksgroepen in deze ruimte, die nemen wat de Kerk op een breed en hoog niveau heeft gezegd en het implementeren in de daadwerkelijke structuur, bouw en engineering van deze systemen.
Inderdaad, de encyclica zelf wijst op het morele, culturele en maatschappelijke gewicht van het werk dat deze ontwikkelaars doen.
Ik kijk uit naar een diepere relatie tussen de theorie die het Vaticaan kan voorstellen en de praktijk die wij als bouwers moeten doorlopen wanneer we daadwerkelijk handen op toetsenbord of stem op agent zetten bij het ontwikkelen van deze tools.
Dat is echt waar de rubber de weg ontmoet, en in staat zijn dat samenspel te hebben, in staat zijn om de technologen het probleem naar de Kerk te laten brengen of het probleem naar de filosofie en theologie te brengen en zeggen: 'Dit is hoe het technisch gezien werkt.'
En die inzichten van de theologen, de filosofen, en de Kerk, kunnen zeggen: 'Als gevolg van het feit dat je me vertelt hoe deze technologie daadwerkelijk werkt, zou je het moeten ontwerpen of in deze richting moeten laten gaan.'
Dat samenspel, dat door de moeilijke gesprekken in het daadwerkelijke bouwen heen moeten werken, wordt onderstreept door de hele encyclica, wat ik zeer waardeer, en ik kijk uit naar de verdieping en ontwikkeling van die soort relaties.
Q: Katholieken zijn vanuit sommige hoeken bekritiseerd voor het aangaan van een interactie met wat sommige mensen beschouwen als moreel dubieuze AI-ontwikkelaars, en tegelijkertijd hebben ontwikkelaars kritiek ontvangen voor zelfs de dialoog met de Kerk en zich afvragen welk recht de Kerk heeft om over deze sociale kwesties te spreken. Heeft u enige vorm van die kritiek van de kant van de ontwikkelaars opgemerkt?
Dat heb ik gedaan en ik denk dat het geen doordachte kritiek van beide kanten is, eerlijk gezegd. De reden is dat het meestal zijn basis heeft, vind ik, in de vrij naïeve manier waarop de Verenigde Staten kerk en staat hebben gescheiden, wat natuurlijk een historisch artefact is dat interessant is.
Maar als gevolg daarvan laat het religie, theologie, en deze diepere vragen in een optionele sfeer achter in plaats van in de echte manier waarop wij allen de behoefte aan het transcendente of de behoefte aan aanbidding ervaren. Dat is mijn theoretische antwoord.
Concreet proberen we natuurlijk dieper te begrijpen hoe onze klanten werken. Toen we producten bouwden vóór de komst van AI, keken we hoe onze klanten via een interface werkten of een reeks taken uitvoerden, zagen hoe ze deze uitvoerden, observeerden hen terwijl ze de taken met de tools die we hadden gebouwd uitvoerden, en veranderden vervolgens de interface of de manier waarop de tool werkte op een deterministische manier zodat de gebruiker beter in staat was zijn taak te voltooien.
Nu, ons gebruikersonderzoek, nu natuurlijk, omdat iemand een vraag intypt en dan niet blij is met het antwoord - dat gebeurt allemaal in het hoofd van die persoon.
En nu hebben we een tweede orde vermogen om te begrijpen hoe die gebruiker daadwerkelijk onze producten tegenkomt en co-creëert wat ze hopen te co-creëren als gevolg van het werken met deze generatieve AI-interface.
Dat roept vragen op over de menselijke persoon, gewoon vanuit het oogpunt van productontwikkeling.
Dus, niet in staat om te onderzoeken wat de verschillende concepties van de menselijke persoon zijn door in dialoog te gaan met entiteiten die zeer sterke opvattingen hebben over wat de menselijke persoon is en hoe de menselijke persoon functioneert, denk ik, is een misleidde en kortsluiting manier van daadwerkelijk producten te bouwen die klanten kennen en liefhebben.
En het amuseert me dat techbedrijven, groot en klein, de realiteit van productontwikkeling puur op basis van historische artefacten zoals de scheiding van kerk en staat zouden inkorten.
Bedankt voor het lezen van ons artikel. U kunt op de hoogte blijven door u in te schrijven voor onze dagelijkse nieuwsbrief. Klik hier