Het analyseren van de impact van AI op media, gemeenschappen en ongelijkheden

Door Isabella H. de Carvalho

Een paar dagen voor de publicatie van de eerste encycliek van paus Leo XIV, Magnifica humanitas, over het behouden van de menselijke persoon in het tijdperk van kunstmatige intelligentie, verzamelde de Dicasterie voor Communicatie van het Vaticaan internationale academici, technologie-experts, journalisten en meer om op dit onderwerp te reflecteren en te discussiëren.

Het thema van de internationale conferentie, “Het Behouden van Menselijke Stemmen en Gezichten”, weerspiegelt de boodschap van paus Leo voor de 60e Werelddag van de Sociale Communicatie (gevierd op zondag 17 mei) en richt zich op de impact van AI op het leven van individuen, gemeenschappen en naties.

Het evenement vond plaats op 21 mei aan de Pauselijke Urbaniana Universiteit in Rome en werd georganiseerd in samenwerking met de Dicasterie voor Cultuur en Onderwijs van het Vaticaan en de John XXIII Foundation.

Wat betekent behouden vandaag de dag

“Behouden” is een woord dat ons uitdaagt, het betekent “zorgen voor iemand met liefde en verantwoordelijkheid,” zei Paolo Ruffini, prefect van de Dicasterie voor Communicatie, in zijn inleidende opmerkingen.

“Het grootste gevaar,” vervolgde hij, “ligt in het passief accepteren van het idee dat kennis niet langer van ons is; en dat iets wat wij zelf hebben gebouwd-algoritmen, platforms of geautomatiseerde systemen-dan kan worden toevertrouwd met het denken voor ons, met het volledig programmeren van ons leven en zelfs de manier waarop we met anderen communiceren.”

Paolo Ruffini en kardinaal Tolentino de Mendonça tijdens de conferentie

Kardinaal José Tolentino de Mendonça, prefect van de Dicasterie voor Cultuur en Onderwijs, benadrukte in zijn inleiding hoe het thema “het behouden van menselijke stemmen en gezichten” “een programma – inderdaad, een geloofsbelijdenis in de mensheid – is in een tijd waarin de grenzen tussen werkelijkheid en simulatie steeds vager worden.”

“Menselijke wezens kunnen nooit worden gereduceerd tot een statistic, een profiel of een algoritme. Wat menselijk is, is altijd iets meer, een mysterie, een roep,” zei hij.

De kardinaal benadrukte dat “behoud niet gaat om iets op te sluiten in een vitrine,” maar eerder om “het beschermen van wat fragiel is, zodat het kan blijven bloeien,” zoals menselijke stemmen en gezichten die kunnen worden “gecloned, gemanipuleerd, en het zwijgen opgelegd,” maar ook “herboren kunnen worden in elke oprechte ontmoeting.”

De impact van AI op journalistiek, samenleving en gemeenschap

De ochtendzittingen stonden in het teken van het onderwerp “Te zijn of niet te zijn: relaties en realiteit simuleren,” met het eerste panel dat reflecteerde op de impact van AI op journalistiek, samenleving en gemeenschap.

Marijana Grbeša Zenzerović, professor aan de Universiteit van Zagreb en vicevoorzitter van de Commissie van Experts voor Online Veiligheid en Empowerment van Inhoudsproducenten en Gebruikers (MSI-eSEC) bij de Raad van Europa, benadrukte hoe kunstmatige intelligentie de journalistiek, hoe mensen hun nieuws consumeren, en politieke communicatie heeft ontwricht, door fenomenen zoals desinformatie, woedepolitiek of andere.

Ze merkte op hoe we ons al in wat jaren geleden leek op het “donkerste scenario”, bevinden, aangezien mensen niemand of niets meer vertrouwen, maar ze voegde toe dat ze gelooft dat de enige oplossing ligt in de drie pijlers die zijn geïdentificeerd in de boodschap van paus Leo XIV voor de Werelddag van de Sociale Communicatie, namelijk onderwijs, verantwoordelijkheid en samenwerking.

Eli Pariser – medeoprichter en mede-directeur van New_Public, een non-profitorganisatie die zich richt op het creëren van digitale publieke ruimtes waar mensen kunnen floreren, gedijen en verbinding maken – drong in zijn toespraak aan op het feit dat “er vandaag een andere weg voor ons beschikbaar is” als het gaat om AI, omdat het “kan worden ontworpen om parasitair of pro-sociaal te zijn.”

“We hebben een positieve visie op menselijke socialiteit nodig die co-existeert en wordt ondersteund door een wereld met krachtige AI,” zei hij. Hij benadrukte dat dit idee beleidsmakers vanuit het hele politieke spectrum kan samenbrengen, evenals religieuze instellingen en andere actoren.

Vervolgens deelde Kashmir Hill, een technologieverslaggever voor The New York Times, hoe zij door haar verslaggeving heeft gezien hoe veel mensen het contact met de werkelijkheid hebben verloren door relaties te onderhouden met AI-chatbots. Ze benadrukte echter dat de risico’s die gepaard gaan met het niet kunnen onderscheiden van wat echt of waar is, zich uitstrekken tot alle gebruikers van deze systemen.

Tot slot deelde Vineet Khosla, Chief Technology Officer van The Washington Post, hoe zij proberen “ambitieuze journalistiek” te doen door AI-tools te creëren die hun verslaggevers kunnen ondersteunen en hun werk kunnen verbeteren. Dit betekent dat bepaalde taken worden verlegd of dat lezers helpen om betrouwbare informatie te vinden die door het mediabureau is geproduceerd.

“Er is al een generatie gebruikers die naar AI gaat voor nieuws,” zei hij. “We willen daar zijn waar onze volgende generatie nieuwsconsumenten al zijn en hen laten zien dat er een juiste manier is” om nieuws te consumeren.

De sprekers tijdens de conferentie (@Fatima Mesaud Barreras)

Versterken AI-modellen sociale ongelijkheden en onrechtvaardigheden?

Het tweede panel van de ochtend reflecteerde in plaats daarvan op de vraag of AI-modellen sociale ongelijkheden en onrechtvaardigheden versterken. Paola Ricaurte Quijano, professor aan de afdeling Media en Digitale Cultuur aan Tecnológico de Monterrey (Mexico), legde uit “hoe het dominante model van AI-ontwikkeling structurele geweld en ongelijkheid op macro-, meso- en microniveau reproduceert,” wat gemeenschappen en landen aan de rand onevenredig beïnvloedt.

Ze merkte bijvoorbeeld op hoe een AI-chatbot niet iets in Mixe – een inheemse taal die in Mexico door meer dan 100.000 mensen wordt gesproken – kon schrijven toen daarom werd gevraagd, dus “een millenniumlange taal, kennis en gemeenschap die niet bestond voor dit systeem.”

“Wie wordt benadeeld door AI, hoe, en wiens levens, lichamen, gezichten, stemmen en kennis tellen?,” vroeg ze.

De sprekers tijdens de conferentie (@Fatima Mesaud Barreras)

Benjamin Rosman, professor in Computerwetenschappen en Toegepaste Wiskunde en directeur van het MIND Institute aan de Universiteit van Witwatersrand in Zuid-Afrika, benadrukte in plaats daarvan hoe de wereld momenteel een race meemaakt als het gaat om AI-ontwikkeling en dat de echte ongelijkheid voor hem niet ligt “in degenen die het hebben en degenen die het niet hebben,” maar eerder in degenen die de kans hebben om het te vormen.

Hij merkte op dat hij probeert om grassroots-initiatieven en -bewegingen in Afrika op te bouwen in verschillende landen die mensen kunnen betrekken en hen kunnen laten deelnemen aan het wereldwijde gesprek over AI.

“Als de toekomst van communicatie, vertrouwen en gesimuleerde relaties alleen wordt gevormd door een handvol bedrijven, landen en wereldbeelden, dan zal het resultaat de rijkdom van de mensheid niet weerspiegelen,” zei hij.

Tot slot onderstreepte Joy Buolamwini, oprichter van de Algorithmic Justice League en activist en dichter, de ontberingen van de “excoded,” een term die ze gebruikt om “diegenen die de nachtmerries van AI-discriminatie en exploitatie leven” te definiëren.

Dit varieert van kunstenaars wiens werken worden gestolen, tot mensen die worden gedood door militaire systemen die AI gebruiken om doelen te identificeren, tot degenen die verkeerd worden geïdentificeerd via AI-identificatie.

“Het is nog niet te laat om AI te ontmaskeren en te beschermen wat menselijk is in een wereld van machines,” zei ze.

Bedankt voor het lezen van ons artikel. U kunt op de hoogte blijven door u in te schrijven voor onze dagelijkse nieuwsbrief. Klik hier