Disclaimer: Vertaling met AI. Kan onregelmatigheden bevatten.
Franciscaner broeder Paolo Benanti is voorzitter van de Italiaanse Commissie voor Kunstmatige Intelligentie. / Crediet: Courtesy of Paul VI Foundation/Screenshot
Madrid, Spanje, 17 jan 2025 / 07:00 uur (CNA).
Franciscaner broeder Paolo Benanti, een expert in kunstmatige intelligentie (AI), waarschuwde voor de ethische risico’s tijdens een colloquium georganiseerd door de Paul VI Foundation in Madrid, en wees erop dat “de mensen die dit type technologie beheersen de realiteit beheersen.”
De Italiaanse priester, voorzitter van de Italiaanse Commissie voor Kunstmatige Intelligentie van de regering, benadrukte dat “de realiteit waarmee we geconfronteerd worden anders is dan die van 10 of 15 jaar geleden en het is een realiteit die wordt gedefinieerd door software.”
“Dit startpunt heeft invloed op de manier waarop we de drie klassieke rechten uitoefenen die verbonden zijn met het eigendom van een zaak: gebruik, misbruik en vruchtgebruik,” legde hij uit. (Het Cambridge Dictionary definieert vruchtgebruik als “het juridische recht om de eigendom van iemand anders tijdelijk te gebruiken en om houden van de winst die daarop wordt gemaakt.”)
Dit is vooral waar als het gaat om vruchtgebruik, omdat “de waarden die je produceert met het gebruik van deze apparaten niet van jou zijn maar naar de cloud gaan,” merkte Benanti op.
“Dus wie zijn degenen die niet het vruchtgebruik van dingen hebben? De slaven,” legde hij uit.
Daarom moedigde hij aan tot reflectie over wat het betekent om te leven in een realiteit die door software wordt gedefinieerd. “We moeten een ethische benadering van technologie hebben” en in het bijzonder van diegenen die verbonden zijn met kunstmatige intelligentie, zei hij, “omdat zij degene zijn die de realiteit van onze wereld vormen, en de mensen die dit type technologie beheersen, beheersen de realiteit.”
“We moeten erkennen dat we in een andere realiteit leven. Software is niet secundair, maar stelt vragen over wat realiteit is, wat eigendom is, wat de rechten zijn die we hebben,” zei de franciscaan.
Centralisatie en decentralisatie van macht
Tweede, legde de franciscaan uit hoe de ontwikkeling van computertechnologie na de Tweede Wereldoorlog verschillende processen heeft voortgebracht die verband houden met macht, democratie en privacy.
In de jaren zeventig vonden er decentralisatieprocessen plaats in de Verenigde Staten en Europa die jaren later leidden tot de creatie van persoonlijke computers die “iedereen toegang gaven tot heel eenvoudige dingen.”
In de jaren negentig, na de val van de Berlijnse Muur, was het idee dat een meer geliberaliseerde markt “zou leiden tot groter welzijn en het liberalen democratiemodel zou bevorderen in landen met andere modellen. Echter, dit beleid “maakte China rijker, maar niet democratischer,” vervolgde de AI-expert.
Zo kwamen de westerse democratische waarden in crisis toen men zich realiseerde dat “je rijk kunt zijn en welzijn kunt hebben zonder democratisch te zijn,” observeerde hij.
In de zogenaamde Arabische Lente van 2011 toonde het gebruik van mobiele telefoons “de kracht van persoonlijke computers.” Maar kort daarna begon deze kracht te worden betwijfeld: “Mobiele telefoons waren niet langer de bondgenoten van de democratie, maar de ergste bondgenoot van nepnieuws, polarisatie, post-waarheid, en al dat soort dingen,” merkte Benanti op.
Met de komst van de COVID-19-pandemie en de lockdowns, “waren we in staat om ons leven aan te passen dankzij de kracht van onze persoonlijke computers” door middel van video-oproepen of de ontwikkeling van applicaties voor bankbetalingen onder andere nuttige hulpmiddelen om dingen in persoon te vervangen.
“We realiseerden ons dat, stilletjes, van 2012 tot 2020, de smartphone de realiteit had overgenomen en nu dingen die in de realiteit gebeurden direct op de telefoon gebeurden,” herinnerde hij zich.
Het risico voor de democratie in het computertijdperk
Tijdens het tweede decennium van de 21ste eeuw hebben “we kunstmatige intelligentie binnen de smartphone” en, volgens Benanti, verandert de klassieke liberale democratie in “een op computers gebaseerde democratie.”
In deze, “gebruiken we kunstmatige intelligentie om de mogelijkheid van een persoon om de computer op zijn eigen te gebruiken weg te nemen en het naar een gecentraliseerde plaats te brengen die we een datacenter noemen” op een manier die een nieuwe ethische uitdaging met zich meebrengt: “Nu zijn alle processen weer gecentraliseerd in de cloud.”
De expert benadrukte dat deze “clouds” of datacenters “behoren tot vijf bedrijven” die “alle gegevens” bezitten, wat niet alleen een persoonlijke uitdaging maar ook een uitdaging “voor democratische processen” vertegenwoordigt.
Wat betreft deze uitdagingen legde de priester uit hoe kunstmatige intelligentie ook een bedreiging kan vormen voor de vrijheid van mensen door haar vermogen om voorspellingen over gedrag te doen.
“De suggestie die je wellicht interesseert, is niet alleen het voorspellen van wat je kunt kopen, maar het produceert ook de dingen die je gaat kopen,” vatte hij samen.
Deze mogelijkheid vormt “een echt probleem” omdat het bestaan van dit type systeem in onze zakken “in staat is om de vrijheid van openbare ruimtes te dwingen en vorm te geven.”
Dit soort vragen over de zwakheden, kansen, sterktepunten en bedreigingen van kunstmatige intelligentie vormen de reden waarom “we governance over deze soorten innovaties zouden moeten hebben.”
Wat betreft de toekomst voorspelde Benanti dat kunstmatige intelligentie een grote impact zal hebben op de toegang tot informatie, geneeskunde en de arbeidsmarkt. Wat betreft het laatste, merkte hij op: “Als we de impact die kunstmatige intelligentie op de arbeidsmarkt kan hebben niet reguleren, kunnen we de samenleving zoals we die nu kennen vernietigen.”
Dit verhaal werd voor het eerst gepubliceerd door ACI Prensa, de Spaanstalige nieuwspartner van CNA. Het is vertaald en aangepast door CNA.
