Kunstmatige intelligentie ontwikkelt zich razendsnel. Nieuwe AI-systemen schrijven teksten, maken afbeeldingen, analyseren gegevens en nemen steeds vaker taken van mensen over. Voor veel bedrijven en organisaties biedt dat enorme kansen. Maar volgens paus Leo XIV schuilt er ook een groot gevaar in die ontwikkeling.
In zijn eerste encycliek, een belangrijke pauselijke rondzendbrief, trekt hij fel van leer tegen de manier waarop AI en technologische macht zich momenteel ontwikkelen.
De boodschap van de paus is opvallend actueel: technologie mag nooit belangrijker worden dan de mens zelf.
AI als nieuwe maatschappelijke revolutie
De encycliek, met de titel Magnifica Humanitas (“Prachtige menselijkheid”), telt ongeveer 40.000 woorden en richt zich nadrukkelijk niet alleen tot katholieken, maar tot “alle mensen van goede wil”. Dat alleen al maakt duidelijk dat de paus AI niet ziet als een puur technisch onderwerp, maar als een brede maatschappelijke kwestie.
Volgens Leo XIV staat de wereld aan het begin van een digitale revolutie die vergelijkbaar is met de industriële revolutie uit de negentiende eeuw. Toen veranderden machines de economie en de arbeidsmarkt ingrijpend. Nu gebeurt iets vergelijkbaars met kunstmatige intelligentie.
Daarbij ziet de paus meerdere risico’s:
* groeiende macht van een klein aantal technologiebedrijven;
* verlies van menselijke zelfstandigheid;
* algoritmes die gedrag sturen;
* toenemende digitale controle;
* autonome wapensystemen;
* moderne vormen van digitale uitbuiting.
Vooral dat laatste benoemt hij opvallend scherp. Volgens de paus draait AI momenteel deels op “onzichtbare arbeid”: mensen die onder slechte omstandigheden datasets controleren, content filteren of AI-systemen trainen. Daarnaast vreest hij dat AI de kloof tussen machtige technologiebedrijven en gewone burgers verder vergroot.
“AI moet ontwapend worden”
Een van de meest opvallende uitspraken uit de encycliek luidt: “AI moet ontwapend worden. Ontwapend van dominantie, exclusie en dood.”
Daarmee bedoelt de paus niet dat AI verboden moet worden, maar dat technologie nooit mag veranderen in een instrument waarmee mensen worden gecontroleerd, buitengesloten of zelfs bedreigd.
Bijzonder is ook dat hij expliciet waarschuwt voor autonome wapensystemen: systemen die zonder directe menselijke tussenkomst doelen kunnen selecteren en aanvallen. Dat onderwerp leeft momenteel sterk binnen internationale politiek en defensie, maar krijgt nu dus ook nadrukkelijk aandacht vanuit religieuze en ethische hoek.
Babel versus Jeruzalem
De encycliek gebruikt opvallend veel Bijbelse symboliek. Leo XIV vergelijkt de huidige digitale samenleving met twee Bijbelse beelden: Babel en Jeruzalem.
Babel staat volgens hem symbool voor centralisatie van macht, eenheidsdenken en menselijke hoogmoed. In het Bijbelverhaal van de Toren van Babel proberen mensen één groot centraal systeem te bouwen waarmee zij “tot in de hemel” willen reiken. De paus ziet daarin parallellen met de huidige technologische wereld:
* enorme gecentraliseerde platforms;
* mondiale technologiebedrijven;
* algoritmes die steeds meer gedrag sturen;
* systemen die uniformiteit afdwingen.
Daar tegenover plaatst hij Jeruzalem als beeld van gemeenschap, diversiteit en gedeelde verantwoordelijkheid. Die tegenstelling is opvallend herkenbaar in het huidige digitale tijdperk. Enerzijds zijn er enkele zeer grote technologiebedrijven die enorme invloed hebben op communicatie, informatie en zelfs politiek debat. Anderzijds groeit juist ook de behoefte aan open systemen, decentralisatie en meer controle over eigen gegevens.
Waarom dit onderwerp ook HCC raakt
Voor HCC is deze discussie bijzonder relevant. Technologie is immers al bijna vijftig jaar de kern van de vereniging. Tegelijkertijd ziet ook HCC dat digitalisering steeds vaker maatschappelijke, ethische en politieke gevolgen heeft.
Veel HCC-leden merken dagelijks hoe afhankelijk mensen zijn geworden van grote technologieplatforms:
* sociale media;
* cloudopslag;
* AI-diensten;
* smartphones;
* zoekmachines;
* advertentie-algoritmes.
Daarbij ontstaat steeds vaker discussie over:
* privacy;
* digitale onafhankelijkheid;
* manipulatie via algoritmes;
* gegevensverzameling;
* macht van Big Tech;
* digitale autonomie van Europa.
Juist daarom besteedt HCC de laatste tijd steeds vaker aandacht aan onderwerpen als:
* open source-software;
* Linux;
* Europese cloudinitiatieven;
* privacyvriendelijke diensten;
* Mastodon en het Fediverse;
* digitale soevereiniteit.
Recent maakte HCC zelfs bewust de overstap van X (voorheen Twitter) naar Mastodon. Dat gebeurde mede omdat veel leden behoefte hebben aan een opener en minder commercieel sociaal netwerk zonder dominante algoritmes en advertentieprofielen.
Technologie is niet “goed” of “slecht”
Tegelijkertijd is de boodschap van de paus niet anti-technologie. Dat is een belangrijk nuanceverschil. De encycliek erkent juist ook dat AI enorme positieve mogelijkheden biedt:
* medische vooruitgang;
* betere toegankelijkheid;
* efficiëntere communicatie;
* ondersteuning bij onderwijs;
* wetenschappelijke doorbraken.
De kernvraag is volgens Leo XIV vooral: wie houdt de controle?
Wordt AI ingezet om mensen sterker, zelfstandiger en beter geïnformeerd te maken? Of verandert technologie vooral in een systeem waarmee gedrag gestuurd en macht geconcentreerd wordt? Dat is uiteindelijk geen puur technische vraag, maar een maatschappelijke keuze.
Europa zoekt naar een eigen koers
Opvallend is dat de boodschap van de paus goed aansluit bij discussies die momenteel ook binnen Europa worden gevoerd. De Europese Unie probeert steeds nadrukkelijker regels op te stellen rond AI, privacy en digitale markten.
Met regelgeving zoals:
* de AI Act;
* de Digital Services Act;
* de Digital Markets Act;
* strengere privacyregels;
probeert Europa een tegenwicht te bieden aan de dominantie van grote technologiebedrijven.
Wat betekent dit voor HCC-leden?
Voor HCC-leden betekent deze ontwikkeling vooral dat digitale vaardigheden steeds belangrijker worden. Niet alleen technisch, maar ook maatschappelijk.
Belangrijke vragen worden:
* Welke AI-diensten gebruik je?
* Waar worden jouw gegevens opgeslagen?
* Hoe werken aanbevelingsalgoritmes?
* Welke invloed hebben sociale media op informatievoorziening?
* Hoe blijf je digitaal zelfstandig?
Juist daarom blijft HCC aandacht besteden aan kennisdeling, digitale bewustwording en alternatieven buiten de traditionele Big Tech-platforms. Want technologie kan enorm waardevol zijn — mits mensen zelf kritisch blijven nadenken en de menselijke maat centraal blijft staan.
En misschien is dat uiteindelijk precies de belangrijkste boodschap van paus Leo XIV: technologie moet de mens dienen, niet andersom.
