Generatieve AI-systemen zoals ChatGPT, Gemini en andere grote taalmodellen zijn volgens Amnesty International niet alleen een technologische revolutie, maar brengen ook fundamentele risico's met zich mee voor privacy, gelijke behandeling en de vrijheid van meningsuiting. In het rapport Unlawful by Design concludeert de mensenrechtenorganisatie dat de manier waarop veel grote AI-systemen worden ontwikkeld en getraind op gespannen voet staat met internationale mensenrechtennormen. Volgens Amnesty zijn vooral grootschalige, algemene AI-modellen problematisch en zouden deze in hun huidige vorm zelfs verboden moeten worden.
Het rapport zorgt wereldwijd voor discussie. Voorstanders van AI wijzen op de enorme mogelijkheden van de technologie, terwijl critici waarschuwen voor de maatschappelijke gevolgen van systemen die zijn getraind met gigantische hoeveelheden gegevens waarvan de herkomst lang niet altijd duidelijk is.
Privacy onder druk
Volgens Amnesty begint het probleem al bij de manier waarop grote AI-modellen worden ontwikkeld. Om systemen als ChatGPT, Gemini, Claude en Meta AI te trainen zijn enorme hoeveelheden data nodig. Die gegevens zijn afkomstig uit uiteenlopende bronnen, waaronder websites, openbare documenten, sociale media en gebruikersinteracties.
Wanneer gebruikers vragen stellen aan AI-systemen, kunnen die gesprekken – afhankelijk van de instellingen en voorwaarden – worden gebruikt om modellen verder te verbeteren. OpenAI gebruikt bijvoorbeeld feedback en interacties om ChatGPT verder te verfijnen. Google verzamelt onder meer gebruiksinformatie en feedback om Gemini te verbeteren. Meta maakt gebruik van gegevens afkomstig van Facebook, Instagram en Messenger om zijn AI-systemen verder te ontwikkelen.
Daarnaast worden via geautomatiseerde webcrawlers grote hoeveelheden online informatie verzameld. Daarbij kunnen ook persoonsgegevens worden meegenomen, terwijl betrokkenen zich daar vaak niet van bewust zijn en hiervoor geen expliciete toestemming hebben gegeven.
Volgens Amnesty staat deze werkwijze op gespannen voet met het recht op privacy en de uitgangspunten van gegevensbescherming.
Kunnen trainingsdata terugkomen in antwoorden?
Een tweede punt van zorg is dat gegevens uit trainingssets soms onbedoeld weer zichtbaar kunnen worden. Het rapport verwijst naar een kwetsbaarheid die eind 2023 door onderzoekers werd ontdekt. Door ChatGPT herhaaldelijk dezelfde opdracht te geven, konden delen van trainingsdata worden blootgelegd. Daarbij kwamen grote hoeveelheden tekstfragmenten naar voren die niet bedoeld waren om zichtbaar te zijn.
Hoewel dergelijke kwetsbaarheden inmiddels zijn aangepakt, laat het volgens Amnesty zien dat absolute garanties moeilijk te geven zijn wanneer AI-systemen zijn getraind met enorme hoeveelheden gegevens.
Privacyorganisaties wijzen daarom al langer op het belang van transparantie over gebruikte datasets en op betere mogelijkheden voor burgers om verwijdering van gegevens af te dwingen.
Vooroordelen verdwijnen niet automatisch
Dat AI-systemen vooroordelen kunnen overnemen uit hun trainingsdata is al jaren bekend. Amnesty besteedt in het rapport uitgebreid aandacht aan dit probleem. Zo bleek uit Australisch onderzoek dat DALL-E bij het genereren van afbeeldingen van apothekers vooral mannen afbeeldde, terwijl in werkelijkheid veel apothekers vrouw zijn. Andere onderzoeken lieten zien dat bepaalde beeldmodellen het begrip "Afrika" vooral associëren met armoede en donkere huidskleuren.
Wetenschapper Abeba Birhane heeft eerder aangetoond dat grotere datasets niet automatisch leiden tot eerlijkere modellen. Integendeel: naarmate datasets groter worden, groeit ook de hoeveelheid discriminerende, beledigende of haatdragende inhoud die in de trainingsgegevens aanwezig is.
Daardoor kunnen stereotypen onbedoeld worden versterkt.
Vrijheid van meningsuiting
Volgens Amnesty beperkt de problematiek zich niet tot privacy en discriminatie. Steeds meer sociale media gebruiken AI-systemen om berichten te beoordelen en te modereren. Zulke systemen zijn vaak voornamelijk getraind op Engelstalige gegevens en begrijpen nuances in andere talen of culturele contexten niet altijd goed.
Daardoor bestaat het risico dat legitieme uitingen ten onrechte worden verwijderd of gemarkeerd als ongewenst. Ironie, humor, dialecten en culturele verschillen kunnen immers lastig zijn voor een algoritme.
Amnesty waarschuwt dat geautomatiseerde moderatie uiteindelijk gevolgen kan hebben voor de vrijheid van meningsuiting.
Een opmerkelijke conclusie: verbied generatieve AI
De conclusie van Amnesty International is opvallend scherp. Volgens de organisatie zijn grote, algemene AI-modellen fundamenteel problematisch omdat zij afhankelijk zijn van grootschalige dataverzameling. Daarom pleit Amnesty ervoor om dergelijke systemen in hun huidige vorm niet toe te staan.
Kleinere, gespecialiseerde AI-systemen vormen volgens de organisatie een uitzondering. AI-toepassingen die binnen een specifiek vakgebied worden gebruikt en die niet afhankelijk zijn van het massaal verzamelen van gegevens, zouden wel verantwoord kunnen worden ingezet.
Niet iedereen deelt die conclusie
De oproep tot een verbod is omstreden. Veel wetenschappers, bedrijven en overheden erkennen de risico's van generatieve AI, maar vinden een totaalverbod onrealistisch of onwenselijk. Zij wijzen erop dat AI ook belangrijke voordelen biedt, bijvoorbeeld op het gebied van gezondheidszorg, onderwijs, wetenschappelijk onderzoek, toegankelijkheid en productiviteit.
In Europa is inmiddels de AI Act aangenomen, die eisen stelt aan transparantie, veiligheid en verantwoord gebruik van kunstmatige intelligentie. Ook grote technologiebedrijven investeren fors in methoden om vooroordelen te verminderen, de veiligheid te verbeteren en gebruikers meer controle te geven over hun gegevens.
Daarnaast worden technieken ontwikkeld waarbij modellen met minder data kunnen worden getraind of waarbij gevoelige informatie beter wordt afgeschermd.
Een bredere maatschappelijke discussie
Het rapport van Amnesty raakt aan een fundamentele vraag: hoe ver willen we gaan met kunstmatige intelligentie? De afgelopen jaren hebben AI-systemen zich razendsnel ontwikkeld. Waar generatieve AI in 2022 nog een relatief nieuwe technologie was, maken inmiddels honderden miljoenen mensen gebruik van chatbots, beeldgeneratoren en AI-assistenten.
Dat roept nieuwe vragen op over privacy, auteursrechten, transparantie en menselijke autonomie.
Veel deskundigen verwachten dat de komende jaren niet zozeer de technologie zelf centraal zal staan, maar vooral de manier waarop die technologie wordt gereguleerd en toegepast.
Wat betekent dit voor HCC-leden?
Voor HCC-leden is het belangrijk om zich bewust te zijn van de manier waarop AI-systemen werken en welke gegevens daarbij mogelijk worden gebruikt. Het blijft verstandig om terughoudend te zijn met het invoeren van gevoelige persoonsgegevens, vertrouwelijke documenten of bedrijfsinformatie in publieke AI-diensten.
Daarnaast is het goed om AI-uitkomsten kritisch te blijven beoordelen. Kunstmatige intelligentie is een krachtig hulpmiddel, maar geen onfeilbare bron. Vooroordelen, fouten en onvolledigheden kunnen nog steeds voorkomen.
Standpunt van HCC
HCC erkent dat generatieve AI nieuwe vragen oproept rond privacy, transparantie, discriminatie en de bescherming van fundamentele rechten. Deze zorgen verdienen serieuze aandacht en vragen om duidelijke regelgeving en verantwoord gebruik van AI-technologie.
Tegelijkertijd acht HCC een algemeen verbod op grote AI-systemen niet wenselijk. Kunstmatige intelligentie biedt immers ook grote kansen voor onderwijs, wetenschap, innovatie en de samenleving als geheel. De uitdaging ligt volgens HCC niet in het verbieden van AI, maar in het ontwikkelen en toepassen van betrouwbare, transparante en mensgerichte systemen waarbij de rechten en belangen van gebruikers centraal blijven staan.
De maatschappelijke discussie over kunstmatige intelligentie staat nog maar aan het begin. Juist daarom is het belangrijk dat gebruikers, ontwikkelaars, overheden en maatschappelijke organisaties met elkaar in gesprek blijven over de kansen én de risico's van deze snel ontwikkelende technologie.
