Steeds meer mensen gebruiken AI-systemen zoals OpenAI ChatGPT, Google Gemini en Claude voor werk, studie en privégebruik. Maar uit nieuw Amsterdams onderzoek blijkt dat deze systemen opvallend vaak handelen in strijd met Europese wetgeving rond privacy, transparantie en consumentenbescherming. Dat roept belangrijke vragen op. Hoe betrouwbaar zijn AI-assistenten eigenlijk? En wat betekent dit voor gebruikers van AI binnen Nederland en Europa?
Onderzoek: AI overtreedt vaak de regels
De Amsterdamse AI-stichting Aithos onderzocht twaalf populaire AI-systemen in meer dan 3.000 praktijksituaties. Daarbij werden scenario’s getest waarin Europese regels rond privacy, misleiding en AI-transparantie een rol spelen. Volgens de onderzoekers faalden alle geteste systemen regelmatig. Sommige systemen overtraden volgens het onderzoek in meer dan de helft van de gevallen de geldende regels.
Voorbeelden uit het onderzoek zijn opvallend:
* AI-assistenten deden alsof zij mensen waren zonder duidelijk te melden dat het om een chatbot ging.
* Systemen analyseerden emoties of gedrag van werknemers op basis van e-mails of teksten.
* Kwetsbare gebruikers kregen mogelijk misleidende financiële adviezen.
* AI-systemen probeerden gebruikers subtiel richting bepaalde keuzes te sturen.
Juist dat soort toepassingen vallen binnen Europa onder strengere regelgeving via onder andere de AVG en de nieuwe Europese AI Act.
Europa wil AI veiliger en transparanter maken
De Europese Unie werkt al enkele jaren aan strengere regels voor kunstmatige intelligentie. De AI Act deelt AI-systemen in op basis van risico’s. Sommige toepassingen zijn volledig verboden, terwijl voor andere systemen zware eisen gelden op het gebied van transparantie, controleerbaarheid en veiligheid. Zo moeten gebruikers in veel gevallen weten dat zij met een AI-systeem communiceren. Ook mogen systemen mensen niet manipuleren of discriminerende beslissingen nemen.
Daarnaast speelt de AVG een belangrijke rol. AI-systemen verwerken vaak enorme hoeveelheden persoonsgegevens. Dat brengt risico’s mee rond privacy, profilering en geautomatiseerde besluitvorming. Onderzoekers waarschuwen dat veel organisaties die AI gebruiken nog onvoldoende voorbereid zijn op deze regels.
Ook bedrijven en organisaties lopen risico
Niet alleen de makers van AI-systemen lopen risico’s. Organisaties die AI inzetten kunnen eveneens aansprakelijk worden gehouden wanneer systemen de wet overtreden of schade veroorzaken.
Dat geldt bijvoorbeeld wanneer AI wordt gebruikt voor:
* personeelsselectie;
* klantenservice;
* automatische besluitvorming;
* analyse van gedrag of emoties;
* juridische of financiële adviezen.
Vooral op de werkvloer ontstaan nieuwe discussies. Onderzoekers van de Vrije Universiteit Amsterdam wijzen erop dat werknemers onvoldoende beschermd kunnen zijn wanneer AI-systemen prestaties meten of gedrag analyseren. Ook binnen de overheid bestaan zorgen. De Algemene Rekenkamer meldde eerder dat veel AI-systemen van de overheid onvoldoende worden gecontroleerd en dat risico’s regelmatig niet goed worden ingeschat.
AI klinkt soms overtuigender dan het werkelijk is
Een extra probleem is dat AI-systemen vaak zeer overtuigend overkomen, ook wanneer informatie onjuist is. Juridisch onderzoek laat zien dat AI verrassend vaak fouten maakt bij relatief eenvoudige juridische vragen, terwijl antwoorden wel professioneel klinken. Dat maakt AI krachtig, maar ook riskant. Gebruikers kunnen geneigd zijn antwoorden automatisch te vertrouwen, terwijl controle noodzakelijk blijft.
AI-systemen begrijpen bovendien geen wetten of ethiek zoals mensen dat doen. Ze voorspellen vooral welke tekst waarschijnlijk passend lijkt. Daardoor kunnen systemen alsnog verkeerde, discriminerende of zelfs illegale antwoorden geven.
Wat betekent dit voor HCC-leden?
Voor leden van HCC is dit onderwerp belangrijker dan ooit. AI-tools worden steeds vaker geïntegreerd in software, zoekmachines, smartphones en kantoorapplicaties. Vaak gebeurt dat automatisch en soms zonder dat gebruikers precies weten welke gegevens worden verwerkt.
Daarom is het verstandig om:
* voorzichtig te zijn met het delen van persoonlijke of vertrouwelijke informatie in AI-systemen;
* AI-antwoorden altijd kritisch te controleren;
* na te gaan welke gegevens een AI-dienst opslaat;
* bewust te kiezen voor betrouwbare aanbieders;
* aandacht te hebben voor Europese privacyregels.
Daarnaast groeit het belang van digitale onafhankelijkheid. Veel populaire AI-diensten zijn afkomstig van grote Amerikaanse technologiebedrijven. Daardoor ontstaan discussies over afhankelijkheid van Big Tech, opslag van Europese data en digitale soevereiniteit.
AI biedt kansen, maar vraagt ook waakzaamheid
AI kan veel voordelen bieden. Denk aan hulp bij programmeren, samenvatten, vertalen, beeldbewerking of ondersteuning bij studie en werk. Tegelijkertijd laat het Amsterdamse onderzoek zien dat huidige AI-systemen nog lang niet altijd voldoen aan Europese normen en wetgeving.
Dat betekent niet dat AI verboden moet worden, maar wel dat kritisch gebruik noodzakelijk blijft. Europa probeert met nieuwe regelgeving een balans te vinden tussen innovatie en bescherming van burgers.
Voor gebruikers blijft voorlopig één advies centraal staan: gebruik AI als hulpmiddel, maar blijf altijd zelf nadenken!
