De Autoriteit Persoonsgegevens (AP) heeft haar visie op generatieve kunstmatige intelligentie (AI) gepubliceerd en waarschuwt dat deze technologie zonder duidelijke waarden en kaders kan uitmonden in een Wilde Westen-scenario waarin maatschappelijke gevaren ongereguleerd de vrije loop krijgen. Tegelijkertijd benadrukt de privacytoezichthouder de kansen van generatieve AI en roept zij op tot een verantwoorde koers waarbij grondrechten en publieke waarden centraal staan.
In de nieuwe AP-visie, getiteld Verantwoord vooruit, schetst de toezichthouder een breed perspectief op generatieve AI: de technologie biedt aanzienlijke mogelijkheden maar brengt ook complexe uitdagingen met zich mee, zowel voor privacy als voor democratische processen en digitale autonomie. Volgens de AP groeien de toepassingen van generatieve AI razendsnel, mede door de verspreiding van apps en diensten voortgebracht door grote technologiebedrijven, wat de Europese afhankelijkheid vergroot en de digitale autonomie onder druk zet.
De AP benadrukt dat generatieve AI steeds vaker onderdeel wordt van het dagelijks leven, met een groot deel van de bevolking dat AI-programma’s zoals ChatGPT gebruikt. Dit maakt de impact van de technologie direct voelbaar, maar verhoogt ook de kans op ongewenste effecten zoals misleidende output of onzorgvuldig gebruik zonder adequate governance.
Een centraal thema in de AP-visie is het voorkomen van onwenselijke toekomstscenario’s. Het ‘Wilde Westen’-scenario beschrijft een situatie waarin generatieve AI zonder heldere regels of gezamenlijke waarden wordt ingezet, wat kan leiden tot risico’s voor grondrechten en het vertrouwen in digitale systemen. Een ander risico is dat Europese innovatie stagneert door ondoorzichtige of te complexe regelgeving, terwijl een overdreven voorzichtigheid innovatie juist belemmert. Om deze valkuilen te vermijden pleit de AP voor een koers die zowel innovatie als bescherming van publieke waarden mogelijk maakt.
De AP onderstreept dat generatieve AI in lijn moet zijn met de Algemene verordening gegevensbescherming (AVG) en de aankomende AI-verordening, en dat modellen rechtmatig getraind en ingezet moeten worden. Hierbij zijn transparantie, risicobeheersing en respect voor grondrechten cruciaal. In Verantwoord vooruit worden verschillende toekomstscenario’s verkend en wordt gepleit voor een scenario dat de inzet van AI koppelt aan democratische sturing, digitale autonomie en maatschappelijk vertrouwen.
De consultatieversie van de AP-visie nodigt organisaties, experts en andere belanghebbenden uit om feedback te leveren op de voorstellen en de bijbehorende voorlopige AVG-randvoorwaarden voor generatieve AI. De input zal worden verwerkt in de definitieve documenten die richting moeten geven aan de verantwoorde ontwikkeling en toepassing van generatieve AI in Nederland en daarbuiten.
De bij dit artikel gebruikte afbeelding(en) is/zijn digitaal gegenereerd met behulp van kunstmatige intelligentie en vertegenwoordigen geen daadwerkelijk gefotografeerde situatie(s).
