De Autoriteit Persoonsgegevens (AP) heeft nieuwe richtlijnen gepubliceerd om organisaties te helpen bij het waarborgen van betekenisvolle menselijke tussenkomst bij algoritmische besluitvorming. De handvatten moeten voorkomen dat mensen de dupe worden van oneerlijke of onzorgvuldige beslissingen die volledig door algoritmes of kunstmatige intelligentie (AI) worden genomen.
Organisaties gebruiken algoritmes steeds vaker voor belangrijke beslissingen, zoals het beoordelen van sollicitaties of het toekennen van kredieten. Volgens de Algemene Verordening Gegevensbescherming (AVG) hebben betrokkenen recht op menselijke tussenkomst als zulke besluiten aanzienlijke gevolgen voor hen hebben. Die tussenkomst moet echter meer zijn dan een formaliteit: ze moet daadwerkelijk invloed hebben op het besluit.
De AP benadrukt dat de inrichting van deze menselijke rol cruciaal is. Als medewerkers bijvoorbeeld onder tijdsdruk staan of moeten werken met onduidelijke systemen, kan dit afbreuk doen aan de kwaliteit van hun beoordeling en dus aan de zorgvuldigheid van het besluit. Daarom biedt het nieuwe document van de AP concrete voorbeelden, praktische vragen en aandachtspunten op het gebied van mens, technologie, proces en governance.
De handvatten zijn tot stand gekomen na een openbare consultatie, waarbij uiteenlopende partijen hun visie gaven, waaronder overheden, brancheorganisaties, bedrijven en wetenschappers. De AP heeft de ontvangen reacties anoniem gebundeld en gebruikt om het document beter te laten aansluiten op de praktijk.
Het doel van het document is organisaties op een toegankelijke manier te helpen bij het voorkomen van uitsluitend geautomatiseerde besluitvorming, zoals bedoeld in artikel 22 van de AVG. Zodra er sprake is van betekenisvolle menselijke tussenkomst, valt een besluit niet langer onder deze bepaling. Wel merkt de AP op dat het document zich specifiek richt op de invulling van deze tussenkomst en geen antwoord biedt op andere complexe begrippen uit de wet, zoals wat precies een ‘besluit’ is of wanneer iemand ‘in aanmerkelijke mate’ wordt getroffen.
Later dit jaar wil de AP ook praktische uitleg geven over deze aanvullende kernbegrippen uit de AVG, om zo organisaties verder te ondersteunen bij het verantwoord gebruik van algoritmes en AI.
