De overheid moet kritischer zijn op het gebruik van algoritmes. Ze moet meer aan de burger denken en niet alleen aan zijn eigen bedrijfsvoering. Dat stelt de Algemene Rekenkamer, die een aantal van die algoritmes onderzocht. Discriminatie ligt anders op de loer, zoals de toeslagenaffaire heeft aangetoond.
“Een algoritme is niet risicoloos. Verkeerd gebruik van een dataverzameling kan een discriminerende werking hebben als deze vooroordelen bevat. Ethische aspecten krijgen weinig aandacht.” De Algemene Rekenkamer verwijst met die uitspraak naar het Syri-systeem, dat de overheid hielp bij het verstrekken van uitkeringen, maar na een uitspraak door de rechter werd stopgezet. Maar ook in de toeslagenaffaire is duidelijk geworden dat nationaliteit een onderdeel was van de dataset in de speurtocht van de Belastingdienst naar mogelijke fraudeurs.
Regels en instructies
De overheid maakt voor zijn bedrijfsvoering steeds meer gebruik van algoritmes die de ambtenaren moeten helpen in de steeds digitalere samenleving. Grote hoeveelheden data kunnen zo snel gecombineerd en geanalyseerd worden. Een algoritme is echter nooit meer dan de set van regels en instructies die je erin stopt, maar dan moeten de opstellers daarvan zich wel aan de regels houden. En de Rekenkamer concludeert “dat bij vrijwel alle departementen een significante behoefte bij medewerkers bestaat naar meer eenduidigheid van te hanteren begrippen, richtlijnen en standaarden voor kwaliteit.”
Nu zijn het vooral nog eenvoudige algoritmes, stelt de Rekenkamer, en het uiteindelijke oordeel bij een beslissing is nog altijd aan de mens. Maar, zo zegt de adviseur van de overheid, we gaan naar een situatie toe waarin kunstmatige intelligentie alsmaar belangrijker wordt en de overheid dus ook steeds afhankelijker is van de computer. Bovendien kan de overheid afhankelijk worden van externe ICT-leveranciers. Des te belangrijker is het dat er betere protocollen komen en dat die ook worden gecontroleerd.
Toetsingskader
De Algemene Rekenkamer heeft nu een toetsingskader opgesteld, waarin algoritmes kunnen worden getest op sturing en verantwoording, model en data, privacy-waarborgen, de kwaliteit van de IT general controls (ITGC, zoals wie heeft toegang en hoe bijvoorbeeld met back-ups wordt omgegaan) en ethische vragen. Tot slot, zo zegt de Rekenkamer, moeten burgers meer inzicht krijgen in het gebruik en de werking van algoritmes. En zij moeten weten waar zij terecht kunnen met vragen of bezwaren. Het toetsingskader is deze week aan de Tweede Kamer aangeboden.
