Het gebruik van kunstmatige intelligentie (AI) om menselijke emoties te herkennen neemt toe, maar is volgens de Autoriteit Persoonsgegevens zowel wetenschappelijk als ethisch omstreden. De toezichthouder waarschuwt voor de risico’s van dergelijke technologieën en roept op tot uiterste voorzichtigheid bij het inzetten van emotieherkenning met AI.
Organisaties passen AI steeds vaker toe om emoties te analyseren via gezichtsuitdrukkingen, stemgeluid of hartslag. Denk aan klantenservices die met behulp van stemanalyse de emotionele toestand van bellers proberen in te schatten, smartwatches die stress signaleren of chatbots die empathisch reageren op basis van geanalyseerde emoties. Zulke toepassingen worden onder meer ingezet in marketing, klantcontact, de zorg en zelfs in de openbare ruimte.
De Autoriteit Persoonsgegevens (AP) stelt dat veel AI-systemen gebaseerd zijn op twijfelachtige aannames: dat emoties universeel zijn en objectief meetbaar via biometrische gegevens. “Het idee dat een emotie door iedereen op dezelfde manier wordt ervaren, klopt niet”, zegt AP-voorzitter Aleid Wolfsen. “Een hoge hartslag is immers niet altijd een teken van angst, en een harde stem niet altijd een uitdrukking van woede.” Volgens Wolfsen spelen cultuur, leeftijd en persoonlijke verschillen hierbij een grote rol.
Ook de betrouwbaarheid van deze systemen is vaak onduidelijk. Hoe de technologie precies werkt, welke data wordt gebruikt en of mensen weten dat hun emoties worden geanalyseerd, blijft in veel gevallen ondoorzichtig. Volgens de AP kan dit leiden tot ongewenste gevolgen zoals discriminatie en het ondermijnen van de menselijke autonomie en waardigheid.
Bepaalde vormen van emotieherkenning, zoals via stemanalyse, zullen onder de nieuwe Europese AI-verordening als risicovol worden aangemerkt. In sectoren zoals onderwijs en werk zijn dergelijke toepassingen straks zelfs verboden. Daarnaast gelden nu al strenge regels vanuit de Algemene verordening gegevensbescherming (AVG).
Toch draait het volgens Wolfsen niet alleen om wetgeving. “Het is een ethisch vraagstuk of je als maatschappij het herkennen van emoties met AI toelaatbaar vindt”, stelt hij. “Daarvoor is een maatschappelijke en democratische afweging nodig: of je deze systemen wilt gebruiken en zo ja, in welke vorm en waarvoor.”
De AP benadrukt dat organisaties terughoudend moeten zijn met de inzet van emotieherkenning en dat transparantie, betrouwbaarheid en respect voor de menselijke waardigheid altijd voorop moeten staan.
