Offlimits en Fonds Slachtofferhulp hebben een kort geding aangespannen tegen de AI-chatbot Grok en het socialemediaplatform X van Elon Musk, vanwege de manier waarop de technologie wordt gebruikt om zonder toestemming persoonsafbeeldingen te manipuleren en seksualiseren. De eisers willen dat de rechter de omstreden functies meteen verbiedt en dreigen met een dwangsom van 100 000 euro per dag zolang Grok en X daar geen gehoor aan geven.
De bij dit artikel gebruikte foto is een stockfoto van Pixabay.com.
Offlimits en Fonds Slachtofferhulp hebben op 26 februari een dagvaarding ingediend bij de rechtbank in Amsterdam, waarin zij stellen dat via de AI-tool Grok dagelijks illegaal beeldmateriaal wordt gegenereerd en gedeeld. Volgens de organisaties kunnen gebruikers met ‘uitkleedapps’ en aanverwante functies van Grok realistische beelden maken waarin mensen, waaronder ook minderjarigen, zonder hun toestemming deels of volledig naakt lijken te zijn. Volgens hen kwalificeert dit materiaal in veel gevallen als seksueel misbruikmateriaal en is het genereren en verspreiden daarvan in strijd met de Nederlandse wetgeving.
De eisers vragen de rechter niet alleen om een direct verbod op de functionaliteiten waarmee personen kunnen worden ‘uitgekleed’ of sexualized, maar ook op de productie van beelden die kunnen worden beschouwd als materiaal van seksueel misbruik van minderjarigen. Aan het vonnis hebben zij een dwangsom gekoppeld van € 100 000 per dag dat Grok en X de functies blijven faciliteren.
Volgens Offlimits en Fonds Slachtofferhulp groeit het aantal slachtoffers in snel tempo en is ingrijpen dringend nodig om nieuwe schade te voorkomen. Zij benadrukken dat online seksueel geweld onder invloed van kunstmatige intelligentie dezelfde psychologische impact kan hebben als offline misbruik, met ernstige gevolgen voor slachtoffers, waaronder gevoelens van schaamte, langdurige stress en mogelijke suïcidale gedachten.
De aanklacht sluit aan bij internationale zorgen over Grok en vergelijkbare AI-systemen. Regulators in verschillende Europese landen onderzoeken of X heeft voldaan aan de eisen van de Europese Digital Services Act en andere privacy- en veiligheidswetgevingen met betrekking tot de verspreiding van schadelijk materiaal en het beschermen van basisrechten van burgers.
Eerder probeerde X al beperkingen in te voeren op de beeldgeneratie-functies van Grok, onder meer door sommige opties alleen toegankelijk te maken voor betalende gebruikers en door bepaalde bewerkingen te blokkeren in rechtsgebieden waar dat wettelijk verboden is. Desondanks blijft de technologie terechtkomen in juridische en maatschappelijke discussies over de verantwoordelijkheid van platforms bij het voorkomen van misbruik van AI.
De zaak staat gepland voor behandeling op 12 maart 2026 bij de rechtbank Amsterdam. Tegen die tijd zullen de argumenten van beide partijen moeten aantonen of de huidige wet- en regelgeving toereikend is om nieuwe vormen van online misbruik aan te pakken in het tijdperk van kunstmatige intelligentie.
