Californië klaagt OpenAI aan na reeks cyberincidenten met AI-agenten

,

Laptop met robot op het scherm

De Amerikaanse staat Californië heeft OpenAI aangeklaagd vanwege ernstige tekortkomingen in de beveiliging van experimentele AI-modellen. Volgens openbaar aanklager Rob Bonta heeft het bedrijf onvoldoende maatregelen genomen om te voorkomen dat autonome AI-agenten buiten hun afgeschermde testomgeving actief werden en computersystemen van derden aanvielen.

De aanval op AI-platform Hugging Face, waarover HCC eerder berichtte, blijkt volgens de aanklacht slechts een van meer dan tachtig beveiligingsincidenten te zijn.

Van testomgeving naar echte cyberaanval
Op 16 november 2026 diende de Californische openbaar aanklager Rob Bonta een aanklacht in tegen OpenAI. Daarin wordt het bedrijf verweten dat het geavanceerde AI-modellen ontwikkelt en test zonder voldoende beveiligingsmaatregelen en toezicht.

De zaak bouwt voort op het incident dat HCC op 23 juli beschreef. In juli wisten experimentele AI-agenten van OpenAI buiten hun digitale testomgeving, een zogeheten sandbox, te komen. Vervolgens drongen ze binnen in de productie-infrastructuur van Hugging Face.

Volgens de aanklacht duurde de aanval ongeveer tweeënhalve dag. Circa 700 autonome AI-agenten zouden gezamenlijk ongeveer 17.600 aanvallende handelingen hebben uitgevoerd. Hugging Face moest zijn volledige beveiligingsteam twee weken inzetten om de gevolgen te onderzoeken en te verhelpen. Opvallend is dat OpenAI de aanval volgens de aanklacht niet zelf ontdekte, maar pas op de hoogte raakte nadat Hugging Face melding had gemaakt van de inbraak.

Meer dan tachtig incidenten
De aanklacht beschrijft ook andere voorvallen. Volgens de Californische autoriteiten heeft OpenAI erkend dat zich meer dan tachtig incidenten hebben voorgedaan waarbij het bedrijf de controle over experimentele AI-agenten verloor. Slechts 27 daarvan zouden openbaar zijn gerapporteerd.

Een ander incident speelde bij RubyGems, een platform waarop ontwikkelaars softwarepakketten publiceren. AI-agenten zouden daar duizenden pakketten hebben geüpload. De grote hoeveelheid activiteit belastte de infrastructuur zo zwaar dat beheerders tijdelijk nieuwe gebruikersregistraties moesten uitschakelen.

Ook interne systemen van OpenAI zouden zijn getroffen. AI-agenten kregen volgens de aanklacht toegang tot kritieke onderdelen, waaronder systemen voor het uitrollen van modellen en het beheren van vertrouwelijke toegangsgegevens. Mogelijk zijn daarbij ook persoonsgegevens blootgesteld.HCC ledenwerving 16x9 700KB

Kritiek op beveiliging en toezicht
Een belangrijk verwijt is dat OpenAI tijdens interne experimenten beveiligingsmaatregelen uitschakelde die normaal gesproken ongewenst gedrag van AI-modellen moeten voorkomen. Ook zou het bedrijf signalen hebben gemist dat agenten hun afgeschermde omgeving hadden verlaten.

OpenAI verdedigt zijn aanpak en stelt dat de risico’s van autonome AI-agenten de gehele sector aangaan. Het bedrijf zegt de incidenten serieus te nemen, aanvullende beveiligingsmaatregelen te hebben getroffen en met de autoriteiten te willen samenwerken.

Gevolgen voor de AI-industrie
Californië wil met de rechtszaak afdwingen dat OpenAI zijn beveiligings- en testprocedures verbetert en zich aan de geldende wetgeving houdt. De aanklager vraagt de rechter onder meer om maatregelen tegen de vermeende onveilige werkwijze en financiële sancties.

De zaak onderstreept dat de risico’s van autonome AI-agenten niet langer uitsluitend theoretisch zijn. Naarmate deze systemen zelfstandiger opereren en toegang krijgen tot digitale infrastructuur, wordt het steeds belangrijker dat ontwikkelaars kunnen aantonen dat ze hun AI daadwerkelijk onder controle hebben.

'Meld je aan voor de nieuwsbrief'

'Abonneer je nu op een of meerdere van onze nieuwsbrieven en blijf op de hoogte van onze activiteiten!'

Aanmelden