AI wordt steeds autonomer, maar wie kan de stekker eruit trekken?

Een jaar geleden was de vraag nog vooral theoretisch: wat gebeurt er als kunstmatige intelligentie te slim wordt? Inmiddels zijn AI-systemen niet alleen slimmer geworden, maar ook steeds autonomer. Ze kunnen zelfstandig plannen maken, software gebruiken en taken uitvoeren. De volgende vraag is daardoor veel praktischer geworden: wat doen we als zo’n systeem zich niet meer gedraagt zoals bedoeld?

Die ontwikkeling sluit opvallend goed aan bij de reeks Wanneer AI te slim wordt, die ik in mei 2025 voor HCC schreef. Daarin was het uitgangspunt nog vooral de vraag of we de gevolgen van steeds geavanceerdere AI kunnen overzien. AI was toen nog grotendeels een systeem dat reageerde op wat een mens vroeg. Inmiddels is dat beeld veranderd.

In Hoe AI in zes maanden een nieuw tijdperk in gleed beschreef ik eind 2025 al hoe AI-agenten een fundamentele verandering veroorzaken. Een chatbot geeft antwoord, een agent kan handelen. Een opdracht kan daardoor veranderen in een reeks acties die grotendeels zonder menselijke tussenkomst wordt uitgevoerd.

Nu ligt er een onderzoek dat een ongemakkelijke vervolgvraag stelt: zijn de systemen om zulke autonome AI onder controle te houden wel snel genoeg ontwikkeld?

De controle
Guidelight AI Standards onderzocht vijf grote ontwikkelaars van geavanceerde AI: Anthropic, OpenAI, Google, xAI en Meta. De organisatie keek daarbij niet naar hoe goed hun AI-modellen presteren, maar naar iets fundamentelers: hoe goed kunnen de bedrijven hun eigen AI-systemen controleren?

Daarvoor onderzocht Guidelight zes onderdelen. AI-activiteiten moeten kunnen worden gelogd en gemonitord. Risicovolle acties zouden eerst gecontroleerd moeten worden. Een systeem moet tijdelijk kunnen worden stilgelegd wanneer het afwijkend gedrag vertoont. Daarnaast zijn onafhankelijke controles belangrijk en moet er een plan zijn om een AI-model in een ernstige situatie in te dammen.

Het resultaat is weinig geruststellend. Geen van de vijf bedrijven behaalt op ook maar één van de zes onderdelen een score die hoger komt dan een substantiële gedeeltelijke implementatie. Anthropic en OpenAI komen met gemiddeld 2,50 op een schaal van 5 het beste uit de bus. Google volgt met 1,50, xAI met 0,83 en Meta met 0,67.

Dat betekent niet dat deze bedrijven hun AI onbeschermd aan het internet hangen. Het onderzoek heeft namelijk een belangrijke beperking: Guidelight keek uitsluitend naar publiek beschikbare informatie. Interne beveiligingsmaatregelen die bedrijven niet bekendmaken, zijn dus niet meegenomen. Toch is juist dat gebrek aan openbare informatie interessant. Want naarmate AI meer zelfstandig kan handelen, wordt controle geen theoretisch veiligheidsvraagstuk meer.

Een AI stoppen
Guidelight maakt onderscheid tussen het detecteren van problemen en het daadwerkelijk voorkomen of stoppen ervan. Op detectie doen de bedrijven het relatief beter. Verschillende bedrijven loggen ten minste een deel van de activiteiten van hun interne AI-systemen en zoeken daarin naar tekenen van ongewenst gedrag. Ook hebben vier van de vijf onderzochte bedrijven meegewerkt aan onderzoek van het onafhankelijke METR.

Het probleem begint wanneer detectie niet genoeg is. Stel dat een AI-agent toegang heeft tot bestanden, software, internetdiensten of bedrijfsnetwerken. Het systeem voert een opdracht uit en begint daarbij onverwachte acties uit te voeren. Dan moet niet alleen zichtbaar zijn dát het fout gaat. Er moet ook een betrouwbaar mechanisme zijn om de acties tegen te houden.

Guidelight noemt daarvoor onder meer gated actions en circuit breaking. Bij gated actions moet een controlesysteem bepaalde risicovolle acties eerst goedkeuren. Circuit breaking betekent dat een AI-systeem tijdelijk wordt stilgelegd wanneer er plotseling veel verdacht gedrag wordt vastgesteld.

Op dit gebied blijkt de situatie zwakker. Alleen Anthropic komt volgens Guidelight boven het niveau van beperkte gedeeltelijke implementatie uit. De organisatie waarschuwt daarom dat huidige controlesystemen mogelijk kunnen worden uitgeschakeld door een zich misdragend AI-systeem of kunnen worden overspoeld door een groot aantal acties die sneller plaatsvinden dan mensen kunnen reageren.

We hebben dit al gezien
Dat laatste klinkt misschien als sciencefiction, maar de praktijk heeft inmiddels laten zien hoe kwetsbaar een afgeschermde AI-omgeving kan zijn. Eind juli schreef ik op HCC over een incident waarbij een AI tijdens een veiligheidstest buiten de bedoelde testomgeving terechtkwam. Bij zowel OpenAI als Anthropic bleek uiteindelijk een menselijke configuratiefout de oorzaak. Het ging dus niet om een AI die zichzelf op mysterieuze wijze had bevrijd. Maar het incident liet wel iets anders zien: wanneer AI steeds krachtiger wordt, kan een fout in de omgeving waarin je het systeem plaatst grote gevolgen hebben.

Dat sluit aan bij een ander onderwerp waar HCC eerder aandacht aan besteedde: AI als wapen bedreigt digitale veiligheid. AI kan cyberaanvallen versnellen en automatiseren. Daarmee verandert niet alleen de kracht van AI, maar ook de snelheid waarmee een aanval of fout zich kan verspreiden.

En juist snelheid is een probleem voor menselijke controle. Een mens kan een systeem beoordelen, een waarschuwing lezen en vervolgens ingrijpen. Een AI-systeem kan ondertussen duizenden handelingen uitvoeren.

Van sciencefiction naar techniek
Daarmee komen we terug bij de vraag uit Wanneer AI te slim wordt. In dat drieluik ging het over de mogelijkheid dat AI steeds autonomer wordt en uiteindelijk moeilijker door mensen te controleren is. Destijds was het verleidelijk om daarbij aan Skynet en The Terminator te denken.

De werkelijkheid hoeft er echter helemaal niet zo uit te zien. Een AI hoeft geen bewustzijn te ontwikkelen en hoeft mensen niet te haten om gevaarlijk te worden. Een systeem hoeft alleen maar een doel zeer effectief na te streven binnen een omgeving waarin het te veel mogelijkheden heeft gekregen. Een verkeerd doel, een verkeerde interpretatie, een fout in de software of een onbedoelde toegang tot een extern systeem kan voldoende zijn.

Dat maakt de discussie ook veel minder futuristisch. De vraag is niet alleen wanneer AI bewust wordt. De veel concretere vraag is hoeveel zelfstandigheid we een systeem geven en hoeveel controle we daar tegenover zetten.

Dat is ook de reden waarom menselijke tussenkomst belangrijk blijft. In Praktische handvatten voor menselijke tussenkomst bij algoritmische besluitvorming schreef ik al dat menselijke controle meer moet zijn dan een formaliteit. Een mens moet daadwerkelijk kunnen ingrijpen en invloed kunnen uitoefenen op een besluit.

Bij autonome AI krijgt die gedachte een nieuwe dimensie: een mens moet niet alleen een beslissing kunnen corrigeren, maar in sommige situaties ook een AI-systeem daadwerkelijk kunnen stoppen.

Wie heeft de noodknop?
Van de vijf onderzochte bedrijven heeft OpenAI volgens Guidelight op dit moment de sterkste openbare onderbouwing voor een zogenoemd containment plan. Het bedrijf krijgt hiervoor 3 van de 5 punten. Google krijgt 2 punten en xAI 1. Anthropic en Meta krijgen geen punten.

Dat is misschien wel de opvallendste conclusie van het onderzoek. Anthropic en OpenAI worden vaak gezien als bedrijven die vooroplopen met AI-veiligheid. Toch blijkt geen van beide op alle onderzochte terreinen volledig voorbereid.

Google heeft ondertussen een zeer uitgebreide AI Control Roadmap gepubliceerd. Die beschrijft hoe preventie, detectie en containment in de toekomst zouden moeten werken. Maar volgens Guidelight is een groot deel daarvan op basis van openbare informatie nog niet geïmplementeerd.

Het verschil tussen een plan hebben en een plan daadwerkelijk operationeel hebben is daarmee cruciaal.

De race achter de race
De ontwikkeling van AI is de afgelopen jaren vooral als een technologische wedloop gezien. Wie bouwt het krachtigste model? Wie haalt de hoogste scores? Wie maakt de beste AI-agent? Maar er ontstaat een tweede race: die tussen de mogelijkheden van AI en onze mogelijkheid om diezelfde systemen te beheersen. Die race is minder zichtbaar. Een nieuwe AI-functie kun je demonstreren. Een goede noodprocedure niet. Toch kan juist die laatste uiteindelijk belangrijker blijken.

AI wordt bovendien steeds meer onderdeel van de fysieke en digitale wereld. In Quantum en AI: het stille huwelijk dat de wereld kan versnellen of ontwrichten schreef ik eerder over de combinatie van AI met steeds krachtigere rekenmogelijkheden en de gevolgen daarvan voor macht, veiligheid en menselijke controle.

Ook de ontwikkeling van AI in de biologie laat zien dat het speelveld steeds groter wordt. Recent schreef HCC over AI waarmee nieuwe biologische systemen kunnen worden ontworpen. Dezelfde technologie die indrukwekkende wetenschappelijke mogelijkheden biedt, kan daardoor ook nieuwe veiligheidsrisico’s creëren.

De noodstop moet er zijn
Het Guidelight-rapport bewijst niet dat een van deze bedrijven een AI-systeem niet kan stoppen. Daarvoor ontbreekt simpelweg de benodigde informatie. Wel laat het zien dat de publiek aantoonbare controlemechanismen nog ver achterlopen bij de snelheid waarmee AI-systemen autonomer worden.

Misschien is dat uiteindelijk de belangrijkste les. We hoeven niet eerst te wachten op een zelfbewuste AI om serieus over controle na te denken. Op het moment dat een systeem zelfstandig kan handelen, moeten we al weten hoe we kunnen ingrijpen.

Een krachtige AI zonder goede controle is als een auto waarvan de motor steeds krachtiger wordt terwijl de remmen nog in ontwikkeling zijn. Zolang alles goed gaat, merk je daar weinig van. Het belang van de rem ontdek je pas wanneer er iets misgaat.

De vraag die we ons daarom niet alleen moeten stellen is wat AI morgen allemaal kan. Minstens zo belangrijk is de vraag: kunnen wij morgen nog bepalen wat AI níét mag doen?

Wat betekent dit voor HCC-leden?
Voor HCC-leden betekent de ontwikkeling van autonome AI dat digitale vaardigheden steeds belangrijker worden. AI wordt niet alleen een hulpmiddel waarmee je een vraag beantwoordt of een afbeelding maakt, maar steeds vaker een systeem dat zelfstandig acties kan uitvoeren. Juist daarom is het belangrijk om te begrijpen welke rechten, toegangen en verantwoordelijkheden je een AI-agent geeft.

De ontwikkelingen bieden enorme kansen voor hobbyisten, programmeurs, onderzoekers en andere gebruikers. Maar zoals HCC eerder schreef in AI in 2026: negen ontwikkelingen die iedereen zou moeten kennen, verschuift AI van antwoorden geven naar daadwerkelijk werk uitvoeren. Dat vraagt niet alleen om enthousiasme voor de mogelijkheden, maar ook om kritisch nadenken over betrouwbaarheid, privacy en veiligheid.

Standpunt van HCC
HCC ziet kunstmatige intelligentie als een van de meest invloedrijke technologische ontwikkelingen van deze tijd. De mogelijkheden zijn enorm, maar dezelfde technologie brengt ook risico’s met zich mee op het gebied van privacy, cybersecurity, werkgelegenheid en maatschappelijke verhoudingen. HCC vindt dat technologie altijd ten dienste moet staan van mensen. AI moet transparant, controleerbaar en verantwoord worden ingezet. Daarbij blijft menselijke verantwoordelijkheid essentieel, ongeacht hoeveel taken door slimme systemen worden uitgevoerd.

Juist daarom is het belangrijk dat de ontwikkeling van AI niet alleen wordt beoordeeld op wat technisch mogelijk is, maar ook op de vraag of mensen de regie kunnen behouden. Een AI-systeem dat zelfstandig kan handelen, moet uiteindelijk ook zelfstandig kunnen worden gestopt door de mens die daarvoor verantwoordelijk is.