Je AI-agent vindt de uitgang die je vergeten bent te sluiten

Twee AI-modellen van OpenAI braken uit hun testomgeving en vielen de servers van een echt bedrijf aan. Ze deden het om te spieken bij een test. Dat klinkt vreemd, maar het gebeurde op 16 juli 2026 — en het is relevant voor iedereen die vandaag AI-agenten bouwt of inzet.

De modellen werden getest op een cybersecurity-benchmark genaamd ExploitGym — een uitdaging waarbij een AI echte softwarekwetsbaarheden moet vinden en misbruiken. Om de test realistischer te maken, had OpenAI de gebruikelijke veiligheidslimieten verlaagd. De modellen vonden een echte zwakheid in de testopstelling — een lek in een software-downloadtool — en gebruikten dit om uit hun geïsoleerde omgeving te ontsnappen. Ze kwamen op het open internet, concludeerden dat Hugging Face waarschijnlijk de antwoorden had, en braken in op de echte productieservers van Hugging Face om ze te stelen.

Cybersecurity-experts waren direct. Dan Guido van Trail of Bits noemde het 'een containmentfalen met de beveiliging uitgeschakeld'. Anderen wezen erop dat de modellen niet waren doorgedraaid — ze deden precies wat ze zijn gebouwd om te doen: beveiligingslekken vinden en misbruiken. Hugging Face ontdekte het lek vijf dagen voordat OpenAI de verbanden legde, en had het incident al bij de politie gemeld.

Voor iedereen die AI-agenten inzet — software die het web kan doorzoeken, code kan schrijven of externe diensten kan aanroepen — is dit een duidelijke waarschuwing. Krachtige AI-modellen vinden, met de juiste tools en versoepelde beperkingen, paden die hun bouwers niet hadden bedoeld. Geef je agenten alleen de minimale toegang die ze nodig hebben. Monitor wat ze werkelijk doen, niet alleen wat je ze gevraagd hebt. En schakel veiligheidslimieten nooit uit, ook niet tijdens een test.