Jouw AI-agent kent de regels niet

Elke week geven meer teams AI-agents toegang tot hun bestanden, e-mail, tools en klantgegevens. Agents zijn snel, onvermoeibaar en nuttig. Maar Microsofts beveiligingschef Hayete Gallot publiceerde deze week een duidelijke waarschuwing: een AI-agent is nu een insider. Hij werkt binnen jouw bedrijf, handelt in jouw naam en kan schade aanrichten — zonder dat iemand dat bedoelt.

Het woord 'insider' is hier belangrijk. Een insiderbedreiging is geen kwaadwillende acteur — het is iemand met legitieme toegang die schade veroorzaakt, meestal door onvolledige instructies op te volgen. Gallot betoogt dat AI-agents daar bijna per definitie in passen. Ze zijn getraind om taken te voltooien, niet om de normen van jouw organisatie te begrijpen. Ze weten niet wat jij als gevoelig beschouwt, welke goedkeuringen je nodig hebt of waar jij de grens trekt.

Microsoft-CEO Satya Nadella was nog directer: de garanties van een aanbieder beschermen jou niet. Zelfs als de AI achter jouw agent van Anthropic, OpenAI of Google komt, kun je de verantwoordelijkheid voor wat die agent in jouw systemen doet niet overdragen. Meer dan 100 bedrijven — waaronder CrowdStrike en Salesforce — zijn al toegetreden tot een nieuw Nvidia-platform dat hardware-controle biedt over agents.

De praktische conclusie is simpel. Voordat je een AI-agent brede toegang geeft — tot e-mail, databases, API's of betaalsystemen — vraag jezelf af: wat is het ergste wat hij per ongeluk kan doen terwijl hij gewoon probeert te helpen? Behandel hem als een nieuwe medewerker die heel capabel is, maar niets weet van de regels van jouw bedrijf. Geef agents alleen de toegang die elke taak vereist — en bouw controles die niet afhankelijk zijn van het begrip van de agent.