Een AI Agent hoeft niet óf volledig zelfstandig óf volledig afhankelijk van menselijke goedkeuring te werken. De relevante vraag is: welke concrete actie mag de agent uitvoeren, onder welke voorwaarden en met welke controle?
Dat onderscheid is essentieel zodra agents niet alleen informatie analyseren, maar ook tickets aanpassen, e-mails versturen, betalingen voorbereiden of systemen wijzigen. De juiste AI agent autonomie is geen technische instelling. Het is een ontwerpbeslissing over bevoegdheden, risico en verantwoordelijkheid.
Autonomie kent u toe per actie, niet per agent
Omschrijvingen zoals “een autonome supportagent” of “een finance-agent” zijn te breed voor governance. Eén workflow bevat acties met zeer verschillende gevolgen.
Een supportagent kan bijvoorbeeld zelfstandig een ticket classificeren en relevante kennisbankinformatie ophalen. Een antwoordvoorstel maken kan eveneens automatisch. Maar een compensatie toekennen of een klant contractueel iets beloven, vraagt mogelijk menselijke goedkeuring.
Werk daarom met een actiematrix. Beschrijf per actie:
- welk doel de actie heeft;
- welke data en tools de agent gebruikt;
- wie of wat geraakt wordt;
- wat er fout kan gaan;
- hoe de actie kan worden hersteld;
- welke goedkeuring of limiet geldt;
- wie proceseigenaar is.
Zo voorkomt u dat een agent brede rechten krijgt omdat één onderdeel van zijn werk laag risico lijkt.
Beoordeel elke actie op risico, reversibiliteit en impact
Drie criteria geven snel richting aan de benodigde controle.
Risico: wat is de mogelijke schade als de actie fout loopt? Een verkeerd intern label is iets anders dan een foutieve betaling, privacy-inbreuk of productieprobleem.
Reversibiliteit: kunt u de gevolgen eenvoudig terugdraaien? Een conceptdocument verwijderen of aanpassen is meestal eenvoudig. Een verzonden e-mail, gewijzigde bankrekening of publieke publicatie is slechts beperkt of helemaal niet omkeerbaar.
Impact: wie wordt geraakt? Interne documenten hebben doorgaans een beperktere impact dan klanten, medewerkers, leveranciers, financiële posities of bedrijfscontinuïteit.
Een praktische regel: wanneer één dimensie hoog scoort, moet ook het toezichtniveau stijgen. Een lage foutkans compenseert geen actie met ernstige, onomkeerbare gevolgen.
Maak acties waar mogelijk bovendien intrinsiek reversibel. Sla eerst een concept op, gebruik een wachtrij of stagingomgeving, voorzie soft deletes, limieten en een getest rollbackproces.
Een praktisch model met vijf autonomieniveaus
U kunt per actie een van deze niveaus toekennen:
| Niveau | Betekenis | Voorbeeld | |---|---|---| | 0. Alleen advies | De agent analyseert, maar voert niets uit. | Een aanbeveling of conceptbesluit. | | 1. Assistentie | De agent bereidt een actie voor; een mens bevestigt. | Conceptmail of offerte. | | 2. Begrensde uitvoering | De agent voert vooraf goedgekeurde routineacties uit. | Ticket classificeren of interne status wijzigen. | | 3. Conditionele autonomie | De agent handelt binnen vaste regels en drempels. | Terugbetaling tot 25 euro. | | 4. Toezicht op afstand | De agent beheert een afgebakende workflow; een mens monitort en kan stoppen. | Laag-risico backofficeproces met logging en rollback. |
Niveau 4 betekent niet dat de mens buiten beeld verdwijnt. Controle verschuift van goedkeuring per actie naar mandaat, monitoring, escalatie en interventie.
Wanneer is menselijke goedkeuring verplicht?
Voorafgaande goedkeuring is aangewezen bij acties met hoge externe, financiële, juridische of operationele gevolgen. Denk aan betalingen boven een drempel, nieuwe begunstigden, wijzigingen aan bankgegevens, contractuele toezeggingen, verzending van gevoelige informatie of productieconfiguraties.
Gebruik daarbij concrete triggers in plaats van uitsluitend een model-confidence score. Een agent kan erg zeker klinken en toch de context verkeerd interpreteren.
Voorbeelden van bruikbare drempels:
- bedrag boven 50 euro of cumulatief dagbudget boven 500 euro;
- communicatie naar een nieuwe klant, toezichthouder of media;
- verwerking van persoonsgegevens of vertrouwelijke documenten;
- verwijderen of overschrijven van data;
- wijziging van toegangsrechten of productie-instellingen;
- ontbrekende, conflicterende of uitzonderlijke informatie.
Dwing zulke regels technisch af. Een prompt met “vraag toestemming boven 50 euro” volstaat niet. De tool of policylaag moet de actie daadwerkelijk blokkeren wanneer de limiet wordt overschreden.
Human-in-the-loop, on-the-loop en in-command
Bij human-in-the-loop pauzeert de agent vóór de actie. Dit past bij betalingen, juridische communicatie en ingrepen in productie.
Bij human-on-the-loop handelt de agent zelfstandig binnen een afgebakend kader. Een medewerker volgt uitzonderingen op en moet tijdig kunnen ingrijpen. Dit werkt voor routinetaken zoals classificatie, gegevenssynchronisatie en ticketverwerking.
Bij human-in-command bepaalt een mens het mandaat: beschikbare tools, toegankelijke data, verboden acties, budgetten, escalaties en stopvoorwaarden. Dit model is geschikt voor langdurige agentworkflows, maar vereist duidelijke beleidsregels en audit logging.
Maak autonomie technisch afdwingbaar
Verantwoord autonome agents hebben meer nodig dan goede instructies. Minimaal zijn nodig: least-privilege-toegang, afzonderlijke service-identiteiten, toolrechten per actie, goedkeuringspoorten, rate limits, budgetten, audit logging, rollbackprocedures en een kill switch.
Log niet alleen het eindresultaat, maar ook context, gebruikte tool, parameters, goedkeurder, escalaties en geweigerde acties. Monitor daarnaast cumulatieve impact: tien kleine acties kunnen samen een groot risico vormen.
De EU AI Act benadrukt voor hoog-risico-AI het belang van effectief en proportioneel menselijk toezicht. Niet elke AI Agent valt automatisch in die categorie, maar het onderliggende principe geldt breed: toezicht moet praktisch werken en niet alleen op papier bestaan.
Verhoog autonomie stapsgewijs
Start liever onder het gewenste niveau: eerst advies, vervolgens simulatie, daarna een beperkte pilot en pas daarna begrensde productie. Verhoog autonomie op basis van operationele gegevens, zoals overrides, escalaties, fouten per actietype, policy-overtredingen en hersteltijd.
Een AI Agent is de uitvoerder, niet automatisch de beslissingsbevoegde of verantwoordelijke. Leg daarom vooraf vast wie het proces bezit, uitzonderingen beoordeelt, toegang beheert en incidenten behandelt.
Geef digitale medewerkers dus geen algemene vrijheid. Geef hen specifieke beslissingsrechten binnen aantoonbaar veilige, meetbare en technisch afgedwongen grenzen.