Autonome AI vraagt om meer dan goede data en strakke procesregels. Het vraagt om een organisatie die begrijpt hoeveel zelfstandigheid ze verantwoord kan toevertrouwen aan technologie die niet alleen handelt, maar ook de werkelijkheid interpreteert.
Jarenlang introduceerden we technologie om mensen te ondersteunen: een extra applicatie, een nieuw systeem of een geautomatiseerde stap in een bestaand proces. Vandaag de dag verandert de aard van die technologie.
AI ontwikkelt zich van ondersteunende tools zoals chatbots en copilots, die informatie verwerken en advies geven, naar systemen die zelfstandig beslissingen voorbereiden en acties uitvoeren over meerdere processtappen en systemen heen.
De cruciale verschuiving zit in de mate van autonomie en de ruimte die een organisatie aan AI toekent om zelfstandig te handelen.
1. De verborgen menselijke buffer
Op papier verloopt een bedrijfsproces volgens vastgelegde regels, afspraken en systeemstappen. In de dagelijkse praktijk vraagt de uitvoering voortdurend om menselijke interpretatie en flexibiliteit. Medewerkers voelen aan wanneer informatie in een dossier ontbreekt, merken wanneer een getal onlogisch is en begrijpen wanneer een formele procedure in een specifieke situatie tot een ongewenste uitkomst leidt.
Dit werk gebeurt grotendeels onzichtbaar. Een medewerker weet welke collega hij moet bellen om een ontbrekend gegeven boven tafel te krijgen. Hij kent de achtergrond van een klantafspraak, begrijpt waarom een specifieke order afwijkt van het gebruikelijke patroon of ziet dat een ogenschijnlijk correcte systeemuitvoer in de praktijk niet klopt.
Deze context zit verspreid over de ervaring van medewerkers, hun kennis van de organisatie en onderlinge afspraken. Ze gebruiken dat inzicht voortdurend om de formele procesinrichting te verbinden met de werkelijkheid waarin het werk wordt uitgevoerd. Daarbij vullen ze informatie aan, interpreteren ze afspraken en corrigeren ze uitkomsten die in de concrete situatie niet kloppen.
Zo vormen medewerkers een vitale, maar vaak verborgen menselijke buffer. Ze overbruggen de afstand tussen wat formeel is vastgelegd en wat de dagelijkse praktijk vraagt. Dankzij die inspanning blijven processen functioneren, terwijl de benodigde menselijke kennis en correcties vaak buiten beeld blijven.
2. Als AI de menselijke beoordeling overneemt
Wanneer autonome AI-agenten processen gaan uitvoeren, verschuift er iets dat veel fundamenteler is dan een reeks processtappen.
AI stapt in dezelfde kloof tussen de theorie op papier en de weerbarstige praktijk die voorheen door mensen werd opgevangen. Alleen doen moderne generatieve AI-systemen dat niet meer door simpelweg starre, vooraf geprogrammeerde regels te volgen. De onderliggende modellen kunnen inmiddels tegenstrijdigheden signaleren, nuances in formuleringen interpreteren en alternatieven afwegen om tot een conclusie te komen, ook in situaties waarvoor geen expliciete regels zijn geschreven. Dat vermogen biedt echter geen garantie dat het model de situatie juist beoordeelt of tot de juiste conclusie komt.
AI neemt dus niet alleen het werk over, maar ook de interpretatie en de beoordeling die medewerkers voorheen leverden.
Die technologische sprong introduceert een ander type risico dan traditionele automatisering. Een AI-agent kan de situatie analyseren, logisch redeneren en toch de verkeerde betekenis aan de werkelijkheid geven. Generatieve modellen kunnen immers plausibele, maar feitelijk onjuiste conclusies trekken (hallucineren).
Waar een medewerker bij een vreemde afwijking of organisatorische gevoeligheid kan besluiten te stoppen en een collega te raadplegen, leidt onzekerheid bij AI niet vanzelfsprekend tot het stilleggen van de uitvoering. Wanneer een agent vervolgens de ruimte heeft gekregen om op basis van die foutieve interpretatie zelfstandig door te gaan, blijft de noodzakelijke correctie achterwege.
Zodra zo’n verkeerd oordeel autonoom wordt omgezet in een actie over meerdere systemen, kan een fout zich geruisloos en razendsnel door de procesketen verspreiden. De organisatie kan dit risico niet ondervangen door simpelweg meer regels vooraf in te richten. De fundamentele vraag is hoe betrouwbaar het systeem de werkelijkheid interpreteert, hoe het omgaat met onzekerheid en tegenstrijdige data, en hoe de organisatie de gevolgen opvangt wanneer het oordeel van de machine er volledig naast zit.
3. Een breder kader: drie dimensies van inrichting
Het verantwoord inzetten van autonome AI is dan ook een organisatievraagstuk. Omdat een organisatie niet iedere situatie vooraf in regels kan vatten, is er een kader nodig dat de interactie tussen mens, machine en organisatie structureert. Dit vraagt om bewuste keuzes op drie fundamentele dimensies die elkaar continu beïnvloeden:
De beslissingsruimte (Autonomie): Welke specifieke acties mag de AI zelfstandig uitvoeren, waar blijft een menselijk akkoord (human-in-the-loop) verplicht, en welke harde grenzen gelden voor zelfstandig handelen, ook wanneer het model zijn eigen onjuiste conclusies niet herkent?
De informatiegrondslag (Data): Op basis van welke bronnen handelt het systeem, en bieden die gegevens voldoende context en kwaliteit om zelfstandige interpretatie te ondersteunen?
Het eigenaarschap (Verantwoording): Wie draagt de operationele verantwoordelijkheid voor de uitkomsten van het proces, en hoe herstellen we de keten wanneer een plausibele maar onjuiste beoordeling van de machine schade aanricht?
Geen lineaire volwassenheid, maar gerichte risicobeheersing
Vaak wordt gesteld dat organisaties eerst hun processen en data volledig 'op orde' moeten hebben — inclusief het doorbreken van afdelingssilo's — voordat ze klaar zijn voor AI. Dat is een misvatting die leidt tot verlamming. Organisatorische volwassenheid is geen alles-of-niets-verhaal. Een organisatie kan gefragmenteerde interne structuren hebben en tegelijkertijd heel succesvol een specifieke AI-toepassing inzetten.
De valkuil is om te denken dat een strakke taakafbakening het interpretatierisico automatisch oplost. Afgebakende toegangsrechten beperken wat een agent mag doen. Betrouwbare inputdata en toezicht helpen de risico's te beheersen. Geen van deze maatregelen garandeert echter dat de machine de situatie juist begrijpt.
Neem een microscopisch kleine, strak afgebakende taak: beoordelen of een binnengekomen factuur direct mag worden betaald. De factuurgegevens zijn digitaal beschikbaar en de agent blijft netjes binnen zijn bevoegdheden. Toch kan hij tot een verkeerd besluit komen. Misschien is er na een eerdere foutieve levering handmatig extra coulance beloofd aan een strategische leverancier. Als die afspraak nergens is vastgelegd, ontbreekt relevante context. Maar zelfs als de afspraak wel digitaal is vastgelegd en voor de agent beschikbaar is, kan het model de betekenis ervan verkeerd interpreteren en alsnog een onjuiste beslissing nemen.
De onzichtbare chaos van de organisatie zit in de verwevenheid van menselijke kennis, afspraken en eerdere gebeurtenissen die mede bepalen hoe informatie moet worden geïnterpreteerd. Beschikbare informatie biedt daarmee nog geen garantie op een juiste beoordeling van de situatie.
Een beperkte technologische reikwijdte verkleint weliswaar de potentiële impact van een fout, maar garandeert geen juiste beoordeling wanneer de taak afhankelijk is van context die de AI niet betrouwbaar kan duiden. Andersom garanderen perfect gestroomlijnde processen evenmin een verantwoorde inzet wanneer een agent te ruime bevoegdheden krijgt in een onvoorspelbare context.
De pragmatische route
De werkelijke uitdaging is daarom niet om te wachten tot de hele organisatie 'klaar' is, maar om de mate van autonomie van een AI-toepassing af te stemmen op de specifieke taak en de context waarin die wordt uitgevoerd. Hoeveel zelfstandigheid je een agent geeft, hangt af van de complexiteit van de taak, de betrouwbaarheid en betekenis van de beschikbare informatie, de impact van een eventuele fout en de kwaliteit van de ingebouwde controlemechanismen. Daarbij hoort ook de vraag hoe de organisatie omgaat met onjuiste interpretaties en het risico beperkt dat deze tot ongewenste acties leiden.
AI invoeren is een technologische keuze, maar AI effectief en verantwoord laten werken is een organisatievraagstuk.
De relevante vraag voor elk bestuur is dan ook: Welke specifieke AI-toepassingen kunnen wij, met de risicobeheersing en organisatorische inrichting die we vandaag hebben, verantwoord inzetten, en wat moeten we veranderen om AI meer zelfstandigheid te kunnen geven?
Over de auteur
Danny Gaethofs is onafhankelijk adviseur op het gebied van digitale transformatie, supply chain en bedrijfsapplicaties. Hij houdt zich bezig met complexe verandertrajecten waarin technologie, processen en organisatie samenkomen.
Meer artikelen en achtergrond: www.danga.biz
No comments:
Post a Comment