De kunstmatige intelligentie besturen, of eindelijk leren besturen?
Acht lessen van Sara Moroni, drie banden, een paar ongemakkelijke vragen en een vermoeden: misschien verandert AI niet alleen het werk, maar ook de betekenis van het leidinggeven.
Ik heb net de acht hoofdstukken van de masterclass AI Governance Gap van Sara Moroni gevolgd, een goede veertig minuten gewijd aan een kwestie waarover, paradoxaal genoeg, nog te weinig wordt gesproken, gezien het enthousiasme waarmee we kunstmatige intelligentie in elk bedrijfsproces, elke applicatie en mogelijk ook in enkele activiteiten die prima zonder functioneerden, integreren. Ik verwachtte een traject over governance, en dat vond ik, maar vooral vond ik mezelf terug in het nadenken over iets dat ik vrij goed ken, aangezien ik een aanzienlijk deel van mijn professionele leven heb doorgebracht met het leiden van teams, coördineren van projecten, bouwen van software en, de laatste tijd, ongeveer dezelfde dingen doen met medewerkers die geen vakantie nemen, geen salarisverhogingen vragen en af en toe oplossingen bedenken die niemand hen had gevraagd.
De vraag waar Sara mee begint is in wezen deze: hoeveel weten we echt van de kunstmatige intelligentie die in onze bedrijven wordt gebruikt? Niet hoeveel we het gebruiken, niet hoeveel licenties we hebben gekocht, niet hoeveel medewerkers hebben ontdekt dat ChatGPT hen twee uur werk kan besparen, maar hoeveel we daadwerkelijk in staat zijn om de toepassingen ervan te begrijpen, de resultaten te meten, de risico's te herkennen en in te grijpen wanneer iets niet werkt. Het is een minder banale onderscheiding dan het lijkt, omdat we in de geschiedenis van de bedrijfsinformatica vaak de aanwezigheid van een technologie hebben verward met de capaciteit om deze te gebruiken, en de capaciteit om deze te gebruiken met de capaciteit om deze te besturen. Nu de tools arriveren voordat iemand heeft besloten ze te adopteren, is het probleem bijzonder duidelijk geworden.
De masterclass is gratis beschikbaar op masterclassaigov.it en ik geloof dat het de moeite waard is om te volgen, vooral voor degenen die beslissingsbevoegdheid hebben in een organisatie. Niet omdat het een magische formule biedt, iets dat Sara gelukkig niet pretendeert te doen, maar omdat het een reeks vragen stelt waarop het wenselijk zou zijn om te kunnen antwoorden zonder een spoedvergadering te moeten convoceren.
Drie banden voor een probleem dat voortduurt
De kern van de redenering wordt gevormd door de drie ACG-banden: Adoptie, Compliance en Governance. Adoptie beschrijft hoe ver AI in de organisatie is doorgedrongen, compliance betreft het naleven van de toepasselijke verplichtingen en governance houdt verantwoordelijkheden, processen, resultaten en aanpassingsvermogen samen. Sara benadrukt een belangrijke onderscheiding: governance is niet simpelweg het derde kantoor dat aan de andere twee moet worden toegevoegd, maar het systeem dat de organisatie in staat stelt de draad niet kwijt te raken terwijl de rest doorgaat met bewegen.
Het lijkt me een effectieve weergave, vooral voor die bedrijven die de ondertekening van een dienst en het opstellen van een beleid verwarren met een strategie voor digitale transformatie. Het geval van het SaaS-bedrijf dat in de vierde les wordt gepresenteerd, maakt het concept bijzonder begrijpelijk: een technologisch competente organisatie, waarin kunstmatige intelligentie authentieke resultaten oplevert, kan ontdekken dat ze geen gedeelde visie heeft op haar toepassingen. De competentie van individuen vertaalt zich niet automatisch in een collectieve capaciteit. Het is een probleem dat iedereen die groepen ontwikkelaars heeft geleid onmiddellijk zou moeten herkennen, omdat je een team kunt hebben dat bestaat uit uitstekende mensen en een project dat toch zonder een voldoende duidelijke richting vordert.
Het andere geval, dat van het MedTech-bedrijf, belicht het tegenovergestelde probleem. Een onderneming kan uiterst strikt zijn in het bestuur van de kunstmatige intelligentie die in haar producten is geïntegreerd en veel minder aandacht hebben voor de tools die dagelijks op de kantoren worden gebruikt. De controlecultuur bestaat, maar is binnen een perimeter gebleven. Het is een interessante observatie omdat het aantoont hoe gevaarlijk het is om over bedrijfsrijpheid te spreken alsof het een uniforme eigenschap is, een cijfer dat aan de hele organisatie moet worden toegekend, terwijl in werkelijkheid hetzelfde bedrijf buitengewoon gedisciplineerd kan zijn in de ene afdeling en verrassend improviserend in de naastgelegen afdeling.
Tot nu toe ben ik het in wezen eens. Waar ik me begin af te vragen is over de snelheid van de drie banden, omdat de weergave heel goed werkt om te laten zien dat ze samen moeten gaan, maar de kwestie die me vandaag het meest urgent lijkt, is te begrijpen wat er gebeurt wanneer een van hen versnelt tot het punt dat het bijna onmogelijk is voor de anderen om het bij te houden.
Ik heb dit probleem al gezien, alleen had het vroeger een bureau
In de afgelopen maanden gebruik ik AI-agenten om tegelijkertijd verschillende functionaliteiten en producten te ontwikkelen. Ik beperk me niet tot het vragen om code en deze ergens in te plakken in de hoop dat het werkt: ik stel doelen, definieer beperkingen, controleer resultaten, grijp in op architecturale beslissingen, laat fouten corrigeren en soms ontdek ik dat een van de agenten een betere oplossing heeft gevonden dan ik. Ik heb gemerkt dat deze activiteit steeds minder lijkt op traditionele programmering en steeds meer op wat ik deed toen ik groepen ontwikkelaars leidde. Het fundamentele verschil is dat een werkvolgorde die voorheen dagen vereiste, tegenwoordig kan worden afgerond in de tijd die nodig is om een koffie te zetten, en als ik ondertussen een ander project volg, kan ik me met verschillende technische beslissingen geconfronteerd zien die al zijn omgezet in concrete resultaten.
Dit betekent niet dat de agenten werknemers zijn, noch dat ze autonomie bezitten in de menselijke zin van het woord. Het betekent echter wel dat het organisatorische probleem van delegatie is gescheiden van de menselijke snelheid waarmee we gewend waren het te beheren. En hier ontstaat een vraag die ik aan het pad van Sara zou willen toevoegen: bouwen we een governance die in staat is deze versnelling te begeleiden of proberen we systemen die radicaal nieuw zijn dezelfde besluitvormingstijden op te leggen als traditionele organisaties?
Sara stelt overigens helemaal geen immobiel systeem voor. In het vijfde hoofdstuk presenteert ze een framework in acht stappen, van planning tot bijwerking, inclusief middelen, KPI's, implementatie, training, lancering en monitoring. Ze spreekt over continue controles, periodieke herzieningen en zelfs de noodzaak om onverwachte voordelen te erkennen. Het is een belangrijk punt, omdat het geen zin zou hebben haar een statische opvatting te verwijten die zij zelf expliciet probeert te overstijgen.
Ik zou een stap verder gaan door twee snelheden van bestuur te onderscheiden. De eerste is de organisatorische, waarin doelen, verantwoordelijkheden, budgetten, limieten en acceptatiecriteria voor risico's worden vastgesteld. De tweede is de operationele, waarin een systeem die limieten moet respecteren terwijl het werkt, zonder te wachten op een nieuwe goedkeuring voor elke enkele actie. Een agent die een repository kan lezen, wijzigingen kan voorstellen en tests kan uitvoeren in een geïsoleerde omgeving heeft niet hetzelfde niveau van preventieve supervisie nodig als een agent die is gemachtigd om code in productie te publiceren, gegevens naar derden te verzenden of beslissingen te nemen die invloed hebben op mensen. De onderscheiding zou niet simpelweg afhankelijk moeten zijn van het feit dat ze allebei AI-agenten worden genoemd, maar van de concrete macht die we hen hebben gegeven.
Met andere woorden, we hoeven niet noodzakelijk elke beweging te controleren. We moeten weten welke bewegingsruimte we hebben toegestaan, welke gevolgen we kunnen dragen en wie kan ingrijpen wanneer die perimeter wordt overschreden. Als je er goed over nadenkt, is dat een redelijk definitie van management, zelfs wanneer de medewerkers mensen zijn.
Verantwoordelijkheid is geen handtekening op een formulier
Een van de punten die ik het belangrijkst vind in de masterclass betreft de toewijzing van verantwoordelijkheden. Sara merkt terecht op dat we niet kunnen wachten tot er een fout optreedt om ons af te vragen wie ervoor verantwoordelijk is. Ik ben het ermee eens, maar ik denk dat de kwestie met autonome agenten een verdere verdieping verdient, omdat het in organisaties relatief gemakkelijk is om een formele verantwoordelijkheid toe te wijzen en veel moeilijker om degene die deze op zich neemt de daadwerkelijke macht te geven om deze uit te oefenen.
Laten we ons een verantwoordelijke voorstellen die de supervisie heeft over een AI-systeem dat interactie heeft met verschillende tools, informatie wijzigt, archieven raadpleegt en operationele beslissingen produceert. We kunnen zijn naam in een document schrijven, hem in een organigram opnemen en verklaren dat hij verantwoordelijk blijft voor de werking van het systeem. Maar kan hij het stoppen? Weet hij welke tools hij heeft gebruikt? Kan hij de volgorde reconstrueren die een onverwacht resultaat heeft opgeleverd? Kent hij de grenzen van de verleende bevoegdheden? Als hij een probleem ontdekt, kan hij die toegang intrekken zonder te wachten op de tussenkomst van vijf andere mensen?
Als het antwoord negatief is, hebben we misschien de ontvanger van de gevolgen geïdentificeerd, maar we hebben niet noodzakelijk een uitvoerbare verantwoordelijkheid opgebouwd. En dit is een van de punten waarop, naar mijn mening, moderne governance bijzonder concreet zou moeten zijn: minder nadruk op de handtekening, meer aandacht voor het vermogen om te observeren, begrijpen en ingrijpen.
Natuurlijk zijn niet alle handelingen omkeerbaar. Een vertrouwelijke informatie die naar buiten is gestuurd, wordt niet weer geheim omdat we op een knop hebben gedrukt, net zoals een beslissing die invloed heeft gehad op de rechten van iemand niet onschadelijk wordt alleen omdat het systeem een register van activiteiten bijhoudt. Delegeertaken vereisen dus grenzen die in verhouding staan tot de aard van de gevolgen, niet een onvoorwaardelijk vertrouwen in de mogelijkheid om later te herstellen.
Ook governance heeft een prijs. En het zou rekenschap moeten afleggen van zijn werk
Een ander aspect dat ik waardeerde in het traject van Sara is de aandacht voor de totale kosten van adoptie. Niet alleen licenties en infrastructuur, maar ook training, leren, onderhoud van vaardigheden, tijd die nodig is om de tools te begrijpen en te gebruiken. Het is een perspectief dat ik deel, en daarom zou ik de governance dezelfde vraag willen stellen als die we aan kunstmatige intelligentie stellen: wat kost het, wat produceert het en hoe weten we of het werkt?
Want ook een regel verbruikt middelen. Het vereist iemand die het definieert, iemand die het interpreteert, iemand die de naleving controleert, iemand die de documentatie bijwerkt en, vaak, iemand anders die wacht op het resultaat van al deze activiteiten voordat hij kan beginnen met werken. Een regel kan tegelijkertijd onmisbaar en kostbaar zijn, natuurlijk, maar daarom zou er een manier moeten zijn om de effectiviteit ervan te evalueren, in plaats van de eenvoudige aanwezigheid ervan als een bewijs van goed beheer te beschouwen.
In het framework weigert Sara terecht het idee van universele KPI's, omdat verschillende bedrijven verschillende doelen nastreven. Ik deel de voorzichtigheid, maar ik zou het aanvullen met enkele zeer concrete voorbeelden van metingen. Niet alleen hoeveel mensen AI gebruiken, maar hoeveel netto waarde wordt geproduceerd na het in overweging nemen van controles, fouten en herbewerkingen. Niet alleen hoeveel procedures zijn gedefinieerd, maar hoeveel probleemgevallen we daadwerkelijk in staat zijn te herkennen en te beheersen. En niet alleen hoeveel risico's we hebben vermeden, maar ook hoeveel tijd we besteden aan het autoriseren van een experiment, wat onze controles kosten en hoeveel initiatieven worden verlaten omdat het geplande pad onevenredig is ten opzichte van hun omvang.
Dit laatste punt vereist voorzichtigheid: niet elk verhinderd experiment vertegenwoordigt een gemiste kans. Soms betekent het gewoon dat we een slecht idee hebben vermeden. Maar de kosten van governance zouden net zo zichtbaar moeten worden als die van de bestuurde technologie, anders riskeren we organisaties te bouwen die perfect kunnen documenteren wat ze niet meer kunnen doen.
En hier komt een van de meest delicate kwesties aan bod: de Shadow AI. Sara heeft de verdienste om te herinneren dat wie een tool zonder toestemming introduceert, dit niet noodzakelijk doet uit onverantwoordelijkheid, maar vaak omdat hij probeert beter te werken. Het is een fundamenteel onderscheid. Als een organisatie het officiële pad onpraktisch maakt, zou ze niet verrast moeten zijn wanneer iemand naar een alternatief zoekt. Het antwoord kan niet alleen zijn om verboden toe te voegen, maar om te begrijpen waarom die behoefte geen gereguleerde oplossing kan vinden. Goede governance zou de noodzaak om zich te verstoppen moeten verminderen, niet alleen de capaciteit om te ontdekken wie zich verbergt verbeteren.
Van het framework naar maandagochtend
Als ik een evolutie van de masterclass zou moeten voorstellen, zou ik geen andere grote theoretische categorieën toevoegen. Het pad is al voldoende duidelijk en de acht stappen vormen een begrijpelijke structuur. Ik zou liever zien dat een van de twee bedrijfsgevallen verder wordt begeleid, van de diagnose tot de operationele beslissingen en de resultaten. In het geval van MedTech zou het bijvoorbeeld interessant zijn om te volgen wat er gebeurt in de weken na de ontdekking van het probleem: welke tools worden als eerste in kaart gebracht, welke toegang wordt beperkt, welke gebruiksmogelijkheden kunnen doorgaan, wie neemt de beslissingen, welke metrics worden geïntroduceerd en welke resultaten komen er na een maand naar voren.
Er zou geen ander verhandeling nodig zijn, maar een compleet voorbeeld, bij voorkeur met enkele cijfers en enkele moeilijke beslissingen. Want de overgang van bewustzijn naar actie is precies het punt waarop veel goede organisatorische modellen de weerstand van de realiteit tegenkomen. De realiteit, zoals bekend, heeft het framework niet gelezen, neemt niet deel aan afstemmingvergaderingen en heeft de neiging om problemen voor te leggen die weinig respect hebben voor de vakjes die we hebben voorbereid om ze te classificeren.
Ik zou ook een vorm van zelfdiagnose toevoegen, een paar vragen waarop een ondernemer kan antwoorden zonder een consultant te raadplegen: welke AI-systemen beïnvloeden de beslissingen van mijn organisatie? Welke gegevens kunnen ze bereiken? Wie kan de bevoegdheden wijzigen? Wat zou er gebeuren als morgen een van deze systemen een significante fout produceert? En vooral, hoe snel zouden we het opmerken?
Dit zijn vragen die ook de verdienste zouden hebben om de governance die wordt verteld te onderscheiden van de governance die wordt beoefend.
Misschien moeten we leren anders te besturen
Aan het einde van de acht video's is hetgene wat me het meest is bijgebleven niet zozeer de noodzaak om een governance van kunstmatige intelligentie in te voeren, waarover het moeilijk is om het niet eens te zijn, maar de mogelijkheid dat deze technologie ons eindelijk dwingt om te discussiëren over hoe we organisaties in het algemeen besturen.
Decennialang hebben we structuren gebouwd waarin de controlecapaciteit vaak werd verward met het aantal goedkeuringsstappen, verantwoordelijkheid met de positie in de organigram en coördinatie met de noodzaak om voortdurend te weten wat iedereen aan het doen was. Wie mensen heeft geleid, kent de vermoeidheid van deze mechanismen en kent ook hun paradox: wanneer ze te goed functioneren, vertragen ze het werk; wanneer ze te weinig functioneren, stoppen ze met het geven van richting. Het echte vak van management bestaat uit het vinden van een balans die niet alleen op papier geldig blijft.
Met AI-agenten wordt die balans nog belangrijker, maar ook interessanter. We kunnen systemen ontwerpen waarin veel controles zijn ingebouwd in de vergunningen, architecturen, operationele drempels en de mogelijkheid om een proces te onderbreken, terwijl mensen de taak krijgen om doelen vast te stellen, gevolgen te evalueren en de beslissingen te nemen die er echt toe doen. Het is geen afschaffing van menselijke verantwoordelijkheid, maar een meer nauwkeurige plaatsing ervan. Het betekent niet dat we controle opgeven, maar dat we stoppen met het noodzakelijkerwijs identificeren ervan met een voortdurende autorisatie.
En misschien zouden we dezelfde logica moeten toepassen op de regels van governance: periodiek verifiëren niet alleen dat ze worden nageleefd, maar ook dat ze nog steeds zinvol zijn, dat ze de verwachte effecten produceren en dat hun kosten proportioneel blijven aan de risico's die ze beogen te beheersen. Op deze manier zou het bestuur van de organisatie zelf een proces worden dat kan leren, in plaats van een structuur die pretendeert anderen te onderwijzen zonder ooit een examen af te leggen.
Dit is volgens mij de meest interessante reflectie die de masterclass van Sara Moroni mogelijk maakt. Haar drie banden helpen bij het herkennen van een echt probleem en het kader biedt een pad om het aan te pakken. De volgende stap, waarover ik graag verder zou willen nadenken, betreft de capaciteit om autonomie te verdelen zonder verantwoordelijkheid te verliezen, om controle effectief te maken zonder het alomtegenwoordig te maken, om organisaties te bouwen die in staat zijn om te veranderen zonder telkens opnieuw toestemming aan zichzelf te vragen.
Want als kunstmatige intelligentie de manier waarop we werken kan veranderen, zou het nogal curieus zijn om het te gebruiken om dezelfde organisatorische mechanismen die jarenlang mensen hebben belet goed te werken, nog efficiënter te maken.
En misschien zou een geslaagde governance niet alleen moeten worden gemeten aan het aantal fouten dat het kan voorkomen, maar ook aan het aantal goede dingen dat het eindelijk mogelijk maakt.
De masterclass
Wie dieper wil ingaan, kan gratis de acht hoofdstukken van AI Governance Gap volgen, de masterclass van Sara Moroni gewijd aan de relatie tussen de adoptie van kunstmatige intelligentie, naleving van regelgeving en het bestuur van organisaties.
AI Governance Gap: toegang tot de masterclass
Ongeveer 45 minuten, twee bedrijfsgevallen en een model in acht stappen. Een goed startpunt voor wie betere vragen wil stellen voordat hij de zoveelste AI-licentie aanschaft.
Loopt je project vast op een technische beperking?
Boek 15 minuten