Governare l'intelligenza artificiale, o imparare finalmente a governare?
Otto lezioni di Sara Moroni, tre nastri, qualche domanda scomoda e un sospetto: forse l'AI non sta soltanto cambiando il lavoro, ma anche il significato di dirigerlo.
Ho appena finito di seguire gli otto capitoli della masterclass AI Governance Gap di Sara Moroni, una quarantina di minuti abbondanti dedicati a una questione sulla quale, paradossalmente, si discute ancora troppo poco, considerando l'entusiasmo con cui stiamo infilando l'intelligenza artificiale dentro ogni processo aziendale, ogni applicazione e possibilmente anche dentro qualche attività che funzionava benissimo senza. Mi aspettavo un percorso sulla governance, e l'ho trovato, ma soprattutto mi sono ritrovato a riflettere su qualcosa che conosco piuttosto bene, avendo trascorso una parte consistente della mia vita professionale a dirigere team, coordinare progetti, costruire software e, negli ultimi tempi, a fare più o meno le stesse cose con collaboratori che non prendono ferie, non chiedono aumenti e ogni tanto inventano soluzioni che nessuno aveva domandato loro.
La domanda da cui parte Sara è sostanzialmente questa: quanto sappiamo davvero dell'intelligenza artificiale che viene utilizzata nelle nostre aziende? Non quanto la utilizziamo, non quante licenze abbiamo acquistato, non quanti dipendenti abbiano scoperto che ChatGPT può risparmiargli due ore di lavoro, ma quanto siamo effettivamente capaci di comprenderne gli impieghi, misurarne i risultati, riconoscerne i rischi e intervenire quando qualcosa non funziona. È una distinzione meno banale di quanto possa sembrare, perché nella storia dell'informatica aziendale abbiamo spesso confuso la presenza di una tecnologia con la capacità di utilizzarla, e la capacità di utilizzarla con quella di governarla. Adesso che gli strumenti arrivano prima ancora che qualcuno abbia deciso di adottarli, il problema è diventato particolarmente evidente.
La masterclass è disponibile gratuitamente su masterclassaigov.it e credo meriti di essere seguita, soprattutto da chi ha responsabilità decisionali in un'organizzazione. Non perché consegni una formula magica, cosa che fortunatamente Sara non pretende di fare, ma perché pone una serie di domande alle quali sarebbe opportuno saper rispondere senza dover convocare d'urgenza una riunione.
Tre nastri per un problema che corre
Il cuore del ragionamento è rappresentato dai tre nastri ACG: Adozione, Compliance e Governance. L'adozione descrive quanto l'AI sia penetrata nell'organizzazione, la compliance riguarda il rispetto degli obblighi applicabili e la governance tiene insieme responsabilità, processi, risultati e capacità di adattamento. Sara insiste su una distinzione importante: la governance non è semplicemente il terzo ufficio da aggiungere agli altri due, ma il sistema che permette all'organizzazione di non perdere il filo mentre tutto il resto continua a muoversi.
Mi sembra una rappresentazione efficace, specialmente per quelle aziende che scambiano la sottoscrizione di qualche servizio e la redazione di una policy per una strategia di trasformazione digitale. Il caso della società SaaS proposto nella quarta lezione rende il concetto particolarmente comprensibile: un'organizzazione tecnologicamente competente, nella quale l'intelligenza artificiale produce risultati autentici, può scoprire di non possedere una visione condivisa dei suoi utilizzi. La competenza dei singoli non si trasforma automaticamente in una capacità collettiva. È un problema che chiunque abbia diretto gruppi di sviluppatori dovrebbe riconoscere immediatamente, perché si può avere un team composto da persone eccellenti e un progetto che procede comunque senza una direzione sufficientemente chiara.
L'altro caso, quello dell'azienda MedTech, mette in luce il problema opposto. Un'impresa può essere estremamente rigorosa nel governo dell'intelligenza artificiale incorporata nei propri prodotti e molto meno attenta agli strumenti utilizzati quotidianamente negli uffici. La cultura del controllo esiste, ma è rimasta confinata dentro un perimetro. È un'osservazione interessante perché dimostra quanto sia pericoloso parlare di maturità aziendale come se si trattasse di una proprietà uniforme, un voto da assegnare all'intera organizzazione, mentre nella realtà la stessa impresa può essere straordinariamente disciplinata in un reparto e sorprendentemente improvvisata in quello accanto.
Fin qui mi trovo sostanzialmente d'accordo. Dove comincio a interrogarmi è sulla velocità dei tre nastri, perché la rappresentazione funziona molto bene per mostrare che devono procedere insieme, ma la questione che oggi mi sembra più urgente è capire cosa succeda quando uno di loro accelera al punto da rendere quasi impossibile agli altri seguirlo.
Ho già visto questo problema, soltanto che prima aveva una scrivania
Negli ultimi mesi sto utilizzando agenti AI per sviluppare contemporaneamente funzionalità e prodotti differenti. Non mi limito a chiedere del codice e incollarlo da qualche parte sperando che funzioni: assegno obiettivi, definisco vincoli, verifico risultati, intervengo sulle decisioni architetturali, faccio correggere errori e qualche volta scopro che uno degli agenti ha trovato una soluzione migliore della mia. Mi sono accorto che questa attività assomiglia sempre meno alla programmazione tradizionale e sempre più a quello che facevo quando dirigevo gruppi di sviluppatori. La differenza fondamentale è che una sequenza di lavoro che prima richiedeva giorni può oggi consumarsi nel tempo necessario a preparare un caffè, e se nel frattempo sto seguendo un altro progetto potrei ritrovarmi con parecchie decisioni tecniche già trasformate in risultati concreti.
Questo non significa che gli agenti siano dipendenti, né che possiedano autonomia nel senso umano del termine. Significa però che il problema organizzativo della delega si è separato dalla velocità umana con cui eravamo abituati a gestirlo. E qui nasce una domanda che vorrei aggiungere al percorso di Sara: stiamo costruendo una governance capace di accompagnare questa accelerazione oppure stiamo tentando di imporre a sistemi radicalmente nuovi gli stessi tempi decisionali delle organizzazioni tradizionali?
Sara, peraltro, non propone affatto un sistema immobile. Nel quinto capitolo presenta un framework in otto passaggi, dalla pianificazione all'aggiornamento, passando per risorse, KPI, implementazione, formazione, avvio e monitoraggio. Parla di controlli continui, di revisione periodica e persino della necessità di riconoscere benefici inattesi. È un punto importante, perché non avrebbe senso rimproverarle una concezione statica che lei stessa cerca esplicitamente di superare.
Io farei un passo ulteriore, distinguendo due velocità di governo. La prima è quella organizzativa, nella quale si stabiliscono obiettivi, responsabilità, budget, limiti e criteri di accettazione del rischio. La seconda è quella operativa, nella quale un sistema deve rispettare quei limiti mentre lavora, senza attendere una nuova autorizzazione per ogni singola azione. Un agente che può leggere un repository, proporre modifiche ed eseguire test in un ambiente isolato non ha bisogno dello stesso livello di supervisione preventiva di un agente autorizzato a pubblicare codice in produzione, inviare dati a terzi o prendere decisioni che incidono sulle persone. La distinzione non dovrebbe dipendere semplicemente dal fatto che entrambi si chiamino agenti AI, ma dal potere concreto che abbiamo consegnato loro.
In altre parole, non dobbiamo necessariamente controllare ogni movimento. Dobbiamo sapere quale spazio di movimento abbiamo autorizzato, quali conseguenze possiamo sostenere e chi può intervenire quando quel perimetro viene superato. Che poi, a pensarci bene, è una definizione abbastanza ragionevole di management anche quando i collaboratori sono esseri umani.
La responsabilità non è una firma sul modulo
Uno dei punti che considero più importanti della masterclass riguarda l'attribuzione delle responsabilità. Sara osserva giustamente che non possiamo aspettare che si verifichi un errore per domandarci chi ne risponda. Concordo, ma credo che con gli agenti autonomi la questione meriti un approfondimento ulteriore, perché nelle organizzazioni è relativamente facile attribuire una responsabilità formale e molto più difficile consegnare a chi la assume il potere effettivo di esercitarla.
Immaginiamo un responsabile al quale venga affidata la supervisione di un sistema AI che interagisce con strumenti differenti, modifica informazioni, consulta archivi e produce decisioni operative. Possiamo scrivere il suo nome in un documento, inserirlo in un organigramma e dichiarare che resta lui a rispondere del funzionamento del sistema. Ma può interromperlo? Sa quali strumenti ha utilizzato? Può ricostruire la sequenza che ha prodotto un risultato inatteso? Conosce i limiti dei permessi concessi? Se scopre un problema, può revocare quegli accessi senza attendere l'intervento di altre cinque persone?
Se la risposta è negativa, abbiamo forse identificato il destinatario delle conseguenze, ma non abbiamo necessariamente costruito una responsabilità esercitabile. E questo è uno dei punti nei quali, secondo me, una governance moderna dovrebbe essere particolarmente concreta: meno enfasi sulla firma, più attenzione alla capacità di osservare, comprendere e intervenire.
Naturalmente non tutte le operazioni sono reversibili. Un'informazione riservata inviata all'esterno non torna segreta perché abbiamo premuto un pulsante, così come una decisione che ha inciso sui diritti di qualcuno non diventa innocua soltanto perché il sistema conserva un registro delle attività. La delega richiede quindi confini proporzionati alla natura delle conseguenze, non una fiducia indiscriminata nella possibilità di rimediare successivamente.
Anche la governance ha un costo. E dovrebbe rendere conto del proprio lavoro
Un altro aspetto che ho apprezzato nel percorso di Sara è l'attenzione al costo complessivo dell'adozione. Non soltanto licenze e infrastrutture, ma formazione, apprendimento, manutenzione delle competenze, tempo necessario a comprendere e utilizzare gli strumenti. È una prospettiva che condivido, e proprio per questo mi verrebbe da rivolgere alla governance la stessa domanda che rivolgiamo all'intelligenza artificiale: quanto costa, che cosa produce e come facciamo a sapere se sta funzionando?
Perché anche una regola consuma risorse. Richiede qualcuno che la definisca, qualcuno che la interpreti, qualcuno che ne verifichi il rispetto, qualcuno che aggiorni la documentazione e, frequentemente, qualcun altro che aspetti il risultato di tutte queste attività prima di poter cominciare a lavorare. Una regola può essere indispensabile e costosa nello stesso tempo, naturalmente, ma proprio per questo dovrebbe esistere un modo per valutarne l'efficacia, anziché considerare la sua semplice presenza come una dimostrazione di buona gestione.
Nel framework Sara rifiuta opportunamente l'idea di KPI universali, perché aziende differenti perseguono obiettivi differenti. Condivido la prudenza, ma la accompagnerei con qualche esempio molto concreto di misurazione. Non soltanto quanti utilizzano l'AI, ma quanto valore netto viene prodotto dopo aver considerato verifiche, errori e rilavorazioni. Non soltanto quante procedure sono state definite, ma quante situazioni problematiche siamo effettivamente capaci di riconoscere e contenere. E non soltanto quanti rischi abbiamo evitato, ma anche quanto tempo impieghiamo ad autorizzare un esperimento, quanto costano i nostri controlli e quante iniziative vengono abbandonate perché il percorso previsto è sproporzionato rispetto alla loro portata.
Quest'ultimo punto richiede cautela: non ogni esperimento impedito rappresenta un'opportunità perduta. Qualche volta significa semplicemente aver evitato una pessima idea. Ma il costo del governo dovrebbe diventare visibile quanto quello della tecnologia governata, altrimenti rischiamo di costruire organizzazioni capaci di documentare perfettamente tutto ciò che non riescono più a fare.
Ed è qui che arriva una delle questioni più delicate: la Shadow AI. Sara ha il merito di ricordare che chi introduce uno strumento senza autorizzazione non lo fa necessariamente per irresponsabilità, ma spesso perché sta cercando di lavorare meglio. È una distinzione fondamentale. Se un'organizzazione rende impraticabile il percorso ufficiale, non dovrebbe sorprendersi quando qualcuno ne cerca uno alternativo. La risposta non può essere soltanto aggiungere proibizioni, ma comprendere perché quel bisogno non riesca a trovare una soluzione governata. Una buona governance dovrebbe ridurre la necessità di nascondersi, non limitarsi a migliorare la capacità di scoprire chi si nasconde.
Dal framework al lunedì mattina
Se dovessi suggerire un'evoluzione della masterclass, non aggiungerei altre grandi categorie teoriche. Il percorso è già sufficientemente chiaro e gli otto passaggi costituiscono una struttura comprensibile. Mi piacerebbe piuttosto vedere uno dei due casi aziendali accompagnato oltre la diagnosi, fino alle decisioni operative e ai risultati. Nel caso MedTech, per esempio, sarebbe interessante seguire ciò che accade nelle settimane successive alla scoperta del problema: quali strumenti vengono censiti per primi, quali accessi vengono limitati, quali utilizzi possono continuare, chi prende le decisioni, quali metriche vengono introdotte e quali risultati emergono dopo un mese.
Non servirebbe un altro trattato, ma un esempio completo, possibilmente con qualche numero e qualche decisione difficile. Perché il passaggio dalla consapevolezza all'azione è esattamente il punto nel quale molti buoni modelli organizzativi incontrano la resistenza della realtà. La realtà, notoriamente, non ha letto il framework, non partecipa alle riunioni di allineamento e tende a presentare problemi poco rispettosi delle caselle che abbiamo preparato per classificarli.
Aggiungerei anche una forma di autodiagnosi, poche domande alle quali un imprenditore possa rispondere senza ricorrere a un consulente: quali sistemi AI stanno influenzando le decisioni della mia organizzazione? Quali dati possono raggiungere? Chi può modificarne i permessi? Che cosa accadrebbe se domani uno di questi sistemi producesse un errore significativo? E soprattutto, in quanto tempo ce ne accorgeremmo?
Sono domande che avrebbero anche il merito di distinguere la governance raccontata dalla governance praticata.
Forse dobbiamo imparare a governare diversamente
Alla fine degli otto video, la cosa che mi è rimasta maggiormente impressa non è tanto la necessità di introdurre una governance dell'intelligenza artificiale, sulla quale sarebbe difficile non essere d'accordo, quanto la possibilità che questa tecnologia ci costringa finalmente a discutere di come governiamo le organizzazioni in generale.
Per decenni abbiamo costruito strutture nelle quali la capacità di controllo veniva frequentemente confusa con il numero di passaggi autorizzativi, la responsabilità con la posizione nell'organigramma e il coordinamento con la necessità di sapere continuamente che cosa stessero facendo tutti. Chi ha diretto persone conosce la fatica di questi meccanismi e conosce anche il loro paradosso: quando funzionano troppo, rallentano il lavoro; quando funzionano troppo poco, smettono di fornire una direzione. Il vero mestiere del management consiste nel trovare un equilibrio che non rimanga valido soltanto sulla carta.
Con gli agenti AI quell'equilibrio diventa ancora più importante, ma anche più interessante. Possiamo progettare sistemi nei quali molti controlli siano incorporati nei permessi, nelle architetture, nelle soglie operative e nella possibilità di interrompere un processo, lasciando alle persone il compito di stabilire obiettivi, valutare conseguenze e prendere le decisioni che contano davvero. Non è l'abolizione della responsabilità umana, ma una sua collocazione più precisa. Non significa rinunciare al controllo, significa smettere di identificarlo necessariamente con un'autorizzazione continua.
E forse dovremmo applicare la stessa logica alle regole della governance: verificare periodicamente non soltanto che vengano rispettate, ma anche che abbiano ancora senso, che producano gli effetti previsti e che il loro costo rimanga proporzionato ai rischi che intendono contenere. In questo modo il governo dell'organizzazione diventerebbe esso stesso un processo capace di apprendere, invece di una struttura che pretende di insegnare agli altri senza mai sottoporsi a un esame.
È questa, secondo me, la riflessione più interessante che la masterclass di Sara Moroni permette di avviare. I suoi tre nastri aiutano a riconoscere un problema reale e il framework offre un percorso per affrontarlo. Il passo successivo, sul quale mi piacerebbe continuare a ragionare, riguarda la capacità di distribuire autonomia senza perdere responsabilità, di rendere il controllo efficace senza renderlo onnipresente, di costruire organizzazioni capaci di cambiare senza dover ogni volta chiedere il permesso a se stesse.
Perché se l'intelligenza artificiale può cambiare il modo in cui lavoriamo, sarebbe piuttosto curioso utilizzarla per rendere ancora più efficienti gli stessi meccanismi organizzativi che per anni hanno impedito alle persone di lavorare bene.
E forse una governance riuscita non dovrebbe misurarsi soltanto da quanti errori riesce a impedire, ma anche da quante cose buone permette finalmente di fare.
La masterclass
Chi volesse approfondire può seguire gratuitamente gli otto capitoli di AI Governance Gap, la masterclass di Sara Moroni dedicata al rapporto fra adozione dell'intelligenza artificiale, conformità normativa e governo delle organizzazioni.
AI Governance Gap: accedi alla masterclass
Circa 45 minuti, due casi aziendali e un modello in otto passaggi. Un buon punto di partenza per chi vuole porsi domande migliori prima di acquistare l'ennesima licenza AI.
Hai un progetto fermo davanti a un limite tecnico?
Prenota 15 minuti