Künstliche Intelligenz steuern oder endlich lernen zu steuern?
Acht Lektionen von Sara Moroni, drei Bänder, ein paar unbequeme Fragen und ein Verdacht: Vielleicht verändert die KI nicht nur die Arbeit, sondern auch die Bedeutung, sie zu leiten.
Ich habe gerade die acht Kapitel der Masterclass AI Governance Gap von Sara Moroni abgeschlossen, eine gute halbe Stunde, die einer Frage gewidmet ist, über die paradoxerweise immer noch zu wenig diskutiert wird, wenn man bedenkt, mit welchem Enthusiasmus wir künstliche Intelligenz in jeden Unternehmensprozess, jede Anwendung und möglicherweise auch in einige Aktivitäten integrieren, die ohne sie hervorragend funktionierten. Ich erwartete einen Kurs über Governance, und den fand ich, aber vor allem fand ich mich dabei, über etwas nachzudenken, das ich ziemlich gut kenne, da ich einen erheblichen Teil meines Berufslebens damit verbracht habe, Teams zu leiten, Projekte zu koordinieren, Software zu entwickeln und in letzter Zeit mehr oder weniger dasselbe mit Mitarbeitern zu tun, die keinen Urlaub nehmen, keine Gehaltserhöhungen verlangen und manchmal Lösungen erfinden, die niemand von ihnen verlangt hat.
Die Frage, von der Sara ausgeht, ist im Wesentlichen folgende: Wie viel wissen wir wirklich über die künstliche Intelligenz, die in unseren Unternehmen eingesetzt wird? Nicht wie oft wir sie nutzen, nicht wie viele Lizenzen wir gekauft haben, nicht wie viele Mitarbeiter entdeckt haben, dass ChatGPT ihnen zwei Stunden Arbeit sparen kann, sondern wie gut wir tatsächlich in der Lage sind, ihre Anwendungen zu verstehen, ihre Ergebnisse zu messen, ihre Risiken zu erkennen und einzugreifen, wenn etwas nicht funktioniert. Es ist eine weniger banale Unterscheidung, als es scheinen mag, denn in der Geschichte der Unternehmensinformatik haben wir oft die Präsenz einer Technologie mit der Fähigkeit, sie zu nutzen, und die Fähigkeit, sie zu nutzen, mit der Fähigkeit, sie zu steuern, verwechselt. Jetzt, da die Werkzeuge ankommen, bevor jemand beschlossen hat, sie zu übernehmen, ist das Problem besonders offensichtlich geworden.
Die Masterclass ist kostenlos verfügbar auf masterclassaigov.it und ich glaube, sie verdient es, verfolgt zu werden, insbesondere von denen, die Entscheidungsverantwortung in einer Organisation haben. Nicht, weil sie eine magische Formel liefert, was glücklicherweise Sara nicht beansprucht, sondern weil sie eine Reihe von Fragen aufwirft, auf die es sinnvoll wäre, ohne eine dringende Sitzung antworten zu können.
Drei Bänder für ein drängendes Problem
Der Kern des Arguments wird durch die drei Bänder ACG dargestellt: Adoption, Compliance und Governance. Die Adoption beschreibt, wie stark die KI in die Organisation eingedrungen ist, die Compliance betrifft die Einhaltung der geltenden Verpflichtungen und die Governance vereint Verantwortung, Prozesse, Ergebnisse und Anpassungsfähigkeit. Sara betont eine wichtige Unterscheidung: Governance ist nicht einfach das dritte Büro, das zu den anderen beiden hinzugefügt wird, sondern das System, das es der Organisation ermöglicht, den Überblick zu behalten, während alles andere weiterläuft.
Ich halte das für eine effektive Darstellung, insbesondere für Unternehmen, die die Unterzeichnung eines Dienstes und die Erstellung einer Richtlinie mit einer Strategie für digitale Transformation verwechseln. Der Fall des in der vierten Lektion vorgestellten SaaS-Unternehmens macht das Konzept besonders verständlich: Eine technologisch kompetente Organisation, in der die künstliche Intelligenz echte Ergebnisse liefert, kann feststellen, dass sie keine gemeinsame Vision für deren Nutzung hat. Die Kompetenz Einzelner verwandelt sich nicht automatisch in eine kollektive Fähigkeit. Das ist ein Problem, das jeder, der Entwicklergruppen geleitet hat, sofort erkennen sollte, denn man kann ein Team aus hervorragenden Personen haben und ein Projekt, das dennoch ohne eine ausreichend klare Richtung voranschreitet.
Der andere Fall, das MedTech-Unternehmen, beleuchtet das gegenteilige Problem. Ein Unternehmen kann äußerst rigoros im Umgang mit der künstlichen Intelligenz sein, die in seinen Produkten integriert ist, und viel weniger aufmerksam gegenüber den Werkzeugen, die täglich in den Büros verwendet werden. Die Kontrollkultur existiert, aber sie ist auf einen bestimmten Rahmen beschränkt. Es ist eine interessante Beobachtung, denn sie zeigt, wie gefährlich es ist, von Unternehmensreife zu sprechen, als wäre es eine einheitliche Eigenschaft, eine Note, die der gesamten Organisation zugewiesen wird, während in der Realität dasselbe Unternehmen in einem Bereich außergewöhnlich diszipliniert und im benachbarten überraschend improvisiert sein kann.
Bisher stimme ich im Wesentlichen zu. Wo ich anfange, mich zu hinterfragen, ist die Geschwindigkeit der drei Bänder, denn die Darstellung funktioniert sehr gut, um zu zeigen, dass sie gemeinsam voranschreiten müssen, aber die Frage, die mir heute dringlicher erscheint, ist zu verstehen, was passiert, wenn eines von ihnen so beschleunigt, dass es für die anderen fast unmöglich wird, ihm zu folgen.
Ich habe dieses Problem schon gesehen, nur dass es früher einen Schreibtisch hatte
In den letzten Monaten habe ich KI-Agenten verwendet, um gleichzeitig verschiedene Funktionen und Produkte zu entwickeln. Ich beschränke mich nicht darauf, nach Code zu fragen und ihn irgendwo einzufügen in der Hoffnung, dass er funktioniert: Ich setze Ziele, definiere Einschränkungen, überprüfe Ergebnisse, greife in architektonische Entscheidungen ein, lasse Fehler korrigieren und manchmal entdecke ich, dass einer der Agenten eine bessere Lösung gefunden hat als ich. Ich habe festgestellt, dass diese Tätigkeit immer weniger mit traditioneller Programmierung und immer mehr mit dem, was ich tat, als ich Entwicklergruppen leitete, vergleichbar ist. Der grundlegende Unterschied ist, dass eine Arbeitssequenz, die früher Tage in Anspruch nahm, heute in der Zeit erledigt werden kann, die nötig ist, um einen Kaffee zuzubereiten, und wenn ich in der Zwischenzeit an einem anderen Projekt arbeite, könnte ich mit mehreren technischen Entscheidungen konfrontiert werden, die bereits in konkrete Ergebnisse umgesetzt wurden.
Das bedeutet nicht, dass die Agenten Angestellte sind, noch dass sie Autonomie im menschlichen Sinne des Begriffs besitzen. Es bedeutet jedoch, dass das organisatorische Problem der Delegation sich von der menschlichen Geschwindigkeit, mit der wir es gewohnt waren, umzugehen, getrennt hat. Und hier entsteht eine Frage, die ich dem Weg von Sara hinzufügen möchte: Bauen wir eine Governance auf, die in der Lage ist, diese Beschleunigung zu begleiten, oder versuchen wir, den radikal neuen Systemen die gleichen Entscheidungszeiten wie den traditionellen Organisationen aufzuzwingen?
Sara hingegen schlägt keineswegs ein unbewegliches System vor. Im fünften Kapitel präsentiert sie ein Framework in acht Schritten, von der Planung über die Aktualisierung bis hin zu Ressourcen, KPI, Implementierung, Schulung, Start und Überwachung. Sie spricht von kontinuierlichen Kontrollen, von regelmäßigen Überprüfungen und sogar von der Notwendigkeit, unerwartete Vorteile zu erkennen. Das ist ein wichtiger Punkt, denn es wäre nicht sinnvoll, ihr eine statische Auffassung vorzuwerfen, die sie selbst ausdrücklich zu überwinden versucht.
Ich würde einen Schritt weiter gehen und zwei Geschwindigkeiten der Governance unterscheiden. Die erste ist die organisatorische, in der Ziele, Verantwortlichkeiten, Budgets, Grenzen und Risikokriterien festgelegt werden. Die zweite ist die operative, in der ein System diese Grenzen einhalten muss, während es arbeitet, ohne auf eine neue Genehmigung für jede einzelne Aktion zu warten. Ein Agent, der ein Repository lesen, Änderungen vorschlagen und Tests in einer isolierten Umgebung durchführen kann, benötigt nicht das gleiche Maß an präventiver Aufsicht wie ein Agent, der autorisiert ist, Code in die Produktion zu veröffentlichen, Daten an Dritte zu senden oder Entscheidungen zu treffen, die Menschen betreffen. Die Unterscheidung sollte sich nicht einfach daraus ergeben, dass beide als KI-Agenten bezeichnet werden, sondern aus der konkreten Macht, die wir ihnen übertragen haben.
Mit anderen Worten, wir müssen nicht unbedingt jede Bewegung kontrollieren. Wir müssen wissen, welchen Bewegungsraum wir autorisiert haben, welche Konsequenzen wir tragen können und wer eingreifen kann, wenn dieser Rahmen überschritten wird. Wenn man darüber nachdenkt, ist das eine ziemlich vernünftige Definition von Management, auch wenn die Mitarbeiter Menschen sind.
Die Verantwortung ist keine Unterschrift auf dem Formular
Einer der Punkte, die ich für die Masterclass am wichtigsten halte, betrifft die Zuweisung von Verantwortlichkeiten. Sara beobachtet zu Recht, dass wir nicht warten können, bis ein Fehler auftritt, um zu fragen, wer dafür verantwortlich ist. Ich stimme zu, aber ich glaube, dass die Frage bei autonomen Agenten eine weitere Vertiefung verdient, denn in Organisationen ist es relativ einfach, eine formale Verantwortung zuzuweisen, und viel schwieriger, der Person, die sie übernimmt, die tatsächliche Macht zu geben, sie auszuüben.
Stellen wir uns einen Verantwortlichen vor, dem die Aufsicht über ein KI-System anvertraut wird, das mit verschiedenen Werkzeugen interagiert, Informationen ändert, Archive konsultiert und operative Entscheidungen trifft. Wir können seinen Namen in ein Dokument schreiben, ihn in ein Organigramm einfügen und erklären, dass er für den Betrieb des Systems verantwortlich bleibt. Aber kann er es stoppen? Weiß er, welche Werkzeuge er verwendet hat? Kann er die Sequenz rekonstruieren, die zu einem unerwarteten Ergebnis geführt hat? Kennt er die Grenzen der erteilten Berechtigungen? Wenn er ein Problem entdeckt, kann er diese Zugänge widerrufen, ohne auf das Eingreifen von fünf anderen Personen zu warten?
Wenn die Antwort negativ ist, haben wir vielleicht den Empfänger der Konsequenzen identifiziert, aber wir haben nicht unbedingt eine ausübbaren Verantwortung aufgebaut. Und das ist einer der Punkte, an denen, meiner Meinung nach, moderne Governance besonders konkret sein sollte: weniger Betonung auf der Unterschrift, mehr Aufmerksamkeit auf der Fähigkeit zu beobachten, zu verstehen und einzugreifen.
Natürlich sind nicht alle Operationen umkehrbar. Eine vertrauliche Information, die nach außen gesendet wird, wird nicht geheim, nur weil wir einen Knopf gedrückt haben, ebenso wie eine Entscheidung, die die Rechte von jemandem betroffen hat, nicht harmlos wird, nur weil das System ein Protokoll der Aktivitäten führt. Die Delegation erfordert daher Grenzen, die der Natur der Konsequenzen angemessen sind, nicht ein blindes Vertrauen in die Möglichkeit, später Abhilfe zu schaffen.
Auch Governance hat einen Preis. Und sie sollte Rechenschaft über ihre Arbeit ablegen
Ein weiterer Aspekt, den ich im Verlauf von Sara geschätzt habe, ist die Aufmerksamkeit auf die Gesamtkosten der Einführung. Nicht nur Lizenzen und Infrastruktur, sondern auch Schulung, Lernen, Wartung der Fähigkeiten, die Zeit, die benötigt wird, um die Werkzeuge zu verstehen und zu nutzen. Es ist eine Perspektive, die ich teile, und genau deshalb würde ich der Governance die gleiche Frage stellen, die wir der künstlichen Intelligenz stellen: Was kostet es, was produziert es und wie wissen wir, ob es funktioniert?
Denn auch eine Regel verbraucht Ressourcen. Sie erfordert jemanden, der sie definiert, jemanden, der sie interpretiert, jemanden, der die Einhaltung überprüft, jemanden, der die Dokumentation aktualisiert, und häufig jemand anderen, der auf das Ergebnis all dieser Aktivitäten wartet, bevor er mit der Arbeit beginnen kann. Eine Regel kann gleichzeitig unerlässlich und kostspielig sein, natürlich, aber gerade deshalb sollte es einen Weg geben, ihre Wirksamkeit zu bewerten, anstatt ihre bloße Anwesenheit als Beweis für gutes Management zu betrachten.
Im Rahmen lehnt Sara zu Recht die Idee universeller KPIs ab, denn unterschiedliche Unternehmen verfolgen unterschiedliche Ziele. Ich teile die Vorsicht, würde sie aber mit einigen sehr konkreten Beispielen zur Messung begleiten. Nicht nur, wie viele die KI nutzen, sondern wie viel Nettowert produziert wird, nachdem Überprüfungen, Fehler und Nacharbeiten berücksichtigt wurden. Nicht nur, wie viele Verfahren definiert wurden, sondern wie viele problematische Situationen wir tatsächlich erkennen und bewältigen können. Und nicht nur, wie viele Risiken wir vermieden haben, sondern auch, wie lange wir brauchen, um ein Experiment zu genehmigen, was unsere Kontrollen kosten und wie viele Initiativen aufgegeben werden, weil der vorgesehene Weg im Verhältnis zu ihrem Umfang unverhältnismäßig ist.
Dieser letzte Punkt erfordert Vorsicht: Nicht jedes verhinderte Experiment stellt eine verlorene Gelegenheit dar. Manchmal bedeutet es einfach, eine schlechte Idee vermieden zu haben. Aber die Kosten der Governance sollten ebenso sichtbar werden wie die der gesteuerten Technologie, sonst riskieren wir, Organisationen zu schaffen, die alles perfekt dokumentieren können, was sie nicht mehr tun können.
Und hier kommt eine der heikelsten Fragen ins Spiel: die Shadow AI. Sara hat das Verdienst, daran zu erinnern, dass jemand, der ein Werkzeug ohne Genehmigung einführt, dies nicht unbedingt aus Verantwortungslosigkeit tut, sondern oft, weil er versucht, besser zu arbeiten. Es ist eine grundlegende Unterscheidung. Wenn eine Organisation den offiziellen Weg unpraktisch macht, sollte sie sich nicht wundern, wenn jemand einen alternativen sucht. Die Antwort kann nicht nur darin bestehen, Verbote hinzuzufügen, sondern zu verstehen, warum dieses Bedürfnis keine geregelte Lösung findet. Eine gute Governance sollte die Notwendigkeit, sich zu verstecken, verringern, nicht nur die Fähigkeit verbessern, herauszufinden, wer sich versteckt.
Vom Rahmen zum Montagmorgen
Wenn ich eine Weiterentwicklung der Masterclass vorschlagen müsste, würde ich keine weiteren großen theoretischen Kategorien hinzufügen. Der Weg ist bereits ausreichend klar und die acht Schritte bilden eine verständliche Struktur. Ich würde vielmehr gerne sehen, dass einer der beiden Fallstudien über die Diagnose hinaus begleitet wird, bis zu den operativen Entscheidungen und den Ergebnissen. Im Fall MedTech wäre es beispielsweise interessant zu verfolgen, was in den Wochen nach der Entdeckung des Problems geschieht: Welche Werkzeuge werden zuerst erfasst, welche Zugänge werden eingeschränkt, welche Nutzungen können fortgesetzt werden, wer trifft die Entscheidungen, welche Metriken werden eingeführt und welche Ergebnisse treten nach einem Monat zutage.
Es würde kein weiteres Werk benötigen, sondern ein vollständiges Beispiel, möglichst mit einigen Zahlen und einigen schwierigen Entscheidungen. Denn der Übergang von Bewusstsein zu Handlung ist genau der Punkt, an dem viele gute organisatorische Modelle auf den Widerstand der Realität treffen. Die Realität hat bekanntlich den Rahmen nicht gelesen, nimmt nicht an den Abstimmungsbesprechungen teil und neigt dazu, Probleme zu präsentieren, die wenig Rücksicht auf die Kästchen nehmen, die wir vorbereitet haben, um sie zu klassifizieren.
Ich würde auch eine Form der Selbstdiagnose hinzufügen, einige Fragen, die ein Unternehmer beantworten kann, ohne einen Berater hinzuzuziehen: Welche KI-Systeme beeinflussen die Entscheidungen meiner Organisation? Auf welche Daten können sie zugreifen? Wer kann ihre Berechtigungen ändern? Was würde passieren, wenn eines dieser Systeme morgen einen signifikanten Fehler produzieren würde? Und vor allem, wie lange würden wir brauchen, um es zu bemerken?
Das sind Fragen, die auch das Verdienst hätten, die erzählte Governance von der praktizierten Governance zu unterscheiden.
Vielleicht müssen wir lernen, anders zu regieren
Am Ende der acht Videos ist mir nicht so sehr die Notwendigkeit geblieben, eine Governance der künstlichen Intelligenz einzuführen, über die es schwer ist, nicht einverstanden zu sein, sondern die Möglichkeit, dass diese Technologie uns endlich zwingt, darüber zu diskutieren, wie wir Organisationen im Allgemeinen regieren.
Seit Jahrzehnten bauen wir Strukturen, in denen die Kontrollfähigkeit häufig mit der Anzahl der Genehmigungsschritte, die Verantwortung mit der Position im Organigramm und die Koordination mit der Notwendigkeit, ständig zu wissen, was alle tun, verwechselt wird. Wer Menschen führt, kennt die Mühe dieser Mechanismen und auch ihr Paradoxon: Wenn sie zu gut funktionieren, verlangsamen sie die Arbeit; wenn sie zu wenig funktionieren, hören sie auf, eine Richtung vorzugeben. Der wahre Beruf des Managements besteht darin, ein Gleichgewicht zu finden, das nicht nur auf dem Papier gültig bleibt.
Mit KI-Agenten wird dieses Gleichgewicht noch wichtiger, aber auch interessanter. Wir können Systeme entwerfen, in denen viele Kontrollen in die Berechtigungen, die Architekturen, die operationale Schwellenwerte und die Möglichkeit, einen Prozess zu unterbrechen, integriert sind, während die Menschen die Aufgabe haben, Ziele festzulegen, Konsequenzen zu bewerten und die Entscheidungen zu treffen, die wirklich zählen. Es ist nicht die Abschaffung der menschlichen Verantwortung, sondern eine präzisere Platzierung derselben. Es bedeutet nicht, auf Kontrolle zu verzichten, sondern aufzuhören, sie notwendigerweise mit einer kontinuierlichen Genehmigung zu identifizieren.
Vielleicht sollten wir dieselbe Logik auf die Regeln der Governance anwenden: regelmäßig zu überprüfen, nicht nur ob sie eingehalten werden, sondern auch ob sie noch sinnvoll sind, ob sie die erwarteten Effekte erzielen und ob ihre Kosten im Verhältnis zu den Risiken stehen, die sie zu begrenzen beabsichtigen. Auf diese Weise würde die Führung der Organisation selbst zu einem Prozess, der lernen kann, anstatt eine Struktur zu sein, die vorgibt, anderen zu lehren, ohne sich jemals einer Prüfung zu unterziehen.
Das ist meiner Meinung nach die interessanteste Überlegung, die die Masterclass von Sara Moroni anstoßen kann. Ihre drei Bänder helfen, ein echtes Problem zu erkennen, und das Framework bietet einen Weg, es anzugehen. Der nächste Schritt, über den ich gerne weiter nachdenken würde, betrifft die Fähigkeit, Autonomie zu verteilen, ohne Verantwortung zu verlieren, Kontrolle effektiv zu gestalten, ohne sie allgegenwärtig zu machen, und Organisationen zu schaffen, die in der Lage sind, sich zu verändern, ohne jedes Mal um Erlaubnis fragen zu müssen.
Denn wenn künstliche Intelligenz die Art und Weise, wie wir arbeiten, verändern kann, wäre es ziemlich merkwürdig, sie zu nutzen, um die gleichen organisatorischen Mechanismen, die über Jahre hinweg die Menschen daran gehindert haben, gut zu arbeiten, noch effizienter zu machen.
Und vielleicht sollte eine erfolgreiche Governance nicht nur daran gemessen werden, wie viele Fehler sie zu verhindern vermag, sondern auch daran, wie viele gute Dinge sie endlich ermöglicht.
Die Masterclass
Wer sich vertiefen möchte, kann kostenlos den acht Kapitel von AI Governance Gap, der Masterclass von Sara Moroni, die sich mit dem Verhältnis zwischen der Einführung von künstlicher Intelligenz, der Einhaltung von Vorschriften und der Führung von Organisationen beschäftigt, folgen.
AI Governance Gap: Zugang zur Masterclass
Etwa 45 Minuten, zwei Unternehmensfälle und ein Modell in acht Schritten. Ein guter Ausgangspunkt für alle, die sich bessere Fragen stellen möchten, bevor sie die nächste KI-Lizenz erwerben.
Steckt Ihr Projekt an einer technischen Hürde fest?
15 Minuten buchen