Governance, KI & Automatisierung

Kommentar: Arno Schimmelpfennig — Schatten-KI & autonome Agenten

Die fünf Punkte greifen ein Muster auf, das sich in der Governance-Diskussion zunehmend verdichtet: Die technische Leistungsfähigkeit autonomer Systeme wächst schneller als die organisatorische Fähigkeit, sie zu steuern. Der Hinweis auf Schatten-KI ist dabei besonders relevant, weil er ein Grundproblem von Governance-Architekturen berührt: Verbote erzeugen Unsichtbarkeit, nicht Compliance. ISO 42001 adressiert genau diesen Punkt, indem das AI Management System eine dokumentierte Erfassung aller KI-Einsätze fordert, auch der informellen. Und zum Schlussgedanken mit den autonomen Agenten: Art. 9 EU AI Act verlangt ein Risikomanagementsystem über den gesamten Lebenszyklus, was bei agentischen Systemen die Frage aufwirft, wo der eigene Lebenszyklus endet und die Interaktion mit fremden Agenten beginnt.