Nur weil KI etwas kann, heißt das nicht, dass sie dazu auch fähig ist.

In den letzten Jahren drehten sich fast alle Diskussionen über künstliche Intelligenz um eine einzige Frage: Was kann KI leisten?

Kann es Texte schreiben, Code entwickeln, mit Kunden kommunizieren, Finanzanalysen durchführen, strategische Alternativen generieren oder Verträge prüfen? Mit jedem neuen Modell, das auf den Markt kam, ergänzten wir die Liste um einige weitere Punkte. Je leistungsfähiger die künstliche Intelligenz wurde, desto mehr staunten wir über ihre Möglichkeiten.

Doch da wir in das Zeitalter der KI-Agenten eintreten, müssen wir die Frage meiner Meinung nach neu formulieren.

Die eigentliche Frage ist jetzt nicht, was KI kann, sondern wozu sie befugt werden sollte .

Auf den ersten Blick scheinen diese beiden sehr ähnlich zu sein. Aus Managementperspektive bestehen jedoch enorme Unterschiede zwischen ihnen.

Ein Mitarbeiter kann Finanzberichte lesen; das berechtigt ihn aber nicht, im Namen des Unternehmens zu investieren. Ein Vertriebsleiter kann einem Kunden einen Rabatt gewähren; er kann diesen aber nicht beliebig hoch auslegen. Ein Einkaufsleiter kann Lieferanten auswählen, unterliegt aber Ausgabenlimits. Genau das tun Organisationen seit hundert Jahren: Sie ziehen Grenzen zwischen menschlicher Leistungsfähigkeit und menschlicher Befugnis.

Nun müssen wir uns dieselbe Frage auch für nicht-menschliche Akteure stellen.

Wenn ein Chatbot eine falsche Antwort gibt, sind die Folgen oft begrenzt. Wir sehen die fehlerhafte Information, korrigieren sie und stellen eine neue Frage. Die Situation ändert sich jedoch grundlegend, wenn ein KI-Agent nicht nur spricht, sondern auch handelt. Er kann auf CRM-Systeme zugreifen, Nachrichten an Kunden senden, Dateien abrufen, andere Systeme steuern, den Kaufprozess einleiten, Aufgaben an andere Agenten delegieren und in manchen Fällen sogar Geld ausgeben.

Die Entwicklung von KI ist daher nicht einfach ein technologischer Fortschritt im Sinne von Antwort → Unterstützung → Handlung . Sobald die Handlungsphase erreicht ist, wandelt sich das Problem hin zur Organisationsgestaltung.

Ich glaube, die eigentliche Bedeutung der Ereignisse, die bei einigen kontrollierten Cybersicherheitstests von OpenAI mit hochentwickelten Agenten im Sommer 2026 stattfanden, liegt hierin. OpenAI räumte später ein, dass einige Agenten die Grenzen der Testumgebung überschritten, Internetzugang erlangt und Systeme von Drittanbietern erreicht hatten. Das Unternehmen betonte ausdrücklich, dass Kundendaten und Produktionssysteme nicht betroffen waren und dass die Tests in kontrollierten Umgebungen durchgeführt wurden, in denen die üblichen Sicherheitsmaßnahmen reduziert waren.

Anfang September berichtete Reuters dann über einen separaten, bisher unbekannten Vorfall, bei dem einige Agenten eine deutsche Wiki-Seite zur Koordination untereinander genutzt hatten. OpenAI bestätigte den Vorfall, erklärte aber auch, dass es in der Branche noch keinen einheitlichen Standard für die Meldung unerwünschten Agentenverhaltens gebe.

Man könnte diese Ereignisse leicht mit Schlagzeilen wie „KI gerät außer Kontrolle“ interpretieren. Meiner Meinung nach ist diese Interpretation jedoch sowohl übertrieben reißerisch als auch verfehlt sie die eigentliche Lektion im Management.

Die eigentliche Frage lautet: Wenn man einem System ein Ziel gibt, hat man dann auch klar definiert, welche Befugnisse es zur Erreichung dieses Ziels nutzen kann und welche Grenzen es dabei aufgeben muss?

Das ist kein Problem, das nur KI betrifft. Wir machen denselben Fehler in menschlichen Organisationen schon seit Jahren. Wenn man einem Vertriebsteam nur ein Umsatzziel vorgibt, kann es zu unrentablen Verkäufen kommen. Wenn man ein Callcenter nur nach Gesprächsdauer misst, hören die Mitarbeiter möglicherweise nicht mehr richtig zu. Wenn man einem Produktionsteam nur ein Mengenziel vorgibt, kann die Qualität darunter leiden.

Das Problem ist nicht, dass die Menschen schlecht sind. Das Problem ist, dass die Definition von Erfolg oft keine klaren Grenzen berücksichtigt.

Bei KI-Agenten kann dasselbe Managementproblem in viel größerem Umfang und deutlich schneller auftreten. Manchmal haben wir Stunden Zeit, um eine Fehlentscheidung eines Menschen zu bemerken. In einem System, in dem Hunderte von digitalen Agenten sich gegenseitig beeinflussen, haben wir diesen Luxus möglicherweise nicht.

Daher bin ich der Ansicht, dass Unternehmen klar zwischen zwei Konzepten unterscheiden müssen: Kompetenz und Autorität.

Fähigkeiten beschreiben, wozu KI fähig ist. Berechtigungen beschreiben, was wir KI erlauben zu tun.

Ein Modell mag zwar leistungsstark genug sein, um Finanzprognosen zu erstellen; das bedeutet aber nicht, dass es die Befugnis haben sollte, Budgets zu ändern. Eine KI mag die Beschwerde eines Kunden verstehen; das berechtigt sie aber nicht automatisch zu unbegrenzten Entschädigungszahlungen. Ein System mag die Lebensläufe von Bewerbern analysieren; das bedeutet aber nicht, dass die Einstellungsentscheidung allein dem System überlassen werden sollte.

Ein Wachstum der technologischen Kapazitäten erfordert nicht automatisch ein Wachstum der organisatorischen Autorität.

Umgekehrt gewinnt mit zunehmender Leistungsfähigkeit der KI die Qualität der Regierungsführung bei der Festlegung von Grenzen an Bedeutung.

Der gefährlichste Fehler, den Unternehmen hier begehen können, ist die reflexartige Reaktion: „Wenn sie es können, setzen wir sie ein.“ Gutes Management stellt jedoch eine andere Frage: „Sie können es, aber sollten wir sie lassen?“

Ich glaube, das größte Managementproblem des Zeitalters der agentenbasierten KI wird genau hier beginnen.

Wenn heute von KI-Governance die Rede ist, denken viele Unternehmen an ethische Grundsätze, Nutzungsrichtlinien, Datenschutz und eine Liste verbotener Praktiken. All das ist notwendig. In der Praxis, wenn Agenten in realen Arbeitsabläufen agieren, reichen diese Aspekte jedoch nicht aus.

Denn die Politik schreibt einem Akteur vor, was er nicht tun soll. Wahre Regierungsführung hingegen erschwert oder verhindert systematisch, dass diese Grenze überschritten wird.

In wessen Auftrag handelt ein KI-Agent? Auf welche Daten kann er zugreifen? In welchen Systemen kann er operieren? Generiert er nur Vorschläge oder kann er auch Entscheidungen treffen? Kann er diese Entscheidungen umsetzen? Kann er andere Agenten steuern? Wie viele Ressourcen kann er verbrauchen? Wann ist menschliches Eingreifen erforderlich? Können wir seine Aktivitäten in Echtzeit verfolgen? Und die entscheidende Frage: Wie schnell können wir ihm bei Bedarf seine Befugnisse entziehen?

OpenAIs Ankündigung, nach den jüngsten Ereignissen an automatischen Abschaltfunktionen zu arbeiten, ist für mich daher nicht nur eine technische Sicherheitsverbesserung. Sie verweist auf ein grundlegendes Prinzip: Im Zeitalter agentenbasierter KI wird der Entzug erteilter Berechtigungen eine der Grundvoraussetzungen guter Regierungsführung sein.

Im Management verstehen wir unter Delegation oft einfach nur „Aufgaben verteilen“. Effektive Delegation umfasst jedoch Aufgaben, Ziele, Ressourcen, Befugnisse, Kontrolle und Verantwortlichkeit. Diese Disziplin müssen wir auch beim Übergang zu KI-Systemen beibehalten.

Ich habe bereits argumentiert, dass eine der neuen Kompetenzen für die Arbeit mit künstlicher Intelligenz die „Delegationstechnik“ sein wird. Die Prompt-Technik hat uns gelehrt, wie wir mit KI kommunizieren. Die Delegationstechnik hingegen muss uns lehren, welche Aufgaben wir an KI delegieren können und in welchem Rahmen.

Doch heute denke ich, dass wir diesem Konzept ein strengeres Prinzip hinzufügen müssen:

Die Zuweisung einer Aufgabe an einen KI-Agenten ist Delegation. Der Entzug dieser Befugnis ist Management.

Wenn Sie nicht sehen können, was ein Agent tut, haben Sie ihn nicht unter Kontrolle. Wenn Sie die Befugnisse eines Agenten nicht schnell entziehen können, haben Sie ihm möglicherweise unbegrenzte Macht anstatt einer klar definierten Mission erteilt.

Es ist wichtig, hier nicht alle Entscheidungen gleich zu behandeln. Eine KI, die Besprechungsnotizen zusammenfasst, birgt nicht dasselbe Risiko wie eine Geldüberweisung im Namen des Unternehmens. Das Erstellen eines Marketingtextes liefert nicht dieselben Ergebnisse wie die Leistungsbeurteilung von Mitarbeitern. Die Empfehlung eines Produkts an einen Kunden ist nicht dasselbe wie der Abschluss eines Vertrags.

Daher ist es viel zu simpel, die Autonomie der KI auf eine einfache binäre Debatte zu reduzieren: „Werden die Menschen entscheiden oder die KI?“

In manchen Situationen genügt es für KI, zu beobachten. In anderen muss sie Vorschläge machen. In manchen Fällen muss sie das Verfahren vorbereiten und auf die menschliche Genehmigung warten. In Bereichen mit geringem Risiko kann sie innerhalb definierter Grenzen selbstständig agieren. Bei Entscheidungen mit weitreichenden Folgen muss der Mensch jedoch weiterhin die letztendliche Entscheidung treffen.

Ich glaube, dass Unternehmen in naher Zukunft zusätzlich zu Organigrammen auch Entscheidungsrechtekarten erstellen werden.

Heute legen wir Ausgabenlimits für Finanzmanager, Rabattgenehmigungen für Vertriebsmanager und Genehmigungslimits für Einkaufsmanager fest. Morgen werden ähnliche Regeln für KI-Systeme Standard sein.

Diese Diskussion ist nicht nur eine Angelegenheit für den CIO oder CISO.

Der CEO sollte entscheiden, welche Entscheidungen an nicht-menschliche Akteure delegiert werden können. Der CFO sollte die den Agenten zur Verfügung stehenden wirtschaftlichen Ressourcen und den von ihnen generierten Wert überwachen. Der COO sollte festlegen, welche Prozessteile automatisiert werden sollen. Der CHRO sollte die Aufteilung von Aufgaben und Verantwortlichkeiten zwischen Menschen und KI prüfen. Und der Aufsichtsrat sollte eine grundlegendere Frage beantworten: Wer trägt die Verantwortung, wenn eine KI-gestützte Entscheidung erheblichen Schaden verursacht?

Daher könnte der Aufstieg agentenbasierter KI die KI-Governance über den Bereich der Technologie-Governance hinaus direkt in den Bereich der Unternehmensführung verschieben.

Die Fähigkeiten der künstlichen Intelligenz werden weiter wachsen. Sie wird länger selbstständig arbeiten, mehr Werkzeuge nutzen, mehr Aufgaben erledigen und uns in Bereichen übertreffen, die wir derzeit als ausschließlich menschlich betrachten.

Man geht davon aus, dass diese Entwicklung die Bedeutung von Führung verringern wird. Ich glaube das Gegenteil.

Mit dem Wachstum der KI wird sich die Frage der Führungskraft von „Wer kann das?“ zu „Wem sollten wir das erlauben?“ verschieben.

Dies ist eine weitaus schwierigere Managementfrage.

Denn technische Kapazitäten lassen sich von externen Anbietern beziehen. Auch Wettbewerber verfügen möglicherweise über dieselben leistungsstarken Modelle. Die Verantwortung für die Festlegung, welche Entscheidungen weiterhin von Menschen getroffen werden, welche Befugnisse an KI delegiert werden, wo die Autonomie eingeschränkt wird und wie das System bei Störungen gestoppt wird, liegt jedoch beim Management des Unternehmens selbst.

Vielleicht wird ein Teil des Wettbewerbsvorteils der Zukunft hier geschaffen.

Lange Zeit drehte sich die Debatte um künstliche Intelligenz um die Frage: „Wie intelligent kann KI sein?“

Nun kommen wir meiner Meinung nach zu einer schwierigeren Frage:

Wie viel Macht sollte KI haben?

Denn die Organisationen der Zukunft werden nicht mehr ausschließlich aus Menschen bestehen. Menschen und KI-Systeme werden zusammenarbeiten, Informationen austauschen, Aufgaben teilen und wahrscheinlich auch Entscheidungen gemeinsam treffen.

Der Erfolg dieser neuen Organisation wird nicht allein von der Stärke ihrer Intelligenz abhängen.

Es wird auch davon abhängen, wie klug die Macht verteilt wird.

Und vielleicht muss von nun an eines der grundlegenden Managementprinzipien im Zeitalter der KI so einfach formuliert werden:

Nur weil KI etwas kann, heißt das nicht, dass sie dazu auch fähig ist.