Ab ins Chaos – oder clever (selbst) steuern?

Ein Beitrag von Andreas Steffen

Als Video anschauen – oder selbst lesen.

Andreas Steffen spricht über Agentic AI

Agentische KI macht Dinge. Von allein. Auch dann, wenn ich gerade nicht am Rechner sitze. Das klingt verlockend. Ist es auch. Und genau deshalb wird es Zeit, kurz innezuhalten – bevor der Autopilot dauerhaft übernimmt.

System 1 oder System 2?

Daniel Kahneman hat zwei Denkmodi beschrieben, die ich seit Jahren beim Coaching, in Workshops und Beratungsgesprächen immer wieder erlebe: System 1 ist schnell, intuitiv, automatisch. Es reagiert blitzschnell, erkennt Muster – ohne bewusstes Nachdenken. System 2 ist der Gegenpol: langsam, bewusst, anstrengend. Es prüft, wägt ab, hinterfragt.

Im Gegensatz zum einfachen Chatbot erledigt ein KI-Agent Aufgaben eigenständig. Er plant, entscheidet und handelt, auch wenn niemand aktiv am Keyboard sitzt. Das ist längst mein Alltag.

Olga, meine KI-Kollegin bei 5STEP, kann ein Lied davon singen – oder zumindest ein sehr gut strukturiertes Briefing. Wenn ich ihr sage: „Kümmere dich bitte um meinen Kalender, bereite das nächste Meeting vor, antworte auf die neue Mail" – dann delegiere ich. Schnell. Bequem. System-1-mäßig.

Das ist manchmal genau richtig. Und manches Mal eine sehr elegante Falle.

Denn Agentic AI bringt eine neue Qualitätsstufe des sogenannten Cognitive Offloadings mit sich.

Nicht nur Informationen werden ausgelagert – teilweise ganze Handlungsketten. Der Mensch bekommt das Ergebnis – und fragt sich im besten Fall noch: „War das eigentlich so gemeint?" Genau hier braucht es System 2. Für echte Governance.

Good Governance im KI-Kontext bedeutet nicht, Regelwerke zu bauen und sie in goldenen Lettern an die Wand zu hängen. (Das kennt man ja aus anderen Zusammenhängen, und das ist nur selten hilfreich.

Stattdessen bedeutet es: Wer trägt die Verantwortung für das, was der Agent tut?

Wer prüft? Wer hinterfragt? Wer zieht die Notbremse?
Oder kurz gefragt: Wer denkt eigentlich noch – und wann?

Die spannendere Frage hinter der ganzen Agentic-AI-Euphorie lautet nicht „Was kann das System?" Sondern: „Was hören wir auf, selbst zu tun, wenn es stattdessen das System machen kann?"

Das sage ich ausdrücklich nicht als Technikskeptiker. Ich setze KI-Agenten aktiv ein, bin überzeugt von ihrem Potenzial und erlebe täglich, was sie möglich machen. Gerade deshalb beschäftigt mich die Governance-Frage – nicht als Bremse, sondern als Lenkrad.

Ein Agent ohne kluge menschliche Steuerung ist wie ein Auto ohne Fahrer. Man kommt vielleicht gut vom Fleck. Aber wer entscheidet eigentlich, wohin?

System 1 gibt Gas. System 2 kennt das Ziel und behält die Spur.

Ab ins Chaos ist eine Option. Clever selbst steuern die deutlich bessere.

🤖🦾🧠