Debt left, debt right

Die älteren unter euch wissen es vielleicht noch, vor gut zwei Jahren schrieb ich über Shift Left, also dass sich Tätigkeiten in Prozessen Richtung Prozessbeginn bewegen, um Risiken zu minimieren und Ressourcen zu sparen. Und dass das dank Shift Right, dem Mangel an Verantwortung, meist nicht so richtig funktioniert.

Heute bin ich wieder zwei Jahre weiser, KI ist auch zwei Jahre weiser und muss euch leider nicht nur sagen, dass das Problem immer noch existiert, sondern dass ich es damals sogar (in Unkenntnis von all dem, was 2025 und 2026 so passiert ist) noch massiv unterschätzt habe. Und dass wir eigentlich sogar neue Begriffe brauchen. Ich möchte das, was wir heute in vielen Fällen sehen, eher Debt Left nennen. Und als wäre das nicht schon schlimm genug, kommt jetzt auch noch zu allem Überfluss Debt Right dazu.

Aber von vorne. Ihr wisst, ich stehe vielen KI-Entwicklungen durchaus neugierig, aber auch kritisch gegenüber. Und wenn da vollmundiges verkündet oder postuliert wird, ja, dann bin ich auch, nennen wir das in vorsichtiger Selbstkritik mal streitbar.

Und ihr wisst auch, dass moderne KI-Systeme, vor allem wenn man sie in den richtigen agentischen Harness steckt, wirklich tolle Dinge vollbringen können. Und das müssen wir auch nicht in Frage stellen, das ist so. Ich mein’, ich nutze das selbst jeden Tag. Ich schule Leute darin, wie sie agentische Automatisierung gezielt nutzen können, um sich ihre Arbeit zu erleichtern. Weil’s eben so leistungsfähig ist und so viele tolle neue Sachen ermöglicht.

Also alles gut, die agentische Rakete geht voll ab? Ich gebe zu, auf die Idee könnte man kommen, und genügend Expert:innen erzählen ja auch genau das. Unangenehm wird’s aber dann, wenn daraus ganz schnell was wird, was links und rechts von sich nur noch Scherben hinterlässt. Irgendwie scheinen viele dieser revolutionären Konzepte nämlich einfach darauf zu setzen, dass auftretende Probleme und die eine oder andere Schlampigkeit schon nicht das Problem des agentischen Profis selbst sein werden.

Nennen wir diesen Profi doch mal John. Erstens ist das generisch genug, zweitens fühlt sich so kein Stefan oder Thomas aus meinem Netzwerk auf den Schlips getreten und drittens laufen mir in meinem Feld eigentlich immer nur Männer über den Weg, die sich so verhalten. Frauen sind da offenbar deutlich umsichtiger (Ein interessanter Umstand, den ihr meiner Meinung nach in eurer KI Strategie auch nicht aus den Augen verlieren solltet…). Aber genug davon, reden wir über John.

John hat für sich erkannt, dass er wirklich ohne Ende geilen Sh*t mit so einem Agent Harness auf die Beine stellen kann. Quasi in Nullzeit. Und John ist kein Depp, das heißt er haut hier nicht im Minutentakt irgendwelchen AI Slop in die Welt, sondern er baut sich echte Werkzeuge. Er automatisiert seine Prozesse. Er schafft sich ein stetig wachsendes Portfolio, auf das er immer besser zurückgreifen kann. Und er ist gut da drin, er kennt die Tools, er weiß, wie Agenten funktionieren, und er hat vielleicht auch einen Eimer voll fachlicher Expertise, die ihm hier sehr zu Pass kommt.

Damit ist John eigentlich ein Vorbild für uns alle. Wenn’s da nicht aufhören würde beim guten John. Der denkt nämlich nicht lange darüber nach, was der Vergangenheits-John so von seinen Aktionen hält. Wer will schon auf den inneren Kritiker hören, wenn der lobende KI-Kompagnon da viel wohlwollenderes Feedback im Gepäck hat? Und kritisieren ist auch unnötig, denn: Probleme, die kann ja auch noch der Zukunfts-John lösen. Der Gegenwarts-John schraubt lieber an seinem agentischen Imperium herum, auf das dieses wachsen und gedeihen möge.

Wenn ich dem John so bei seinem Tun zusehe, dann gewinne ich den Eindruck, dass er zusehends immer mehr den Zugang zu seiner eigenen Expertise verliert. Und damit vielleicht auch immer mehr bereit ist, das, was gerade im Jetzt passiert trotz all der Mängel, die es hat, einfach mal durchzuwinken. Es muss ja voran gehen. Und vielleicht sagt er sich das auch, weil er gar nicht mehr weiß, wo er hingucken sollte.

Ich glaube, das ist ein Problem.

Denn agentisches Arbeiten braucht shift left (du hast mittlerweile dein Wissen aufgefrischt und den verlinkten Artikel oben nochmal gelesen, oder?), und zwar sehr konsequentes. Schlampe rum bei dem, was du deinen Agenten mitgibst und wie du sie orchestrierst, und die Dinger drehen komplett frei. Shift left geht aber nicht mehr, wenn du nur noch auf maximale Flughöhe gehst, keine Zeit mehr hast für Details und kritisches Denken. Das ist debt left. Du baust hier eine Schuld auf, John, die dich irgendwann überrennt. Und da generative KI eh schon wahnsinnig gut darin ist, Fehler zu verschleiern und auch noch immer besser darin wird, bemerkst du das wahrscheinlich überhaupt nicht.

Der Vergangenheits-John schlägt da die Hände über dem Kopf zusammen. Und ja, ich tue es ihm gleich.

Das ist aber nur die eine Seite der Geschichte. Wer links Schulden aufbaut, baut am besten auch rechts Schulden auf. Vom gegenwärtigen Standpunkt ist dann nämlich alles wieder wunderbar ausbalanciert. Aus einer anderen Perspektive ist das natürlich schlecht. Vielleicht ein Grund für Migräne. Und die hat der arme Zukunfts-John wahrscheinlich auch, wenn er das irgendwann sieht. Das, was der Gegenwarts-John da macht ist leider auch keine einfache Verantwortungslosigkeit, also shift right, mehr. Sondern vielmehr Johns ganz persönliche Ponzi Scheme. Das ist debt right:

Auf dem Weg nach vorne werden immer mehr vermeintliche Flaschenhälse eliminiert, damit es immer schneller geht (und dass John das möchte ist ja klar, das lebt ihm jeder KI Konzern und deren menschliche Aushängeschilder ja auch vor). Und so muss das ja auch sein, wer bremst verliert; wenn nicht die nächste Stufe mal flott nachkommt, bricht das ganze Ponzi-System zusammen.

Diese vermeintlichen Flaschenhälse sind aber vielleicht gar keine Flaschenhälse, sondern Quality Gates. Also genau die Prüfpunkte, an denen man mal schauen sollte, ob hier alles noch stimmt. Und ob hier wirklich mehr Probleme gelöst als geschaffen werden. Die richtig guten Quality Gates, das waren früher andere Menschen, im Idealfall sogar Fachexpert:innen. Mitarbeitende, Interessenten, Dienstleister:innen. Aber die, die hat der gute John leider irgendwann aus seiner großen Gleichung mehr oder weniger raus gestrichen. Denn die bremsen ihn nur aus, mit dem Tempo aktueller LLMs können Menschen ja nicht mithalten.

Das klingt irgendwie für mich im Sinne dieses Newsletters vielleicht nicht sehr wertschöpfend. Zumindest nicht für andere.

Und ganz ehrlich, das klingt irgendwie auch fürchterlich einsam. Nicht nur sozial betrachtet, sondern auch, weil sich der gute John zusehends von seinem eigenen Wissen und Können entkoppelt.

Das wahnsinnig perfide daran ist nicht nur, dass der arme John das selbst garnicht so mitbekommt. Sondern dass das ganze System wirklich technisch und noch viel mehr psychologisch von vorne bis hinten darauf ausgerichtet ist, Menschen wie John genau auf diesen Weg zu bringen. Weils der vermeintliche gewinnträchtigste und zugleich leichteste Weg ist. Alles in diesem Umfeld ist darauf ausgerichtet dich in die Richtung zu schubsen, die dich weiter auf genau diesen Weg bringt. Und ein Umkehren immer schwerer erscheinen lässt

Deshalb, guck dir gerne ein paar Tricks bei John ab.

Aber, bitte, bitte, werde nicht so wie er. Und das geht leider sehr viel schneller, als man so denkt.