Wo die Gesetze wohnen

Gabe Mon­roy, Tech­nikchef des Soft­ware-Anbi­eters Work­day, will KI-Agen­ten dort laufen lassen, wo die Unternehmen­sregeln ohne­hin liegen. Die Diag­nose überzeugt, der Schluss daraus nur zum Teil: Er set­zt die Durch­set­zung von Regeln mit ihrem Ver­ständ­nis gle­ich, ver­legt die Kon­trolle in die Nähe dessen, der den Agen­ten liefert, und rech­net nur eine Seite der Kosten.

Der Befund

Mon­roy, CTO von Work­day, argu­men­tiert in einem Gast­beitrag auf Ven­ture­Beat vom 12. Okto­ber 2026, dass ein Agent jeden Tool-Aufruf kor­rekt aus­führen und trotz­dem Unternehmen­sregeln ver­let­zen kann. Der Aufruf macht die einzelne Aktion ver­lässlich, die Wahl von Tool und Argu­menten bleibt prob­a­bilis­tisch. Sein Beispiel: Beim Onboard­ing eines inter­na­tionalen Con­trac­tors umge­ht der Agent Arbeit­srecht, Steuer­abzug und Ein­stu­fung­sprü­fung, nicht aus Absicht, son­dern weil ihm diese Regeln fehlen. Externe Gate­ways und Richtlin­ien im Kon­textfen­ster genügten nicht: Ein Prompt sei eine Bitte, keine Garantie, und wer außen nach­baue, finanziere ein Shad­ow ERP, eine frag­ile Zweitkopie von Organ­i­sa­tion, Rollen und Prozessen. Seine Lösung: Con­text Engine, Pol­i­cy Engine und Exe­cu­tion Lay­er direkt in der Plat­tform des Sys­tem of Record (der führen­den Daten­ba­sis, etwa für Per­son­al und Finanzen), mit dem Scope der vertrete­nen Per­son statt dauer­hafter Gen­er­alschlüs­sel.

Der Kern ist richtig. Wirk­sam ist nur, dass der Agent eine Befug­nis gar nicht erst erhält.

Eingehegt ist nicht regelkundig

Eine Pol­i­cy Engine, die jeden Weg um die mehrstu­fige Freiga­be ver­weigert, macht den Agen­ten nicht regelkundig, son­dern einge­hegt. Er bleibt ohne Begriff der Regeln und stößt nur an ihre Gren­zen. Man kann ihn einen regel­ge­bun­de­nen Agen­ten nen­nen: Er han­delt in Vor­gaben, die andere geset­zt haben. Für Prüf­schritte wie Freiga­bestufen, Berech­ti­gun­gen und Fris­ten genügt das. Wo die Regel eine Beurteilung ver­langt, etwa bei der Frage, ob ein Con­trac­tor selb­ständig ist, erzwingt die Engine nur, dass geprüft wird, nicht, dass richtig geprüft wird. Das ist eine Ein­schätzung; im Artikel ste­ht dazu nichts.

Konfiguration, Reichweite, Unabhängigkeit

Mon­roy begrün­det die Nähe damit, dass Leit­planken vom leben­den Unternehmen­szu­s­tand abhän­gen, von Organ­i­sa­tion, Berech­ti­gun­gen und Prozessen, wie sie ein­gerichtet sind. Das Sys­tem ken­nt aber nicht das Gesetz, son­dern dessen Umset­zung durch das Unternehmen. Ein Kon­fig­u­ra­tions­fehler, den ein Men­sch durch Rück­frage vielle­icht auf­fängt, wird für den Agen­ten zur Recht­slage. Außer­dem endet die Nähe an der Plat­tfor­m­gren­ze, sobald der Agent mit Liefer­an­ten, Banken oder Behör­den arbeit­et. Dort kehrt sich Mon­roys Argu­ment, jed­er Gren­züber­tritt koste Ver­trauen­sprü­fung und Tem­po, gegen die Plat­tform­lö­sung.

Am auf­schlussre­ich­sten ist ein Punkt, den der Beitrag nicht berührt: Nähe stärkt Aktu­al­ität und Tem­po, schwächt aber Unab­hängigkeit. Stellt der­selbe Anbi­eter Agent, Inferenz und Regel­durch­set­zung, fall­en Han­del­nder und Kon­trolleur in eine Hand. Die Prüf­frage „Wo laufen die Guardrails?” fragt nach dem Ort, nicht nach der unab­hängi­gen Über­prü­fung.

Wohin sich die Arbeit verlagert

Der Beitrag rech­net nur eine Seite. Die Kosten des Nach­baus bez­if­fert Mon­roy lediglich mit dem Hin­weis auf Mil­lio­nen, belegt sie aber nicht. Kosten der eige­nen Lösung und Pro­duk­tiv­itäts­gewinn in Zahlen fehlen. Michael Jensen und William Meck­ling unter­schei­den in „The­o­ry of the Firm: Man­age­r­i­al Behav­ior, Agency Costs and Own­er­ship Struc­ture” (1976) bei jed­er Del­e­ga­tion Überwachungskosten, Selb­st­bindungskosten und einen verbleiben­den Ver­lust. Mon­roys Architek­tur senkt den Restver­lust und ver­lagert den Aufwand in die Überwachung. Die Kosten ver­schwinden nicht, sie wech­seln die Kosten­stelle:

• Aus­nah­me­be­hand­lung: Was die Engine ver­weigert, lan­det bei Men­schen. Stan­dard­fälle wan­dern zum Agen­ten, Beurteilungs­fälle bleiben, der Aufwand je Fall steigt. Dazu kom­men Warteschlangen an den Freiga­bestellen und Ver­weigerungss­chleifen, wenn der Agent an Sper­ren Alter­na­tiv­en pro­biert.
• Regelpflege: Was bish­er durch Erfahrung gelöst wurde, muss expliz­it in Rollen und Regeln ste­hen und mit Recht und Organ­i­sa­tion mit­wan­dern. Jede Lücke zwis­chen Recht­sän­derung und Rege­lan­pas­sung ist ein Zeit­fen­ster, in dem der Agent nach altem Stand han­delt. Das Shad­ow ERP kehrt als Pflegeaufwand der Regelschicht zurück.
• Evaluierung: Test­fälle, Stich­proben und Nach­weise für Prüfer, wiederkehrend, weil schon ein Mod­ell­wech­sel das Ver­hal­ten verän­dern kann.
• Überwachung: Lisanne Bain­bridge beschrieb 1983 in „Ironies of Automa­tion”: Je ver­lässlich­er ein Sys­tem läuft, desto sel­tener greift der Men­sch ein und desto schlechter kann er es, wenn es darauf ankommt. Über­tra­gen auf Agen­ten, was eine Annahme ist, kön­nen Freiga­ben zur Form­sache wer­den, während die Haf­tung beim Unternehmen bleibt. Mis­straut der Prüfer dem Vorschlag, prüft er fast so aufwendig, wie er selb­st entsch­ieden hätte.
• Abhängigkeit: Oliv­er Williamson beschreibt in „Mar­kets and Hier­ar­chies” (1975) das Hold-up-Prob­lem: Wer spez­i­fisch in eine Beziehung investiert, ste­ht bei Nachver­hand­lun­gen schwäch­er da. Regeln, Rollen und Evaluierung an einen Anbi­eter zu binden, ist eine solche Investi­tion.

Eine Rechnung ohne Zahlen

Der Net­to­ef­fekt je Vor­gangstyp ergibt sich vor­läu­fig aus einges­parter Bear­beitungszeit abzüglich Aus­nah­me­quote mal Aufwand je Aus­nahme, Prü­faufwand, anteiliger Regelpflege und Evaluierung, erwarteten Fehlerkosten sowie Plat­tform- und Wech­selkosten. Zahlen müssten Unternehmen selb­st erheben. Qual­i­ta­tiv:

Daraus fol­gt eine prüf­bare These: Der Gewinn ist dort am größten, wo Gov­er­nance am wenig­sten gebraucht wird. Wo sie am meis­ten gebraucht wird, fressen Prüf‑, Pflege- und Evaluierungskosten ihn am schnell­sten auf.

Einordnung

Mon­roy leit­et einen Anbi­eter, dessen Pro­dukt das Sys­tem of Record ist. Der Beitrag erschien im Gas­tau­toren­pro­gramm von Ven­ture­Beat, das sich als neu­tral und ohne Eigen­in­ter­esse beschreibt. Dass der Schluss mit dem Pro­duk­t­port­fo­lio zusam­men­fällt, entwertet den Befund nicht, ver­langt aber, bei­de getren­nt zu prüfen.

Vor­läu­fig gilt: Die Diag­nose trägt. Das Nähep­rinzip ist eine plau­si­ble Antwort für regel­ge­bun­dene Vorgänge inner­halb ein­er Plat­tform, ver­lagert aber Arbeit in Aus­nah­me­be­hand­lung, Regelpflege und Evaluierung und erhöht die Abhängigkeit vom Anbi­eter. Ob der Pro­duk­tiv­itäts­gewinn nach diesen Posten bleibt, ist offen und hängt vom Vor­gangstyp ab. Offen bleibt auch, wie Gov­er­nance aussieht, wenn Agen­ten sys­temüber­greifend arbeit­en oder selb­st Regeln vorschla­gen und ändern.

Ralf Keu­per 

Quellen

• Gabe Mon­roy: Your AI agents can exe­cute every tool call cor­rect­ly and still break every enter­prise rule, Ven­ture­Beat, 12.10.2026

Lit­er­atur

• Lisanne Bain­bridge: Ironies of Automa­tion, in: Auto­mat­i­ca 19 (1983)
• Michael C. Jensen, William H. Meck­ling: The­o­ry of the Firm: Man­age­r­i­al Behav­ior, Agency Costs and Own­er­ship Struc­ture, in: Jour­nal of Finan­cial Eco­nom­ics 3 (1976)
• Oliv­er E. Williamson: Mar­kets and Hier­ar­chies: Analy­sis and Antitrust Impli­ca­tions, New York 1975