KI-Agenten im Unternehmen: Realität vs. Hype

In dem Beitrag For­get the hype — real AI agents solve bound­ed prob­lems, not open-world fan­tasies kri­tisiert Sean Fal­con­er die unre­al­is­tis­chen Erwartun­gen an KI-Agen­ten, die alles kön­nen sollen. Die Real­ität ist:

• 99% Genauigkeit reicht nicht: In kri­tis­chen Geschäft­sprozessen wie Finanzen oder Gesund­heitswe­sen ist selb­st ein 1%iger Fehler inakzept­abel
• Open-World-Prob­leme sind zu kom­plex: Sys­teme, die alles kön­nen und sich an unbekan­nte Sit­u­a­tio­nen anpassen sollen, sind mit der heuti­gen Tech­nolo­gie nicht zuver­läs­sig umset­zbar
• Hype führt zu Läh­mung: Führungskräfte wer­den von der Kom­plex­ität über­wältigt und wis­sen nicht, wo sie anfan­gen sollen

Open-World vs. Closed-World Prob­leme

Open-World Eigen­schaften:

• Unbe­gren­zte Zeit- und Raumpa­ra­me­ter
• Unvoll­ständi­ge Infor­ma­tio­nen
• Emer­gente, nicht vordefinierte Auf­gaben
• Extrem schw­er test­bar

Closed-World Eigen­schaften:

• Klar definiert­er Umfang
• Voll­ständi­ge Infor­ma­tio­nen (im jew­eili­gen Bere­ich)
• Feste, wieder­hol­bare Auf­gaben
• Gut test­bar

Die meis­ten Unternehmen­sprob­leme sind Closed-World-Prob­leme: Rech­nungsab­gle­ich, Ver­tragsva­li­dierung, Betrugserken­nung, Schaden­bear­beitung, Bestand­sprog­nosen.

Wie echte Unternehmens-Agen­ten ausse­hen

Echte KI-Agen­ten im Unternehmen:

• Sind ereignis­ges­teuert: Reagieren auf Sys­temän­derun­gen, nicht auf Benutzereingaben
• Arbeit­en autonom: Han­deln ohne men­schliche Ini­ti­ierung
• Laufen kon­tinuier­lich: Arbeit­en im Hin­ter­grund, nicht nur für einzelne Auf­gaben
• Sind meist asyn­chron: Block­ieren keine Arbeitsabläufe

Prak­tis­che Beispiele:

• Rech­nungsver­ar­beitung: Agent überwacht neue Rech­nun­gen, extrahiert Felder, prüft gegen Bestel­lun­gen, leit­et zur Genehmi­gung weit­er
• Kun­dene­in­führung: Agent reagiert auf neue Kon­to­er­stel­lung, über­prüft Doku­mente, führt KYC-Checks durch, per­son­al­isiert Willkom­men­snachricht

Architek­tur-Ansatz

Agent = Ereignis­ges­teuerte Microser­vice + Kon­text­dat­en + LLM

• Agen­ten sind mod­erne Microser­vices mit Intel­li­genz
• Auf­bau durch Kom­bi­na­tion beste­hen­der Mod­elle, Tools und Logik
• Soft­wa­reen­twick­lung­sprob­lem, nicht Mod­el­lierung­sprob­lem

Deter­min­is­mus trotz prob­a­bilis­tis­ch­er Mod­elle

Prob­lem: LLMs sind nicht deter­min­is­tisch, Geschäft­sprozesse brauchen aber Ver­lässlichkeit.

Lösung: Deter­min­is­tis­che Infra­struk­tur um non-deter­min­is­tis­che Mod­elle bauen:

• Bekan­nte Tools direkt aufrufen, nicht vom Mod­ell entschei­den lassen
• Sta­tis­che Work­flows definieren statt dynamis­che Entschei­dungs­find­ung
• Vorher­sag­bare Ein- und Aus­gaben nicht verkom­plizieren

Vorteile ereignis­ges­teuert­er Mul­ti-Agen­ten-Sys­teme

• Lose Kop­plung: Agen­ten müssen sich nicht ken­nen
• Par­al­lelisierung: Arbeit kann par­al­lel ablaufen
• Isolierte Fehler: Aus­fälle sind isoliert und wieder­her­stell­bar
• Beobacht­barkeit: Jede Kom­po­nente kann isoliert getestet wer­den

Warum Testen in Open-World-Szenar­ien schw­er ist

• Unbe­gren­zte Eingaben: Test­suit­en für “alles” sind unmöglich
• Mehrdeutige Aus­gaben: Erfol­gskri­te­rien kön­nen je nach Kon­text vari­ieren
• Kom­bi­na­torische Explo­sion: Unendlich viele Sit­u­a­tio­nen zu testen

Closed-World-Prob­leme machen Testen prak­tik­a­bel:

• Eingaben sind begren­zt
• Erwartete Aus­gaben sind definier­bar
• Rand­fälle kön­nen simuliert wer­den

Faz­it: Das richtige Fun­da­ment bauen

Die Zukun­ft der KI im Unternehmen begin­nt nicht mit AGI, son­dern mit Automa­tisierung, die funk­tion­iert:

• Fokus auf Closed-World-Prob­leme: Struk­turi­ert, begren­zt, mit klarem ROI
• Schrit­tweise Erfolge: Kor­rekt weit­ergeleit­ete Ansprüche, präzise geparste Doku­mente, rechtzeit­ige Kun­den­nach­fas­sun­gen
• Bewährte Soft­wa­reen­twick­lung: Prob­leme aufteilen, kom­ponier­bare Sys­teme bauen, test­bare Kom­po­nen­ten verbinden

Kern­botschaft: Statt auf die näch­ste tech­nol­o­gis­che Rev­o­lu­tion zu warten, soll­ten Unternehmen die vor ihnen liegen­den, klar definierten Prob­leme mit bewährten Soft­wa­reen­twick­lung­sprinzip­i­en und heutiger KI-Tech­nolo­gie lösen.