Warum KI-Agenten in Unternehmen scheitern – und warum Technik allein nicht hilft

Ontolo­gien und Graph­daten­banken sollen autonome Agen­ten zäh­men. Doch die eigentliche Arbeit bleibt men­schlich – und wird gern ver­schwiegen.

Die Diskrepanz zwis­chen beein­druck­enden Pro­to­typen und pro­duk­tion­sreifen Sys­te­men gehört zu den unter­schätzten Prob­le­men der aktuellen KI-Welle. Bei autonomen Agen­ten, die Geschäft­sprozesse steuern sollen, zeigt sich diese Lücke beson­ders deut­lich. Der Grund liegt nicht in man­gel­nder tech­nis­ch­er Leis­tungs­fähigkeit der Sprach­mod­elle, son­dern in der seman­tis­chen Unord­nung der Unternehmens­dat­en.

Ein Begriff wie “Kunde” beze­ich­net im Ver­trieb­ssys­tem etwas anderes als in der Buch­hal­tung. Das Wort “Pro­dukt” kann eine Artikel­num­mer meinen, eine Pro­duk­t­fam­i­lie oder ein Mar­ket­ing-Bun­dle. Was triv­ial klingt, wird zum fun­da­men­tal­en Hin­der­nis, sobald ein Agent Dat­en aus ver­schiede­nen Quellen kom­binieren soll. Er muss ver­ste­hen, was die Dat­en im jew­eili­gen Kon­text bedeuten – eine Auf­gabe, die ohne explizite Def­i­n­i­tio­nen zum Rate­spiel verkommt. Hinzu kom­men Schemaän­derun­gen, Daten­qual­ität­sprob­leme und die Notwendigkeit, sen­si­ble Infor­ma­tio­nen kor­rekt zu klas­si­fizieren.

Die vorgeschla­gene Lösung klingt zunächst ein­leuch­t­end: Ontolo­gien. Eine Ontolo­gie definiert Geschäfts­be­griffe, ihre Hier­ar­chien und Beziehun­gen verbindlich. Sie schafft ein­heitliche Feld­beze­ich­nun­gen über Sys­tem­gren­zen hin­weg. Tech­nisch lassen sich solche Struk­turen in Graph­daten­banken wie Neo4j abbilden, ergänzt um spezial­isierte Agen­ten für die Daten­er­mit­tlung. Eine ele­gante Architek­tur – auf dem White­board.

Doch hier begin­nt die Ver­schleierung. Eine Ontolo­gie entste­ht nicht durch Soft­ware. Sie entste­ht, wenn Men­schen aus Ver­trieb, Buch­hal­tung und IT klären, was “Kunde” eigentlich bedeuten soll – und wer nachgibt, wenn die Def­i­n­i­tio­nen kol­li­dieren. Das ist poli­tis­che Arbeit, keine tech­nis­che. Die Graph­daten­bank spe­ichert das Ergeb­nis dieser Eini­gung; sie pro­duziert es nicht.

Der Aufwand für die Erstel­lung ein­er unternehmensweit­en Ontolo­gie ist beträchtlich, und er endet nie. Geschäftsmod­elle ändern sich, Abteilun­gen wer­den umstruk­turi­ert, neue Pro­duk­tkat­e­gorien entste­hen. Wer pflegt die Ontolo­gie? Wer bemerkt, dass die Def­i­n­i­tion von “aktivem Kun­den” seit der let­zten Strate­gieän­derung nicht mehr stimmt? Wer erken­nt, dass der Begriff “Pro­duk­t­fam­i­lie” im let­zten Quar­tal stillschweigend umdefiniert wurde, weil das Mar­ket­ing neue Bün­del geschnürt hat?

Das erfordert Men­schen mit Domä­nen­wis­sen, die kon­tinuier­lich kuratieren – klas­sis­ches Infor­ma­tion­s­man­age­ment, eine Diszi­plin, die in vie­len Unternehmen chro­nisch unterbe­set­zt ist. Die Hoff­nung, dieses Prob­lem durch einen weit­eren Agen­ten zu lösen, ver­schiebt es nur. Ein Data-Dis­cov­ery-Agent kann nur find­en, was kor­rekt mod­el­liert wurde. Er kann nicht entschei­den, ob die Mod­el­lierung noch der Geschäft­sre­al­ität entspricht.

Auch die ver­sproch­ene Hal­luz­i­na­tion­skon­trolle hat Gren­zen. Ja, ein Agent, der einen nicht existieren­den Kun­den erfind­et, scheit­ert an den fehlen­den Verknüp­fun­gen im Graphen. Aber was ist mit dem Kun­den, der existiert, dessen Klas­si­fika­tion jedoch ver­al­tet ist? Der Agent arbeit­et dann präzise mit falschen Annah­men – ein Fehler, der schw­er­er zu erken­nen ist als eine offen­sichtliche Hal­luz­i­na­tion.

Für bes­timmte Branchen existieren öffentliche Ontolo­gien: FIBO für die Finanzin­dus­trie, UMLS für das Gesund­heitswe­sen. Sie bieten einen Aus­gangspunkt. Doch die Anpas­sung an unternehmensspez­i­fis­che Gegeben­heit­en bleibt Han­dar­beit, geleis­tet von Men­schen, die sowohl die Fach­domäne als auch die inter­nen Struk­turen ver­ste­hen.

Was bleibt, ist eine nüchterne Erken­nt­nis: Ontolo­gien sind nüt­zlich, aber sie automa­tisieren die seman­tis­che Arbeit nicht – sie machen sie expliz­it. Das ist ein Gewinn. Er zwingt Organ­i­sa­tio­nen, ihre begrif­flichen Mehrdeutigkeit­en zu kon­fron­tieren, statt sie in Daten­si­los zu ver­steck­en. Doch es ist ein ander­er Gewinn als ver­sprochen. Die Architek­tur­dia­gramme mit ihren Agen­ten und Pro­tokollen sug­gerieren eine tech­nis­che Lösung für ein Prob­lem, das im Kern organ­isatorisch bleibt.

Unternehmen, die auf Agen­tic AI set­zen, soll­ten weniger in Graph­daten­banken investieren als in die Men­schen, die sie befüllen und pfle­gen. Die Tech­nolo­gie skaliert; das seman­tis­che Ver­ständ­nis nicht.

Quellen:

Manage­ment unstruk­tu­rier­ter Infor­ma­tio­nen von Paul Köni­ger und Wal­ter Reit­h­may­er

Ontol­ogy is the real guardrail: How to stop AI agents from mis­un­der­stand­ing your busi­ness