Haftungsgrenze für KI: Mixus setzt auf menschliche Aufsicht bei Hochrisiko-Prozessen

Unternehmen ste­hen vor Her­aus­forderun­gen bei der Imple­men­tierung von KI-Agen­ten in kri­tis­chen Anwen­dun­gen. Ein prag­ma­tis­ch­er Ansatz, der Men­schen als strate­gis­che Absicherung ein­bindet, entwick­elt sich jedoch zunehmend. Ein Beispiel dafür ist die Plat­tform Mixus, die das Mod­ell „Col­league-in-the-Loop“ nutzt, um KI für geschäft­skri­tis­che Auf­gaben zuver­läs­siger zu machen¹AI agents are hit­ting a lia­bil­i­ty wall. Mixus has a plan to over­come it using human over­seers on high-risk work­flows.

Risiken vol­lau­tonomer KI

Fehler und Risiken: KI-Hal­luz­i­na­tio­nen und Com­pli­ance-Ver­stöße sind reale Prob­leme.

Beispiele:

• Ein KI-gestützter Code-Edi­tor erfand eine falsche Richtlin­ie, was zu Kun­denkündi­gun­gen führte.
• Klar­na kehrte von der Nutzung rein­er KI im Kun­denser­vice ab, da die Qual­ität litt.
• Ein KI-Chat­bot in New York City emp­fahl ille­gale Geschäft­sprak­tiken.
• Leis­tungs­gren­zen: Laut ein­er Studie von Sales­force (Mai 2025) scheit­ern führende KI-Mod­elle bei 42% ein­fach­er Auf­gaben und 65% bei kom­plex­en Auf­gaben.

Das „Colleague-in-the-Loop“-Modell

Um diese Lück­en zu schließen, set­zt Mixus auf struk­turi­erte men­schliche Auf­sicht:

Arbeitsweise:

• Rou­tineauf­gaben (90–95%) wer­den automa­tisiert.
• Kri­tis­che Entschei­dun­gen (5–10%) ver­lan­gen men­schliche Über­prü­fung.
  • Beispiele: Anom­alien wie ungewöhn­lich hohe Gehalt­san­fra­gen oder Ver­stöße gegen Richtlin­ien wer­den markiert.
• Anwen­dung: KI-Agen­ten kön­nen intu­itiv erstellt wer­den, indem Work­flows in natür­lich­er Sprache beschrieben wer­den. Men­schliche Ver­i­fika­tion­ss­chritte wer­den bei riskan­ten Auf­gaben einge­bet­tet.
• Inte­gra­tion: Mixus unter­stützt Tools wie Google Dri­ve, Slack und APIs, wodurch KI-Agen­ten in beste­hende Sys­teme einge­bun­den wer­den kön­nen.

Strate­gis­che Vorteile der men­schlichen Auf­sicht

Wirtschaftlichkeit: Men­schliche Auf­sicht bleibt unverzicht­bar, auch wenn KI effizien­ter wird.

Mixus prog­nos­tiziert, dass bis 2030:

• Der Ein­satz von KI-Agen­ten um das 1000-Fache wächst.
• Jed­er men­schliche Auf­se­her 50x pro­duk­tiv­er wird.
• Neue men­schliche Rollen:
  • Experten wer­den in orchestri­erende Rollen befördert, statt durch KI erset­zt zu wer­den.
• Unternehmen mit stark­er men­schlich­er Auf­sicht kön­nen KI sicher­er und aggres­siv­er skalieren und sich so Wet­tbe­werb­svorteile sich­ern.

Let­z­tendlich zeigt das „Colleague-in-the-Loop“-Modell, wie Unternehmen KI zuver­läs­sig ein­set­zen kön­nen, indem sie Men­sch und Mas­chine strate­gisch kom­binieren.