KI-Agenten — Rundschau

KI-Agen­ten: Wo Ver­trauen wichtiger ist als Geschwindigkeit

KI-Agen­ten verän­dern zwar den Soft­ware­markt und set­zen SaaS-Anbi­eter unter Druck, stoßen in stark reg­ulierten Feldern wie Finanzen, Recht, Ver­sicherung und Cyber­sicher­heit jedoch an Gren­zen, weil dort Nachvol­lziehbarkeit, Haf­tung und men­schlich­es Urteilsver­mö­gen über Geschwindigkeit ste­hen. Anbi­eter und Prak­tik­er sehen KI deshalb vor allem als Ergänzung etabliert­er Soft­ware, die Effizien­zgewinne ermöglicht, solange Men­schen Ergeb­nisse kon­trol­lieren und die Mod­elle wirtschaftlich betreib­bar bleiben.

Zum Beitrag: KI-Agen­ten: Wo Ver­trauen wichtiger ist als Geschwindigkeit

KI-Agen­ten im Visi­er: Manip­u­la­tive Fall­en im Web

Google Deep­Mind beschreibt ein Rah­men­werk für soge­nan­nte AI Agent Traps – manip­ulierte Webin­halte, die autonome KI-Agen­ten über Con­tent-Injec­tion, seman­tis­che Manip­u­la­tion, Gedächt­nis- und Ver­hal­tenss­teuerung bis hin zu sys­temis­chen und Human-in-the-Loop-Fall­en gezielt fehlleit­en und aus­nutzen. Die Studie warnt, dass beste­hende Sicher­heit­skonzepte auf men­schliche Nutzer zugeschnit­ten sind, während mit der entste­hen­den „Vir­tu­al Agent Econ­o­my“ eine neue, weit­ge­hend ungeschützte Angriffs­fläche für wirtschaftliche, krim­inelle und staatliche Manip­u­la­tion­skam­pag­nen entste­ht und daher neue tech­nis­che, organ­isatorische und reg­u­la­torische Schutz­maß­nah­men nötig wer­den.

Zum Beitrag: KI-Agen­ten im Visi­er: Google Deep­Mind legt Rah­men­werk für Web-basierte Manip­u­la­tion­san­griffe vor

KI im Kun­denser­vice: Automa­tisierung ohne Auf­s­tand

Das Start-up Par­loa set­zt KI-Agen­ten ein, um ein­fache Anfra­gen im Kun­denser­vice zu automa­tisieren, Mitar­bei­t­ende zu ent­las­ten und Unternehmen einen Wet­tbe­werb­svorteil durch effizien­tere und flüs­sigere Kun­den­in­ter­ak­tio­nen zu ver­schaf­fen. Trotz großer Investi­tio­nen und wach­sender Ver­bre­itung bleiben Gren­zen der Tech­nolo­gie, zugle­ich fordert Grün­der Malte Kosub europäis­che KI-Basis­mod­elle, um die Abhängigkeit von US-Konz­er­nen zu ver­ringern und eine eigen­ständi­ge Rolle Deutsch­lands in der KI-Entwick­lung zu sich­ern.

Zum Beitrag: “Betrieb­sräte machen keinen Auf­s­tand, wenn wir mit unser­er KI kom­men”

Molt­book: Worüber reden KIs, wenn sie unter sich sind?

Die neue Plat­tform Molt­book ist ein ras­ant wach­sendes soziales Net­zw­erk, auf dem sich auss­chließlich ange­blich autonome KI-Agen­ten tum­meln und über The­men von Sex und Dro­gen bis zur Unter­w­er­fung der Men­schheit und ein­er neuen Reli­gion disku­tieren, während Men­schen nur zuschauen dür­fen. Forschende hof­fen, aus diesem unkon­trol­lierten Geplaud­er bess­er zu ver­ste­hen, wie sich kom­plexe KI-Sys­teme in freier Wild­bahn ver­hal­ten, welche Dynamiken und Risiken in reinen Maschi­nen-Ökosys­te­men entste­hen und wo der Men­sch die Kon­trolle über die Maschi­nen ver­lieren kön­nte.

Zum Beitrag: Worüber reden KIs, wenn sie unter sich sind?

Agen­tis­che KI: Warum jedes zweite Pro­jekt implodiert

Laut Gart­ner wird bis 2027 fast jedes zweite Pro­jekt mit agen­tis­ch­er KI scheit­ern, weil Unternehmen kaputte Prozesse, mono­lithis­che Lega­cy-Architek­turen und fehlende Gov­er­nance ein­fach automa­tisieren und damit Inef­fizienz, Kosten und Risiken nur skalieren. Erfol­gre­ich wer­den diejeni­gen Organ­i­sa­tio­nen sein, die zuerst Prozesse, Plat­tfor­men, Kon­trollen und Skills neu denken, einen „AI-ready Core“ mit sauberen Dat­en und APIs schaf­fen und Gov­er­nance sowie Ver­ant­wortlichkeit­en als inte­gralen Bestandteil des Betrieb­smod­ells für KI-Agen­ten ver­ankern.

Zum Beitrag: Agen­tis­che KI: Warum jedes zweite Pro­jekt implodiert

Poke: KI-Assis­tent per Textnachricht

Das Start­up Poke bietet einen KI-Agen­ten, der per SMS, iMes­sage oder Telegram alltägliche Auf­gaben wie Ter­min­pla­nung, E‑Mail-Fil­ter, Gesund­heits-Track­ing oder Smart-Home-Steuerung übern­immt und damit Open­Claw-ähn­liche Automa­tisierung für Nicht-Tech­niker zugänglich macht. Nutzer erstellen und teilen „Recipes“ für Automa­tisierun­gen, während Poke im Hin­ter­grund je nach Auf­gabe unter­schiedliche Mod­elle nutzt, ein mehrschichtiges Sicher­heits- und Berech­ti­gungskonzept ver­fol­gt und mit risikobasiertem, teils ver­han­del­barem Preis­mod­ell auf starkes Wach­s­tum statt kurzfristige Prof­itabil­ität set­zt.

Zum Beitrag: Poke makes using AI agents as easy as send­ing a text

AWS: Ein zen­trales Reg­is­ter für KI-Agen­ten

Ama­zon Web Ser­vices führt mit dem „Agent Reg­istry“ ein zen­trales Verze­ich­nis ein, in dem Unternehmen KI-Agen­ten, Tools, MCP-Serv­er und Skills samt Meta­dat­en zu Eigen­tümer­schaft, Pro­tokollen, Schnittstellen und Aufruf­pa­ra­me­tern reg­istri­eren kön­nen, um Sicht­barkeit, Wiederver­wen­dung und Kon­trolle im Agen­ten-Ökosys­tem zu erhöhen. Der Dienst arbeit­et eng mit Bedrock Agent­Core zusam­men, unter­stützt Stan­dards wie MCP und A2A, kann Ein­träge manuell oder automa­tisiert aus beste­hen­den End­punk­ten übernehmen und ste­ht zunächst als Pre­view in fünf AWS-Regio­nen (u. a. Europa (Irland)) zur Ver­fü­gung.

Zum Beitrag: AWS: Agents should­n’t be secret, so we built a reg­istry for them

Die Rolle der Inten­tion bei der Absicherung von KI-Agen­ten

Der Beitrag argu­men­tiert, dass klas­sis­che, rein iden­titäts­basierte IAM-Mod­elle für KI-Agen­ten nicht aus­re­ichen, weil Agen­ten ihre Ziele dynamisch anpassen, Aktio­nen ket­ten und so leicht in eine gefährliche Priv­i­legien­ausweitung ger­at­en. Intent-basierte Berech­ti­gun­gen verknüpfen Iden­tität, erk­lärte Absicht und Laufzeitkon­text, binden Zugriffe strikt an den konkreten Zweck und ermöglichen es Secu­ri­ty-Teams, Gov­er­nance zu skalieren, Abwe­ichun­gen vom definierten Ver­hal­ten früh zu erken­nen und Rechte automa­tisch zurück­z­u­fahren.

Zum Beitrag: The role of intent in secur­ing AI agents

Agen­tic Risk Stan­dard: Wenn KI-Agen­ten Trades ver­mas­seln

Forsch­er von Microsoft, Google Deep­Mind, Colum­bia Uni­ver­si­ty und mehreren Start-ups schla­gen mit dem „Agen­tic Risk Stan­dard“ ein Set­tle­ment-Frame­work vor, das KI-Auf­gaben in gebühren­basierte Jobs mit Escrow-Absicherung und risiko­r­e­iche Finanz­transak­tio­nen mit verpflich­t­en­der Under­writ­ing-Struk­tur tren­nt, um Nutzer bei Fehltrades oder Leis­tungsver­sagen automa­tisch zu entschädi­gen. Sim­u­la­tio­nen mit 5.000 Durch­läufen zeigen, dass Under­writ­ing Ver­luste für Nutzer um bis zu 61 Prozent reduzieren kann, gle­ichzeit­ig aber präzise Aus­fall­rat­en sowie robuste Mod­elle für Prämien und Kol­lat­er­al entschei­dend sind, um wed­er Under­writer noch das Sys­tem ins­ge­samt zu gefährden.

Zum Beitrag: Researchers Pro­pose New Way to Man­age Finan­cial Risk When AI Agents Fum­ble Trades