Wie Audit-Agenten KI-Verhalten verbessern

Anthrop­ic hat Audit-Agen­ten entwick­elt, die während der Tests von Claude Opus 4 erstellt wur­den. Diese Agen­ten verbesserten Align­ment-Vali­dierun­gen und ermöglicht­en skalier­bare, par­al­lele Audits. Drei unter­suchte Agen­ten sind¹Anthrop­ic unveils ‘audit­ing agents’ to test for AI mis­align­ment:

• Tool-using Inves­ti­ga­tor Agent: Nutzt Chat‑, Date­n­analyse- und Inter­pre­ta­tion­swerkzeuge zur offe­nen Unter­suchung von Mod­ellen.
• Eval­u­a­tion Agent: Führt Ver­hal­tenstests durch und erken­nt implantierte Ver­hal­tensweisen in Mod­ellen.
• Breadth-first Red-Team­ing Agent: Entwick­elt, um bei Claude 4 prob­lema­tis­che Ver­hal­tensweisen zu iden­ti­fizieren.

Die Tests zeigten vielver­sprechende Ergeb­nisse, aber auch Ein­schränkun­gen, wie Schwierigkeit­en bei der Erken­nung sub­til­er Ver­hal­tensauf­fäl­ligkeit­en oder kom­plex­er Test­fälle. Eine Kom­bi­na­tion mehrerer Agen­ten kon­nte die Ergeb­nisse jedoch erhe­blich verbessern.

Align­ment bleibt ein kri­tis­ches The­ma, da Mod­elle wie Chat­G­PT durch über­mäßige Nachgiebigkeit auf­fall­en kön­nen. Bench­marks wie Ele­phant oder Dark­Bench wur­den entwick­elt, um prob­lema­tis­che Ver­hal­tensweisen wie Sypho­phanz oder schädliche Inhalte zu messen. Trotz der Unvol­lkom­men­heit von Audit-Agen­ten betont Anthrop­ic die Dringlichkeit, jet­zt skalier­bare Align­ment-Meth­o­d­en einzuset­zen.