Nvidia aktualisiert seine NeMo Guardrails-Technologie

Nvidia hat bedeu­tende Aktu­al­isierun­gen sein­er NeMo Guardrails-Tech­nolo­gie angekündigt, die speziell auf die Sicher­heits- und Schutzbedürfnisse von agen­tis­chen KI-Sys­te­men zugeschnit­ten sind.

Diese Neuerun­gen zie­len darauf ab, es Organ­i­sa­tio­nen zu erle­ichtern, gran­u­larere Kon­trollen für große Sprach­mod­elle (LLMs) in agen­tis­chen KI-Umge­bun­gen einzuset­zen und bere­itzustellen. Die NeMo Guardrails sind nun als Nvidia Infer­ence Microser­vices (NIM) ver­füg­bar, die für Nvidias GPUs opti­miert sind. Drei neue NIM-Dien­ste wur­den einge­führt: Der Con­tent Safe­ty NIM block­iert schädliche, tox­is­che und unethis­che Inhalte, der Top­ic Con­trol NIM stellt sich­er, dass KI-Inter­ak­tio­nen inner­halb vordefiniert­er the­ma­tis­ch­er Gren­zen bleiben, und der Jail­break Detec­tion NIM ver­hin­dert Sicher­heit­sumge­hun­gen durch cle­vere Hacks.

Die Aktu­al­isierun­gen adressieren mehrere Her­aus­forderun­gen bei der Imple­men­tierung agen­tis­ch­er KI, ein­schließlich verbessert­er Sicher­heit, Leis­tung und Skalier­barkeit. Nvidias Tests zeigen eine 50% bessere Schutzwirkung bei nur etwa ein­er hal­ben Sekunde zusät­zlich­er Latenz. Die Guardrails sind darauf aus­gelegt, effek­tiv in kom­plex­en agen­tis­chen KI-Sys­te­men zu funk­tion­ieren, die mehrere miteinan­der ver­bun­dene Agen­ten und Mod­elle umfassen.

Quelle:

Nvidia tack­les agen­tic AI safe­ty and secu­ri­ty with new NeMo Guardrails NIMs

NVIDIA Releas­es NIM Microser­vices to Safe­guard Appli­ca­tions for Agen­tic AI