Präsidentin von Signal hat Zweifel an Sicherheit agentischer KI
Meredith Whittaker, die Präsidentin des Messenger-Dienstes Signal, äußerte auf der SXSW 2025-Konferenz in Austin, Texas, deutliche Bedenken hinsichtlich der Sicherheit…
Identitätslösungen für KI-Agenten
KI-Agenten haben den Technologiewachstumszyklus erreicht, was erhebliche Auswirkungen auf Online-Zahlungen, digitale Interaktionen und die Anforderungen an digitale Identitätssysteme hat. Es…
Sicherheitsrisiken von KI-Agenten effektiv begegnen
Autonome KI-Agenten können in verschiedene Arbeitsabläufe integriert werden und eine Vielzahl von Aufgaben übernehmen, von der Informationssuche in internen Dokumenten…
Robuste Authentifizierungs- und Sicherheitsmechanismen für KI-Agenten
Die zunehmende Autonomie von Künstlicher Intelligenz (KI) macht robuste Authentifizierungs- und Sicherheitsmechanismen für KI-Agenten unerlässlich. Diese umfassende Analyse beleuchtet, wie…
Wenn KI-Systeme sich verselbständigen
Die kürzlich veröffentlichte Studie “Frontier AI systems have surpassed the self-replicating red line” beleuchtet besorgniserregende Fortschritte im Bereich der Künstlichen…
Generative KI-Modelle. Chancen und Risiken für Industrie und Behörden
Generative KI-Modelle sind in der Lage, eine Vielzahl an Aufgaben durchzuführen, die traditionell Kreativität und menschliches Verständnis erfordern. Sie erlernen…
“Agentic Evaluations” für die Überprüfung der Zuverlässigkeit von KI-Agenten
Galileo, ein in San Francisco ansässiges Startup-Unternehmen, hat mit “Agentic Evaluations” ein neues Produkt auf den Markt gebracht, das sich…
Nvidia aktualisiert seine NeMo Guardrails-Technologie
Nvidia hat bedeutende Aktualisierungen seiner NeMo Guardrails-Technologie angekündigt, die speziell auf die Sicherheits- und Schutzbedürfnisse von agentischen KI-Systemen zugeschnitten sind.…
Mit der Verbreitung von KI-Agenten wird die Identitätsüberprüfung immer wichtiger
Wenn KI-Agenten in der “realen” Welt immer mehr Aufgaben übernehmen und rechtskräftige Entscheidungen treffen, dann ist es mehr als angebracht,…
Risiken und Sicherheitsmaßnahmen bei der Nutzung von großen Sprachmodellen (LLMs) und KI-gestützten Anwendungen
Die Studie GenAI Trust and Safety:Mitigating Risks and Enabling Solutions November 2024 von opusresearch behandelt umfassend die Themen rund um…