Wie Audit-Agenten KI-Verhalten verbessern
Anthropic hat Audit-Agenten entwickelt, die während der Tests von Claude Opus 4 erstellt wurden. Diese Agenten verbesserten Alignment-Validierungen und ermöglichten…
Artificial Intelligence Underwriting Company (AIUC): Versicherung und Sicherheitsstandards für den sicheren Einsatz von KI in Unternehmen
Das Startup Artificial Intelligence Underwriting Company (AIUC) hat $15 Millionen an Startkapital erhalten, um Unternehmen dabei zu helfen, KI-Systeme sicher…
BSI veröffentlicht QUAIDAL — einen Katalog zur Qualitätssicherung von Trainingsdaten in KI-Anwendungen
Die Qualität von Trainingsdaten ist entscheidend für den Erfolg und die Sicherheit von KI-Systemen. Mit dem QuaIDAL-Kriterienkatalog bietet das Bundesamt…
Haftungsgrenze für KI: Mixus setzt auf menschliche Aufsicht bei Hochrisiko-Prozessen
Unternehmen stehen vor Herausforderungen bei der Implementierung von KI-Agenten in kritischen Anwendungen. Ein pragmatischer Ansatz, der Menschen als strategische Absicherung…
Massive Cloud-Ausfälle überschatten OpenAI-Google-Partnerschaft
Die Ankündigung einer wegweisenden Partnerschaft zwischen OpenAI und Google Cloud zur Stärkung generativer KI-Plattformen wurde von einem unerwarteten Ereignis überschattet:…
Vertrauen in KI-Agenten: Ein dezentrales IAM-Framework für Multi-Agenten-Systeme
Das Papier A Novel Zero-Trust Identity Framework for Agentic AI: Decentralized Authentication and Fine-Grained Access Control schlägt ein neuartiges Zero-Trust-Identitäts-…
Agentische KI im Finanzwesen: Chancen, Risiken und verantwortungsvolle Implementierung
Das Whitepaper Agentic AI in Financial Services. Opportunities, Risks, and Responsible Implementation von IBM Consulting untersucht die Chancen und Risiken…
KI-basierter Chatbot der Sparkassen-Gruppe verwirrt die Kundschaft
SparkasseGPT ist ein neuer, kostenloser KI-basierter Chatbot der Sparkassen-Gruppe, der Kunden und Interessierten rund um die Uhr bei Fragen zu…
AgentSpec: Unsichere Codeausführungen verhindern
AI-Agenten haben Probleme mit Sicherheit und Zuverlässigkeit. Obwohl sie Unternehmen helfen könnten, Arbeitsabläufe zu automatisieren, können sie unbeabsichtigte Aktionen durchführen,…
Speicherinjektionsangriffe gegen KI-Agenten
Ein Speicherinjektionsangriff ist eine Art von Cyberangriff, bei dem ein Angreifer versucht, schädliche oder irreführende Informationen in das Gedächtnis eines…