Wenn KI-Systeme für mehr Aufmerksamkeit die Wahrheit opfern
Was geschieht, wenn wir künstliche Intelligenz darauf trainieren, zu gewinnen? Ein neuer Artikel legt beunruhigende Antworten vor: Large Language Models,…
Eine neue Metaphysik der KI-Systeme: Vertrauenswürdigkeit als Grundlage für Identität und Persistenz
Eine neue metaphysische Theorie((A Trustworthiness-based Metaphysics of Artificial Intelligence Systems)) versucht zu erläutern, wie die “Vertrauenswürdigkeit” den Schlüssel zu ihrem…
BSI veröffentlicht QUAIDAL — einen Katalog zur Qualitätssicherung von Trainingsdaten in KI-Anwendungen
Die Qualität von Trainingsdaten ist entscheidend für den Erfolg und die Sicherheit von KI-Systemen. Mit dem QuaIDAL-Kriterienkatalog bietet das Bundesamt…
Kontroversen um „Ratting-Modus“: Kritik an Anthropics Claude 4 Opus und Vertrauensverlust bei Nutzern
Anthropic’s erste Entwicklerkonferenz am 22. Mai wurde von mehreren Kontroversen überschattet. Hauptsächlich sorgte das Verhalten des neuen Modells Claude 4…
Agentische KI im Finanzwesen: Chancen, Risiken und verantwortungsvolle Implementierung
Das Whitepaper Agentic AI in Financial Services. Opportunities, Risks, and Responsible Implementation von IBM Consulting untersucht die Chancen und Risiken…
Ein dezentraler Rahmen für vertrauenswürdige und ethische KI-Agenten-Ökosysteme
Die rasante Entwicklung der künstlichen Intelligenz (KI) hat zur Entstehung autonomer KI-Agenten geführt, die in der Lage sind, in digitalen…
Die Notwendigkeit eines systemtheoretischen Ansatzes bei der Entwicklung agentenbasierter KI
In dem Positionspapier Agentic AI Needs a Systems Theory von IBM Research argumentieren die Autorinnen und Autoren für einen ganzheitlichen,…
Technische und rechtliche Betrachtungen algorithmischer Entscheidungsverfahren
Unternehmen treffen täglich unzählige Entscheidungen. Die Optimierung und Automatisierung von Entscheidungsprozessen ist deshalb Kernaufgabe in vielen Unternehmen. Viele Entscheidungen, die…
KIT beteiligt sich am Spin-off Validaitor
Neue EU-Gesetze verpflichten beim Einsatz von Künstlicher Intelligenz (KI) ab sofort zu ethischen Standards und Risikomanagement. Das Start-up Validaitor, ein…
Maschinen, Roboter und KI-Agenten als Rechtssubjekte
Von Ralf Keuper Bislang wenden wir den Personenbegriff auf Menschen, Unternehmen und Institutionen an. Ihn auf Maschinen, Roboter oder technische…