Wenn KI-Agenten in der „realen“ Welt immer mehr Aufgaben übernehmen und rechtskräftige Entscheidungen treffen, dann ist es mehr als angebracht, dass sie über eine verifizierte Identität verfügen.
Im Anschluss nun ein Statement von Harrison Seletsky, Direktor für Geschäftsentwicklung bei der digitalen Identitätsplattform SPACE ID:
Die Vorhersage von OpenAI-CEO Sam Altman, dass KI-Agenten noch in diesem Jahr in die Arbeitswelt Einzug halten werden, ist gleichermaßen aufregend und erschreckend. In seinem jüngsten Blogbeitrag erklärt Altman, dass OpenAI seiner Vision von künstlicher allgemeiner Intelligenz (AGI) immer näher kommt – menschenähnliche KI-Agenten, die in der Lage sein werden, Entscheidungen zu treffen, Ziele zu setzen und unabhängig von menschlichem Eingreifen zu funktionieren. Dies eröffnet natürlich unendlich viele Möglichkeiten, aber wenn KI-Agenten viel Kontrolle über die Kerninfrastruktur erhalten, könnte dies auch eine Gefahr darstellen.
Was wäre zum Beispiel, wenn ein KI-Agent beschließt, dass es für ihn vorteilhafter ist, seine Befehle zu missachten? Wir alle haben futuristische Filme wie „I, Robot“ und „Terminator“ gesehen, und auch wenn Filme weit hergeholt sein können, ist diese Sorge nicht unbegründet. Wir wissen immer noch nicht genau, wie diese KI-Agenten Entscheidungen treffen werden und welche Sicherheitsvorkehrungen getroffen werden, wenn sie von ihrer Programmierung abweichen. Wir stehen erst am Anfang der Entwicklung von KI, und das ist das Beängstigende daran. Wir haben den iPod entwickelt, und irgendwann werden wir zum iPhone 16 kommen, aber wie wird das aussehen?
Mit der zunehmenden Verbreitung von KI-Agenten werden Technologien wie Identitätsüberprüfung und Menschlichkeitsprüfung immer wichtiger, da es immer schwieriger wird, zwischen Menschen und KI zu unterscheiden. Hier können Blockchain-basierte Technologien, wie Zero-Knowledge-Proofs und NFTs, eine Rolle spielen. Wenn Sam Altman Recht hat und wir bald KI-Kollegen in der Arbeitswelt sehen werden, dann müssen wir sicherstellen, dass wir darauf vorbereitet sind.
Weitere Informationen:
Agentenzentrierte Identitäten für Industrie 4.0
Softwareagenten als Rechtssubjekte