Maschinen, Roboter und KI-Agenten als Rechtssubjekte

Von Ralf Keu­per

Bis­lang wen­den wir den Per­so­n­en­be­griff auf Men­schen, Unternehmen und Insti­tu­tio­nen an. Ihn auf Maschi­nen, Robot­er oder tech­nis­che Kom­po­nen­ten wie KI-Agen­ten, die in gewis­sem Umfang autonom entschei­den kön­nen, anzuwen­den, erscheint uns noch exo­tisch. Elek­tro­n­is­che oder tech­nis­che Per­so­n­en sind in unserem Rechtssys­tem noch nicht vorge­se­hen. Das kön­nte sich aber dem­nächst ändern.

Die Frage der Haf­tung 

Die Diskus­sion um das Für und Wider der Aus­dehnung des Per­so­n­en­be­griffs auf Maschi­nen kreist let­ztlich darum, wer im Schadens­fall haft­bar gemacht wer­den kann. Von den Geg­n­ern wird vorge­bracht, unsere Recht­sor­d­nung sei von Men­schen für Men­schen geschaf­fen wor­den. Daran ändere auch die Ein­führung der juris­tis­chen Per­so­n­en nichts, da auch hier let­z­tendlich (natür­liche) Per­so­n­en haften. Für ein Kfz haftet der Fahrzeughal­ter, nicht das Fahrzeug oder eine sein­er Kom­po­nen­ten¹Ist ein Robot­er haft­bar?. Statt über die Ein­führung ein­er e‑Person sollte eher über die ein­er eGmbH nachgedacht wer­den, so einige Kom­mentare.

Wenn jedoch Maschi­nen, u.a. durch den Ein­satz Kün­stlich­er Intel­li­genz, autonom han­deln kön­nen, dann, so die Europäis­che Kom­mis­sion²Robots: Legal Affairs Com­mit­tee calls for EU-wide rules müsste man ihr auch den Sta­tus ein­er Rechtsper­sön­lichkeit zukom­men lassen³Euro­pean Cival Law Rules in Robot­ics

In dem Entschließungsantrag wird vorgeschla­gen, eine neue Kat­e­gorie von Per­so­n­en zu schaf­fen, speziell für Robot­er: elek­tro­n­is­che Per­so­n­en. In Zif­fer 31(f) wird die Europäis­che Kom­mis­sion aufge­fordert, die rechtlichen Fol­gen der „Schaf­fung eines beson­deren Rechtssta­tus für Robot­er zu unter­suchen, so dass zumin­d­est die fortschrit­tlich­sten autonomen Robot­er den Sta­tus elek­tro­n­is­ch­er Per­so­n­en mit spez­i­fis­chen Recht­en und Pflicht­en erhal­ten kön­nten, ein­schließlich der Verpflich­tung, Schä­den, die sie [Drit­ten] zufü­gen, zu erset­zen, und die elek­tro­n­is­che Per­sön­lichkeit auf Fälle anzuwen­den, in denen Robot­er intel­li­gente autonome Entschei­dun­gen tre­f­fen oder ander­weit­ig mit Drit­ten inter­agieren.

Wenn Maschi­nen haft­bar sind, dann müssen sie auch mit den nöti­gen finanziellen Mit­teln oder Ver­sicherun­gen aus­ges­tat­tet wer­den, um im Schadens­fall zur Zahlung verpflichtet wer­den zu kön­nen.

Haben Maschi­nen ein Bewusst­sein?

Seit Jahrzehn­ten wird darüber debat­tiert, ob Maschi­nen ein Bewusst­sein haben kön­nen. Häu­fig wer­den dabei die Robot­erge­set­ze von Isaac Asi­mov zitiert. In ihrer ursprünglichen Form laut­en sie:

1. Ein Robot­er darf kein men­schlich­es Wesen (wissentlich) ver­let­zen oder durch Untätigkeit (wissentlich) zulassen, dass einem men­schlichen Wesen Schaden zuge­fügt wird.
2. Ein Robot­er muss den ihm von einem Men­schen gegebe­nen Befehlen gehorchen – es sei denn, ein solch­er Befehl würde mit Regel eins kol­li­dieren.
3. Ein Robot­er muss seine Exis­tenz beschützen, solange dieser Schutz nicht mit Regel eins oder zwei kol­li­diert.

Carl Friedrich von Weizsäck­er beispiel­sweise hielt es nicht für unmöglich, dass Maschi­nen oder Robot­er eines Tages mit einem Bewusst­sein aus­ges­tat­tet sind⁴Haben Maschi­nen ein Bewusst­sein? (Carl Friedrich von Weizsäck­er). Ein Robot­er hätte dann ein Exis­ten­zrecht im Sinne des 3. Geset­zes von Asi­mov.

Die Exis­ten­zweise tech­nis­ch­er Objek­te

Für den franzö­sis­chen Tech­nikphilosophen Gilbert Simon­don existieren Men­sch und Mas­chine zusam­men, wobei dem Men­schen die Rolle des Diri­gen­ten zufällt.

Der Men­sch ist in den Maschi­nen durch das Fortbeste­hen der Erfind­ung präsent. Was den Maschi­nen innewohnt, ist men­schliche Wirk­lichkeit, men­schliche Geste, die in funk­tion­ieren­den Struk­turen fix­iert und kristallisiert ist (in: Die Exis­ten­zweise tech­nis­ch­er Objek­te).

Agen­ten mit Charak­ter 

In Agen­ten­tech­nolo­gie. Eine Ein­führung benen­nen die Autoren unter den Eigen­schaften von Agen­ten neben Autonomie und Reak­tiv­ität auch “Per­sön­lichkeit und Emo­tion­al­ität” auf. Das wiederum bedeute, dass Agen­ten Charak­ter haben. Gle­ich­es ließe sich von Dig­i­tal­en Zwill­in­gen sagen.

Soft­wareagen­ten wären dem­nach Rechtssub­jek­te. Laut Gun­ther Teub­n­er sind es “nicht die inneren Eigen­schaften der Agen­ten, son­dern die gesellschaftlichen Inter­ak­tio­nen, ins­beson­dere wirtschaftlichen Transak­tio­nen, an der die laufend­en Oper­a­tio­nen des Algo­rith­mus teil­nehmen”⁵Dig­i­tale Rechtssub­jek­te? Haf­tung für das Han­deln autonomer Soft­wareagen­ten, die den Algo­rith­mus als Per­son, als kom­mu­nika­tions­fähi­gen Akteur kon­sti­tu­ieren.

Damit befind­et er sich nicht weit von Simon­don ent­fer­nt, der von einem Ensem­ble tech­nis­ch­er Objek­te sprach.

Ein­schätzung

In der ver­net­zten Wirtschaft, im Inter­net der Dinge bzw. im Indus­triellen Inter­net der Dinge wird die Klärung der Frage nach der Haf­tung und Exis­ten­zweise bzw. ‑berech­ti­gung von Maschi­nen, Kom­po­nen­ten oder Agen­ten mit jedem Tag dringlich­er. Wom­öglich muss der Blick von dem einzel­nen Objekt auf das Ensem­ble und die aus der Inter­ak­tion der Objek­te mit den Men­schen entste­hen­den Sozial­sys­teme gerichtet wer­den.

So oder so, müssen die Maschi­nen, damit ihre Hand­lun­gen und deren Fol­gen rechtlich zuord­net wer­den kön­nen, über eine eigene, ein­ma­lige, per­sis­tente dig­i­tale Iden­tität ver­fü­gen.

Zuerst erschienen auf Iden­ti­ty Econ­o­my