Die Physik der Gesellschaft und die Frage nach dem Regelsetzer

Ein Posi­tion­spa­pi­er mit 22 Autorin­nen und Autoren, das sich selb­st ein Man­i­fest nen­nt, muss einiges wagen. „Social Physics: A Man­i­festo” tut das, und es tut es mit Augen­maß. Es ver­ste­ht Social Physics nicht als Anspruch, die Gesellschaft in Naturge­set­ze zu fassen, son­dern als quan­ti­ta­tive, empirisch prüf­bare Erforschung kollek­tiv­en men­schlichen Ver­hal­tens: mit Net­zw­erk­forschung, agen­ten­basierten Mod­ellen, großen Daten­sätzen und Exper­i­menten. Das Spek­trum reicht von Finanzmärk­ten und ökonomis­ch­er Kom­plex­ität über Mei­n­ungs­bil­dung, Mobil­ität und Städte bis zu dem, was die Autoren Men­sch-KI-Ökosys­teme nen­nen.

Für eine Plat­tform, die sich mit KI-Agen­ten und Insti­tu­tio­nen beschäftigt, ist vor allem der let­zte Teil inter­es­sant. Dort stellt sich eine Frage, die das Papi­er berührt, aber nicht abschließend beant­wortet: Wer set­zt eigentlich die Regeln, nach denen sich die beschriebene Dynamik ent­fal­tet?

Was das Manifest bereits leistet

Zunächst ver­di­ent das Papi­er Anerken­nung für seine Selb­stkri­tik. Es nen­nt bequeme, aber unrepräsen­ta­tive Stich­proben, die Abhängigkeit von Plat­tfor­m­dat­en, schwache Kausali­den­ti­fika­tion, über­zo­gene Uni­ver­sal­ität­sansprüche und die Gefahr, dass Vorher­sage­mod­elle zu Instru­menten der Manip­u­la­tion wer­den.

Bemerkenswert ist zudem, wie aus­drück­lich Insti­tu­tio­nen vorkom­men. Schon in der Ein­leitung wer­den Insti­tu­tio­nen, Iden­titäten, Macht und Nor­men als kon­sti­tu­tive Kausal­struk­turen beze­ich­net, nicht als Stör­größen, die man her­aus­mit­telt. Unter den kün­fti­gen Forschungs­feldern ste­ht ein eigen­er Punkt zur Funk­tion von Insti­tu­tio­nen. Er hält fest, dass die Social Physics Agen­ten bish­er häu­fig auf fes­ten Net­zw­erken mod­el­liert hat, und fordert, kün­ftig zu unter­suchen, wie Insti­tu­tio­nen Net­zw­erke erzeu­gen, Kat­e­gorien fes­tle­gen, Entschei­dun­gen durch­set­zen und selb­st umstrit­ten wer­den. Das Papi­er benen­nt die eigene Lücke also selb­st.

Auch bei der Gov­er­nance bleibt es nicht bei Absicht­serk­lärun­gen. Es fordert dauer­hafte öffentliche Daten­in­fra­struk­turen, damit der Zugang zu gesellschaftlich fol­gen­re­ichen Plat­tfor­men nicht vom Wohlwollen der Betreiber abhängt, und eine Beteili­gung von Forschen­den, Daten­hal­tern, Reg­ulier­ern und betrof­fe­nen Öffentlichkeit­en. Außer­dem tren­nt es Steuer­barkeit im math­e­ma­tis­chen Sinn von legit­imer Steuerung: Dass sich ein Sys­tem kon­trol­lieren lässt, heißt nicht, dass man es kon­trol­lieren darf.

Wo die Frage offen bleibt

Weniger aus­gear­beit­et ist, was mit Agen­ten geschieht, die nicht bloß inner­halb ein­er Insti­tu­tion han­deln, son­dern an deren Regeln mitwirken. Im Abschnitt über Men­sch-KI-Koop­er­a­tion heißt es, KI-Agen­ten hät­ten gestal­tete Ziel­funk­tio­nen, trainierte Dis­po­si­tio­nen, Ressourcenkosten und insti­tu­tionelle Prinzip­i­en; sie seien wed­er eine autonome Spezies noch ein neu­trales Werkzeug. Das ist die Sicht der Betreiber: Der Agent ist ein gestal­tetes Arte­fakt inner­halb gegeben­er Regeln.

Man kann an dieser Stelle drei Typen unter­schei­den. Regel­ge­bun­dene Agen­ten führen vorgegebene Regeln aus. Regelin­tel­li­gente Agen­ten wen­den Regeln auf Sit­u­a­tio­nen an, die diese nicht aus­drück­lich vorse­hen, und inter­pretieren sie dabei. Rege­len­twer­fende Agen­ten verän­dern oder erzeu­gen Regeln für sich oder für andere. Das Man­i­fest behan­delt Agen­ten im Wesentlichen als Fälle der ersten und zweit­en Art. Ger­ade die dritte Art wirft aber die Frage auf, die die Social Physics ihrem eige­nen Pro­gramm nach beant­worten müsste: Was bedeu…