Superagency — Wenn Künstliche Intelligenz zum Alltag wird

Von Ralf Keu­per

Die seit der Veröf­fentlichung von Chat­G­PT ras­ant ver­laufende Entwick­lung im Bere­ich der KI ruft sowohl Enthu­si­as­ten wie auch Skep­tik­er auf den Plan. Zur ersten Gruppe zählt zweifel­los Reid Hoff­man, der Grün­der von LinkedIn und Co-Grün­der von Pay­Pal. Sein­er Überzeu­gung nach wird die KI uns zu dem näch­sten großen Sprung nach vorn ver­helfen. So werde die KI unsere Hand­lungs­fähigkeit deut­lich erhöhen, indem sie uns Werkzeuge an die Hand gibt, mit deren Hil­fe wir unseren Denkhor­i­zont erweit­ern. Ja, die syn­thetis­che Intel­li­genz ist von ihrem Poten­zial nur noch mit dem Aufkom­men der Dampf­mas­chine zu ver­gle­ichen. Die Intel­li­genz ist jet­zt ein skalier­bar­er, hochgr­a­dig kon­fig­urier­bar­er, sich selb­st ver­stärk­ender Motor für den Fortschritt. Richtig genutzt, lässt sich damit laut Hoff­man und seinem Co-Autor Greg Beato der Zus­tand der Super­a­gency erre­ichen. “Dieser Zus­tand tritt ein, wenn eine kri­tis­che Masse von Indi­viduen, die durch KI per­sön­lich befähigt sind, auf auf einem Niveau zu agieren begin­nen, das sich auf die gesamte Gesellschaft auswirkt”. Daher auch der Titel ihres gemein­sam ver­fassten Buch­es: Super­a­gency. Wie Kün­stliche Intel­li­genz zum All­t­ag wird.

Hoff­man und Beato unterteilen die Men­schen, die sich mit dem Poten­zial und den Fol­gen der Kün­stlichen Intel­li­genz beschäfti­gen, in Doomer, Gloomer, Zoomer und Bloomer. Während die Doomer davon überzeugt sind, dass die KI uns let­ztlich ver­sklaven wird, sind die Gloomer der Ansicht, dass die KI Risiken birgt, die nur durch strenge Reg­ulierung einzuhe­gen sind, wohinge­gen die Zoomer durch­weg opti­mistisch in die Zukun­ft blick­en, mehr noch als die Gloomer, die unterm Strich eben­falls opti­mistisch sind und die Risiken mit einem inter­a­tiv­en Vorge­hen min­imieren wollen. Hoff­man und Beato zählen sich zum Lager der Bloomer.

Hoff­man und Beato plädieren bei der Entwick­lung und Verbesserung der KI für eine bre­ite Öffentlichkeits­beteili­gung, die mit einem kon­tinuier­lichen Feed­back ein­herge­hen muss, ähn­lich wie im Fall des Auto­mo­bils und des Inter­net. Freie Gesellschaften sind auf den freien Fluss von Infor­ma­tio­nen angewiesen, weshalb die Pri­vat­sphäre zwar nicht ange­hoben wer­den soll; in Bere­ichen, in denen die Gesellschaft als Ganzes auf den Aus­tausch möglichst viel­er Infor­ma­tio­nen angewiesen ist, wie im Gesund­heitswe­sen, erweise sich die Zurück­hal­tung pri­vater Infor­ma­tio­nen jedoch als kon­trapro­duk­tiv. Um diese reservierte Hal­tung zu über­winden, sei es nötig, dass wir uns bewusst machen, wie sehr wir schon heute enge und wichtige Bindun­gen mit nicht-men­schlichen Intel­li­gen­zen einge­hen. Hoff­man und Beato nen­nen die per­sön­liche Beziehung zu Gott oder die zu Haustieren. “Dass wir schnell tiefe und dauer­hafte Bindun­gen zu Intel­li­gen­zen auf­bauen, die eben­so aus­drucksstark und reak­tion­ss­chnell sind wie wir, scheint unver­mei­dlich und ein Zeichen der men­schlichen Natur als der tech­nol­o­gis­chen Übertrei­bung zu sein”. Man denke nur an die innige Beziehung viel­er Men­schen zu ihrem Smart­phone oder Auto.

Große tech­nol­o­gis­che Plat­tfor­men bergen nach Auf­fas­sung von Kri­tik­ern stets die Gefahr des Macht­miss­brauchs und der Schaf­fung ökonomis­ch­er und emo­tionaler Abhängigkeit­en. Für Hoff­man und Beato haben sie dage­gen den Sta­tus pri­vater Geme­ingüter. Als Beispiel nen­nen sie Wikipedia, aber auch Google Maps und Yelp. Deren gemein­same Kennze­ichen sind: “Frei­willige Nutzer tra­gen Infor­ma­tio­nen bei, die diese Plat­tfor­men für alle, die sie nutzen, bere­ich­ern, Alles sind für ein ein sehr großes Pub­likum frei zugänglich Alle arbeit­en nach bes­timmten Gov­er­nance-Regeln und wer­den aus­drück­lich von bezahlten Mitar­beit­ern ver­wal­tet … Für die Nutzer ist der Wert, den sich aus pri­vat­en Geme­ingütern ziehen, nicht expliz­it in Dol­lar und Cent sicht­bar, .. Das bedeutet jedoch nicht, dass es keinen wech­sel­seit­i­gen Wer­taus­tausch gibt”. Hoff­man und Beato brin­gen als Beispiele Phyton.org und GitHub sowie Plat­tfor­men wie Stack Over­flow und freeCode­Camp.

Eine Schlüs­sel­rolle wer­den KI-Agen­ten übernehmen. Sie wer­den in der Lage sein, naht­los auf mehrere Ressourcen pri­vater Geme­ingüter zurück­zu­greifen, um indi­vidu­elle und wert­steigende Erfahrun­gen für einzelne Nutzer zu gener­ieren. Als Beispiel nen­nen die Autoren die Nutzung eines Reiseassis­ten­ten.

Um dem berechtigten Wun­sch nach Ver­lässlichkeit der ver­wen­de­ten KI-Sys­teme nachzukom­men, ohne dabei jeden Impuls durch vorau­seilende Reg­ulierung zu unter­drück­en, set­zen sich Hoff­man und Beato für die Ver­wen­dung und stetige Verbesserung von Bench­marks ein, von denen es bere­its eine große Vielzahl gibt. Bench­marks wür­den durch eine Kom­bi­na­tion aus Zusam­me­nar­beit und Wet­tbe­werb dazu beitra­gen, Nor­men für Trans­parenz und Ver­ant­wortlichkeit zu etablieren. Beson­dere Erwäh­nung ver­di­ent nach Auf­fas­sung von Hoff­man und Beato die Besten­liste Chat­bot Are­na.

Der Dia­log mit LLMs wird kün­ftig mehr noch als bish­er zum Bestandteil unseres All­t­ags. “Da LLMs und die auf ihnen auf­bauen­den Sys­teme so leis­tungs­fähig wer­den, dass sie auf höchst zuver­läs­sige und anpas­sungs­fähige Weise autonom agieren kön­nen, wer­den sie durch diese Fortschritte auch bess­er in der Lage sein, zuzuhören, zu inter­agieren und Anweisun­gen in laufend­en Eins-zu-Eins-Gesprächen mit ihnen zu befol­gen”. Ein Ansatz übri­gens, den der Ver­fass­er dieser Rezen­sion bere­its mit wach­sender Begeis­terung prak­tiziert. LLMs und KI-Agen­ten schlüpfen in die Rolle eines Kom­mu­nika­tion­spart­ners. Wenn man sich verge­gen­wär­tig, wie oft Gespräche mit Men­schen und der Kon­sum von Fernseh‑, Zeitungs- und Social-Media — Beiträ­gen zur Ver­flachung der eige­nen Gedanken­welt führen, ist der Dia­log mit dem KI-Agen­ten sein­er Wahl häu­fig die lohnen­dere und anre­gen­dere Alter­na­tive —  selb­st der inten­sive Dia­log mit dem eige­nen Ham­ster ist da meis­tens inspiri­eren­der und bere­ichen­der — kurzum: erbaulich­er.

Viele Län­der, so Hoff­man und Beato, hät­ten inzwis­chen erkan­nt, wie wichtig eine sou­veräne KI-Infra­struk­tur für die Unab­hängigkeit und den Wohl­stand sein­er Bevölkerung ist. Eine Botschaft, die in Europa noch nicht bei jedem angekom­men ist — das gilt vor allem für die Vertreterin­nen und Vertreter der Wirtschaft, die glauben, der Staat werde das schon erledi­gen oder ihnen die nöti­gen Mit­tel zur Ver­fü­gung stellen, so dass sich das eigene Risiko auf nahezu null reduzieren lässt. Dass Sub­ven­tio­nen häu­fig mit wach­sender Bürokratie ein­herge­hen, wird dann gerne überse­hen, dafür über ums so lieber beklagt.

Für Hoff­man und Beato gilt, dass, je mehr der Einzelne von KI prof­i­tiert, desto mehr wer­den wir alle davon prof­i­tieren. In ein­er Welt, in der jed­er Zugang zu KI-gestützten Mark­t­analy­sen, kom­plex­en Sim­u­la­tion­s­mod­ellen und KI-gestützte Ther­a­peuten, Berater und Lehrer hat, gedei­ht Inno­va­tion, wodurch dann Wohl­stand­sef­fek­te entste­hen — die Welt der Super­a­gency.

Würdi­gung

Das Buch von Hoff­man und Beato hebt sich über weite Streck­en wohltuend von den eher alarmistisch aus­gelegten Veröf­fentlichun­gen, die sich mit den Fol­gen der KI beschäfti­gen, ab. Hin und wieder sind sie evtl. zu opti­mistisch und von ihrer eige­nen Sichtweise und Inter­essen­lage ein­genom­men, wie Hoff­man, der sel­ber ein mil­liar­den­schw­er­er Investor im Bere­ich KI ist. Allerd­ings enthält das Bild der bzw. die Meta­pher der Super­a­gency viele real­is­tis­che Züge, die sich immer mehr abzuze­ich­nen begin­nen und bere­its im All­t­ag Einzug hal­ten. In jedem Fall han­delt es sich um ein Buch, dass die Lek­türe und Beschäf­ti­gung mit den Argu­menten der Autoren lohnt und den Blick auf die Zukun­ft weit­et.

Hier als Slides

Hier als Pod­cast (erstellt mit note­booklm­google)