Anpassungsfähige Verwaltung

Zum Auftakt des „Jahres der künstlichen Intelligenz“ demonstrierte der CEO von Microsoft, Satya Nadella, auf dem Weltwirtschaftsforum in Davos in der Schweiz, wie ein Landwirt, der auf dem Land in Indien lebt und eine lokale Sprache spricht, ein sogenanntes Feature-Phone mit ausgewählten Grundfunktionen in Verbindung mit einem großen Sprachmodell (LLM) nutzen kann, um auf öffentliche Dienste zuzugreifen. Das Modell verstand die Stimme, übersetzte von der lokalen Sprache in die Landessprache, in der die entsprechenden Formulare verfügbar waren, half bei der Navigation durch die auszufüllenden Formulare und gab dem Landwirt per Sprachausgabe weitere Anleitungen.

Das demonstrierte Beispiel ist das Ergebnis jahrelanger Arbeit und Zusammenarbeit mehrerer Interessengruppen. Durch die Projekte AI4Bharat, Karya und IVR Junction wurden Daten über lokale Sprachen gesammelt und LLMs trainiert, in diese Sprachen zu übersetzen. In der Folge wurden Analphabeten in Indien, die nur Zugang zu einfachen Feature-Phones haben, mit einem „sprachbasierten Internet“ verbunden. Diese Maßnahmen versprechen, die kulturelle Vielfalt Indiens zu erhalten und zu stärken, indem sichergestellt wird, dass diejenigen, die weniger verbreitete Sprachen sprechen und weit entfernt von den Städten leben, dennoch Zugang zu den öffentlichen Diensten haben, die sie zur Aufrechterhaltung ihrer Lebensweise benötigen.

Aufbauend auf diese Erfahrungen haben indische Unternehmen sowie zivile und staatliche Einrichtungen weitere Angebote eingeführt, um diese Fähigkeiten in großem Umfang zu nutzen. Dazu gehören ein staatlicher Chatbot für landwirtschaftliche Förderanträge und ein kostenloser mehrsprachiger WhatsApp-Chatbot, der bei verschiedenen öffentlichen Dienstleistungen unterstützt.

Verwaltung und Bürokratie sind zentrale Strukturen, die weltweit dabei helfen, einen Großteil von Aufgaben zu organisieren. Dies umfasst strukturierte Kommunikationsformen und deren regelbasierte Verarbeitung – deutlich formaler und strenger als die natürliche Sprache. Es handelt sich um eine weniger reichhaltige sensorische Erfahrung, die in der Regel darauf abzielt, Legitimität, Gleichheit und Verfahrensgerechtigkeit zu gewährleisten. Dennoch ermöglichen diese Strukturen eine Form der erweiterten Kommunikation, die sich von den streng mathematischen und mechanischen Interaktionen bei Wahlen oder auf Märkten unterscheidet. Daher erfordern sie ein tieferes gemeinsames Verständnis zwischen den Beteiligten, damit Vorgänge effektiv bearbeitet werden können und sichergestellt ist, dass Konventionen eingehalten und nicht übertreten werden. Die Verwaltung steht im Mittelpunkt der meisten Interaktionen zwischen Einzelpersonen oder kleinen Unternehmen mit Regierungen oder großen Organisationen. Sie ist auch zentral für die Gestaltung mittelfristiger Beziehungen zwischen Menschen innerhalb eines Gemeinwesens ohne enge soziale Bindungen. Sie regelt das meiste dessen, was wir unter Rechtsverfahren, Eigentumsverhältnissen, Identifizierung sowie Einstellungs- und Zulassungsverfahren verstehen, und prägt die meisten Funktionen des Verwaltungsstaats und der Wirtschaftsverwaltung.

Die klassischen Vorwürfe gegen Bürokratie und Verwaltung lauten, dass sie einerseits intransparent sind und denjenigen in Entscheidungspositionen einen übermäßigen Ermessensspielraum einräumen, andererseits aber auch starr sind und sich weder an die besondere Situation eines Einzelfalls noch an kulturelle Gegebenheiten anpassen können, die außerhalb des erwarteten Anwendungsbereichs liegen. Dieses Kapitel zeigt auf, wie Fortschritte in der digitalen Technologie, insbesondere bei generativen Basismodellen, dazu beitragen können, einige dieser Probleme zu mildern. So können Menschen unterschiedlichster Herkunft mit Verwaltungssystemen zusammenarbeiten, während ihre jeweilige Lebensweise respektiert wird.

Verwaltung heute

Viele der wichtigsten Ereignisse unseres Lebens hängen von Verwaltungsentscheidungen ab, die auf Informationsstrukturen (verschiedenen Arten von „Formularen“) beruhen – diese erfassen jedoch nur einen Bruchteil dessen, was unsere Lebenswege ausmacht. Beispiele hierfür sind:

• Ausweis- und Reisedokumente
• Ausbildungsnachweise, Lebensläufe oder Dokumente wie Curriculum vitae
• Rechtsdokumente, einschließlich Eigentumsurkunden und Verträge
• Steuererklärungen
• Strukturierte Leistungsbeurteilungen
• Medizinische Aufnahme- und Bewertungsformulare
• Gerichtsakten (diese enthalten jedoch in der Regel mehr Details und Kontext als die oben genannten)

Diese strukturierten Informationsformulare ermöglichen eine „faire“, „gerechte“ und „unparteiische“ Bewertung bei potenziellen Zuwendungen oder Entscheidungen, die zu komplex sind, um sich auf allgemeine transparente Regeln zu stützen, wie dies bei Märkten oder Wahlen der Fall ist. Um Fairness zu erreichen, lassen diese Systeme oft absichtlich eine Reihe von Informationen außer Acht. Dies wird in der europäischen Tradition durch verschiedene Abbildungen der personifizierten Justitia ausgedrückt, deren Augen verbunden sind. Wie Wissenschaftler spätestens seit dem Pionier der Soziologie Max Weber festgestellt haben, setzen Verwaltungssysteme große „Bürokratien“ und eine umfangreiche digitale Verarbeitung ein, um diese strukturierten Daten nach Regeln und Verfahren auszuwerten und dadurch zwei Ziele zu erreichen: Erstens mehr Informationen zu gewinnen als Wahlen und Märkte dies ermöglichen und zweitens dabei Fairness zu wahren.^[1]

Dadurch geraten Verwaltungen in ein Spannungsfeld zwischen zwei Polen: Sie können nur begrenzt vielfältige Formen der Zusammenarbeit zulassen und gleichzeitig nur eingeschränkt soziale Vielfalt überbrücken.^[2]

Das erste Problem könnte man als „Starrheit“ bezeichnen, d. h. dass bürokratische Regeln, die viele Details weglassen, zu Ergebnissen führen, bei denen wichtige Merkmale für spezifische Fälle oder lokale Umstände nicht berücksichtigt werden. Es gibt Beispiele, die schlicht banal, beschämend oder einfach lächerlich sind. Man bedenke:

• In den meisten Ländern gibt es Geschwindigkeitsbegrenzungen für das Autofahren, um die Sicherheit zu gewährleisten. Die sichere Fahrgeschwindigkeit hängt jedoch stark von den Straßen-, Umwelt- und anderen Bedingungen ab. Das bedeutet, dass die Geschwindigkeitsbegrenzungen in den meisten Fällen entweder zu hoch oder zu niedrig für die jeweiligen Umstände sind. Ein ähnlicher Zusammenhang besteht für fast alle verwaltungspolitischen Maßnahmen, von den Warenpreisen bis zu den Pausenzeiten für Arbeitnehmer:innen.
• Um einen gut bezahlten Arbeitsplatz zu erhalten, müssen Menschen aus den verschiedensten Kulturen der Welt in der Regel ihre Leistungen und ihr Leben in das Format von Lebensläufen und Zeugnissen zwängen, die so gestaltet sind, dass sie für die Verwaltungsbürokratie und die einstellenden Manager lesbar sind, anstatt ihre Leistungen genau wiederzugeben.
• Ende der 1990er Jahre musste eine niederländische Fluggesellschaft buchstäblich hunderte von lebenden Eichhörnchen schreddern, weil sie nicht die richtigen Papiere für die Durchreise durch den Flughafen Schiphol hatten. Dies ist zwar ein besonders grausames Beispiel, aber fast jeder, der schon einmal geflogen ist, kennt die unflexiblen bürokratischen Systeme, die für die Verwaltung des Flugverkehrs verwendet werden und wird von dieser Geschichte nicht allzu überrascht sein.

Doch während Bürokratie einerseits „starr“, „kalt“ und „herzlos“ erscheint, wird im Gegensatz dazu häufig die Komplexität der Bürokratie beklagt, weil sie oft unverständlich und schwer zu handhaben sei (siehe dazu z. B. Franz Kafkas klassisches Werk „Das Schloss“), gespickt mit Kleingedrucktem und scheinbar willkürlichen Bürokraten einen übermäßigen Ermessensspielraum einräumen.^[3] Diese Probleme gehören zu den ärgerlichsten Merkmalen von Verwaltungen und sind eine ständige Quelle der Beschwerde für freiheitlich gesinnte Menschen (engl.: libertarians). Tatsächlich haben sie viele der Ideen über „dezentrale autonome Organisationen“ (DAO; englisch: distributed autonomous organization) und „smarte Verträge“ inspiriert, die übermäßige Ermessensspielräume vermeiden sollen, welche zu hohen Kosten im Rechtsbereich führen. Trotzdem ist klar, dass ein Hauptgrund für diese Komplexität die Notwendigkeit ist, die Vielfalt und Vielschichtigkeit der zu bearbeitenden Fälle zu berücksichtigen. Das ist auch der Hauptgrund dafür, dass Verwaltungen an Legitimität einbüßen. Indem sie versuchen, ein breites Spektrum sozialer Unterschiede abzudecken, damit sie ordnungsgemäß funktionieren, werden sie immer komplexer. Zunehmend entstehen jedoch digitale Technologien, die es ermöglichen, diese Problematik eleganter zu lösen, indem sie die Zusammenarbeit verbessern und zurecht ein breiteres Spektrum an Vielfalt abdecken.

Adaptive Verwaltung von morgen

Die bisher wichtigsten Technologien zur eleganten Beherrschung der Komplexität sind diejenigen, die gewöhnlich als „künstliche Intelligenz“ (KI) bezeichnet werden. Wie wir jedoch wiederholt festgestellt haben, bezieht sich der Begriff KI eher auf akademische Anstrengungen als auf einen konkreten Satz von Werkzeugen. In unserem Fall sind die Details der verwendeten Werkzeuge jedoch entscheidend. Und das ist es auch, was die bürokratischen Verwaltungen von einst unterscheidet von den Möglichkeiten, die sich durch generative Basismodelle (GFMs) eröffnen. Die KI-Arbeiten, die das Feld in den 1970er und 1980er Jahren dominierten und manchmal als „good old-fashioned AI“ (GOFAI) bezeichnet wurden, waren in vielerlei Hinsicht ein Versuch, die konventionellen Verwaltungsverfahren zu automatisieren. In Gesprächen mit „Experten“ versuchten Programmierer, Software für Verwaltungsabläufe mit komplizierten, verschachtelten Regeln (oft als „Entscheidungsbäume“ bezeichnet) zu entwickeln: Hat der Patient Fieber? Wenn ja, sind ihre Augen rot; wenn nicht, sind ihre Lymphknoten entzündet?.. Diese Art der künstlichen Intelligenz stieß an ihre Grenzen und wurde in den 1990er Jahren zunehmend uninteressant. Seitdem wurde sie weitgehend durch das „maschinelle Lernen“ ersetzt, insbesondere durch neuronale Netze und deren vielversprechenden und jüngsten Weiterentwicklung, die GFMs.

Im Gegensatz zu GOFAI ist das maschinelle Lernen ein statistischer und sich entwickelnder Ansatz zur Klassifizierung, Vorhersage und Entscheidungsfindung. Anstatt ein Paket unveränderlicher Regeln von oben nach unten aufzubauen, lernt das System anhand von Beispielen zu klassifizieren, und zwar nach probabilistischen Methoden und in einer Weise, für die es oft keine einfache Erklärung gibt. In neuronalen Netzen und insbesondere in GFMs gibt es oft Milliarden oder sogar Billionen von „Knoten“, über die die Signale laufen. Über diese Knoten laufen dann Signale zu anderen Knoten, die schließlich alle zusammenfließen, um ein Ergebnis wie das nächste Wort oder Bild vorherzusagen. Basierend auf solchen Prozessen haben GFMs eine bemerkenswerte und sich rasch verbessernde Fähigkeit gezeigt: flexible Klassifizierungen, Reaktionen und Schlussfolgerungen, zu denen bisher oft nur Menschen fähig waren. Hinzu kommt, dass diese Fähigkeiten rasch skalierbar und weitgehend reproduzierbar sind.

Solche Erfolge haben die verlockende Aussicht eröffnet, dass GFMs das Kernproblem an der Wurzel des Verwaltungshandelns lösen könnten. Die Einführung von GFMs als Komponenten in Verwaltungsverfahren könnte eine Behörde in die Lage versetzen, eine weitaus vielfältigere und unstrukturiertere Menge von Informationen zu verarbeiten. Sie könnte sich weiterentwickeln, wie es ein umsichtiger und sachkundiger Experte tun würde, und zudem in einer Weise, die ein gewisses Maß an Reproduzierbarkeit gewährleistet. Und Anwender:innen würden nicht übermäßig mit dem Ausfüllen spezieller Formulare belastet.

Diese Möglichkeit wurde vor allem in den letzten zwei Jahren erforscht, als das Interesse an GFMs geradezu explodiert ist:

• Wie wir in unserer einleitenden Skizze angedeutet haben, haben diese Werkzeuge deutlich gezeigt, dass sie marginalisierten Gemeinschaften den Zugang zu öffentlichen Diensten ermöglichen können, den sie andernfalls nur schwer gefunden hätten. Eine der Hauptaufgaben von Sozialarbeiter:innen besteht seit langem darin, die Suche nach dem Zugang zu derartigen Diensten zu unterstützen. Die öffentlichen Mittel sind jedoch in der Regel viel zu gering, um einen annähernd universellen Zugang zu gewährleisten, vor allem in Entwicklungsländern. Führend bei solchen Entwicklungen waren das Kela-Kelpo-Projekt der finnischen Regierung, die Deutsche Rentenversicherung Bund in Deutschland und der Benefits Data Trust in den USA.
• Eine ähnliche, aber noch ehrgeizigere Anwendung ist die Nutzung von GFM, um den Zugang zu Rechtsberatung und -dienstleistungen für diejenigen zu verbessern, die sich keine qualitativ hochwertige herkömmliche juristische Beratung leisten können. Beispiele hierfür sind Legal Robot und DoNotPay, die beide darauf abzielen, Kunden mit begrenzten Mitteln zu helfen. Dabei soll vor allem das Ungleichgewicht in Rechtsverfahren gegenüber Unternehmen reduziert werden. Unternehmen können sich in der Regel qualitativ hochwertige Rechtsdienstleistungen leisten, weil sie nicht nur auf Gewinne aus den Einzelfällen abzielen, sondern auch von den geschaffenen Präzedenzfällen profitieren.^[4]
• Auf den Arbeitsmärkten herrscht oft ein „Reich wird noch reicher“-Muster vor. Top-Arbeitgeber:innen rekrutieren häufig ausschließlich von Eliteuniversitäten oder setzen Berufserfahrung in berühmten Top-Firmen als Hauptindikator für Zukunftspotenzial voraus. Dadurch werden vielen Chancen genommen, die weniger konventionelle Wege eingeschlagen haben. Und, was vielleicht noch wichtiger ist, alle, die mit solchen Chancen rechnen, werden auf enge vorgegebene Bildungs- und Karrierewege gezwungen. Mehrere neue Personalplattformen (wie HiredScore, Paradox.ai, Turing und Untapped) zielen jetzt darauf ab, die Bandbreite und Vielfalt der Kandidaten, die Personalchefs in Betracht ziehen können, zu erweitern. Eine zentrale Herausforderung: Mangels historischer Beispiele für die Einstellung vielfältiger Kandidaten leiden Zuverlässigkeit und Flexibilität solcher Algorithmen.
• Viele der ökologisch und kulturell reichsten Regionen der Erde sind entweder unzureichend oder in einer Weise kartiert, die mit der kolonialen Perspektive eines Außenstehenden zu vergleichen ist. Sie steht im Widerspruch zur Perspektive indigener Völker, die die Umwelt aufmerksam beobachten und seit langem bestehende Beziehungen zu ihr und untereinander pflegen.^[5] Verschiedene Gruppen haben daher digitale Kartierungswerkzeuge und zunehmend auch GFM eingesetzt, um solche traditionellen Rechtsverhältnisse zu beschreiben und sie kolonialen Rechtssystemen gegenüberzustellen. Dazu zählen Digital Democracy, die Rainforest Foundation US, die Indigenous Land and Sea Corporation der australischen Regierung und “SERVIR Amazonia" aus Mexiko.^[6]

Wie das letzte Beispiel besonders hervorhebt, sind hier eine Reihe digitaler Technologien von Bedeutung, die traditionell nicht mit „KI“ in Verbindung gebracht werden, darunter die Kartierung (globale Positionsbestimmung und geografische Informationssysteme). Dies wird in der umfassenden Kartierungsarbeit von Ushahidi eindringlich illustriert, die bei der Katastrophen- und Konfliktbewältigung geholfen hat.^[7] Dazu gehören auch transparente Datenbanken (einschließlich Distributed-Ledger-Technologie). Dies wird in einer Reihe von Fällen veranschaulicht, in denen diese von Organisationen wie ID2020 als Grundlage für die Identifizierung von Flüchtlingen oder für Grundbucheintragungen in Honduras verwendet werden. Im Übrigen liegt die Stärke von GFMs weniger in ihrer KI-Eigenschaft als in ihrer vernetzten und probabilistischen Struktur. Diese ermöglicht es ihnen, sich an eine größere Vielfalt und Mehrdeutigkeit der Informationen anzupassen. Vergleichbare Strukturen existieren auch in menschlichen Beziehungsnetzwerken, etwa in adaptiven Bürokratieformen oder in dezentralen Vertrauensbeziehungen nach dem Prinzip der Paketvermittlung (Packet-Switching).

Die Herausforderungen der adaptiven Verwaltung

Ob basierend auf Netzwerken von Menschen, computersimulierter Neuronen oder, was am wahrscheinlichsten und effektivsten ist, einem Geflecht aus beidem, das Potenzial solcher Systeme könnte weit über diese ersten Versuche hinausgehen. Bisher zielen diese Systeme größtenteils darauf ab, sich in bestehende starre Verwaltungsstrukturen einzufügen und verstärken damit in vielen Fällen eher deren Begrenzungen. Es lohnt sich daher, unsere Gedanken von einigen dieser Begrenzungen zu befreien und sich vorzustellen, wie man einen stärker transformativen Wandel erreichen kann.

Eine der vielversprechendsten Ansätze wurde von Danielle Allen, David Kidd und Ariana Zetlin vorgeschlagen.^[8] Demnach könnten herkömmliche Abschlussarbeiten und Titel schrittweise durch eine weitaus vielfältigere Palette von „Abzeichen“ (engl.: badges) ersetzt werden. Anfangs sollen spezifisch, messbare Fähigkeiten konkret anerkannt werden. Diese Badges helfen dann dabei, sich für „Mezzo-Badges“ zu qualifizieren. Eine geeignete Kombination von Mikro- und Mezzo-Badges soll dann den Aufstieg zum Erwerb anerkannter „Makro-Badges“ ermöglichen. Diese sollen schließlich von potenziellen Arbeitgeber:innen oder Bildungseinrichtungen verwendet werden können. Dieses Verfahren spiegelt unmittelbar wider, was sich innerhalb eines neuronalen Netzes ereignet: Kombinationen von Impulsen (engl.: inputs) auf niedrigerer Ebene lösen fortwährend Impulse auf höherer Ebene aus und erzeugen damit aussagekräftigere Ergebnisse (engl.: outputs). Allen und ihre Koautoren argumentieren, dass ein solches System viel besser mit den jahrelangen Ergebnissen der Forschung in der Bildungspsychologie übereinstimmen würde. Diese hat gezeigt, dass menschliche Fähigkeiten von Natur aus vielschichtig sind – ein Schüler kann beispielsweise in räumlichem Denken brillieren, während er mit symbolischer Algebra kämpft – und daher oft nicht zu den Standardunterrichtspraktiken passen. Sie hat außerdem nachgewiesen, dass viele Lernende, insbesondere historisch marginalisierte und/oder akademisch weniger interessierte, durch solche starren Strukturen oft von Entwicklungsmöglichkeiten ausgeschlossen werden.

GFMs und andere neuronale Netze könnten nicht nur die Struktur eines solchen Systems prägen, sondern auch unmittelbar nützlich sein: Sie würden Arbeitgeber:innen dabei helfen, mit den komplexeren Lebensläufen umzugehen, die dadurch entstehen. Gleichzeitig könnten GFMs Lernende bei der Navigation durch vielfältigere Ausbildungswege unterstützen und ihnen beim Erwerb relevanter Badges helfen. Darüber hinaus werden Publikations-Technologien benötigt – etwa soziale Netzwerke, digital verifizierbare Nachweise und dezentrale Ledger –, um Vertrauen, Glaubwürdigkeit und Transparenz im Zusammenhang mit solchen Badges aufzubauen. Noch weitreichender könnten viele Identifizierungs- und Zugangsverfahren (etwa für Vereine, Schulen oder Nationen durch Migration) auf einem breiteren Netzwerk von Signalen aus vielfältigen sozialen Beziehungen basieren, wie wir im Kapitel über Identität und Persönlichkeit erörtert haben. Dazu müsste eine anpassungsfähigere Verwaltungsinfrastruktur dieses breite Spektrum an Signalen sinnvoll verarbeiten können.

Noch erstrebenswerter wäre es, künftig unterschiedliche Rechtssysteme stärker in die Verwaltungspraxis zu integrieren. Moderne Staatlichkeit und Kolonialismus haben weltweit traditionelle Rechtspraktiken weitgehend verdrängt, die sich je nach geografischer und kultureller Lage stark von den auferlegten Systemen unterschieden. Viele dieser Praktiken bestehen zwar informell fort, stehen aber im Konflikt mit formalen Rechtsstrukturen, die oft weit entfernte nationale Regierungen eingerichtet haben. Betroffen sind Bereiche wie geschlechtliche und sexuelle Beziehungen, Verpflichtungen im Zusammenhang mit Schenkungen, die Lösung familiärer Konflikte, Landnutzung und vieles mehr. Während in einigen Fällen Konsens darüber besteht, dass die Abschaffung solcher Traditionen angemessen ist – etwa beim Verbot weiblicher Genitalverstümmelung –, wurden traditionelle Praktiken in vielen Fällen eher aus Bequemlichkeit als aus Überzeugung außer Kraft gesetzt. Traditionelle Praktiken erschweren es beispielsweise Außenstehenden zu verstehen, wie man Land erwirbt oder in angemessener Weise eine Ehe mit jemandem aus einer fremden Gemeinschaft anbahnt. Die teils erzwungene, teils sanft erwirkte Vereinheitlichung kultureller Praktiken hat den interkulturellen Austausch zwar erleichtert, jedoch auf Kosten oft jahrhundertealter kultureller Weisheit.

So wie GFMs immer mehr in der Lage sind, kostengünstige Übersetzungen in eine wachsende Zahl von Sprachen zu ermöglichen, lässt sich vorstellen, dass auch die Vermittlung kultureller Normen erheblich erleichtert werden kann. In der Vergangenheit wurde diese Aufgabe von Kulturanthropologen und Ethnographen nur unzureichend und mit großem Aufwand wahrgenommen. Erheblich günstigere und einfachere Übersetzungen könnten dazu beitragen, dass ein viel breiteres Spektrum von Sprachen lebendig und für neue Generationen attraktiv bleibt, weil sie den Austausch mit Außenstehenden erleichtern. In gleicher Weise könnte die günstigere und einfachere Vermittlung von Normen ein viel breiteres Spektrum rechtlicher und eigentumsrechtlicher Praktiken nachhaltig erhalten. Dies würde den ständigen Anpassungsdruck reduzieren, der nicht nur auf kolonialisierten Gemeinschaften lastet, sondern auch auf vielen „traditionellen“ Gemeinschaften bspw. in den ländlichen Gebieten der entwickelten Welt. Zugleich würde dies die kulturelle Vielfalt bereichern, die als Motor für sozialen Fortschritt dient. Die nächsten Generationen von GFMs könnten durch die Auseinandersetzung mit diesen kulturellen Unterschieden lernen und zunehmend flexibler arbeiten.

Über die Erhaltung bestehender Vielfalt hinaus könnte dieser Fortschritt helfen, weitere Diversifizierung und künftige Entwicklungen zu fördern. Viele der Ansätze, die wir in diesem Buch skizziert haben, fordern selbst ambitionierte Futuristen heraus. Dies hat dazu geführt, dass Experimentierfreudige vorschlagen, “Netzwerkstaaten”, “Charter-Städte”, “Seasteads” oder andere Konstrukte zu gründen, um aus bestehenden Rechtssystemen auszusteigen. Solche Vorhaben erzeugen naturgemäß Spannungen mit denjenigen, die zentrale öffentliche Güter und die soziale Ordnung erhalten wollen. Eine derart strikte Trennung ist jedoch möglicherweise nicht erforderlich, wenn neue Ansätze durch maschinelle Übersetzung verständlich erklärt und in bestehende Rechtsstrukturen integriert werden können. Dies würde ein vielfältiges Spektrum an Experimenten mit Kombinationen aus neuartigen und traditionellen Verfahren ermöglichen, während gleichzeitig die Zusammenarbeit über große soziale Unterschiede hinweg aufrechterhalten wird. So könnte eine sich ständig erweiternde Vielfalt in unendlichen Kombinationen gedeihen.

Die Grenzen der adaptiven Verwaltung

Es gibt heute vielleicht keine Technologie, deren Risiken und Gefahren intensiver diskutiert werden als GFMs – und das aus gutem Grund. Mehrere Faktoren machen sie problematisch: Erstens ihre Intransparenz. Zweitens die irreführende Vorstellung von Autonomie, die der gängige Begriff „KI“ suggeriert (weshalb wir ihn meist vermeiden) – diese Vorstellung verschleiert, dass GFMs von Menschen entwickelt wurden und deren Entscheidungen widerspiegeln. Drittens ihr Potenzial, die Voreingenommenheiten sowohl ihrer Trainingsdaten als auch ihrer Entwickler zu übernehmen. Und schließlich ihr Missbrauchspotenzial. All diese Aspekte stellen erhebliche Gefahren dar.

Im Zusammenhang mit Anwendungen in der Verwaltung sind die Auswirkungen dieser Mängel leicht zu erkennen. Obwohl die Interaktion mit GFMs weniger mühsam ist, verschärfen sie wohl weiterhin die mangelnde Nachvollziehbarkeit bürokratischer Vorgänge. Die Probleme mit der Vertraulichkeit und der menschlichen Voreingenommenheit können sie kaum abmildern. Oft ist es extrem herausfordernd, die Voreingenommenheit solcher Systeme zu erfassen oder herauszufinden, welche Muster menschlichen Verhaltens in der Vergangenheit die heutigen Ergebnisse beeinflussen.^[9] Da solche Modelle überwiegend mit bereits vorhandenen Daten trainiert werden, ist die Messung der Datenvielfalt, die KI-Forscher schätzen, von entscheidender Bedeutung, auch wenn sie die Datenvielfalt nur schwer definieren können. Damit wird sichergestellt, dass die Modelle grundsätzlich leistungsfähig sind und mit der Vielfalt so umgehen können, wie wir uns das vorstellen. Die Stärke und Energie, mit denen diese Vielfalt erforscht und in die Modelle integriert wird, bestimmt, inwieweit diese Modelle Vielfalt fördern oder stattdessen Konformität erzwingen. Viele der alten Ethnographen wurden eher zu Instrumenten kolonialer Herrschaft als zu Vermittlern eines gleichberechtigten kulturellen Austauschs.^[10] Nicht zuletzt kann die Interoperabilität der Modelle zwischen verschiedenen Rechtssystemen leicht in eine regulatorische Ausbeutung (engl.: arbitrage) abgleiten, wenn sie von mächtigen Interessen missbraucht wird. Dabei werden Schlupflöcher zwischen dem, was Gesetze bezwecken sollen, und dem, was sie formal regeln, ausgenutzt.

Glücklicherweise haben einige der Technologien, die wir in anderen Kapiteln dieses Abschnitts betrachten, das Potenzial, einige dieser Mängel zumindest teilweise zu beheben. Während die Logik der GFM hoffnungslos undurchsichtig ist, wenn wir versuchen, sie auf die einfachen Regeln der Mathematik zu reduzieren, eröffnen reichhaltigere Formate wie die immersive geteilte Realität (ISR, engl.: immersive shared reality) oder die postsymbolische Kommunikation den Zugang zu tiefergehenden Beziehungsebenen und der gegenseitigen Verständigung. Dies trägt dazu bei, das Vertrauen in menschliche Gemeinschaften aufzubauen und schafft mehr Spielräume, die für den Austausch vertraulicher Informationen genutzt werden können. Viele Methoden der kollektiven Meinungsbildung und Entscheidungsfindung, die wir im vorigen Kapitel betrachtet haben und im nächsten Kapitel weiter untersuchen werden, lassen sich auf natürliche Weise darauf anwenden, legitime Machtverteilungen zu definieren – Machtverteilungen, die direkt die Governance von GFMs, die Verteilung des von ihnen geschaffenen wirtschaftlichen Werts und die kollektive Steuerung ihres Verhaltens im Einklang mit dem öffentlichen Willen beeinflussen können. Wenn solche Praktiken auf Legitimität beruhen und durch vielfältigere Interaktionsformen weiterentwickelt werden, bieten diese und andere digitale Systeme eine vielversprechende Möglichkeit, die zugleich kalte und willkürliche Beschaffenheit jener Systemwelt zu überwinden, die bisher den Preis der Moderne dargestellt hat…

---

1. Max Weber, Economy and Society (Somerville, NJ: Bedminster Press, 1968). ↩︎

2. Ein kommendes Buch bietet eine hervorragende Studie dieser Pathologien sowie das unten stehende Eichhörnchen-Beispiel. Davies, op. cit. ↩︎

3. Franz Kafka, The Castle (Munich: Kurt Wolff Verlag, 1926). ↩︎

4. Marc Galanter, “Why the ‘Haves’ Come Out Ahead: Speculations on the Limits of Legal Change”, Law and Society Review 9, no. 1 (1974): 95. ↩︎

5. Aníbal Quijano, “Coloniality and Modernity/Rationality”, Cultural Studies 21, no. 2-3: 168-178. ↩︎

6. Jake Ramthun, Biplov Bhandari and Tim Mayer, “How SERVIR Uses AI to Turn Earth Science into Climate Action”, SERVIR blog November 21, 2023 at https://servirglobal.net/news/how-servir-uses-ai-turn-earth-science-climate-action. ↩︎

7. Ory Okolloh, “Ushahidi, or ‘Testimony’: Web 2.0 Tools for Crowdsourcing Crisis Information” in Holly Ashley ed., Change at Hand: Web 2.0 for Development (London: International Institute for Environment and Development, 2009). ↩︎

8. Danielle Allen, David Kidd and Ariana Zetlin, “A Call to More Equitable Learning: How Next-Generation Badging Improves Education for All” Edmond and Lil Safra Center for Ethics and Democratic Knowledge Project, August 2022 at https://www.nextgenbadging.org/whitepaper. ↩︎

9. Siehe zum Beispiel Safiya Umoja Noble, Algorithms of Oppression: How Search Engines Reinforce Racism (New York: New York University Press, 2018). Cathy O’Neil, Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy (New York: Broadway Books, 2016). Ruha Benjamin, Race After Technology: Abolitionist Tools for the New Jim Crow (Cambridge, UK: Polity Press, 2019). ↩︎

10. Talal Asad, Anthropology & the Colonial Encounter (Ithaca, NY: Ithaca Press, 1973). ↩︎