Informationstechnologie und Demokratie · 2-0
Informationstechnologie und Demokratie: eine sich vergrößerende Kluft
„Überwachungskapitalismus ist … ein Putsch von oben … die Abschaffung der Volkssouveränität und eine maßgebliche Kraft auf dem gefährlichen Weg hin zur Zerstörung der Demokratie …“ — Shoshana Zuboff, Das Zeitalter des Überwachungskapitalismus[1], 2019
„Wir werden belogen … man sagt uns, Technologie nimmt uns die Arbeitsplätze weg, reduziert unsere Löhne, vergrößert die Ungleichheit, bedroht unsere Gesundheit, ruiniert die Umwelt, zersetzt unsere Gesellschaft, verdirbt unsere Kinder, beeinträchtigt unsere Menschlichkeit, bedroht unsere Zukunft und steht kurz davor, alles zu ruinieren.“ – Marc Andreessen, “Das Techno-Optimisten-Manifest”[2], 2023
Die Angst vor Technologie und Geopolitik ist heute allgegenwärtig. Doch es gibt einen grundlegenderen Konflikt als den zwischen Großmächten um die technische Vorherrschaft. Der Weg, den Technologie und Demokratie als Systeme eingeschlagen haben, hat sie in Konflikt miteinander gebracht und der daraus resultierende Kampf hat auf beiden Seiten Opfer gefordert.
Die dominierenden Technologietrends der letzten Jahrzehnte waren künstliche Intelligenz und Blockchains. Sie haben die zentralisierte „top-down“ Kontrolle gestärkt und die atomisierte Polarisierung und den Finanzkapitalismus beschleunigt. Beide Entwicklungen sind schädlich für die Werte des demokratischen Pluralismus. Es überrascht daher nicht, dass Technologie weithin als eine der größten Bedrohungen für die Demokratie und als mächtiges Werkzeug sowohl für externe Autokraten als auch für diejenigen angesehen wird, die Demokratien von innen heraus untergraben wollen.
Gleichzeitig war die Demokratie einst ein radikales Experiment, um die Regierungsprinzipien eines Stadtstaates auf viele Millionen Bürgerinnen und Bürger auf allen Kontinenten auszuweiten. Heute ist sie in vielen Teilen der Welt zu einem Synonym für das zunehmend verzweifelte Bemühen geworden, starre, veraltete, polarisierte, gelähmte und zunehmend illegitime Regierungen zu erhalten. Es sollte uns daher nicht schockieren, dass so viele Technologen die demokratische Teilhabe als Hindernis für den Fortschritt verachten und dass so viele Befürworter der Demokratie befürchten, dass der technische Fortschritt die Vorherrschaft autokratischer Gegner oder den inneren Zusammenbruch mit sich bringen wird.
In diesem Buch hoffen wir zu zeigen, dass dieser tragische Konflikt vermeidbar ist und dass richtig konzipierte Technologie und Demokratie mächtige und natürliche Verbündete sein können. Es ist jedoch kein Zufall, dass Argumente in diese Richtung in vielen Kreisen ein Augenrollen hervorrufen. In den letzten zehn Jahren hat sich eine Kluft des Bedauerns und des Misstrauens zwischen den beiden Seiten entwickelt, die sich nicht so leicht überwinden lässt. Nur wenn wir die berechtigten Sorgen und Kritiken beider Seiten dieses Konflikts anerkennen und uns zu eigen machen, haben wir eine Chance, die Ursachen zu erkennen und sie zu überwinden. Daher beginnen wir damit, diese Missstände mit einer Haltung der Großzügigkeit darzulegen und Kritik zu akzeptieren, die weitreichende Bedenken hervorgerufen hat, auch wenn sie durch die verfügbaren Beweise nur unvollkommen gestützt wird. Der Versuch, diese extremen Divergenzen in Einklang zu bringen, bietet die Chance, die Ambitionen der demokratischen Technologie zu erhöhen.
Angriff der Technologie auf die Demokratie
Das letzte Jahrzehnt der Informationstechnologie bedroht die Demokratie auf zwei miteinander verbundene und gleichzeitig gegensätzliche Arten. Wie Daron Acemoglu und James Robinson bekanntlich argumentierten, befinden sich freie demokratische Gesellschaften in einem “engen Korridor” zwischen sozialem Zusammenbruch und Autoritarismus[1]. Von beiden Seiten scheinen die Informationstechnologien den Korridor zu verengen und die Möglichkeit einer freien Gesellschaft zu beschneiden.
Auf der einen Seite brechen Technologien (z. B. soziale Medien, Kryptografie und einige andere Finanztechnologien) das soziale Gefüge auf, verstärken die Polarisierung, untergraben Normen, untergraben die Strafverfolgung und beschleunigen die Geschwindigkeit und die Reichweite der Finanzmärkte bis zu dem Punkt, an dem sie dem demokratischen Gemeinwesen nicht mehr rechenschaftspflichtig sind. Wir nennen diese Bedrohungen “antisozial”. Auf der anderen Seite erhöhen Technologien (z. B. maschinelles Lernen, Foundation Modelle, das Internet der Dinge) die Fähigkeit zur zentralisierten Überwachung, die Fähigkeit kleiner Gruppen von Ingenieuren, Muster in Systemen fest zu lehen, die die Regeln des gesellschaftlichen Lebens für Milliarden von Bürgerinnen und Bürgern und Kundinnen und Kunden bestimmen und die Möglichkeiten der Menschen einschränken, ihr Leben und ihre Gemeinschaften sinnvoll mitzugestalten. Wir nennen diese Bedrohung “Zentralisierung”. Beide Bedrohungen treffen den Kern der Demokratie, die, wie Alexis de Tocqueville in „Democracy in America“ berühmt hervorhob, auf tiefe und vielfältige, nicht marktwirtschaftliche, dezentral soziale und zivile Verbindungen angewiesen ist, um zu gedeihen [2].
Die unsoziale Bedrohung durch neue Technologien hat soziale, wirtschaftliche, rechtliche, politische und existenzielle Aspekte.
Auf sozialer Ebene gibt es immer mehr Belege dafür, dass die sozialen Medien denjenigen, die bisher sozial isoliert waren (z. B. sexuelle oder religiöse Minderheiten in konservativen Gegenden), zwar leistungsfähige neue Plattformen zum Knüpfen von persönlichen Verbindungen geboten haben, dass diese Instrumente aber im Durchschnitt dazu beigetragen haben, die soziale Isolation und das Gefühl der Ausgrenzung zu verstärken[3].
In wirtschaftlicher Hinsicht hat die geografische, zeitliche und arbeitgeberübergreifende Flexibilität, die durch das Internet und zunehmend auch durch Telearbeit ermöglicht wird, vielen Arbeitnehmern in Entwicklungsländern oder solchen, die schlecht in den traditionellen Arbeitsmarkt passen, neue Möglichkeiten eröffnet. Dennoch ist es bisher nicht gelungen, geeignete Arbeitsmarktinstitutionen (wie Gewerkschaften und arbeitsrechtliche Vorschriften) zu schaffen, die es den Arbeitnehmern ermöglichen, an den potenziellen Vorteilen dieser Vereinbarungen teilzuhaben. Dies führt zu einer erhöhten Prekarität im Arbeitsmarkt und trägt zur Aushöhlung der Mittelschicht in vielen Industrieländern bei [4].
Die politische Polarisierung und der Einfluss extremistischer Parteien haben in vielen entwickelten Demokratien stetig zugenommen. Auch wenn die Rolle der internetbasierten sozialen Medienlandschaft Gegenstand zahlreicher akademischer Debatten ist, deuten jüngste Erhebungen darauf hin, dass diese Instrumente ihr Versprechen, soziale und politische Bindungen über unterschiedliche Meinungen hinweg zu stärken, bei weitem nicht eingelöst haben und möglicherweise zum säkularen Anstieg der Polarisierung seit dem Jahr 2000 beigetragen haben, insbesondere in den Vereinigten Staaten [5].
Aus rechtlicher Sicht hat die Verbreitung von Finanzinnovationen in den letzten Jahrzehnten nur zu begrenzten messbaren Vorteilen für die Verbraucher geführt (in Bezug auf Risikominderung, Kapitalallokation oder Kreditzugang), während gleichzeitig das Risiko in einem Großteil des Finanzsystems gestiegen ist und die Zahl der Finanzinstrumente ausufernd zugenommen hat. Dadurch werden bestehende Regulierungsvorschriften, die diese Schäden abmildern sollen, in Frage gestellt oder sogar umgangen[6]. Während die Innovationen im Bereich der Immobilienfinanzierung im Vorfeld der Finanzkrise 2008 zu den einschneidendsten Beispielen gehörten, sind die jüngsten Aktivitäten im Bereich der digitalen Kryptowährungen vielleicht der extremste (wenn auch begrenztere) Fall. Da sie nicht zu den bestehenden Regulierungssystemen passen, bieten sie weitreichende Möglichkeiten für Spekulation, Glücksspiel, Betrug, Steuerhinterziehung und andere anti-soziale Aktivitäten [7].
Es gibt immer mehr Befürchtungen, dass die Fragmentierung der gesellschaftlichen Meinungsbildung und der kollektiven Handlungsfähigkeit angesichts der immer ausgefeilteren Technologien zur Massenvernichtung, die von der Umweltzerstörung (z. B. Klimawandel, Verlust der biologischen Vielfalt, Versauerung der Ozeane) bis hin zu direkten Waffen (z. B. fehlgeleitete künstliche Intelligenz, Biowaffen) reichen, gefährlich ist [8].
Doch während die Technologie den Zusammenhalt demokratischer Gesellschaften untergräbt, wird sie auch zunehmend als Bedrohung für die Demokratie gesehen, da sie die Kontrollmöglichkeiten der Regierungen stärkt und die Macht in den Händen einer kleinen Gruppe privater Akteure zentralisiert.
Auf gesellschaftlicher Ebene ist die vielleicht konsequenteste Auswirkung der Informationstechnologie die Ausweitung der Verfügbarkeit und die Beschleunigung der Verbreitung von Informationen. Dies hat die Sphäre des Privatlebens dramatisch ausgehöhlt und eine wachsende Zahl von Informationen öffentlich zugänglich gemacht. Während diese Transparenz grundsätzlich eine Reihe von sozialen Auswirkungen haben kann, hat sich die Macht, diese Informationen zu verarbeiten und sinnvoll zu nutzen, zunehmend in den Händen von Konzernen und Firmen konzentriert, die einen bevorzugten Zugang zu den Informationen haben und über das Kapital verfügen, um in groß angelegte statistische Modelle (d.h. “KI”) zu investieren, die diese Daten erst nutzbar machen. Da diese Modelle mit dem Zugang zu mehr Daten und Kapital immer besser werden, haben Gesellschaften, in denen zentrale Akteure Zugang zu einem sehr großen Pool an Daten und Kapital haben, im “KI-Wettlauf” die Nase vorn und üben Druck auf alle Gesellschaften aus, die eine solche Konzentration von Informationsmacht zulassen, um zu Wettbewerbsvorteile zu erlangen [9]. Zusammen haben diese Kräfte beispiellose Überwachungssysteme und der zentralen Kontrolle über den Informationsfluss zur Normalität gemacht.
In rechtlicher Hinsicht haben die Geschwindigkeit und die transformative Kraft der jüngsten Fortschritte in der KI die Grundrechte vieler demokratischer Gesellschaften überwältigt und wichtige Entscheidungen in die Hände eingeschränkter Gruppen von Ingenieuren mit ähnlichem sozialen Hintergrund gelegt. Das Recht auf geistiges Eigentum und andere Schutzmechanismen für kreative Tätigkeiten wurden durch die Fähigkeit großer KI-Modelle, Inhalte zu “remixen und zu ersetzen”, weitgehend außer Kraft gesetzt; Datenschutzregelungen konnten mit der explosionsartigen Verbreitung von Informationen nicht Schritt halten; das Diskriminierungsrecht ist völlig ungeeignet, um die Probleme zu lösen, die durch die potenziellen Vorurteile von Blackbox-KI-Systemen entstehen. Die Ingenieure, die sich mit diesen Problemen befassen könnten, arbeiten in der Regel für gewinnorientierte Unternehmen oder den Verteidigungssektor und haben überwiegend einen ähnlichen Bildungs- und demografischen Hintergrund (in der Regel weiß oder asiatisch, männlich, atheistisch, hochgebildet usw.). Dies stellt die Grundprinzipien demokratischer Rechtssysteme in Frage, die darauf abzielen, den Willen der gesamten Gesellschaft, die sie regieren, zu vertreten [10].
In der Wirtschaft mehren sich die Anzeichen dafür, dass KI und die damit zusammenhängende allgemeine Tendenz der Informationstechnologie seit Mitte der 1980er Jahre, menschliche Arbeit (vor allem mit niedrigem Bildungsniveau) zu ersetzen statt zu ergänzen, ein zentraler Faktor für den dramatischen Anstieg des Einkommensanteils des Kapitals (statt der Arbeit) in den letzten Jahrzehnten und damit eine Hauptursache für die zunehmende Einkommensungleichheit in den Industrieländern war[11]. Ein Anstieg der Marktmacht, der Gewinnspannen und (weniger konsequent) der industriellen Konzentration auf der ganzen Welt ging mit diesem Rückgang des Anteils der Arbeit einher, insbesondere in den Ländern und Sektoren, die die Informationstechnologie am stärksten übernommen haben [12].
Politisch und geopolitisch haben die oben genannten Kräfte autoritäre Regime und politische Bewegungen gegenüber den demokratischen Ländern gestärkt. Die Schaffung von Instrumenten und Anreizen für die Massenüberwachung, KI und andere groß angelegte Datenverarbeitungssysteme haben es den Regierungen leichter gemacht, Zensur und soziale Kontrolle direkt durchzusetzen. Indirekt haben es autoritäre Regime durch die Konzentration der wirtschaftlichen Macht und der Hebel der sozialen Kontrolle auf eine kleine Anzahl von (oft konzerninternen) Schaltstellen, die Zunahme der Kapitalerträge und der Marktmacht sowie die wachsende Autorität kleiner Gruppen von Ingenieuren leichter, die “Entscheiderebenen” der Wirtschaft und Gesellschaft zu manipulieren oder zu übernehmen, falls nötig [13].
Darüber hinaus überschneiden sich diese beiden Bedrohungen: Autoritäre Regime haben sich zunehmend das “Chaos” der sozialen Medien und Kryptowährungen zunutze gemacht, um interne Spaltungen und Konflikte in demokratischen Ländern zu säen. Zentralisierte Social-Media-Plattformen haben KI eingesetzt, um die Nutzung ihrer Dienste zu optimieren, und damit oft die zentrifugalen Tendenzen der Fehlinformation und Meinungsbildung gefördert. Doch auch wenn sie sich nicht aktiv ergänzen und in vielerlei Hinsicht entgegengesetzte Philosophien verfolgen, haben beide Kräfte Druck auf die demokratischen Gesellschaften ausgeübt und dazu beigetragen, das Vertrauen in sie zu untergraben - ein Vertrauen, das in weiten Teilen der entwickelten demokratischen Welt auf dem niedrigsten Stand seit seiner Erhebung ist.
Technologiefeindlichkeit von Demokratien
Doch die Feindseligkeiten sind keineswegs nur in eine Richtung gerichtet. Die Demokratien haben diese Feindseligkeit im Großen und Ganzen erwidert und betrachten die Technologie zunehmend als monolithische Bedrohung und nicht mehr als die Chance, die sie einst in ihr sahen. Während der öffentliche Sektor in demokratischen Ländern einst die globale treibende Kraft hinter der Entwicklung der Informationstechnologie war (z. B. die ersten Computer, das Internet, Satelliten zur globalen Positionsbestimmung), konzentrieren sich die meisten demokratischen Regierungen heute stattdessen darauf, die Entwicklung der Technologie einzuschränken, und versäumen es, sowohl auf die Schlüssel als auch auf die Herausforderungen zu reagieren, die sie mit sich bringt.
Dieses Versagen hat sich auf vier Arten manifestiert. Erstens stehen die öffentliche Meinung in demokratischen Ländern und ihre politischen Entscheidungsträger großen Technologieunternehmen und sogar vielen Technologen zunehmend feindselig gegenüber, ein Trend, der gemeinhin als “techlash” bezeichnet wird. Zweitens haben die demokratischen Länder ihre Direktinvestitionen in die Entwicklung der Informationstechnologie erheblich reduziert. Drittens haben demokratische Länder nur langsam Technologien für Anwendungen im öffentlichen Sektor oder solche, die eine erhebliche Beteiligung des öffentlichen Sektors erfordern, übernommen. Und schließlich haben es demokratische Regierungen weitgehend versäumt, sich mit den Bereichen zu befassen, in denen nach Ansicht der meisten Technologen öffentliche Beteiligung, Regulierung und Unterstützung für einen nachhaltigen technologischen Fortschritt entscheidend sind, und sich stattdessen auf eher historisch begründete soziale und politische Probleme konzentriert [14].
Die Einstellung der Öffentlichkeit und der politischen Entscheidungsträger gegenüber der Technologie hat in den 2010er Jahren eine deutlich negative Wendung genommen. Während Ende der 2000er und Anfang der 2010er Jahre soziale Medien und das Internet als Kräfte der Offenheit und Partizipation angesehen wurden, wurden sie in den späten 2010er Jahren in Kommentaren und in geringerem Maße in öffentlichen Meinungsumfragen für viele der oben genannten Missstände verantwortlich gemacht [15]. Dieser Einstellungswandel hat sich vielleicht am deutlichsten in der Haltung der Elite niedergeschlagen: Bestseller über Technologie wie “Weapons of Mass Destruction” von Cathy O’Neil und The Age of Surveillance Capitalism von Shoshanna Zuboff sowie Filme wie The Social Dilemma beherrschen die öffentliche Diskussion, und führende Politiker des gesamten Spektrums (z. B, Jeremy Corbyn auf der Linken und Josh Hawley auf der Rechten), die einen zunehmend pessimistischen und aggressiven Ton gegenüber der Technologiebranche anschlagen. Der “Techlash” wurde bekannt, um diese Bedenken zu beschreiben. Verstärkt wurde dies durch das Aufkommen einer “Cancel Culture", die sich häufig die sozialen Medien zunutze macht, um prominente Persönlichkeiten anzugreifen oder deren kulturellen Wert zu mindern, und die sich häufig gegen führende Vertreter der Technologiebranche richtet.
Die Gesetzgeber sowohl in Europa als auch in den Vereinigten Staaten haben darauf mit einer Reihe von Maßnahmen reagiert, darunter eine drastisch verschärfte kartellrechtliche Prüfung führender Technologieunternehmen, eine Reihe von regulatorischen Eingriffen in Europa, darunter die Datenschutzgrundverordnung und das Trio des Data Governance Act, des Digital Markets Act und des Digital Services Act. Alle diese Maßnahmen haben klare politische Gründe und könnten durchaus Teil einer positiven Technologieagenda sein. Die Kombination aus negativem Ton, relativer Abkopplung von natürlich verwandten Entwicklungen in der Technologie und allgemeiner Zurückhaltung von Kommentatoren und politischen Entscheidungsträgern in entwickelten Demokratien bei der Formulierung einer positiven Technologievision hat jedoch den Eindruck einer belagerten Branche entstehen lassen.
Das vielleicht deutlichste quantitative Zeichen für dieses abnehmende proaktive öffentliche Interesse an der Informationstechnologie sind die sinkenden öffentlichen Ausgaben für Forschung und Entwicklung (F&E) im Verhältnis zum Bruttoinlandsprodukt (BIP), insbesondere in der Informationstechnologie. In der großen Mehrheit der entwickelten Demokratien sind die Ausgaben des öffentlichen Sektors für Forschung und Entwicklung im Verhältnis zum BIP in den letzten Jahrzehnten zurückgegangen, obwohl die Ausgaben der Unternehmen für F&E dramatisch gestiegen sind und die Regierung der Volksrepublik China (VRC) ihre Ausgaben im Verhältnis zum BIP drastisch erhöht hat und sich auf die Informationstechnologie konzentriert hat [16].
<<< Abbildung Federal F&E>>>>
Abgesehen von dieser quantitativen Entwicklung war der Rückgang der öffentlichen Unterstützung für die Entwicklung der Informationstechnologie mindestens ebenso dramatisch. Während der öffentliche Sektor einst die Führung bei der Entwicklung des Internets (in den Vereinigten Staaten), der Grundlagen des Personal Computers und ähnlicher Projekte in anderen demokratischen Ländern (z. B. Frankreichs Minitel) übernahm, werden heute fast alle wichtigen Durchbrüche in der Informationstechnologie vom privaten Sektor vorangetrieben [17].
Während das ursprüngliche Internet fast vollständig vom öffentlichen und akademischen Sektor entwickelt wurde und auf offenen Standards basierte, haben das Web 2.0 und die jüngsten Bewegungen rund um das “Web 3” und dezentralisierte soziale Technologien so gut wie keine öffentliche Unterstützung erhalten, da die Regierungen in demokratischen Ländern darum kämpfen, das Potenzial digitaler Währungen, des Zahlungsverkehrs und von Identifizierungssystemen zu erkunden. Während viele der grundlegendsten Fortschritte in der Informatik während des Zweiten Weltkriegs und des Kalten Krieges von demokratischen Regierungen ausgingen, haben Regierungen heute praktisch keine Rolle bei den Durchbrüchen in den “Foundation Modellen" gespielt, die die Informatik revolutionieren. Die Gründer von OpenAI, Sam Altman und Elon Musk, berichten, dass sie sich zunächst um öffentliche Gelder bemühten und sich erst nach wiederholten Ablehnungen privaten, gewinnorientierten Quellen zuwandten; OpenAI entwickelte daraufhin die Generative Pretrained Transformer (GPT)-Modelle, die zunehmend die Phantasie der Öffentlichkeit über das Potenzial der KI beflügeln [18]. Auch dies steht in scharfem Kontrast zu autoritären Regimen wie der VR China, die ehrgeizige Strategien für die öffentliche Informationstechnologie entwickelt und größtenteils erfolgreich umgesetzt haben [19].
Das mangelnde Engagement des öffentlichen Sektors im Technologiebereich erstreckt sich nicht nur auf Forschung und Entwicklung, sondern auch auf die Einführung, Übernahme und Förderung. Am einfachsten lässt sich dies an der Qualität und Verfügbarkeit digitaler Konnektivität und Bildung messen. Hier sind die Daten unterschiedlich, da viele gut funktionierende Demokratien (wie die skandinavischen Länder) über eine hohe Qualität und Verfügbarkeit des Internets verfügen. Auffallend ist jedoch, dass die führenden autoritären Regime die Demokratien auf ähnlichem Entwicklungsniveau dramatisch übertreffen, insbesondere bei der neuesten Konnektivitätstechnologie. Laut Speedtest.net rangiert die Volksrepublik China beispielsweise bei den Internetgeschwindigkeiten weltweit auf Platz 16, beim Pro-Kopf-Einkommen jedoch nur auf Platz 72; Saudi-Arabien und andere Golfmonarchien spielen ebenfalls weit über Einkommensklasse mit [20]. Die Leistung bei 5G, der neuesten Generation mobiler Konnektivität, ist noch dramatischer: Eine Reihe von Erhebungen zeigt, dass Saudi-Arabien und die VR China durchweg unter den Top 10 der Länder mit der besten 5G-Abdeckung liegen, weit über ihrem Einkommensniveau.
Zentraler für die Regierungsverantwortung in Demokratien ist jedoch die Digitalisierung des öffentlichen Diensts. Viele mittlere und wohlhabende Demokratien investieren im Vergleich zu autoritären Staaten weniger in E-Government. Der UN-Index für die Entwicklung von E-Government (EGDI) setzt sich aus drei wichtigen Dimensionen von E-Government zusammen: Bereitstellung von Online-Diensten, Telekommunikationsanbindung und Personal. Im Jahr 2022 rangieren mehrere autoritäre Regierungen auf den vorderen Plätzen, darunter die VAE auf Platz 13, Kasachstan auf Platz 28 und Saudi-Arabien auf Platz 31, vor vielen demokratischen Ländern, darunter Kanada auf Platz 32, Italien auf Platz 37, Brasilien auf Platz 49 und Mexiko auf Platz 62 (United Nations Department of Economic and Social Affairs. E-Government Knowledge Database, 2022. https://publicadministration.un.org/egovkb/Data-Center).
Die Digitalisierung herkömmlicher öffentlicher Dienstleistungen ist vielleicht die am wenigsten ehrgeizige Dimension, von der man erwarten könnte, dass die Demokratien bei der Einführung von Technologie vorankommen. Die Technologie hat neu definiert, welche Dienstleistungen relevant sind, und in diesen neuen Bereichen haben die demokratischen Regierungen fast vollständig versagt, mit dem Wandel der Zeit Schritt zu halten. Wo einst staatliche Postdienste und öffentliche Bibliotheken das Rückgrat der demokratischen Kommunikation und Wissensverbreitung bildeten, läuft heute die meiste Kommunikation über soziale Medien und Suchmaschinen. Wo früher die meisten öffentlichen Versammlungen in Parks und auf buchstäblich öffentlichen Plätzen stattfanden, ist es heute fast schon ein Klischee, dass sich der öffentliche Schauplatz ins Internet verlagert hat. Trotzdem haben demokratische Länder die Notwendigkeit, digitale öffentliche Dienste bereitzustellen und zu unterstützen, fast vollständig ignoriert. Während der private Kurznachrichtendienst Twitter Ziel ständiger Beschimpfungen durch Personen des öffentlichen Lebens ist, haben sein wichtigster Konkurrent, das gemeinnützige Mastodon und der offene Activity-Pub-Standard, auf dem es läuft, nur ein paar zehntausend Dollar an öffentlicher Unterstützung erhalten und leben stattdessen von Patreon-Spenden. Ganz allgemein sind Open-Source-Software und andere gemeinwohlorientierte öffentliche Güter wie Wikipedia im digitalen Zeitalter zu wichtigen öffentlichen Ressourcen geworden; dennoch haben Regierungen es immer wieder versäumt, sie zu unterstützen, und sie sogar gegenüber anderen Wohltätigkeitsorganisationen benachteiligt (zum Beispiel können Anbieter von Open-Source-Software im Allgemeinen nicht steuerbefreite Wohltätigkeitsorganisationen sein). Während autoritäre Regime mit Plänen für digitale Zentralbankgeld vorpreschen, stehen die meisten demokratischen Länder erst am Anfang ihrer Überlegungen.
Am ehrgeizigsten wäre es, wenn Demokratien, wie so viele Autokratien, radikale Experimente förderten, die erproben, wie Technologien soziale Strukturen umgestalten können. Doch auch hier scheint die Demokratie solchen Experimenten oft eher im Wege zu stehen als sie zu erleichtern. Die Regierung der Volksrepublik China hat Städte wie Shenzhen gebaut und Vorschriften neu konzipiert, um fahrerlose Autos zu ermöglichen, und hat darüber hinaus eine detaillierte nationale Technologiestrategie entwickelt, die nahezu jeden Aspekt von Politik, Regulierung und Investitionen abdeckt [21]. Saudi-Arabien ist mit dem Bau einer neuen intelligenten Stadt in der Wüste, Neom, beschäftigt, um eine Reihe von umweltfreundlichen und intelligenten Stadttechnologien zu demonstrieren, während selbst die bescheidensten lokalen Projekte in demokratischen Ländern, wie z. B. Googles Sidewalk Labs, von der lokalen Opposition überrollt wurden.
Selbst in Bereichen, in denen sich Technologen einig sind, dass Regulierung und Vorsicht entscheidend sind, bleiben die Demokratien immer weiter hinter den Bedürfnissen der Branche zurück, um Lösungen für die entstehenden sozialen Herausforderungen zu finden. Unter Technologen besteht ein wachsender Konsens darüber, dass eine Reihe von neu entstehenden Technologien katastrophale oder sogar existenzielle Risiken bergen können, die sich nur schwer verhindern lassen, wenn sie erst einmal auf dem Markt sind. Beispiele hierfür sind Systeme der künstlichen Intelligenz, die ihre Fähigkeiten schnell selbst verbessern könnten, Kryptowährungen, die systemische Finanzrisiken darstellen könnten, und die Entwicklung hochansteckender Biowaffen. Sie beklagen regelmäßig das Versagen demokratischer Regierungen, solche Risiken auch nur in Erwägung zu ziehen, geschweige denn Vorkehrungen zu treffen, um ihnen zu begegnen. Doch abgesehen von diesen katastrophalen Möglichkeiten erfordert eine ganze Reihe neuer Technologien regulatorische Anpassungen, um nachhaltig zu sein… Das Arbeitsrecht passt nicht zur geografisch und zeitlich flexiblen Arbeit, die durch die Technologie ermöglicht wird. Das Urheberrecht ist viel zu starr, um mit der Wertzuweisung von Daten, die in große KI-Modelle einfließen, umzugehen. Blockchains ermöglichen neue Formen der Corporate Governance, mit denen Wertpapiergesetze nur schwer zurechtkommen und die häufig rechtlich bedenklich sind.
Doch während mutige Experimente mit neuen Visionen für den öffentlichen Sektor eher in Autokratien verbreitet sind, gibt es ein für die Demokratie selbst viel grundlegenderes Element, bei dem sie am weitesten hinter die Zeit zurückgefallen ist: Die Mechanismen der öffentlichen Meinungsbildung, Beteiligung und Legitimation, einschließlich Abstimmungen, Petitionen, Einholung von Bürgerfeedback usw., sind vielleicht mehr in der Vergangenheit verhaftet als jeder andere Aspekt demokratischer Gesellschaften. In fast allen Demokratien wird alle paar Jahre über wichtige Ämter abgestimmt, und zwar nach Regeln und Technologien, die seit einem Jahrhundert weitgehend unverändert geblieben sind. Während die Bürgerinnen und Bürger sofort über den ganzen Planeten kommunizieren, sind sie in weitgehend festen geographischen Konfigurationen mit großem Aufwand und geringer Genauigkeit vertreten. Nur wenige moderne Kommunikations- oder Datenanalyseinstrumente sind fester Bestandteil des demokratischen Lebens der Bürger.
Gleichzeitig haben sich Autokratien die neuesten digitalen Innovationen in zunehmendem Maße zunutze gemacht, um ihre Regime der Überwachung (im Guten wie im Schlechten) und der sozialen Kontrolle zu stärken. So hat die Regierung der Volksrepublik China in großem Umfang Gesichtserkennung eingesetzt, um die Bewegungen der Bevölkerung zu überwachen, sie hat die Einführung ihres Digitalen Yuan und anderer überwachter digitaler Zahlungsmittel (die gegen privatere Alternativen vorgehen) gefördert, um die finanzielle Überwachung zu erleichtern, und sie hat sogar an der Entwicklung eines umfassenden “social Scores” gearbeitet, der ein breites Spektrum von Bürgeraktivitäten erfassen und zu einem einzigen und weitreichenden “Rating” verdichten würde [22]. Seit einigen Jahren setzt die russische Regierung Gesichtserkennung ein, um festzustellen, wer an Protesten teilnimmt, und um diese Personen im Nachhinein zu verhaften, was es ihr ermöglicht, Andersdenkende in großem Umfang und mit viel geringerem Risiko für das Regime oder seine Polizeikräfte zu beseitigen [23]. Diese Techniken haben sich verschärft und werden seit der umfassenden Invasion in der Ukraine im Februar 2022 auch zur Durchsetzung der Wehrpflicht [24] eingesetzt.
In gewissem Sinne wird die Demokratie von der Technologie zurückgelassen, und zwar sowohl durch ihre Vernachlässigung der Technologie, verglichen mit der eifrigen Bereitschaft vieler autoritärer Staaten, sie für ihre eigenen Zwecke zu nutzen, als auch durch antidemokratische Tendenzen der Technologie selbst.
Man bekommt, wofür man zahlt
Wie konnte es dazu kommen? Sind diese Konflikte der natürliche Lauf der Technologie und der demokratischen Gesellschaften? Ist eine andere Zukunft möglich?
Eine Fülle von Beiträgen deutet darauf hin, dass sich Technologie und Demokratie auf vielfältige Weise gemeinsam entwickeln könnten und dass der Weg, auf dem wir uns befinden, das Ergebnis kollektiver Entscheidungen ist, die wir durch Politik, Einstellungen, Erwartungen und Kultur getroffen haben. Die Bandbreite der Möglichkeiten kann durch verschiedene Linsen betrachtet werden, von Science-Fiction bis hin zu Beispielen aus der realen Welt.
Science-Fiction zeigt die erstaunliche Bandbreite an Zukunftsvorstellungen, die der menschliche Geist zu entwickeln vermag. In vielen Fällen sind diese Vorstellungen die Grundlage für viele der Technologien, die Forscher und Unternehmer schließlich entwickeln. Einige davon entsprechen den Richtungen, die die Technologie in letzter Zeit eingeschlagen hat. In seinem Klassiker Snow Crash von 1992 stellt sich Neal Stephenson eine Zukunft vor, in der sich die meisten Menschen zurückgezogen haben, um einen Großteil ihres Lebens in einem immersiven “Metaverse” zu verbringen. Dabei untergraben sie das Engagement, das für die Unterstützung von Gemeinschaften, Regierungen und dergleichen in der realen Welt erforderlich ist, und schaffen so Raum für die Herrschaft von Mafias und Sektenführern und die Entwicklung von Massenvernichtungswaffen. Diese Zukunft entspricht in etwa den Elementen der “antisozialen” Bedrohungen der Demokratie durch die Technologie, die wir oben erörtert haben, und andere Schriften von Stephenson erweitern diese Möglichkeiten, die sich tiefgreifend auf die Entwicklung der Technologie ausgewirkt haben; Meta Platforms ist beispielsweise nach Stephensons Metaverse benannt. Ähnliche Beispiele sind für die Tendenz der Technik zur Machtkonzentration durch die Schaffung von “Superintelligenzen” möglich. Führende Beispiele sind die Romane von Isaac Asimov und Ian Banks, der vorausschauende Futurismus von Ray Kurzweil und Filme wie Terminator und Her.
Diese Möglichkeiten unterscheiden sich jedoch stark voneinander und sind bei weitem nicht die einzigen Visionen der technologischen Zukunft, die in der Science-Fiction zu finden sind. Tatsächlich zeigen einige der bekanntesten Science-Fiction-Filme ganz andere Möglichkeiten. Zwei der populärsten Science-Fiction-Fernsehserien aller Zeiten, Die Jetsons und Star Trek, zeigen eine Zukunft, in der die Technologie die Kultur und die Institutionen des Amerikas der 1950er Jahre weitgehend verstärkt hat, bzw. eine Zukunft, in der sie eine postkapitalistische Welt mit verschiedenen sich kreuzenden außerirdischen Intelligenzen ermöglicht hat. Dies sind nur zwei von Tausenden von Beispielen, von der postgeschlechtlichen und poststaatlichen Fantasie von Urusula LeGuin bis zum postkolonialen Futurismus von Octavia Butler. Sie alle zeigen eine schwindelerregende Bandbreite von Möglichkeiten auf, wie sich Technologie und Gesellschaft gemeinsam entwickeln können [25].
Doch die Science-Fiction-Autoren sind nicht allein. Das Hauptthema der Wissenschafts- und Technologiestudien (Science and Technology Studies, STS), einschließlich der Philosophie, Soziologie und Geschichte der Wissenschaft, ist die Kontingenz und Möglichkeit, die der Entwicklung von Wissenschaft und Technologie innewohnen, und das Fehlen einer vorherrschenden notwendigen Richtung für ihre Entwicklung [26]. Diese Schlussfolgerungen werden zunehmend auch in den Sozialwissenschaften wie der Politik- und Wirtschaftswissenschaft akzeptiert, die den technischen Fortschritt traditionell als feststehend und gegeben betrachten. Zwei der weltweit führenden Wirtschaftswissenschaftler, Daron Acemoglu und Simon Johnson, haben kürzlich ein Buch veröffentlicht, in dem sie argumentieren, dass die Richtung des technologischen Fortschritts ein wichtiges Ziel für Sozialpolitik und -reformen ist, und die historischen Zufälligkeiten dokumentieren, die zu den technologischen Richtungen geführt haben, die wir in der Vergangenheit erlebt haben [27].
Die vielleicht eindrucksvollste Veranschaulichung ergibt sich aus einem Vergleich der Art und Weise, wie sich die Technologie in den einzelnen Ländern entwickelt hat. Wo einst führende Denker die Macht der Technologie voraussagten, um soziale Unterschiede wegzufegen, definieren heute die technologischen Systeme großer und manchmal auch kleiner Mächte ihre konkurrierenden sozialen Systeme ebenso wie ihre offiziell erklärten Ideologien: Das Überwachungsregime der VR China sieht wie eine technologische Zukunft aus, während die russischen Hacking-Netzwerke eine andere zu sein scheinen, der wachsende Raum der Web3-gesteuerten Communities eine dritte, die westlichen kapitalistischen Mainstream-Länder, auf die wir uns konzentriert haben, eine vierte und die heterogenen digitalen Demokratien Indiens, Estlands und Taiwans etwas ganz anderes, das wir weiter unten eingehend untersuchen werden. Weit davon entfernt, sich anzunähern, scheint die Technologie die möglichen Zukünfte zu vermehren.
Wenn also die derzeitige Entwicklung der Technologie und des gesellschaftlichen Verhältnisses zu ihr in den westlichen liberalen Demokratien nicht unvermeidlich ist, auf welche Weise haben wir uns dann für diesen konfliktreichen Weg entschieden? Und wie könnten wir ihn verlassen?
Es gibt zwar viele Möglichkeiten, Entscheidungen zu beschreiben, die demokratische Gesellschaften in Bezug auf Technologie getroffen haben, aber die konkretesten und am einfachsten zu quantifizierenden sind vielleicht die getätigten Investitionen. Diese zeigen, dass die westlichen liberalen Demokratien (und damit der größte Teil des Finanzkapitals in der Welt) klare Entscheidungen über technologische Pfade getroffen haben, was Investitionen in die Zukunft der Technologie angeht, von denen viele erst kürzlich getätigt wurden. Obwohl diese in letzter Zeit vor allem vom Privatsektor vorangetrieben wurden, spiegeln sie frühere, von den Regierungen gesetzte Prioritäten wider, die in vielerlei Hinsicht gerade erst beginnen, auf Anwendungen des Privatsektors durchzuschlagen.
Angefangen mit den jüngsten Trends in der zunehmend gut erforschten Risikokapitalbranche hat sich in den letzten zehn Jahren eine dramatische und überwältigende Konzentration von Risikokapital innerhalb des Hochtechnologiesektors auf künstliche Intelligenz und Kryptowährungs-/“Web3”-Technologien ergeben. Abbildung V zeigt Daten zu privaten Investitionen in künstliche Intelligenz, die von NetBase Quid gesammelt und vom Stanford’s Center for Human-Centered Artificial Intelligence’s 2022 AI Index Report grafisch dargestellt wurden. Sie zeigen das explosive Wachstum im Laufe der 2010er Jahre, ein Wachstum, das mittlerweile die privaten Technologieinvestitionen dominiert; Abbildung W zeigt das Gleiche (über einen anderen Zeitraum und vierteljährlich) für den Web3-Bereich basierend auf Daten von Pitchbook, grafisch dargestellt von Galaxy Digital Research.
<<<Abbildungen Private und Krypto>>>>
Diese Prioritäten sind zwar relativ neu und scheinen sich aus der Logik des “Marktes” zu ergeben, sie spiegeln jedoch eine viel länger andauernde und kollektiv direkte Reihe von Entscheidungen wider. Sie ergeben sich aus den Investitionen, die Regierungen in demokratischen Ländern getätigt haben [28].
Bei diesen Investitionen handelt es sich nicht nur um Entscheidungen, die auch anders hätten getroffen werden können; sie sind noch nicht lange her und wurden unmittelbar davor ganz anders getroffen. Diese Investitionen spiegeln sich in den kanonischen Technologien der letzten Jahrzehnte wider. Künstliche Intelligenz wurde während eines Großteils der 1980er Jahre als kommende Revolution verkündet, wie die folgende Abbildung von Google NGAMS zeigt, die die relative Häufigkeit dieses Begriffs in englischen Büchern zeigt, wie sie in Google NGAMS dargestellt. Die 1990er Jahre waren von Stephensons Science-Fiction-Phantasien über die Möglichkeiten eskapistischer virtueller Welten und atomisierender Kryptographie geprägt, das Bindegewebe des Internets eroberte die Welt und läutete ein nie dagewesenes Zeitalter der Kommunikation und Kooperation ein. Die Mobiltelefonie in den 2000er Jahren, die sozialen Netzwerke in den 2010er Jahren und das Gerüst der Heimarbeit in den 2020er Jahren… all dies hat sich weder auf den kryptografischen Hyperkapitalismus noch auf die künstliche Superintelligenz konzentriert.
Dies spiegelt - mit großer Verzögerung - die Verlagerung der Investitionen öffentlicher Forschungsförderer wider. Die Daten sind zwar unvollkommen, aber W. Mitchell Waldrop dokumentiert die Verlagerung in seinem Klassiker The Dream Machine deutlich: Als die Advanced Research Projects Agency (ARPA) des US-Verteidigungsministeriums, die das ARPANET finanzierte, aus dem das Internet hervorging, ihren Namen in Defense ARPA (DARPA) änderte, änderte sie auch ihren Investitionsschwerpunkt. Sie verringerte ihren Schwerpunkt auf belastbare Kommunikations- und soziotechnische Systeme drastisch und konzentrierte sich verstärkt auf Systeme, die als direktere Unterstützung militärischer Ziele angesehen wurden, darunter Waffenautonomie und Kryptografie. Bereits 1979 beklagte der erste ARPA-Programmbeauftragte, der das ARPANET und die ersten Informatikabteilungen der Welt finanzierte, JCR Licklider, die Abkehr der öffentlichen Gelder von Investitionen in die kritische Infrastruktur, die seine Vision einer Netzwerkgesellschaft unterstützte [29]. Dieser Trend beschleunigte sich in den 1980er Jahren weiter, als die Aufmerksamkeit für die nationale Verteidigung immer geringer wurde.
Ideologien des einundzwanzigsten Jahrhunderts
Wenn der Weg der Technologie nicht vorherbestimmt ist und stattdessen in erheblichem Maße durch kollektive Investitionsentscheidungen geprägt werden kann, wie sollten wir dann über die Flexibilität denken, die wir als Gesellschaft bei der Wahl zwischen möglichen Richtungen haben? Wie groß ist der Spielraum für Entscheidungen und wie sehen diese aus?
Eine nützliche Analogie, um über die Wahl der Richtungen nachzudenken, die eine Gesellschaft einschlagen könnte, sind Ideologien. Wir alle wissen, dass sich verschiedene Gesellschaften für verschiedene Ideologien (oder Kombinationen davon) entschieden haben oder entscheiden könnten: Kommunismus, Kapitalismus, Demokratie, Faschismus, Theokratie usw. Jede dieser Ideologien hat Stärken und Schwächen, spricht die einen mehr an als die anderen und ist in unterschiedlichem Maße kohärent und verbindlich. Es mag Konfigurationen dieser Ideologien geben, die einfach nicht funktionieren oder bestimmte historische und soziale Bedingungen erfordern.
In ähnlicher Weise können wir auch die verschiedenen Wege der Technologie betrachten. Die Bandbreite der Zukunft ist nicht unbegrenzt oder unendlich formbar: Manche Dinge sind einfacher, schwieriger oder schlichtweg unmöglich. Aber sie ist auch nicht vorbestimmt. Es gibt eine Reihe von plausiblen Zukunftsvisionen und Technologien, die diese ermöglichen; durch unsere kollektiven technologischen Investitionen tragen wir dazu bei, zwischen diesen Möglichkeiten zu wählen.
Diese Sichtweise ist zwar etwas weniger vertraut als die heute übliche lineare und fortschrittliche Geschichte der Technologie, aber sie ist alles andere als originell. Sie ist ein wiederkehrendes Thema in Literatur, Wissenschaft und sogar in der Unterhaltung. Ein markantes Beispiel ist die Computerspielreihe Civilization, in der der Spieler den Weg eines Volkes von der Vorgeschichte bis in die Zukunft zeichnet. Ein charakteristisches Merkmal des Spiels ist die Vielfalt der möglichen technologischen Wege und die Art und Weise, wie diese mit den sozialen Systemen, die eine Gesellschaft annehmen kann, interagieren.
Der jüngste Teil der Serie, Civilization VI, und insbesondere das Erweiterungspaket “Gathering Storm”, veranschaulicht unser Argument auf elegante Weise. In diesem Spiel kann man in der “Zukunftsära” zwischen drei Ideologien wählen: “Synthetische Technokratie”, “Corporate Libertarianism” und “Digitale Demokratie”, mit entsprechenden Stärken, Schwächen und Verbindungen zur technologischen Entwicklung. Obwohl die Namen für jede dieser Ideologien etwas umständlich sind, werden wir im Folgenden argumentieren, dass sie die große techno-ideologische Debatte unserer Zeit in groben Zügen beschreiben, wie Kommunismus, Faschismus und Demokratie im 20. Jahrhundert. Wir bezeichnen sie als “Ideologien des einundzwanzigsten Jahrhunderts”.
Künstliche Intelligenz und Technokratie
Die erste und am häufigsten geäußerte Vision der technologischen Zukunft dreht sich um die Künstliche Intelligenz (KI) und die Art und Weise, wie sich soziale Systeme an sie anpassen müssen; sie wird von der Civilisation VI-Kategorie “Synthetische Technokratie” erfasst, aber wir glauben, dass es mit den Ansichten der meisten Befürworter besser übereinstimmt, sie als “Abundance Technocracy” oder AT zu bezeichnen, wie wir es im Folgenden tun.
AT konzentriert sich auf das Potenzial der KI, das zu schaffen, was OpenAI-Gründer Sam Altman als “Moore’s Law for Everything” bezeichnet: eine Transformation, bei der KI alle materiellen Güter billig und im Überfluss verfügbar macht und so die Abschaffung der materiellen Knappheit ermöglicht, zumindest im Prinzip. Doch dieser potenzielle Überfluss ist möglicherweise nicht gleichmäßig verteilt; es ist plausibel, dass sich sein Wert auf eine kleine Gruppe konzentriert, die KI-Systeme kontrolliert und steuert. Ein Schlüsselelement der sozialen Vision von AT ist daher die materielle Umverteilung, in der Regel durch ein “universelles Grundeinkommen” (UBI). Ein weiterer zentraler Punkt ist das Risiko, dass KI(s) der menschlichen Kontrolle entgleitet und das menschliche Überleben bedroht, und damit die Notwendigkeit einer starken und oft zentralisierten Kontrolle darüber, wer Zugang zu diesen Technologien hat, sowie die Sicherstellung, dass sie so gebaut sind, dass sie menschliche Wünsche zuverlässig erfüllen. Auch wenn die genauen Konturen bei den Vertretern dieser Sichtweise unterschiedlich sind, ist die Idee der “allgemeinen künstlichen Intelligenz” (Artificial General Intelligence, AGI) von zentraler Bedeutung: Maschinen, die die menschlichen Fähigkeiten in gewisser Weise übertreffen und nur einen geringen messbaren Nutzen für die individuelle oder kollektive menschliche Kognition lassen.
Führende Vertreter dieser Ansicht im Silicon Valley sind Sam Altman und sein Mentor Reid Hoffman sowie bis vor kurzem Altmans OpenAI-Mitbegründer Elon Musk. Diese Sichtweise ist auch in der Volksrepublik China populär, wo sie von Jack Ma, dem Wirtschaftswissenschaftler Yu Yong-Ding und sogar im offiziellen Entwicklungsplan der neuen Generation der Künstlichen Intelligenz der Volksrepublik China vertreten wird, der sich stark auf die marxistische Idee der “zentralen Planung” stützt. Sie taucht auch in der Science-Fiction auf, insbesondere in den Werken von Autoren wie Isaac Asimov und Iain Banks, und in futuristischen Schriften, vor allem von Ray Kurzweil und Nicholas Bostrom. Zu den führenden Organisationen, die sich dieser Perspektive verschrieben haben, gehören OpenAI, DeepMind und andere Projekte für fortgeschrittene Künstliche Intelligenz. Die politischen Kampagnen von Andrew Yang in den Vereinigten Staaten trugen dazu bei, diese Perspektive in den Mainstream der Politik zu bringen, und AT-Ideen tauchen in abgeschwächter Form in vielen Gedanken der “Tech-Linken” auf, einschließlich Kommentatoren wie Ezra Klein, Matthew Yglesias und Noah Smith.
Krypto und Hyper-Kapitalismus
Eine zweite Sichtweise ist in den Mainstream-Medien viel seltener anzutreffen, war aber ein beherrschendes Thema in der Community, die sich um Bitcoin und andere Kryptowährungen gebildet hat, sowie in verschiedenen verwandten Internet-Communities; sie wird von der Kategorie “Corporate Libertarianism” der Civilization VI erfasst, aber ihre Befürworter fühlen sich tendenziell wohler mit der Bezeichnung “Entrepreneurial Sovereignty” (ES), die wir daher übernehmen.
ES konzentriert sich auf das Potential (oder in manchen Fällen auf die Unvermeidbarkeit) von Kryptographie und Netzwerkprotokollen, die die Rolle menschlicher kollektiver Organisation und Politik verdrängen und Individuen dazu befähigen, an ungehinderten Märkten teilzunehmen, die frei von staatlichem und anderem kollektivem “Zwang” und Regulierung sind. Literatur war die zentrale Inspiration für das ES-Denken, darunter die Werke von Ayn Rand und Neal Stephenson. Stephensons Bücher, insbesondere Snow Crash (1992) und Cryptonomicon (1999), sind zwar anscheinend und ausdrücklich als dystopische Warnungen gedacht, wurden aber von den Anhängern von ES als Entwürfe übernommen. Beispielhafte Technologien, die in diesen Werken auftauchen und seither für die ES-Gemeinschaft von zentraler Bedeutung sind, sind immersive virtuelle Welten, die Stephenson als “Metaverse” bezeichnete, regierungsunabhängige digitale Währungen, private Hoheitsgebiete, die insbesondere in unregulierten Räumen wie schwimmenden Städten oder “Seestädten” angesiedelt sind, und starke Kryptografie als Mittel zur Umgehung kollektiver Kontrolle/Gesetze. Die Bitcoin-, Web3-, 4Chan- und andere “periphere”, aber einflussreiche Online-Communities bilden den Kern der sozialen Basis der ES-Perspektive.
Vielleicht zum Teil deshalb, weil sie weniger Mainstream ist als AT, hat ES einen viel klareren intellektuellen Kanon und eine Reihe von Führern. The Sovereign Individual von James Dale Davidson und Lord William Rees-Mogg, die Schriften von Curtis Yarvin unter dem Pseudonym Mencius Moldbug und The Network State von Balaji Srinavasan werden in der Gemeinschaft viel gelesen und zitiert. Der Risikokapitalgeber Peter Thiel wird weithin als zentraler intellektueller Führer angesehen, zusammen mit anderen (wie den genannten Autoren), deren Arbeit er finanziert oder gefördert hat.
ES hat eine enge, aber auch etwas komplizierte Beziehung zu den nationalistischen und rechtsextremen Kräften in demokratischen Ländern. Einerseits identifizieren sich die meisten Teilnehmer mit dieser Gruppe und unterstützen sie in dem Maße, in dem sie sich politisch engagieren, wie das Auftreten Thiels als Hauptfinanzier von Donald Trump und seinen Anhängern zeigt. Tatsächlich sind mehrere führende Politiker der Ultra-Rechten eng mit der ES-Weltanschauung verbunden: Der prominente britische konservative Parlamentsabgeordnete Jacob Rees-Mogg ist der Sohn von Lord William Rees-Mogg, Thiel beschäftigt den ehemaligen österreichischen Bundeskanzler Sebastian Kurz und die Thiel-Schützlinge Blake Masters und J. D. Vance kandidierten 2022 für den Senat, wobei letzterer einen Sitz gewann.
Andererseits steht die ES-Ideologie dem Nationalismus (oder jeder anderen Form von Kollektivismus oder Solidarität) konsequent ablehnend gegenüber, und die ES-Anhänger verhöhnen und verwerfen routinemäßig viele zentrale religiöse, nationale und kulturelle Werte, die mit der Rechten assoziiert werden. Dies kann durch eine gemeinsame Abneigung gegen das, was sie als vorherrschende linke kulturelle Werte wahrnehmen, oder durch eine “akzelerationistische” Haltung, wie sie von Yarvin, Donaldson und Rees-Mogg vertreten wird, gelöst werden, die die “nationalistische Gegenreaktion” auf die unvermeidlichen technologischen Trends als Beschleuniger und möglichen Verbündeten bei der Auflösung des Nationalstaates betrachtet.
<<<Abbildung Golden Age>>>>
Stagnation und Ungleichheit
Diese beiden Ideologien haben in den meisten liberalen Demokratien in erheblichem Maße, wenn auch oft in abgeschwächter Form, die öffentliche Vorstellung von der Zukunft der Technologie beherrscht und damit die Richtung der Technologieinvestitionen für den größten Teil des letzten halben Jahrhunderts bestimmt. Während die AT-Erzählung frisch klingt und mit den jüngsten Fortschritten in der KI zusammenhängt, wurden verwandte Diskussionen um KI bereits in den 1980er Jahren fast genauso fieberhaft geführt, wie die REFERENCE BAKCWARD TO AI GOOGLE NGRAMS CHART zeigt. Auch wenn die jüngsten Diskussionen um Web3 das Profil der KI geschärft haben, war sie wohl in den 1990er Jahren auf ihrem Höhepunkt, als John Perry Barlows “Declaration of the Independence of Cyberspace”, Neal Stephensons Romane und die Veröffentlichung von The Sovereign Individual erschienen.
Die radikalen Versprechungen dieser Visionen veranlassten viele dazu, von der Informationstechnologie ein dramatisches Wirtschafts- und Produktivitätswachstum zu erwarten, ebenso wie die Wellen von Privatisierung, Deregulierung und Steuersenkungen, die in den meisten liberalen Demokratien seit etwa einem halben Jahrhundert damit einhergingen. Diese Versprechungen haben sich jedoch bei weitem nicht erfüllt, und wirtschaftliche Analysen deuten zunehmend darauf hin, dass diese technologischen Richtungen eine Schlüsselrolle bei der Erklärung dieses Misserfolgs spielen könnten.
Statt der versprochenen Explosion wirtschaftlicher Möglichkeiten war im letzten halben Jahrhundert eine dramatische Verlangsamung des Wirtschafts- und insbesondere des Produktivitätswachstums zu verzeichnen. Abbildung Y zeigt das Wachstum der “Totalen Factor Produktivität (TFP)” in den Vereinigten Staaten, das umfassendste Maß der Ökonomen für die Verbesserung der Technologie, im Durchschnitt der Jahrzehnte vom Beginn des 20. Jahrhunderts bis heute. Die Raten während des “Goldenen Zeitalters” in der Mitte des Jahrhunderts sind etwa doppelt so hoch wie vor und nach der Zeit, die wir als “digitale Stagnation” bezeichnen. In anderen liberal-demokratischen Ländern Europas und in den meisten demokratischen Ländern Asiens ist das Muster noch dramatischer, wobei Südkorea und Taiwan bemerkenswerte Ausnahmen bilden.
Erschwerend kommt hinzu, dass in dieser Zeit der Stagnation auch die Ungleichheit dramatisch zugenommen hat, insbesondere in den Vereinigten Staaten. Abbildung Z zeigt das durchschnittliche Einkommenswachstum in den USA nach Einkommensperzentilen während des Goldenen Zeitalters bzw. der Großen Stagnation. Während des Goldenen Zeitalters war das Einkommenswachstum über die gesamte Verteilung hinweg in etwa konstant, während es bei den Spitzenverdienern zurückging. Während der Digitalen Stagnation war das Einkommenswachstum bei den Besserverdienenden höher und übertraf nur bei den obersten 1 % das Durchschnittsniveau des Goldenen Zeitalters, wobei noch kleinere Gruppen den größten Teil der insgesamt viel niedrigeren Einkommenszuwächse erzielten.
<<<<Abbildung Income Percentile>>>>
Was ist im letzten halben Jahrhundert im Vergleich zum vorangegangenen Jahrhundert so schief gelaufen? Wirtschaftswissenschaftler haben eine Reihe von Faktoren untersucht, vom Aufstieg der Marktmacht und dem Niedergang der Gewerkschaften bis hin zu der immer größeren Herausforderung, Innovationen zu entwickeln, da bereits so viel erfunden wurde. Es gibt jedoch immer mehr Hinweise auf zwei Faktoren, die eng mit dem Einfluss von AT bzw. ES verbunden sind: die Verlagerung des technologischen Fortschritts hin zur Automatisierung und weg von der Vergrößerung des Arbeitskräfteproduktivtät und die Verlagerung der Politik weg von der proaktiven Gestaltung der industriellen Entwicklung und Beziehungen hin zu der Annahme, dass “freie Märkte es am besten wissen”.
Was den ersten Punkt betrifft, so haben Acemoglu, Pascual Restrepo und Mitarbeiter in einer Reihe neuerer Arbeiten die Verlagerung des technischen Fortschritts vom Goldenen Zeitalter zur digitalen Stagnation dokumentiert. Abbildung A fasst ihre Ergebnisse zusammen und zeigt die kumulativen Produktivitätsveränderungen im Laufe der Zeit, die sich aus der Automatisierung der Arbeit (die sie als “Verdrängung” bezeichnen) und der Vermehrung der Arbeit (die sie als “Wiedereinstellung” bezeichnen) ergeben [30]. Während des Goldenen Zeitalters glich die Wiedereingliederung die Verdrängung in etwa aus, so dass der Anteil des Einkommens, der an die Arbeitnehmer geht, im Wesentlichen konstant blieb. Während der digitalen Stagnation hat sich die Verdrängung jedoch leicht beschleunigt, während die Wiedereinstellung drastisch zurückgegangen ist, was zu einem langsameren Gesamtproduktivitätswachstum und einem erheblichen Rückgang des Einkommensanteils der Arbeitnehmer geführt hat. Darüber hinaus zeigt ihre Analyse, dass die ungerechten Auswirkungen dieses Ungleichgewichts durch die Konzentration der Verdrängung auf gering qualifizierte Arbeitnehmer noch verschärft wurden.
<<<<Abbildung Acemoglu>>>>
Die Rolle der “neoliberalen” Politik bei der Stagnation und Ungleichheit in diesem Zeitraum ist weithin umstritten, und wir vermuten, dass sich die meisten Leserinnen und Leser ihre eigene Meinung zu diesem Thema gebildet haben. Einer von uns war auch Mitautor eines Buches, das einen Überblick über den Stand der Dinge vor etwa einem Jahrzehnt enthält [31]. Wir werden daher hier nicht ins Detail gehen und verweisen die Leser stattdessen auf diese oder andere verwandte Schriften [32]. Es ist jedoch klar, dass die bestimmende ideologische und politische Richtung dieser Periode eine Umarmung der kapitalistischen Marktwirtschaft war, oft eng verbunden mit der Behauptung, dass eine solche Umarmung durch die Globalisierung der Technologie und die daraus resultierende Unmöglichkeit kollektiven Regierens/Handelns, die den Kern der ES-Ideologie ausmacht, notwendig sei. Das weitgehend gescheiterte letzte halbe Jahrhundert der Technologie und Politik war somit durch die Dominanz von AT im Bereich der Technologie und ES im Bereich der Politik gekennzeichnet.
Natürlich war das letzte halbe Jahrhundert kaum frei von technologischen Durchbrüchen, die wirklich positive, wenn auch uneinheitliche und manchmal problematische Veränderungen bewirkt haben. Personal Computer ermöglichten in den 1980er Jahren eine noch nie dagewesene menschliche Kreativität; das Internet ermöglichte in den 1990er Jahren die Kommunikation und Verbindung über zuvor unvorstellbare Entfernungen; Smartphones vereinten diese beiden Revolutionen und machten sie in den 2000er Jahren allgegenwärtig. Es ist jedoch auffallend, dass keine dieser kanonischen Innovationen unserer Zeit eindeutig in die AT- oder ES-Geschichte passt. Es handelt sich eindeutig um Technologien, die die menschliche Kreativität erweitern, oft als “Intelligence Augmentation" oder IA bezeichnet, und nicht als KI. Doch auch sie waren nicht in erster Linie als Werkzeuge gedacht, um den bestehenden sozialen Institutionen zu entkommen; sie ermöglichten eher eine reichhaltige Kommunikation und Verbindung als Markttransaktionen, Privateigentum und Geheimhaltung. Wie wir sehen werden, entstammen diese Technologien einer ganz anderen Tradition als diese beiden. So waren auch die wenigen großen technologischen Sprünge in dieser Zeit weitgehend unabhängig von oder im Gegensatz zu diesen Visionen.
Unser brüchiger Gesellschaftsvertrag
Die wirtschaftlichen Bedingungen, die die Einführung von AT und ES begleiteten, sind jedoch nur die am leichtesten zu quantifizierenden und daher am meisten für Schlagzeilen sorgenden. Tiefer, heimtückischer und letztlich schädlicher ist die Korrosion der Zuversicht, des Glaubens und des Vertrauens, auf denen die gesellschaftliche Unterstützung sowohl der Demokratie als auch der Technologie beruht.
Das Vertrauen in die demokratischen Institutionen ist vor allem in den letzten anderthalb Jahrzehnten in allen Demokratien, insbesondere aber in den USA und den Entwicklungsländern, gesunken. In den USA hat sich die Unzufriedenheit mit der Demokratie in den letzten drei Jahrzehnten von einer Randmeinung (weniger als 25 %) zu einer Mehrheitsmeinung entwickelt [33]. Auch das Vertrauen in die Technologie, insbesondere in die führenden Technologieunternehmen, hat in ähnlicher Weise abgenommen, auch wenn es weniger konsequent gemessen wird. In den USA ist der Technologiesektor, der Anfang und Mitte der 2010er Jahre noch als der vertrauenswürdigste Wirtschaftssektor galt, laut Umfragen von Organisationen wie dem Public Affairs Council, Morning Consult, Pew Research und Edelman Trust Barometer [34] zu einem der am wenigsten vertrauenswürdigen Sektoren geworden.
Diese Befürchtungen haben zu einem allgemeinen Vertrauensverlust in eine Reihe von gesellschaftlichen Institutionen geführt. Der Anteil der Amerikaner, der ein hohes Vertrauen in mehrere führende Institutionen (einschließlich organisierter Religionen, Bundesregierungen, öffentlicher Schulen, Medien und Strafverfolgungsbehörden) zum Ausdruck bringt, ist in den meisten Fällen auf etwa die Hälfte des Niveaus gefallen, das zu Beginn solcher Erhebungen herrschte, d. h. um das Ende des Goldenen Zeitalters herum [35]. Die Tendenzen in Europa sind moderater und das globale Bild ist uneinheitlich, aber der allgemeine Trend zu einem sinkenden Vertrauen in die Institutionen in demokratischen Ländern ist weithin anerkannt [36].
Unsere Zukunft zurückgewinnen
Technologie und Demokratie sind zwischen den beiden Seiten einer sich vertiefenden Kluft gefangen. Dieser Krieg schadet beiden Seiten des Konflikts, untergräbt die Demokratie und verlangsamt die technologische Entwicklung. Als Kollateralschaden verlangsamt er das Wirtschaftswachstum, untergräbt das Vertrauen in gesellschaftliche Institutionen und schürt die Ungleichheit. Dieser Konflikt ist nicht unvermeidlich; er ist das Ergebnis der technologischen Richtungen, für die sich die liberalen Demokratien gemeinsam entschieden haben und die einst von Ideologien über die Zukunft angeheizt wurden, die demokratischen Idealen zuwiderlaufen. Da politische Systeme auf Technologien angewiesen sind, um zu gedeihen, kann die Demokratie nicht gedeihen, wenn wir diesen Weg weiter beschreiten.
Ein anderer Weg ist möglich. Technologie und Demokratie können die besten Verbündeten des jeweils anderen sein. Wie wir argumentieren werden, ist die groß angelegte Demokratie (oder, wie Civilization VI es nennen würde, die digitale Demokratie) ein Traum, von dem wir gerade erst angefangen haben zu träumen und der eine noch nie dagewesene Technologie erfordert, um überhaupt eine Chance auf Verwirklichung zu haben. Indem wir uns unsere Zukunft neu ausmalen, öffentliche Investitionen, Forschungspläne und private Entwicklungen umstellen, können wir diese Zukunft aufbauen. Im weiteren Verlauf dieses Buches möchten wir Ihnen zeigen, wie.
Shoshanna Zuboff, The Age of Surveillance Capitalism (New York: Public Affairs, 2019): 513. Auf Deutsch unter dem Titel Das Zeitalter des Überwachungskapitalismus bei Campus Verlag erschienen. ↩︎
Marc Andreessen, “The Techno-Optimist Manifesto”, Andreessen Horowitz Blog, October 16, 2023, https://a16z.com/the-techno-optimist-manifesto/. ↩︎