民主主義 · 5-5

適応型管理行政

MicrosoftのCEOサティア・ナデラはAI元年といわれる2023年に、スイスのダボスで開催された世界経済フォーラムで、インドの田舎で現地語を話す農民が、大規模言語モデル（LLM）バックエンドと組み合わせたガラケーを使って公共サービスにアクセスする様子を実演した。このモデルは音声を理解し、現地語を関連フォームが利用できる言語に翻訳し、記入すべき内容を案内し、音声で農民にガイダンスを返す。

このデモは、AI4Bharat、Karya、IVR Junctionなどの長年の取り組みと多様な関係者の協力に基づいて構築されたものだ。これらの組織は、インド人を雇用して現地の言語に関するデータを収集し、そのデータを活用してLLMが各種言語間で翻訳できるようにすることで、シンプルなガラケーしか持っていない、読み書きできないインド人を「音声ベースのインターネット」に接続できるようにした。これらを組み合わせることで、あまり一般的ではない言語を話し、都市から遠く離れた場所に住む人々が、生活を維持するために必要な公共サービスにアクセスできるようになり、インドの文化的多様性の維持と強化に役立ちそうだ。

One Indian farmer pointing out something to another on his mobile phone

写真 5-5-A この活動の成果はすでに実現している



出典：Microsoft 提供

これらのデモをもとに、インドの企業、民間団体、政府機関は、各種機能を大規模に活用するサービスを開始した。農家金融支援プログラムへの申請をサポートする政府提供のチャットボットや、さまざまな公共サービスに関するガイダンスを提供する無料のWhatsAppベースの多言語チャットボットなどだ。

行政と官僚制度は、世界の多くを組織する中心的な特徴だ。行政と官僚制度は、構造化されたコミュニケーションと、自然言語の慣習よりもはるかに形式的で厳格な情報のルールに縛られた処理を行う。行政と官僚制度は、正当性、公平性、手続き上の公正性の達成を目的とすることが多く、感覚的な体験としてはあまり豊かではない。しかし、投票や市場の厳密な数学的かつ機械的なやりとりとは違い、通常はある程度の拡張されたコミュニケーションが可能となる。したがって行政と官僚制度は、効果的に実施され、慣習が活用されて違反されないようにするため、参加者間の深い共通理解を必要とする。行政は、個人または中小企業と、政府または大企業との間のほとんどのやりとりの中心に位置する。また、緊密な社会的つながりのない政治体制内の人々の間で、中期的な関係を形成する上でも中心的な役割を果たす。行政は、法律、財産制度、身分証明、雇用、入学と私たちが考えるもののほとんど、および「行政国家」と「企業官僚制度」のほとんどの機能を司る。

官僚機構と行政に対する典型的な不満は、行政におけるさまざまな裁定的地位にある人々に過度の裁量権を与えているので気まぐれだということと、個別のケースのニュアンスにも官僚機構の期待の範囲外の文化的状況にも適応できず、硬直的だというものだ。ここでは、デジタル技術、特に生成基盤モデル（GFM）の進歩が、これらのトレードオフの一部を軽減し、より多様な人々の集団が、自分たちの生活様式を尊重しながら行政システムで協力できる方法を示してみよう。

今日の管理行政

人生で最も重要な節目の多くは、私たちが人生の大半を過ごす方法よりもはるかに希薄な情報構造（さまざまな種類の「書類」）に基づく管理結果に左右される。例として以下のようなものがある。

・身分証明書および旅行書類
・成績証明書、履歴書など「人生の道筋」の各種要約（経歴書／CV）
・不動産登記書および契約書などの法的文書
・納税申告書
・構造化された業績評価
・医療受入および評価フォーム
・法的提出書類（ただし、これらには通常、右記よりも詳細でコンテキストが含まれる）

これらの構造化された情報形式により、市場や投票のように普遍的に透明なルールに頼るには複雑すぎる配分または選択の可能性について、「公正」、「公平」、「無私」な評価を可能にする。公平性を実現するために、これらのシステムは多くの場合、さまざまな情報を意図的に破棄する。これは、ヨーロッパの伝統におけるさまざまな擬人化された表現に見られる、正義は盲目だという主張によって劇的に示されている。先駆的な社会学者マックス・ウェーバー以来の学者たちが指摘しているように、公平性を維持しながら投票や市場よりも豊富な情報を活用するという2つの目標を達成するために、行政システムは大規模な「官僚機構」と大量のデジタル処理を採用し、規則と手順に従ってこれらの構造化されたデータを評価する[1]。

このように、行政は相反する2つの不満に直面する。この不満は、それが可能にするコラボレーションの豊かさの限界と、社会の多様性を網羅する行政能力の限界にほぼ対応している[2]。

ひとつ目は「硬直性」の問題と呼べる。つまり、官僚的なルールは、多くの詳細を捨て去ることで、個別ケースや地域の状況の重要な特徴を反映しない結果をもたらしてしまう。例は、ありふれたものから、抑圧的で単純にばかげたものまで多岐にわたる。たとえば以下のようなものだ。

・ほとんどの行政区域では、安全確保のために自動車の速度制限がある。しかし、運転時の安全な速度は、道路、環境などの関連条件で大きく変わる。つまり、ほとんどの場合、速度制限は状況に対して高すぎるか低すぎるかのどちらかだ。同様の論理は、商品の価格から労働者に許可される休憩時間まで、ほぼすべての行政政策設定に当てはまる。

・世界中の多様な文化を持つ人々は、高給職に就くために、自分の仕事や人生における業績を正確に記入するのではなく、行政官僚や採用担当者が読みやすいように設計された、履歴書や成績証明書の形式に当てはめねばならない。

・1990年代後半、あるオランダの航空会社は、スキポール空港を通過するための適切な書類がなかった何百匹もの生きたリスを物理的に細断するはめになった。これは特に残酷な例だが、飛行機に乗ったことがある人なら誰でも、航空旅行を管理する官僚制度の厳格さはご存じだろうから、この結果もさほど意外ではないはずだ。

しかし、官僚制度は硬直的で「冷酷」で「無情」だが、それと同じくらいありがちで正反対の不満も抱えている。それが「複雑性／ややこしさ」だ。つまり、官僚制度は不可解で、手に負えないことが多く（フランツ・カフカの古典作品『城』を参照）、官僚主義に満ち、恣意的な官僚に過剰な裁量を与えているように思えるのだ[3]。こうした問題は官僚制度の最も腹立たしい特徴のひとつであり、リバタリアンの絶え間ない不満の元だ。実際、これらの問題は、過剰な裁量から逃れることを目的とした分散型自律組織（DAO）やスマートコントラクトに関する多くのアイデアの大きな源泉となっているし、法律分野の高コスト化にもつながっている。しかし、明らかに、このような複雑さの主な原因は、彼らが扱う案件の多様性と微妙さに対応しなくてはならないことにある。したがって、官僚機構が社会の多様性に対応しようとして正当性を失う主な理由は、いまの官僚機構がこの多様性に対応するには複雑すぎて、適切に機能していないということなのだ。しかし、このトレードオフをエレガントに処理し、豊かな協力が幅広い多様性に正当に対応できるようにするためのデジタル技術は、ますます増えている。

明日の管理行政

洗練された複雑性ナビゲーションを実現する上で、これまで最も重要な一連の技術は通常「人工知能」（AI）と呼ばれるものだ。しかし、繰り返し指摘してきたように、AIという用語は具体的なツールセットというより指向を指す。この場合、古い行政官僚機構とGFMによって開かれた可能性を区別する上で、そのツールの細部が重要となる。1970年代と1980年代にこの分野を支配したAI研究は、「古き良きAI」（GOFAI）と呼ばれることもあり、多くの点で従来の官僚的処理を自動化する試みだった。プログラマーは、「エキスパート」と対話をして、管理プロセスを複雑なネストされたルールセット（多くの場合、「決定木」と呼ばれる）に符号化しようとした。患者は熱がありますか？　熱がある場合、目は赤くなっていますか？　熱がない場合、リンパ節は炎症を起こしていますか？　……このスタイルのAIは、1990年代に大きな壁にぶつかり、人気を失った。その後、そのほとんどは「機械学習」、特にニューラルネットワークと、その最も野心的で最近の成果であるGFMに取って代わられた。
GOFAIとはまったく対照的に、機械学習は分類、予測、決定に対する統計的な新しいアプローチとなる。システムは、がっちり決められた一連のルールをトップダウンで適用するのではなく、多くの場合は簡単には説明できない確率的な方法で、例に基づいて分類を学習する。ニューラルネットワーク、特にGFMは、多くの場合、互いに入力を受け取る数十億または数兆の「ノード」を持つ。これらのノードは、次に他のノードをトリガーして入力し、すべてが結合して次の単語や画像などの結果を予測する。このようなプロセスに基づいて、GFMは、人間が頻繁に実行する柔軟な分類、反応、推論を、迅速に拡張可能でほぼ再現可能な方法で、実用的に再現するという驚くべき能力と、その能力の急速改善を行う。
このような成功により、AIが行政管理の中核にある根本的なトレードオフを改善するという魅力的な見通しが生まれた。行政プロセスの一部にこのAIを活用することで、はるかに多様で構造化されていない入力を取り込んで、思慮深く知識豊富な専門家のようにそれらに対応できるのだ。しかもユーザーに特殊な書類に記入するという過度の負担をかけずにすみ、それなりの再現性を提供する方法でそれが実現できるかもしれない。
特にGFMへの関心が爆発的に高まった過去2年間に、各種の探求が登場してきた。

・導入部の小話で強調したように、これらのツールは、疎外されたコミュニティがこれまで発見・活用しづらかった公共サービスにアクセスしやすくするという、大きな可能性を示している。ソーシャルワーカーの主な役割は、長い間そうした活用の支援だったが、特に開発途上国では通常、公的支出が不足しているので、ユニバーサルアクセスにはほど遠かった。このような実践の先駆者としては、フィンランド政府のKela-Kelpoプロジェクト、ドイツの連邦年金保険システム、米国の補助金データ信託などがある。

・類似ながらもっと野心的な応用としては、これまで高品質の法的支援を受けられなかった人々が、GFMで法的アドバイスやサービスにアクセスできるというものがある。例としては、司法ロボット（Legal Robot）やDoNotPayがある。どちらも、訴訟の結果だけでなく判例の作成にも配慮しており、資力が限られている顧客と、高品質の法的サービスを利用できる法人との間で、法的アクセスの不均衡を軽減しようとしている[4]。

・求人市場は、トップの雇用主がエリート大学出身者のみを採用したり、有名な同業企業での職務経験を潜在能力の主な指標として使用したりすることが多く、このため「金持ちがさらに金持ちになる」パターンに陥り、新しい道を進もうとする多くの人々の機会を閉ざし、さらにそのような機会に関心のあるすべての人を狭い教育およびキャリアの道に追いやる。いくつかの新しい人事プラットフォーム（HiredScore、Paradox.ai、Turing、Untappedなど）は、採用担当者が検討する候補者の幅と多様性拡大を目指す。主な課題は、過去にこのような多様な候補者の採用事例が限られているため、そうしたアルゴリズムの信頼性と柔軟性が危ういという点だ。

・地球上で最も環境的、文化的に豊かな地域の多くは、地図が不十分か、環境に配慮し、長年にわたる関係を築いてきた先住民ではなく、植民地の部外者の視点を押し付けるような地図しかない[5]。さまざまなグループがデジタルマッピングツールとGFMを活用し、このような伝統的な権利パターンを記述し、植民地の法制度に対抗する主張を行っている。たとえばDigital Democracy、Rainforest Foundation US、オーストラリア政府のIndigenous Land and Sea Corporation、メキシコのSERVIR Amazoniaがある[6]。

最後の例が特に示唆しているように、マッピング（全地球測位システム（GPS）および地理情報システム（GIS））など、従来「AI」とは別物とされるさまざまなデジタル技術もここに関係してくる。これは災害や紛争への対応に役立ったUshahidiの共同マッピング作業で劇的に示された[7]。また、透明性の高いデータベース（分散型台帳を含む）も利用される。これは、ID2020などの組織によって難民のID基盤として、またはホンジュラスの土地登記所で使用されているさまざまな事例でも見られる。さらに、GFMの力は「AI」であることからではなく、ネットワーク化された確率的構造から生じており、これにより多様で曖昧な入力に適応できるのだ。このような構造は、適応型の官僚制度、パケット交換ベースの信頼関係など、人間関係のネットワークにも存在する可能性がある。

適応型管理行政のフロンティア

人間の心のネットワーク、コンピュータでシミュレートされたニューロン、あるいはもっと可能性が高く実効性のありそうなものとして、両者を織りなしたメッシュ構造に基づいたものでも、こうしたシステムの可能性はこうした初期の実験をはるかに超えて広がりそうだ。いま挙げた例はむしろ、既存の厳格な管理構造に合わせるのを主な目的としていたので、多くの場合その限界を強化してしまう面もあったからだ。そうした制約にあまりとらわれず、もっと革新的な変化に向けた仕組みを考えよう。

最も有望な方向性のひとつは、ダニエル・アレン、デビッド・キッド、アリアナ・ゼトリンによって提案されたものだ[8]。彼らは、従来の学校での課程と成績を、はるかに多様なバッジに徐々に置き換えることを提案している。個別の測定可能な技能の具体的な認知を出発点にする。それをもとにメゾバッジの資格が得られる。マイクロバッジとメゾバッジを適切に組み合わせて取得すると、最終的に潜在的な雇用主や教育機関が使用できる認知されたマクロバッジにまで上れる。このプロセスは、ニューラルネットワーク内で発生するプロセスをそのまま応用したもので、低レベルの入力の組み合わせが徐々に高レベルの、したがって意味のある出力をトリガーする。アレンらによれば、教育心理学の長年の研究により、現代ではスキルが細分化していて標準的な教室での講義に合わなくなっていることがわかったという。さらに多くの学生、特に歴史的に疎外された学生や学業に消極的な学生は、現在の厳格な構造によって機会を奪われがちだそうだ。ここで挙げたシステムは、そうした問題にも対応できるのだという。

GFMなど各種ニューラルネットワークを模す形で、こうした仕組みを構築できるだけでなく、この仕組みから出てくる複雑な履歴書に、雇用主のほうが対応するときにもGFMが直接的に役立つかもしれない。GFMは、学生がより多様な学習経路をナビゲートするのにも役立ち、関連するバッジの一部を直接インスタンス化して生成することもできる。さらに、宣伝技術（SNS、検証可能な資格情報、分散型台帳など）は、このようなバッジの信頼性、信用性、透明性を実現する上で重要になる。さらにもっと広い話として、将来このようなさまざまな信号を適応性の高い管理インフラによって有意義に処理できるようになれば、資格が必要な空間（クラブ、学校、移民による民族など）への識別と参入の多くの慣行は、「4–1IDと人物性」の節で論じたさまざまな社会的関係からの信号に基づく、もっと分散されたネットワークを活用できるようになるかもしれない。

さらに野心的な話として、いつの日かはるかに多様な法制度を行政慣行に統合できるかもしれない。世界中で近代化と植民地主義が進み、地理や文化ごとに劇的に異なるさまざまな伝統的慣行がほぼ覆された。これらの慣行の多くは非公式に存続してはいるが、多くの場合は遠く離れた国の政府によって課せられた正式な法的構造とは相容れない。これには、性別や性的関係、贈り物に関連する義務、家族の対立や義務の解決、土地利用などに関する慣行が含まれる。そのような伝統の一部は、廃止が適切という合意が高まってはいるが（女性器切除の禁止など）、多くの場合、法律が伝統的慣習を「上書き」するのは、信念ではなく、利便性に基づいている。伝統的慣行により、遠くから来た人が土地を取得する方法やコミュニティ内で適切に結婚する方法などは理解しづらくなる。時には強制され、時には巧みに誘導された文化的慣行の均質化は、混交とダイナミズムにある程度は貢献したが、多くの場合、古く多様な文化の知恵にかなり犠牲を強いた。

GFMがますます多くの言語間で低コストの翻訳を提供できつつある。同様に文化規範間での同様に迅速な翻訳が実現可能になるかもしれない。そうした橋渡し役は、これまで文化人類学者や民族誌学者が不完全かつ多大な費用をかけて提供してきたものだ。はるかに安価で簡単な翻訳によって、その言語の狭い利用者コミュニティ外部でも使えるようになるため、より幅広い言語が新しい世代にとって実用性と魅力を持つことと同様に、安価で簡単な規範の翻訳によって、より幅広い法律および財産慣行が持続可能になるかもしれない。これにより、植民地化されたコミュニティだけでなく、先進国内でも地方部に多いさまざまな「伝統的な」コミュニティに課せられている、現代への適応という絶え間ない負担が軽減される。また、次世代GFMがこれらの文化的違いごとの柔軟な対応を学ぶにつれて、社会の成長と進歩の原動力となる、残された多様性の豊かさが大幅に高まる。

このような未来は、既存の多様性の保存にとどまらず、そのさらなる多様化と種の分化支援にも貢献するかもしれない。本書で概説した実践の多くは、野心的な未来学者の想像力にとってさえハードルが高い。そのため、こうしたアイデアの実験に惹かれた人々は、「ネットワーク国家」や「チャーター都市」、「シーステッド」など、既存の法域から逃れるさまざまな形態を提案するようになった。これらの形態は、より広範な公共財や社会秩序の維持とさまざまな緊張関係に陥るのは間違いない。しかし、こうした実験が機械翻訳によって既存の法体系に簡単に理解され、統合できるなら、このような明確な分離がなくてもそうした新しい多様性を支援できる可能性もある。これにより、幅広い社会的差異を超えた協力を維持しながら、斬新な実践と伝統的な実践を組み合わせた多様な実験が可能になり、無限の組み合わせで無限に拡大する多様性が繁栄するようになる。

適応型管理行政の限界

今日、GFM技術の落とし穴や危険性は空前の活発さで議論されている。それも当然だろう。その不透明性、作成条件を不明瞭にする自律性という謎めいた雰囲気（これは一般的な「AI」という用語にも暗黙に含まれており、そのため本書ではなるべく避けている）、ソースデータと作成者の両方の偏見を継承する可能性、および悪用される可能性はすべて、重大な危険をもたらすからだ。

管理行政面での応用では、こうした欠陥はすぐ露わになる。GFMとの対話は楽になってきたが、それが官僚主義の不透明性をさらに悪化させ、裁量と人間の偏見の問題はあまり軽減してくれない可能性もある。なぜなら、このようなシステムの偏見や過去の人間の行動のクラスターが、今日の出力にどう影響しているかをマッピングするのは非常に難しいからだ[9]。このようなモデルの訓練データは圧倒的に既存のものが多いため、そのモデルが人々の考える形で一般的に高いパフォーマンスを出し、多様性に確実に対処するためには、データの多様性の測定が不可欠なのだが、これはAI研究者が重視しつつも定義に苦労している話なのだ。こうした多様性が模索され、モデルに組み入れられる際の権力の条件によって、どのくらい多様性の機会を提供したり順応を強制したりするかが左右されてしまう。昔の民族誌学者の多くは、包括的な翻訳の声ではなく、植民地支配の道具となった[10]。もっと強力な利害関係者に悪用されたら、法制度間の相互運用性は、法的意図と正式な規則のギャップを利用して、すぐに規制逃れの手段になりかねない。

幸いなことに、この章の他の部分で扱う技術の一部は、これらの害の一部を少なくとも部分的に解決することができそうだ。GFMのロジックは、数学の単純な表現に還元しようとすると絶望的に不明瞭になるが、没入型の共有現実やポスト表象コミュニケーションなどのもっと豊かな形式を使えば、人間コミュニティへの信頼の確立に役立つ、深いつながりと理解の様式も使えるようになり、もっと豊かな工夫の余地も生まれるかもしれない。これまでの節で取り上げ、次の節でさらに検討する集団による熟議と意思決定の方法の多くは、正当性のある権力の分配定義に自然に応用できる。それらを使えば、GFMのガバナンスやそれらが生み出す経済的価値の分配、およびそれらが公共の意志に沿って行動するよう集合的に導く方法を直接作り出せるはずだ。そのような手法は、その正当性を基盤として、より豊かな相互作用モードを通じて、提供および探索することで、これを初めとする各種のデジタルシステムが、近代性の代償であったシステムの世界の冷たく恣意的な性質を同時に克服する大きな可能性を秘めているのだ。

  1. Max Weber, Economy and Society (Somerville, NJ: Bedminster Press, 1968). ↩︎

  2. 近著では,これらの病理に関する優れた研究が掲載され,以下のリスの例も紹介されている.Davies,前掲書. ↩︎

  3. Franz Kafka, The Castle (Munich: Kurt Wolff Verlag, 1926). 〔『城』フランツ・カフカ著, 原田義人訳, 角川書店, 1966〕 ↩︎

  4. Marc Galanter, “Why the ‘Haves’ Come Out Ahead: Speculations on the Limits of Legal Change”, Law and Society Review 9, no. 1 (1974): 95. ↩︎

  5. Aníbal Quijano, “Coloniality and Modernity/Rationality”, Cultural Studies 21, no. 2-3: 168-178. ↩︎

  6. Jake Ramthun, Biplov Bhandari and Tim Mayer, “How SERVIR Uses AI to Turn Earth Science into Climate Action”, SERVIR blog November 21, 2023 at https://servirglobal.net/news/how-servir-uses-ai-turn-earth-science-climate-action. ↩︎

  7. Ory Okolloh, “Ushahidi, or ‘Testimony’: Web 2.0 Tools for Crowdsourcing Crisis Information” in Holly Ashley ed., Change at Hand: Web 2.0 for Development (London: International Institute for Environment and Development, 2009). ↩︎

  8. Danielle Allen, David Kidd and Ariana Zetlin, “A Call to More Equitable Learning: How Next-Generation Badging Improves Education for All” Edmond and Lil Safra Center for Ethics and Democratic Knowledge Project, August 2022 at https://www.nextgenbadging.org/whitepaper. ↩︎

  9. たとえば Safiya Umoja Noble, Algorithms of Oppression: How Search Engines Reinforce Racism (New York: New York University Press, 2018). Cathy O’Neil, Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy (New York: Broadway Books, 2016). Ruha Benjamin, Race After Technology: Abolitionist Tools for the New Jim Crow (Cambridge, UK: Polity Press, 2019) を参照. ↩︎

  10. Talal Asad, Anthropology & the Colonial Encounter (Ithaca, NY: Ithaca Press, 1973). ↩︎