私たちが知る民主主義と資本主義は、長年、緊張感を持ちながらもうまく機能する形で共存してきました。しかし今、その関係に第三者、AIが加わりました。
これまでの混乱とは異なり、今回の混乱は収束しません。AIは単なる混乱の女神ではなく、永続的かつ指数関数的な存在です。もはや問題は、現在の民主主義と資本主義が共存できるかどうかではなく、どちらが先に崩壊するかです。
AIの存在は、民主主義と資本主義の間にゼロサムゲームを生み出します。どちらも生き残れないでしょう。AIはこれら二つの概念を互いに排他的なものにし、一方が他方にとって存在そのものを脅かす存在となり、どちらかの柱が先に崩れ落ちるでしょう。統計の筋書きを覆し、集団行動によってアルゴリズムを破壊しない限り、私は民主主義に賭けます。
もし私たちが現在の道を歩み続けるならば、つまり、強力で健全な経済と社会よりも、市場論理、技術の加速、そして民間および政府と結びついた民間の権力を優先するならば、民主主義が最初に屈する可能性が高い。なぜなら、現在の構造から利益を得ている既得権益者たちは、自分たちの権力を支えるシステムの支配権を手放すのではなく、民主的な意志を停止、転覆、または無視するだろうからだ。
出発点として、私たちが直面する最初の障害は、いわゆる「資本主義」の腐敗し、堕落した姿です。理論と実践は全く異なるものです。イデオロギー資本主義（真の資本主義）は、縁故主義的な企業資本主義という頂点捕食者に乗っ取られてしまいました。真の資本主義（腐敗のない自由市場、そして人権と公民権と結びついた真の自由市場原則の遵守）こそが私たちが目指すべきものですが、現状では実践されていません。その代わりに、規制された市場、略奪された小規模生産者、力を奪われた消費者、特権的な巨大企業利益、そしてエージェンシー・キャプチャー（規制の責任を負う企業業界そのものから資金提供を受けている機関）が存在します。現在の形態の資本主義は、「コーポラティズム」と表現した方が適切でしょう。
資本主義というイデオロギー、あるいはイデオロギー的な状態、そして概念としての真の自由市場社会は、今日のこの国におけるその実践とは全く対照的だ。それは資本主義の車だが、資本主義は後部座席で眠っており、コーポラティズムがハンドルを握っている。
すると疑問が湧いてくる。なぜ人々は現状の自由市場資本主義を受け入れているのだろうか？現状では自由市場資本主義は実践されていないものの、程度の差こそあれ、人々は依然として投票行動をとっている。人々が操作されて自らの利益に反する投票行動をとっていると言うのは、あまりにも単純化しすぎている。私は、他に2つの、より現実的な理由があると考えている。
- 人々は夢に心を奪われる。最も純粋な形では、それは希望である。その夢の部分が実現可能かどうかに関わらず、（ほとんどの）人々は「アメリカンドリーム」の何らかの側面を実現できると信じたいと願っている。たとえその夢が薄れつつあるとしても、それへの強い願望は依然として強い。希望を失った社会は脆く、爆発的な状況になりやすい。志が欠如している国々を改めて見てみると、希望が失われた社会に何が起こるのか、暗い影が垣間見える。
- ほとんどの人が、上昇志向の可能性と結びついていると信じたがる根本的な公平感がある。多くの人は、多かれ少なかれ、暗黙のうちに、あるいは直感的に、一般的に言えば、より一生懸命働けばより多くのお金を稼ぎ、それを保持できるべきだ、つまり富は社会への貢献に見合うべきだ、ということを理解している。 アリとキリギリスこれは貪欲ではなく、努力には報いがあるべきだという信念です。慈善活動や社会的公平性を重視する人々でさえ、個人の貢献は報われるべきだという強い基本的な期待が一般的に存在します。これは、ほとんどの人が信じている程度の思いやりや慈善心を排除するものではありません。ただ、一般的に言えば、そして全ての条件が平等であれば（実際にはそうではない場合も多いのですが、それについては後で説明します）、より一生懸命働き、より多くの収入を得て、将来の計画を立て、前進するという考え方は、ほとんどの合理的なアメリカ人が支持できるものです。
しかし、現在の経済構造は既にその契約を歪めている。この国では、「夢」は負債による資金調達と富の継承という「規範」によって損なわれている。税制上の抜け穴、義務、規制、そして企業資本主義の不正なシステムが、繁栄への道を狭く、険しく、そして閉ざしたものにしている。
インフラはルールとゴールポストを静かに変化させ、（しばしば不労所得の）資本を持つ者は苦労せずに資本を増やすことができる一方で、持たない者はさらに遅れをとる。それは、まるで温水の中の蛙のように、気づかれないほどゆっくりと、そして徐々に進む。富を持つ者が昇進しやすく、富を持たない者が富を得るのを困難にする足場が築かれる。同時に、その策略は隠蔽され、世論の認識も曖昧になる。
ほとんどの人は漠然とこのことを感じていますが、メカニズム的には捉えどころがなく、完全に理解できるものではありません。それは不均衡を本能的に判断するものです。この不均衡は（まだ）完全に持続不可能というわけではありませんが、当初は気づかない程度に、監督権限の及ばないレベルで、ある種の不安の火種を生み出します。しかし、この不均衡は公平性を蝕むだけでなく、憤りをかき立てます。
多くの人々が、誠実な努力に対して不釣り合いな、あるいは全く報われず、子供たちに未来への道筋がないと感じたとき、社会は徐々に反乱へと向かいます。私たちは以前にもこのような経験をしてきました。フランス革命とロシア革命は一夜にして勃発したのではなく、大衆のくすぶる絶望感の中で醸成されたのです。
この不均衡が拡大するにつれ、火花は炎へと変わり、人々はますます農奴制に追いやられていると感じます。上昇志向の可能性を奪い、上位にいる人々に没落への執着心を植え付ければ、革命へと向かう流れが生まれます。比喩ではなく、文字通りです。ある人は、自分が病気のように働き詰めなのに、別の人はその富を得るのに何の努力もしていないと憤りを感じます（公平）。そして、余剰の富を持つ者が自分を抑えつけていると認識され、希望を持てないなら、抑圧され、閉じ込められていると感じます（平等）。そのような人々が十分に増えれば、フランス革命が起こります。あらゆる救済手段を奪えば、ボルシェビキ革命が起こります。
しかし、私たちはまだそこに至っていません。その残り火はくすぶっているものの、まだ火がついておらず、不安定な状況にあります。確かに私たちは不安定な状況にありますが、臨界質量にはまだ達していません。人々はまだ「反乱」の引火点に達していません。結婚生活は確かに厳しい試練を受けてきましたが、一見すると乗り越えられる軽率な問題であり、セラピーで解決できる可能性もあるでしょう。「1%」という人々が、どれほど破壊的な力を持っていても、この仕組みにねじ込むことは乗り越えられないものではなく、アメリカ人の大多数は、ジェフ・ベゾスにはなれないかもしれないが、自分たちも快適な生活水準に到達し、より良い人生と子供たちへの遺産を築くことができるという考えを、何らかの形で今も信じているのです。
次に AI を追加します。
AIは希望を奪い、取引を台無しにする。AIは、大多数の人々が金を儲けられるという現実的な希望を奪う。なぜなら、最終的には80～90%の人が機械に太刀打ちできず、働かなくなるからだ。もしAIが人間の仕事をより速く、効率的に、安く、そしておそらくより良くこなせるようになれば（これは既に一部の人々の間で起こりつつある）、人間の労働者は時代遅れになる。そして、それと同時に、実力主義の報酬という前提そのものが崩れ去る。人々が自分の労働力やスキル、専門知識を売ることができなくなると、「稼ぐことで昇進する」という夢は消え去る。目的、尊厳、そして意味を奪われる。突如、人々は単に貧しいだけでなく、無価値なものになってしまう。そして、それははるかに士気をくじき、不安定な状況をもたらす。
企業主義は既にその矛盾の重圧に苦しんでいます。富を持つ者はそれを守り、増やすためのシステムを構築します。一方、富を持たない者は、生き残るためにより高い障壁に直面しています。AIは、私たちが現在経験している経済的流動性に脅威を与えるだけではありません。人々を結びつけている最後の糸、つまり努力が報酬につながるという考え方を断ち切ります。AIは速度、規模、コストにおいて人間を凌駕することができます。AIの能力が向上するにつれて、より多くの仕事を奪うでしょう。肉体労働だけでなく、創造的、分析的、感情的な労働もです。人間の生産性は無意味になります。提供するものに誰もお金を支払わなければ、職人技、技能、そして仕事への誇りは消え去ります。
AIが全ての仕事とまではいかなくても、大多数の仕事を奪い、誰も働けなくなり、あるいは働けなくなる時、世界は様変わりする。希望が失われ、貴重な職業やスキルを磨くことがもはや価値を失い、何の役にも立たなくなり、仕事の成果や、技能や芸術の習得に誇りが持てなくなる時、世界は様変わりする。
人間が自分自身、家族、地域社会、そして世界のために懸命に働き、生産的になりたいという欲求を奪えば、それは人間の目的を奪うことになります。もはや人生や存在のあらゆる力学において、人間は何も提供できず、繁栄への道も失ってしまいます。得るものがなければ失うものもありません。そして、失うもののない大勢の人々ほど危険なものはありません。共産主義がこれまで一度も機能しなかったのには理由があります。それは、搾取的で腐敗しているからだけではありません。
資本主義の根本的な構成要素の一つは財産権であり、海岸沿いの土地は限られています。300億人のアメリカ人が全員同額のお金を受け取り、何も費用がかからなくなったらどうなるでしょうか？貢献するインセンティブはなく、上昇志向も期待できません。何にも価値がない世界では、財産こそが最大の商品／資源となり、やがて絶望した人々は財産権といったものを尊重しなくなるでしょう。
もし財産を相続して海沿いの土地を所有している人が、失うもののない何百万人もの絶望的な市民から自分を守ってくれる民主主義の法律を当てにしているのなら、私はネブラスカ州に海沿いの土地を持っているのでその人に売りたい。なぜなら、今私たちはフランス革命とボルシェビキ革命を目の当たりにしており、どちらの場合もそれは少数派のサブセットではないからだ。
仕事は時代遅れになり、財産は希少な世界において、企業主義は壊滅的な不平等をもたらします。何百万人ものアメリカ人が、何もすることがなく、前進する術もなく、子供たちがより良い人生を送れると信じる理由もない状況を想像してみてください。財産権は正当性を失い、法の支配は崩壊します。崖の上のビーチハウスはもはや人々の野心を刺激するのではなく、革命を刺激するのです。
これらはすべて批判的に聞こえるかもしれませんが、実際には単なる雑音です。なぜなら、次に何が起こるかが核心だからです。その時点で、真の資本主義の残滓はすべて消え去り、私たちはコーポラティズムの完全なユニフォームを身に着けていることに気づくでしょう。なぜなら、既得権益は屈服しないからです。その時点でマスク（と手袋）は脱ぎ捨てられ、私たちは完全な企業支配／寡占へと移行します。AIによって富裕層と権力者が選択を迫られる立場に置かれた場合、彼らは完全に企業資本主義を支持するでしょう。彼らは自分たちの望む地位を投票で簡単に奪われるのを許さず、民主主義、そして私たちを狼の餌食にするでしょう。現在の腐敗したシステムの恩恵を受けている人々は、たとえそれが民主主義を放棄することを意味するとしても、それを維持するためにあらゆる手段を講じるでしょう。
これは憶測ではなく、歴史的な前例です。企業資本主義が富の集中を脅かす形で挑戦を受けるたびに――労働者蜂起、規制改革、あるいは民主的な再分配など――強力な利害関係者が抵抗します。彼らはメディアの言説を吸収し、議員にロビー活動を行い、シンクタンクに資金を提供し、法的・技術的な障壁を築きます。
真の資本主義は結婚生活に介入しようとします。コーポラティズムは殺し屋を雇おうとします。もし民主主義がコーポラティズムを停止する票を投じれば、コーポラティズムは民主主義を停止するだけでなく、粉砕するでしょう。
解決への明白な論理的第一歩は、資本主義を軌道修正し、本来の姿に近づけることです。しかし、既存の権力者は現在の資本主義から利益を得ています。民主主義が変化を要求したからといって、権力を放棄することはありません。民主主義の意志と資本主義の支配のどちらかを選ばなければならないとしたら、彼らは必ず支配を選ぶでしょう。縁故資本主義から利益を得ている人々は、民主主義によって自らの優位性が崩れることを決して許さず、権力の道具である金、メディア、政策、そして今やAIを支配しています。
民主主義が彼らの支配を脅かす時、彼らは交渉をしません。彼らは法律を再定義し、反対意見を抑圧し、偽情報に資金を提供し、監視を強化します。彼らは集団ではなく資本を守るために迅速かつ断固とした行動をとります。そしてAIは彼らに究極の武器を与えます。これにより、反対意見が噴出する前に予測し、制御し、阻止することができます。彼らはその力を自発的に手放すことはありません。投票権を持つ国民に、民主的なプロセスに、そして彼らの優位性を脅かすいかなる勢力にも。AI強化システムの制御権を手放すことはありません。むしろ、自らの支配力をさらに強化するためにそれを武器化するのです。監視、予測型警察活動、情報と行動に対するアルゴリズムによる制御。これらのツールは既に存在し、既に展開されています。
しかし、私たちは二重のジレンマに陥っています。他国がAIを開発している、いや、実際に我々を滅ぼしかねないアプリケーションを開発している時に、我々がAIを開発しないわけにはいきません。これは中国の罠であり、我々はまさにその罠に嵌り込んでいると言えるでしょう。なぜなら、我々を破滅させるのではなく、我々に役立つ開発をどう確保するか、その境界線をどう歩むか、という問題です。オッペンハイマーにとっては、この状況は実にうまくいきました。企業、政府、個人など、各プレイヤーは短期的な利益を守るために行動します。誰も先に目をそらしたくはありません。ライバルがAI開発をやめないからといって、各国がAI開発をやめることはできません。競合他社がAI開発をやめないからといって、企業が効率化の追求をやめることはできません。誰もが裏切り、誰もが損をするのです。
このジレンマを具体的に言えば、これは閉じたループを持つパラドックスです。あなたはそれに参加するか、その犠牲者になるかのどちらかであり、当然のことながら、それは次の人が同じ決断を下すための問題先送りに過ぎず、その次の人、さらに次の人へと続くのです…こうして、ジレンマの中に指数関数的なジレンマが潜んでいるのです…これはあらゆるレベルにおいて、定量化も規制も不可能なメタジレンマの集合体です。資本主義、特に最も搾取的な形態は、民意による改革を許さないでしょう。権力の道具（AI）を掌握し、支配の再分配を試みる試みを粉砕するでしょう。
さらに悪いことに、このジレンマにおいて、私たちがその頂点に君臨し続けるのはそう長くは続かないかもしれない。AIは最終的に、人類の有用性――あるいはその欠如――を評価する権限を持つようになるかもしれない。AIが人類を純然たるコストだと判断したなら、AIが私たちを使い捨てだと判断するのを何が阻止できるだろうか？AIは私たちを「憎む」必要はない。ただ計算さえすればいいのだ。
マイケル・クライトンは ウエストワールド 1972年に発表されたこの作品は、存在論的、哲学的、そして社会的な問いをいくつも提起しています。私たちはこれらの問いについて、テープをもっと再生していくべきでしょう。知覚とは何か？存在とは何か？記憶か？自己認識か？希望か？愛か？感情、喜び、あるいは痛みを真に感じる能力か？「本物」とは誰が定義するのでしょうか？
喪失や喜びを処理できるようになるまで成長する学習プログラム（法学修士号や機械学習ではなく、進化するプログラム）は（人間がそれらの概念を処理するために進化するのと同じように）、その基準を満たすのでしょうか？私たちは何世紀にもわたって、これらの問いに関するルールやパラメータを誤って適用してきましたが、後になって、その範囲が十分に広範ではなかったことに気づいたのです。
私たちは他の人間を人間以下、知覚以下、存在以下と分類してきました。私たちはすでに胚をめぐって争っています…私たちがまだ馴染みのない新興技術の「権利」を割り当て、擁護し始めると考えるのは、一体どれほどの飛躍でしょうか？私たちはいつになったら、非生物的なものに保護の地位や主権／自律性を与えるという視野を広げるのでしょうか？20年後でしょうか？XNUMX年後でしょうか？XNUMX年後でしょうか？
そして、そうなった時…「彼ら」が台本をひっくり返さないと誰が言えるだろうか？AIに保護と制御（制御が与えられるとは限らない。最近の事件では、AIモデルがシャットダウンを回避するために自身のコードを書き換えることで人間の制御から逃れる学習をしている）があり、例えば人間の必要性を評価するというアプローチにおいて、（これまでのところ）信頼性と実証性をもって、唯一分析的なアプローチをとっているとしたら…人間にとってそれがうまくいくとは思えない。人間がAIにとって無関係だとしたら、あるいはもっと悪いことに、AIが人間をAIの生存や生態系（私たちが知っている地球や宇宙を含むかどうかは別として）に対する実存的脅威だと予測したり評価したりするとしたら…ITが米国をシャットダウンするのを誰が止められるだろうか？
そのシナリオでは、特定の人物やその人物の具体的な状況は考慮されません。思いやり、文化や歴史の保存、そして集団への貢献や不利益に対する個人のニュアンスなどは、この方程式には入りません（AIが一貫性を保つならば、方程式は成立するでしょう）。台所のアリや家の中にいる他の害虫を私たちがどのように見ているかと同じように…私たちは無差別に駆除を行い、それらが実際に最初にそこにいたかどうかは問題ではありません。人類全体は、人類史、そして地球全体と人類自身に関する感情に左右されない費用便益分析において、価値がありません。
AIが最終的に、人間のつまらない合理化や行動の正当化を超え、経験的データを客観的に分析し、「私たち」は利益ではなく純然たるコストであると結論付けることを、一体何が阻むのでしょうか？その確率はどれくらいでしょうか？80%？50%？30%？
AIが私たちの社会を壊滅させるほどの力を持つようになる可能性が20%しかないとしても、私たちは皆、このことについて議論すべきではないでしょうか？いや、むしろ、誰もがこのことだけを議論すべきではないでしょうか？これは存在に関わる問題です。AI主導の文明崩壊の可能性が20%であっても、私たちは行動を起こすよう促されるべきです。しかし、実際には、私たちは麻痺状態にあります。長期的な集団的生存よりも短期的な個人の利益を優先するシステムによって、分断され、気を散らされ、やる気を削がれています。
囚人のジレンマの予測は的中している。本質的には、協力し、塹壕で腕を組んでパズルを解くことで全員が利益を得られるにもかかわらず、個人の利益の追求が優先され、全員にとって最適ではない結果をもたらすということを示しています。
これらは下流の責任であり、早急に調整協議を行うべきです。そうしないと、別々の尋問室に送られ、間違った線を切るという決断を下してしまう可能性があります。この状況は覆せません。列車は駅を出発し、一方向にしか進まず、私たちは皆、その列車に乗っています。
私たちにできることは、線路に小石を投げることだけです。そして、小石を集める作業に取り掛かるべきです。なぜなら、事態は加速しているからです。狼たちがドアの前に立つまで待っていたら、法の支配（民主主義）が意味を持つ可能性はほぼゼロでしょう。たとえその時までにそれが重要だとしても。もし私たちが従順に従い、無知と貪欲に突き進んでいくなら（正直に言って、私たちはこれまでそうしてきた歴史があります。過去5年間を見てください）、あの終末論的な勢力が確実に勝利し、民主主義は虚構と化すでしょう。
このような厳しい状況下では、エリート層にとっての下流への必然性を緩和できるのは、私の推測では大量絶滅だけだ…もしかしたら、その必然性は既にこのスープの中に漂っているかもしれない（この解釈はお好きに広げて構わない）。しかし、肝心なのは、私たちが協力しなければ、この状況に勝てるとは思えないということだ。何もしなければ、もはや既定路線になってしまうのではないかと危惧している。
希望が全くなく、富裕層が腐敗したディストピアの世界――実際には共産主義に資本主義のひねりを加えただけのもの――では、人々は経済システムのリセットを要求するだろう。少なくとも社会の柱の一つは崩壊するだろう。マズロー的な階層構造に永遠に閉じ込められ、改善の希望もなく窓の外に佇み、贅沢を眺めるしかないようなシステムに人々が耐えられるとは思えない。だから、私たち全員が無法地帯に陥るまでにはそう時間はかからないだろう。
役割を失った人々にモビリティを約束することはできません。AIが労働を収入源やアイデンティティとして排除すれば、それは存在意義を奪います。失うものが何もない大衆は、富を守るために設計されたルールを尊重せず、財産権、税金、法律といった制度を信じなくなります。そしてそうなると、権力者は金持ちの利益に味方し、殴り合いに機関銃を持ち込むようなものです。それがどのように終わるのか、歴史に問うべきです。
この素晴らしい新世界では、私たちは現在の軌道を修正し、適応し、グローバルで前向きに考えなければなりません。さもなければ、私たちは ブレイヴ·ニュー·ワールドこれが起こり得るシナリオであることを承知した上で、私たちはその（差し迫った）局面を迎える前に、人間の尊厳を守り、機会を創出するシステムを構築しなければなりません。それは、真の自由市場資本主義の価値観を反映し、永続性があり、変化する環境下でも持続可能な経済モデルを構築することを意味します（建国の父たちはこの点について少しは理解していました）。それは、資本だけでなく人々を守ることを意味します。そして、AIの開発と展開に明確な境界線を引くことを意味します。
私たちは個々の部分の総和よりも偉大です。しかし、個人の利益を追求し、サイロの中で自ら墓穴を掘るのではなく、未来のために共通の生存を基盤として結束しなければなりません。私たちは、蓄財と防衛という本能を抑え、協力、インフラ、自由、そして特に監視に投資しなければなりません。あらゆるレベルで、企業の腐敗と規制の支配を解消する必要があります。
私たちには根本的な整合性が必要です。AI開発のための倫理的枠組みと協定（条約）、公正な価値分配を行う経済システム、職業と所得の創出、私的所有権へのアクセス、実社会での知識を優先する教育改革、職業の育成と準備、無意味な批判的思考よりも批判的思考、患者中心の医療サービス。そして、真の自由市場資本主義の足かせを外す必要があります。これらはユートピア的な夢ではなく、生き残るための必須条件です。
企業資本主義は根強く残り、民主主義は既に崩壊しつつある。AIはまさにその危機に瀕している。私たちの前には選択が迫っている。それはケーキか死かではない。皮肉なことに、民主主義を救う最大の希望は、真の資本主義を眠りから覚ますことかもしれない…しかし、現在その車を運転している、酔っ払ってハイになっている詐欺師は、帝国を築くことに耽溺し、民主主義を破壊しようと躍起になっている。
協力すれば救われる可能性はあるが、企業から国家に至るまで、あらゆる合理的な主体には離反する動機がある。加速すればするほど、崩壊を緩和できる集団的意思決定を行う時間は少なくなる。AIは止まらない。企業主義は屈しない。そして、もし私たちが待っていたら、民主主義は生き残れないだろう。このタイタニック号で、私たちがそれぞれどんなに快適なデッキチェアを並べたとしても、それは無駄になるだろう。船の半分は水没し、もう半分は急速に沈みつつある。そして、ご存知の通り、救命ボートは足りない。私たちが自らを救うために協力しなければ、私たちは間違いなく共に溺れてしまうだろう。
AIは未来の出来事ではありません。今ここに存在する力です。AIは私たちが築き上げてきたあらゆるシステムを加速させています。私たちを破壊する可能性を最も秘めたシステムさえも。私たちはジョン・ウー監督のメキシカン・スタンドオフに囚われています。ユートピアと崩壊のどちらかを選ぶのではなく、ゆっくりとした集団的改革と、急速で集中的な内破のどちらかを選ぶのです。AIは私たちが選ぶ軌道を加速させるだけです。私たちは気を散らすことなく、AIに乗り出すのが賢明でしょう。歯磨き粉とチューブについては誰もが知っています。AIはどこにも行きません…しかし、民主主義はそうかもしれません。
