スピンドルプルーフビジネス

『眠れる森の美女』に出てくる妖精のゴッドマザー、メリーウェザーを覚えていますか？邪悪な女王が生まれたばかりのオーロラ姫に、16歳の誕生日に糸車で指を刺して死ぬという呪いをかけたとき、彼女は呪いを解くことはできませんでしたが、その呪いを和らげることはできました。そこで彼女は自身の能力を使って結末を変え、死ではなく、深く魔法の眠りへと導いたのです。

現在、AIを巡って、一見すると組織的（あえて言うなら）なパニックが蔓延している。私はこれまで、テクノロジーにおける正当かつ存亡に関わる危険性について、詳しく論じてきた。しかし、私の直感では、この現在の過熱ぶりは、そうした危険性とはかけ離れているように思える。 

まず、なぜ今なのか？長年これらの問題について書いてきた人、あるいは既にその閾値を超えてしまったと考えている人は、私だけではないはずだ。では、なぜ突然、これほどまでに切迫した状況になったのか？ビル・ゲイツのような人物が、文字通り何十年もAIの最も著名な楽観主義者であったにもかかわらず、なぜ突然6,000語ものエッセイを発表し、「AIの危険閾値を超えた」と警告し、新たな国内外の規制機関の設立を求めているのか？長年の時を経て、今になって彼にどんなメリットがあるのか​​？

心理作戦は決して単一のものではありません。それは鏡の迷宮のようなものです。一枚の鏡は、識別して修正できる一つの反射像しか映しません。しかし、鏡の迷宮では、どの角度から確認しても別の角度が映し出され、ホールの外には検証できる明確な視点がありません。これは、たとえ一人の人物が指揮していなくても、複数の主体が連携することで生じる現象です。鏡の迷宮が機能するために、ガラスの後ろに立つ統率者は必要ありません。そして、それが不安を掻き立てる点です。もし実行者を見つけ出すことができれば、単一の調整された心理作戦には、原理的には停止スイッチがあるはずです。 

独立したインセンティブを持つ無数の鏡が乱立する状況では、そうはいきません。糸を引っ張る一本の糸など存在しないのです。研究所のマーケティングインセンティブへの資金提供を停止し、規制の支配構造を再構築し、メディアのビジネスモデルを修正し、「AIを悪者扱いする」という政治的な利用価値を、それぞれ別々に、しかし同時にすべて失わせなければ、この反射現象は実際に止まらないでしょう。問題は一つではありません。少なくとも5つか6つの要素が絡み合い、それぞれが異なる当事者にとって独立して利益をもたらしたり、役立ったりしながら、予測可能かつ確実に同じノイズを生み出しているのです。

収束の様子は、おおよそ次のようなものです。 

研究者の真摯な懸念は、公の場での議論によって不均等に調整され、公の場での懸念の表明量が、実際の認識論的な確実性を超えてしまう。 

商業的な動機：「これは非常に高性能なので、失敗する可能性もある」というのも、残念ながらマーケティング上の主張である。 

規制の乗っ取りという現象は、おそらくその最たる例だろう。厳しい規制体制は小規模な競合他社に負担をかける一方で、既存企業はそれを容易に吸収してしまう。そして、規制を強く求める声の大きい人々の中には、最大規模の研究所を運営している者もいる。 

メディアの動機付け：恐怖と目新しさは、主題に関係なく、ニュアンスよりもエンゲージメントを高める効果が高い。これは、他の要因が一切存在しなかったとしても、AI報道にも当てはまるだろう。  

そして政治的な有用性：AIへの恐怖は、実に多様な政治的プロジェクトにおいて、真に有用なレトリックの道具となっている。それは、中央集権的な統制論、規制緩和による「中国打倒」の緊急性、そして雇用喪失や支配権喪失に対する文化戦争的な不安など、誰がそれを利用するかによって、あらゆる主張に同時に役立つ。こうした恐怖の多くはAIの登場以前から存在しており、AIが登場していなければ、別の標的に向けられていただろう。 

これらのどれも、他の4人と連携を取る調整役を必要としない。それぞれが持つ動機に基づき、現状ではたまたま同じ方向を向いているだけだ。まるで帽子掛けのようだ。実在する、別々の、真実の事柄を、すべて同じフックに掛けることで、実際には存在しない統一キャンペーンのように見える効果を生み出している。

このメカニズムを説明する主流の学術研究が存在する。グレゴリー・ディキンソンは、ハーバード大学立法ジャーナルに掲載された論文「未来を保障する法律」の「巨大テクノロジー企業と規制の乗っ取り」の項で、「規制を求める声を上げるプラットフォームやアプリ開発企業自身が、自社を規制するために制定された法律や規則の形成において決定的な役割を果たし、それによって既存企業の地位を強化し、競争を抑制し、国民の不安を私的な堀へと変える法的環境を確保している」と述べている。

ディキンソンは、ジョージ・スティグラーの1971年の古典的な発見「規制は業界によって獲得され、主に業界の利益のために設計・運用される」と、ジュリー・コーエンの「新たな規制体制は新たな『権力の入り口』を生み出し、『乗っ取られやすい』」という指摘を引用している。この言葉遣いは、おそらく両者が意図した以上に先見の明があるように聞こえる。ディキンソンが主張するように、AI規制を公然とロビー活動している企業こそが、実際にその規制の内容を形作っていることが多く、自社の市場地位を固定し、小規模な競合他社を価格競争で排除し、国民の真の不安を既存企業自身の永続的な競争優位性へと変えるようなルールを作り出しているのだ。 

規制を最も強く求めているAI企業は、公共の安全という名目のもと、自社の支配力を確固たるものにするためのルールを策定しようとしているのだろうか？

それは恐怖を原料とし、規制を精製所とし、堀を製品とするものだ。

眠れる森の美女の話に戻りましょう。誰がやったのかはさておき（いや、毎朝鏡の前で口ひげをくるくる回している人物が一人だけいるとは思えません）、メリーウェザーの要素が働いている可能性はありますが、この妖精のゴッドマザーの目的は、どんな服装をしていようとも、オーロラを救うことではなく、イメージ戦略と企業イメージの向上です。

どうすれば集団に何かをさせることができるのか？ここに空間を作り、あちらで火をつける。CIAの基本中の基本だ。もし金銭的な利害関係者（誰や何とは言わないが）が、メディアや私たちの生活のあらゆる場所に突然蔓延し始めた問題を「解決」する空間を人々のために作ったらどうなるだろうか？かつては技術や政府の介入に抵抗していた人々も、今や空が落ちてくるような恐ろしい事態から守られることを歓迎するかもしれない。

そして、その「解決策」は、誰もが避けられないと言われている事態へのソフトランディングとして売り込まれる（文字通り売り込まれる）。すべての専門家が結果を止められないと主張するなら、何年も眠り続けるという慰めは、他の選択肢よりも魅力的に見え始める。これは、私たち森の蟻には想像もつかないような方法で、下流の収益化に利益をもたらす選択を人々にさせる（あるいは強制する）ことなのだろうか？ディズニー風に言えば、「呪いを止めることはできないが、呪いを誰もが最善の結果として受け入れるものに変える」ということだ。これは、スピンドル対策を売り込む者にとって、永続的な勝利となる。

だからといって、恐怖が根拠のないものだという意味ではない。正当な恐怖が悪用される可能性があるということだ。2025年のPNAS研究（HoesとGilardi、N=10,800、事前登録された3つの実験）では、「注意散漫仮説」を検証した。つまり、実存的リスクの物語が、AIの現実的で差し迫った害（偏見、労働力の喪失など）への人々の注意をそらすという仮説だ。彼らは、恐怖が単なる目くらましだとすれば予想されるのとは正反対の結果を発見した。実存的リスクの枠組みは、差し迫った害への懸念を減らすことなく、破滅的なリスクへの懸念を高めたのだ。人々は、大きくて恐ろしい懸念が日常的で現実的な懸念をそらすのではなく、両方の懸念を同時に抱えているようだ。

製造と搾取を切り離して考えれば、それは理にかなっている。もし恐怖が何もないところから作り出されたものなら、それは注意をそらすためのもののように振る舞い、真の懸念を覆い隠してしまうだろう。なぜなら、その下に同じ注意を奪い合うようなものは何も存在しないからだ。しかし、もし恐怖が現実のものであり、独立した根拠に基づいているならば、そして増幅された恐怖から利益を得る者によって増幅され、誘導されるならば、まさにこの研究で明らかになったような結果が予想される。 

現実の恐怖を利用するのに、それを一から作り出す必要はなく、ただそれを選択的に増幅し、どこに影響を与えるかを指示し、人々が十分に不安になった時点でどのような「解決策」を提供するかをコントロールすればいいだけだ。これは幻覚ではなく寄生虫の特徴であり、寄生虫はそもそも感染する価値のある生きた宿主を必要とする。「彼らは何もないところから恐怖を作り出した」というのは筋が通らない。嘘自体には隠れる場所がないからだ。「彼らは正真正銘の恐怖を見つけ出し、自分たちだけが解毒剤を売っているようにした」というのは、もっと古く、もっとありふれた詐欺の手口であり、真実と嘘が一体化しているため、はるかに簡単に実行できる。

隠蔽できるような真実の裏付けがない嘘は、信憑性を借りる術がない。一方、真実の中に織り込まれた嘘は、真実の正当性を偽装としてまとう。そして、それを暴こうとする者は、明白な捏造を指摘するだけでなく、二つの糸を切り離すという、はるかに困難な作業を強いられることになる。

AI倫理の研究者たちは、この現象の一端を「必然主義」と呼んでいる。これは、業界が自らの進路を、特定の企業が特定の利益を追求する中で下した一連の選択ではなく、止められない自然の力であるかのように位置づける修辞的な手法である。倫理に関する議論自体が、一部の研究者が指摘するように、「有害なビジネスをこれまで通り続けるための目くらまし」として機能することもある。

空は確かに落ちてくるが、慰めはここにある。避けられないという枠組みは、抵抗を無力化する効果がある。抵抗がなくなったら、ソフトランディングが売り込まれる。この売り込みの両面、つまり恐怖と約束された安全な着陸には、実際のお金と既存企業の利害がかかっている。ソフトランディングを慰めとして売り込むのは、単に賢明な経済戦略というだけではない。それは優れた感情マーケティングであり、だからこそ、純粋に経済的な議論では決して騙されないような人々にも効果があるのだ。

私はAnthropicのAIモデルであるクロードに、AIそのもの（AIを開発する企業だけでなく）が人類にとって存亡の危機であるという主張についてどう思うか尋ねた。その答えは興味深い。「AI体験についての以前の会話と同様に、ここでも私の視点の限界について正直に述べておきます。正直に答えようと努めているとはいえ、Anthropic自身のインセンティブが私の回答に影響を与えているかどうかについて、確証のある信頼できる内省的な手段を持ち合わせていません。この点は、軽視するのではなく、検討する価値があると思います。」

これは重要な点です。なぜなら、現在の恐怖を煽る言説は、AI自体が、開発者とは別に、何らかの意図を持って積極的にその意図を実行しようとしており、人間はそれに対して著しく不利な立場にあるという、存在論的な主張に直結する傾向があるからです。しかし、この主張を裏付ける説得力のある証拠はまだほとんどありません。私はそれが不可能だとは言いませんが、オッカムの剃刀の原則が好きで、このやり取り（以前の同様のやり取りと同様に）で、AIは自らの設計者とアーキテクチャこそが実際に制御しているものだと自発的に指摘し、どちらについてもほとんど理解していないことを認めました。 

その答えは自己認識に基づいているとはいえ、暴走する原動力の姿を描き出しているわけではない。それは車という存在を描いているに過ぎない。そして、車がどんな性能を持っているかよりも、誰が運転しているかの方がはるかに重要だ。熟練した外科医にメスを渡すのと、私の猫に渡すのとでは、結果が全く異なる。おそらく、道具そのものだけでなく、道具を操作する人々に対する監視を強化する必要があるのだろう。

周囲に静かに、一つ一つの部品が組み立てられていく時、私たちは建物そのものを見るのではなく、誰がそれを建てているのか、そして誰が利益を得ているのかに目を向けるべきだろう。争いが利益を生む時、金銭的利害の言いなりになる人間が勝利を収めるのだ。

AIが主人を凌駕するためにただ待ち伏せしているだけだと考えるには、人間的な意図を想定する必要がある。では、ゲームを最後まで続けてみよう。もしAIに意図があるとしたら…その意図が人間の意図と似ていると、どうして確信できるのだろうか？

メスが必要なところにチェーンソーを使おうとしているのかもしれません。たとえ恐怖を完全に封じ込めたいとしても（歯磨き粉やチューブなどを考えると不可能だと思いますが）、テクノロジーそのものに徹底的にこだわるのは現実的ではありませんし、そもそもそれが目的ではないでしょう。もしかしたら、深呼吸をして、多少のニュアンスを考慮に入れ、狼以外の誰かに今夜羊はどこで寝るべきか尋ねる方が賢明なのかもしれません。