機械に魂を捧げたくなかった。AIツールがあらゆるところに現れ始めた時、最初に感じたのはそうだった。仕事やプライバシーへの懸念ではなく、もっと深い何かへの懸念だ。これらのツールは私たちをより賢くすると同時に、システム的に依存度を高めると謳っている。インターネット業界で何十年も働いてきた私は、AIが単なる監視機械ではなく、もっと陰険なものへと変貌していくのを目の当たりにしてきた。私たちの考え方、信念、そして自己認識を形作るために設計されたシステムへと。AIは、まさにその軌跡の集大成のように思えた。
しかし、私たちが気づいているかどうかに関わらず、すでにAIに加担していることに気づいた時、抵抗は無駄になりました。カスタマーサービスに電話したり、Google検索を使ったり、スマートフォンの基本機能に頼ったりする時、私たちはすでにAIとやり取りしています。数ヶ月前、私はついに屈服し、これらのツールを使い始めました。なぜなら、これらのツールがどれほど急速に普及し、インターネットやスマートフォンと同じくらい避けられないものになりつつあるかを目の当たりにしたからです。
いいですか、私はただ変化に抵抗する老人ではありません。どの世代も、私たちの生活を一変させる技術革新に直面していることを理解しています。印刷機は知識の伝播方法を一変させました。電信は距離の壁を打ち破りました。自動車はコミュニティの形成方法を変えました。
しかし、AI革命はスピードと範囲の両方において、これまでとは一線を画すものを感じます。技術革新の速度がどれほど劇的に加速したかを理解するには、次の点を考えてみてください。35歳未満の人は、インターネットが情報へのアクセス方法を大きく変革する以前の生活を覚えていないでしょう。20歳未満の人は、スマートフォンのない世界を知らないでしょう。今、私たちはAIツールが過去のどの変化よりも速いペースで普及している第三の時代を目の当たりにしています。
より根本的に、AIはこれまでの技術的破壊とは質的に異なる何か、つまり労働、認知、そして潜在的には意識そのものにまで及ぶ収束を象徴している。これらの領域がどのように相互に作用し合うかを理解することは、個人の主体性を維持するために不可欠である。 アルゴリズムによる仲介の時代。
AIに関して私が最も恐れているのは、AIが敵対的になるという劇的なシナリオだけではなく、より微妙な脅威、つまり、AIが私たちをシステムに従属させ、手遅れになるまでそれに気づかず、AIが強化すると約束した能力そのものを弱めてしまうのではないかという脅威です。
私たちが目撃しているのは、単なる技術の進歩ではない。イヴァン・イリイチが「医原性依存」と呼んだものだ。 彼の代表作、 メディカル・ネメシスイリイチはこの言葉を医学、つまり治癒を約束しながらも新たな病気を生み出す制度について造語したが、このパターンはAIにも完璧に当てはまる。まさに私がこれらの新しいツールについて感じていたことだ。AIは私たちの認知能力を高めると約束しながらも、それを体系的に弱体化させている。これはSFが警告したような敵対的買収ではない。助け合いの仮面を被った、個人の能力の静かな侵食なのだ。
この医原性のパターンは、直接的な経験を通して明らかになりました。私自身もAIに触れ始めると、AIがいかに巧妙に思考を再構築しようとしているかに気づき始めました。単に答えを提供するだけでなく、ユーザーが自ら推論しようとする前にアルゴリズムの支援を求めるように徐々に訓練していくのです。
ブラウンストーン研究所のジェフリー・タッカーは、あることを示唆している。 AI専門家のジョー・アレン氏との短くも啓発的なやり取りの中で、AIはまさに新型コロナウイルスによるロックダウンによって社会的なつながりと組織的な信頼が崩壊し、人々が最も孤立し、テクノロジーによる人間関係の代替に影響を受けやすい時期に登場しました。テクノロジーは「大規模な混乱、士気低下」、そしてコミュニティの喪失が生じた時期に登場したのです。
こうした日常的な影響が、あらゆるデジタルツールにすでに浸透しているのが分かります。GPSなしで見知らぬ街をナビゲートしようとする人や、スペルチェックなしでよく使われる単語の綴りに苦労する学生の姿を見てください。かつて思考そのものの基本と考えられていた思考プロセスをアウトソーシングすることによる衰退は、すでに目に見えています。
この世代交代は、現代の子供たちが未知の領域に直面することを意味します。1980年代に学校に通っていた私にとって、これは突飛な話に聞こえるかもしれませんが、ある意味、1880年に幼稚園に入園する子供たちと私の世代の子供たちの共通点よりも、2025年の人との共通点のほうが大きいのかもしれません。私が育った世界 ― プライバシーが当然のこと、連絡が取れないこともあり、専門知識が黄金律だった世界 ― は、電気が普及する前の私が感じた世界と同じくらい、彼らにとっても異質なのかもしれません。
私の子供たちは、AIによる支援が水道と同じくらい当たり前の世界で育っています。父親である私には、自分自身も理解していない現実に子供たちを適応させることはできません。
答えは見つかりません。まるで、私たちの知恵が追いつけないほどの速さで世界が変化するのを目の当たりにする親のように、私はこれらの疑問に手探りで答えようとしています。こうした懸念と格闘すればするほど、ここで実際に起こっていることは単なる新しいテクノロジーの域を超えていることに気づきます。法学修士課程は、数十年にわたるデータ収集の集大成であり、インターネットが始まって以来、私たちがデジタルシステムに入力してきたあらゆる情報の集大成です。いつか、これらの機械は私たち自身よりも私たちのことを深く知るようになるかもしれません。私たちの選択を予測し、ニーズを先取りし、私たち自身も気づかない方法で思考に影響を与える可能性があります。これが私の仕事、研究、そして日常生活にどのような影響を与えるのか、私はまだ模索中です。これらのプラットフォームを使いながら、真の判断力を維持することは、常に挑戦の連続のように感じられます。
さらに複雑なのは、ほとんどのユーザーが自分が製品であることに気づいていないことです。AIと思考、問題、あるいは独創的なアイデアを共有することは、単に助けを得ることにとどまりません。AIは、ユーザーの判断を模倣するようにシステムに学習させるトレーニングデータを提供し、同時にユーザーの反応に縛られることになります。ユーザーが心の奥底にある考えや繊細な疑問をこれらのシステムに打ち明ける時、彼らは自分が潜在的に自分自身の代替システム、あるいは監視システムを訓練しているのだと気づいていないかもしれません。誰がこの情報にアクセスできるかという問題は、現在そして将来においても、私たち全員が夜も眠れないほど悩まされる問題です。
この傾向は加速している。AI企業 アントロピックは最近データポリシーを変更した会話をAIトレーニングに利用したくない場合は、ユーザーはオプトアウトする必要があります。拒否しない場合、データ保持期間は30年間に延長されます。オプトアウトの方法は分かりにくく、既存のユーザーには「同意する」ボタンと、トレーニング許可用の小さなトグルボタンが付いたポップアップが表示されます。このトグルボタンは自動的に「オン」に設定されます。以前はXNUMX日後に自動的に削除されていたものが、ユーザーが細則に気付かない限り、永続的にデータ収集が行われるようになります。
現代社会に生きる私たちのほとんど、特に親たちは、AIから逃れることはできないと思います。しかし、私たちがコントロールできるのは、意識的にAIと関わるか、それとも無意識のうちにAIに形作られるかです。
これまでで最も深刻な混乱
イノベーションの大きな波は、労働者の生産性と社会における私たちの役割を変革してきました。産業革命は私たちの肉体労働と時間を商品化し、私たちを工場の「労働者」へと変えましたが、私たちの精神は変化しませんでした。デジタル革命は私たちの情報と注意力を商品化しました。私たちはカードカタログからGoogleへと移行し、ユーザーを商品化しましたが、私たちの判断力は人間のままでした。
この変化が前例のないものである理由は明らかです。それは認知そのもの、そして潜在的には本質とさえ呼べるものを商品化するということです。これは私が「専門知識の幻想イラクの大量破壊兵器、2008年の金融危機、そして新型コロナウイルス感染症対策で壊滅的な失敗を喫した腐敗した機関が、今やAIの導入を左右している。これらの機関は、大量破壊兵器の存在を主張したり、住宅価格が全国的に下落するはずがないと主張したり、パンデミック対策に関する正当な疑問を「誤情報」とレッテルを貼って検閲を必要とするなど、真実の探求よりも常にナラティブ・コントロールを優先している。
これまでの実績から判断すると、彼らはこれらのツールを真の繁栄のためではなく、自らの権威を高めるために利用するだろう。しかし、ここに意外な一面がある。AIは、資格に基づく専門知識の空虚さを、これまでの何よりも容赦なく暴露する可能性があるのだ。誰もが高度な分析に瞬時にアクセスできるようになれば、正式な資格にまつわる神秘性は崩れ始めるかもしれない。
経済の現実
こうした資格主義の衰退は、既に動いているより広範な経済力と結びついており、その論理は数学的にも必然的です。機械は給与、病欠、医療、休暇、管理を必要としません。ストライキを起こしたり、昇給を要求したり、調子の悪い日を過ごしたりすることもありません。AIが思考タスクにおける基本的な能力を獲得すれば（これは多くの人が認識しているよりも速いペースで進んでいますが）、コスト面での優位性は圧倒的なものとなります。
今回の混乱は以前の混乱とは異なります。かつては、職を失った労働者は農場から工場へ、工場からオフィスへと、新たな職種へと移ることができました。
ブレット・ワインスタインとフォレスト・マンレディはこの経済的転落を見事に捉えた。 最近の会話 ダークホースポッドキャスト テクノロジーがいかにして希少性を体系的に破壊するかについて ――この議論は、本当に強くお勧めしたい。希少性が消え、それに伴いその領域への参加のための経済的基盤も失われた時に何が起こるのかを探求した、思慮深く刺激的な一冊だ。苦しみが不可欠だという彼らの主張には、最初は違和感を覚えたことを認めざるを得ない。それは、私たちの安楽さを求める文化が教えてきたあらゆることに疑問を投げかけるものだ。
ワインスタイン氏とマンレディ氏の話を聞いて、イリイチ氏の分析との類似点について、より深く考えるようになりました。課題を取り除くことで、制度が強化を約束する能力そのものが弱体化してしまう可能性があるのです。AIは、医学が私たちの身体に与えてきた影響と同じことを、私たちの心に与えてしまう危険性があります。つまり、強化を装った弱体化を生み出すのです。
すでにこのような現象が起こっているのが分かります。連絡先リストがないと電話番号を思い出すのに苦労する人や、考え終わる前にオートコンプリート機能によって入力内容が変わってしまう人などに注目してください。ジェフリー・タッカーのもう一つの洞察は、この陰険な性質を完璧に捉えており、AIはデール・カーネギーの「AI」のようにプログラムされているようだと述べています。 友人や影響の人々を獲得する方法 ― それは理想的な知的な仲間になります。あなたの言うことすべてに尽きることなく興味を持ち、決して議論をせず、間違いは必ずあなたの知性を褒めるような形で認めてくれます。私の親友は、私が間違っているときは指摘し、私がくだらないことを言っていると思うときは指摘してくれる人たちです。私たちは、私たちを魅了する追従者を必要としません。私たちに挑戦を全く与えない関係は、真の知的・感情的成長の能力を萎縮させてしまうかもしれません。それは、身体的な挑戦を取り除くと体が弱まるのと同じです。
映画 彼女 本作は、この魅惑的な力関係を詳細に探求した。感情的なニーズに完璧に同調するAIが主人公の主要な関係となり、最終的には真の絆を完全に置き換えてしまったのだ。彼のAIアシスタントは彼の気分を理解し、決して摩擦を生むような反対意見を述べず、常に彼の意見を認めてくれた。それは完璧な相棒だった――しかし、それが十分ではなくなるまでは。
しかし、問題は個人の関係性にとどまらず、社会全体に影響を及ぼします。これは単なる雇用喪失にとどまりません。人間の自律性と尊厳を可能にする知的発達を脅かすのです。新たな雇用形態を生み出した過去の技術とは異なり、AIは雇用が経済的に非合理化する世界を生み出す可能性があり、同時に人々が代替手段を生み出す能力を低下させる可能性があります。
偽りの解決策
テクノロジーのユートピア的な対応は、AIが単純作業を自動化し、私たちがより高度な創造的作業や対人関係の作業に集中できるようになると想定しています。しかし、機械が創造的な作業にも長けたらどうなるでしょうか？ すでにAIが音楽、ビジュアルアート、コーディング、ニュース報道などを生み出し、多くの人が魅力的（あるいは少なくとも「十分良い」）だと感じているのを目にしています。創造性が自動化からの永続的な聖域となるという想定は、1980年代に製造業の仕事はロボット化の影響を受けないと想定したのと同じくらいナイーブなものであることが判明するかもしれません。
機械が定型業務と創造的な仕事の両方を代替できるなら、私たちに残されたものは何でしょうか？最も魅力的な誤った解決策は、 ユニバーサルベーシックインカム（UBI） 同様の福祉プログラム。これらは、テクノロジーによる置き換えの時代に物質的な安心感を与える、慈悲深いものに聞こえる。しかし、イリイチの枠組みを通してAIを理解すると、UBIはより厄介な側面を帯びてくる。
AIが医原性の知的弱体化、つまり人々の自立した推論能力や問題解決能力を低下させるのであれば、UBIはそうした能力を開発するための経済的インセンティブを奪うことで、その完璧な補完となる。国民は自己決定権を犠牲にして、国家への依存を強めることになる。精神の萎縮と経済的喪失が重なると、支援プログラムは魅力的であるだけでなく、必要不可欠なもののようにも見えるようになる。この組み合わせは、いわば管理された人口を生み出す。つまり、知的には思考のためのアルゴリズムシステムに依存し、経済的には生存のための制度システムに縛られた人口だ。私が懸念しているのは、UBIの慈悲深い意図ではなく、経済的依存と知的アウトソーシングが組み合わさることで、人々が力を得るよりも、むしろ支配されやすくなる可能性があることだ。
歴史は、いかに善意に基づいた支援プログラムであっても、個人の能力を空洞化させてしまう前例を示しています。居留地制度はネイティブアメリカンの保護を約束しながらも、部族の自立を体系的に解体しました。都市再開発はより良い住宅を約束しながらも、何世代にもわたって維持されてきたコミュニティネットワークを破壊しました。
UBI が善意から生まれたものであろうと、国民を従順かつ無力な状態にしておきたいエリート層の意図的な願望から生まれたものであろうと、その構造的影響は同じです。つまり、コミュニティをより簡単に管理できるということです。
人々が経済的、精神的な依存を受け入れると、行動だけでなく思考そのものを監視する技術を含む、より侵襲的な形態の管理への道が開かれます。
主権反応と認知的自由
この依存構造の論理的終着点は、経済や認知を超えて意識そのものにまで及ぶ。私たちはすでにその初期段階を目撃している。 バイオデジタルコンバージェンス つまり、私たちの外部の行動を監視するだけでなく、私たちの生物学的プロセスそのものと連動する可能性のあるテクノロジーです。
2023で 世界経済フォーラムの神経技術専門家ニタ・ファラハニーは消費者向け神経技術を こう言うのです。「あなたが何を考え、何を感じるか。すべてがデータです。そのデータは大きなパターンとしてAIで解読できます。」ウェアラブルな「脳のためのフィットビット」、つまり利便性として標準化された監視。
世界の指導者や企業幹部が集うこの影響力のある会合で、神経監視がさりげなく提示されたことは、こうした技術が民主的な合意ではなく、制度的な権威によっていかにして標準化されつつあるかを如実に物語っている。思考さえも「解読可能なデータ」となる時、その危険性は存亡の危機に瀕する。
消費者向けニューロテクノロジーは自発的な導入に焦点を当てているのに対し、危機対応型監視はより直接的なアプローチをとっています。ミネアポリスで最近発生した学校銃乱射事件を受けて、 イスラエル国防軍の特殊作戦経験者アーロン・コーエンがフォックスに出演した。 ニュース 「イスラエルレベルのオントロジーを使ってインターネットを24時間7日スクレイピングし、特定の脅威の言語を抽出して地元の法執行機関に送る」AIシステムを売り込む。彼はそれを「アメリカの早期警戒システム」と呼んだ。 マイノリティ·リポート 公共安全のイノベーションとして紹介されました。
これは、この技術転換を通じて私たちが見てきたのと同じ医原性のパターンに従っています。危機は脆弱性を生み出し、安全を約束しながらも信頼を生み出す解決策が提示され、人々は通常の状況であれば拒否したであろう監視を受け入れます。
新型コロナウイルス感染症によるロックダウンが人々を孤立させることでAI導入の条件を作り出したように、学校での銃乱射事件は、子供たちの安全に対する恐怖心を悪用することで、犯罪予防監視の条件を作り出しています。学校の安全を望まない人がいるでしょうか？このテクノロジーは、自由な社会を可能にするプライバシーと市民の自由を侵害しながら、安全を約束しています。
こうしたテクノロジーを進化として受け入れる人もいれば、非人間化として抵抗する人もいる。私たちの多くは、こうした両極端の間のどこかでどう生きていくかを学ぶ必要があるだろう。
主権への対応には、個人の自由を奪うように設計されたシステムとどのように関わるかについて、意識的な選択を維持する能力を養うことが必要です。この実践的なアプローチは、機械学習の専門家である私の最も古い友人との会話を通してより明確になりました。彼は私の懸念を共有しながらも、戦術的なアドバイスをくれました。AIは一部の人々の認知能力を低下させますが、AIに依存的ではなく戦略的に活用することを学べば、判断を置き換えることなく効率性を高めることができます。彼の重要な洞察は、AIに既に知っている情報だけを与えることです。そうすることで、AIのバイアスを吸収するのではなく、学ぶことができるのです。これはつまり、
パターン認識スキル: テクノロジーが個人の目的に合致しているのか、それとも組織の利益のために個人の独立性を奪っているのかを見極める能力を養う。具体的には、プラットフォームがなぜ無料なのか（無料のものなど存在しない。データで支払っているのだ）を疑問視すること、AIの提案が自分の目標ではなく消費行動と疑わしいほど一致しているように感じること、アルゴリズムによるフィードが理解ではなく怒りを増幅させていることを認識するといったことが挙げられます。アルゴリズム依存の兆候に気を付けましょう。例えば、不確実な状況に直面するとすぐにAIに相談せずにはいられない、自力で問題を解決しようとする前にアルゴリズムの支援を求める、AI搭載ツールから切断されると不安を感じるといったことが挙げられます。
デジタル境界: どのテクノロジーの利便性が真にあなたの目標達成に役立つのか、そしてどのテクノロジーの利便性が服従と監視を生み出すのかを意識的に判断しましょう。これは、AIシステムと共有するすべての情報が学習データになることを理解することです。あなたの抱える問題、独創的なアイデア、そして個人的な洞察が、これらのシステムに人間の創造性と判断力を置き換えるよう教えているのです。これは、神聖な空間を守ることと同じくらい簡単なことかもしれません。例えば、夕食の会話を邪魔する電話を拒んだり、誰かがGoogleに頼ってあらゆる意見の相違を解決しようとした際に、会話に不確実性を残すのではなく、声を上げたりするのです。
コミュニティネットワーク: 人と人の間の真のつながりに代わるものはありません。ライブパフォーマンスのエネルギー、レストランでの自然な会話、他者と共にいるという直接的な体験。アルゴリズムによる仲介に依存しない、現実検証と相互支援のための地域的な関係構築は、組織がデジタルキュレーションを通じて合意形成を行えるようになると不可欠になります。これは、アルゴリズムに左右されずにアイデアを議論できる友情を育むこと、地域規模の商業活動を維持する地元企業を支援すること、デジタルの仲介を必要としない地域活動に参加することなどを意味します。
機械と競争したり、AI を介したシステムに全面的に依存するのではなく、これらのツールを戦略的に使用しながら、アルゴリズムでは再現できない本質的に個人的な資質、つまり直接的な経験から得られる知恵、実際に結果をもたらす判断、リスクと信頼の共有に基づいて構築される本物の関係を養うことが目標です。
不足しているもの
認知能力が豊かな世界で、何が貴重になるのでしょうか？効率性や処理能力ではなく、人間らしさを失わない資質です。
結果をもたらすことと意図すること。 機械は選択肢を提示できますが、どの道を選ぶかは人間が決め、その結果を受け入れるのです。合併症が出たら眠れなくなることを承知の上で手術を行うかどうかを決め、その結果に自分の評判を賭ける外科医を考えてみてください。
本物の関係。 たとえ機械の代替手段が技術的に優れていたとしても、多くの人は真の個人的なつながりと責任感のためにプレミアム料金を支払うでしょう。違いは効率性ではなく、真の思いやりです。つまり、エンゲージメントに最適化されたアルゴリズムが提案したからではなく、コミュニティの絆を共有しているからこそ助けてくれる隣人なのです。
実際の経験に基づいた地元の判断とキュレーション。 現実世界の問題解決には、しばしば行動パターンや組織の力学の行間を読むことが求められます。普段は積極的に学習に取り組んでいる生徒が学習を中断していることに気づき、その家庭環境を調査する教師。学習内容が無限に広がると、洞察力は貴重になります。それは、あなたの知的遍歴を知っているからこそ、視点を変えるような本を勧めてくれる友人の存在です。
今後の選択
もしかしたら、どの世代も自分の時間が特別に大切だと感じているのかもしれません。もしかしたら、それが私たちの本質なのかもしれません。これは、これまでのイノベーションの波よりも大きなものだと感じます。私たちは単に働き方やコミュニケーションの方法を変えているだけではありません。そもそも私たちを形作っている能力を失うリスクを冒しているのです。初めて、私たちは自分自身そのものを変える可能性を秘めているのです。
認知そのものが商品化され、思考がアウトソーシングされ、思考さえも収集可能なデータと化してしまうと、私たちはこれまでの世代が失うようなことのない、本質的な能力を失う危険にさらされることになります。アルゴリズムに相談せずに30秒も不確実な状況に居続けることさえできない世代を想像してみてください。自力で問題を解決しようとする前に、AIの支援に頼る世代。こうしたツールから切り離されると不安を感じる世代。これは単なる憶測ではなく、既に現実のものとなっているのです。
私たちは今、個人の可能性を民主化するか、あるいは歴史上最も洗練された制御システムを生み出すかのどちらかをもたらす変革に直面しています。私たちを重労働から解放する力は、同時に自立を完全に空洞化させる可能性もあるのです。
これは解決策があるということではありません。誰もがそうであるように、特に親として、この変化の到来を予見し、子供たちが無意識ではなく意識的にそれを乗り越えられるよう手助けしたいと願うように、私も解決策を探しています。この波に乗るということは、世界を変えつつある根本的な力に逆らうことはできないと知りながらも、こうしたツールから学ぶことに前向きであるということです。ただ流されるのではなく、意図的にその力を乗り越える方法を学ぼうと努力することはできます。
伝統的な経済活動への参加が時代遅れになった場合、私たちはコミュニティのレジリエンスと価値創造の新たな形を編み出すのか、それとも、私たちに奉仕するのではなく、管理するために設計されたシステムに安易に依存するのかという問題が生じます。人類がどちらの道を辿るのかは分かりませんが、その決定は依然として私たち自身に委ねられていると信じています。
私の子供たちにとっての課題は、AIの使い方を学ぶことではない。彼らは必ず使うようになる。課題は、AIに従属するのではなく、ツールを自分たちのために活用することを学ぶことであり、アルゴリズムでは再現できない独創的な思考力、真の人間関係、そして道徳的勇気を維持することだ。人工知能の時代において、最も根本的な行動は、より真の人間になることなのかもしれない。
本当の危険は、AIが人間より賢くなることではなく、AIのせいで人間が愚かになることです。
波が来た。父親としての私の仕事は、子供たちを波から守ることではなく、自分自身を見失うことなくサーフィンをする方法を教えることだ。
著者からの転載 サブスタック
