AI終末論的な警告は、より差し迫ったAIの懸念から人々の注意をそらす。

AIは至る所に存在し、あらゆるものに組み込まれています。これは単なる進歩だと私たちは言われています。だからこそ、私たちはAIを受け入れなければ、ラッダイト運動の信者のように見え、中国に勝利を許してしまうことになる（それが何を意味するにせよ）のです。しかし同時に、多くの人々はAIを恐れています。非常に恐れています。そして時には、私たちも恐れるべきだと言われることもあります。しかし、AIに関する公共の議論では、具体的に何を恐れるべきなのかについての詳細が欠けていることがよくあります。時には、「AI」という言葉の意味さえ明確でないこともあります。

技術的に言えば、以前にも触れたように、（一部のベテランのコンピュータ科学者が主張するように）AIとは、数学に基づいたアルゴリズム群を包括する用語であり、その起源は半世紀以上前に遡る場合もある、と主張することもできるだろう。

実際には、Google マップや Amazon のレコメンデーション システムなど、私たちが長年利用してきた数多くのプログラムは、目新しさはないものの、AI とみなすことができます。しかし、一般の議論では、AI という用語は、生成型 AI (例: ChatGPT) や、人間ができることをすべてより良くこなし、私たちのあらゆる問題を解決する一方で、私たちのほとんどを失業させ、最終的には私たちを面倒にかける価値がないと判断しない限り、スカイネットのように私たちを完全に支配するかもしれない、数多くの架空の未来のプログラムを指す傾向があります。

（かなりセクシーに聞こえる。誰かがこれを題材にした映画シリーズを作るべきかもしれない。もしかしたら、5本のうち2本は人々に気に入られるかもしれない。）

しかし残念ながら、AIがもたらす脅威を誇張したSF的な描写は、プライバシー、自由、自律性、そして多くの人が享受してきた生活様式そのものに関わる、より現実的で差し迫った脅威よりも注目を集めやすく、結果としてそれらの脅威から人々の注意をそらしてしまう傾向があります。自動ナンバープレート読み取り装置、顔認識装置、デジタル祖母、飲酒運転やながら運転の検出プログラムの義務化、「自動配送ロボット」で「孫」が叫んでいたあらゆる技術、そして非社交的で気が散りやすい人のために対面での会話を文字起こしして処理するウェアラブル録音装置などは、思い浮かぶより現実的な脅威のほんの一例です。（そしてこれは決して完全なリストではありません）。

したがって、私は、支配階級の人々が午前中を割いて、この技術（または一連の技術）がもたらすかなり明確な脅威について冷静に話し合う機会を持つことを高く評価する傾向があります。これは、6月4日に米国下院のサイバーセキュリティ・インフラ保護小委員会が開催した「AIセキュリティの現状」に関する会合で行われたことです。

表面的には、この会議の議論は「AIがもたらす最大の脅威は、米国の重要インフラを制御するソフトウェアの脆弱性を悪用しようとする外国のハッカーという形での外部からの脅威なのか、それとも国内におけるAI利用に関する規制や責任の欠如から生じる内部からの脅威なのか？」という観点から捉えることができるだろう。

しかし、議論を見ている限りでは、「どちらか一方」という問題というよりは、「はい、そして…」という異論のない回答のように思えた。

Googleのサンドラ・ジョイス氏、フロンティア・モデル・フォーラムのエグゼクティブ・ディレクターであるクリス・メセロール氏、そしてコリドー・セキュリティ社のCEO兼共同創設者であるジャック・ケーブル氏は、AIがサイバーセキュリティの状況をどのように変革しているかについて証言した。デジタル兵器が、門前のサイバー野蛮人の手に渡り、彼らがそれらの兵器を使って重要なインフラの脆弱性を見つけ出したり、ランサムウェア攻撃を展開したりするようになるからだ。

「この技術は、防御側と攻撃側の両方にとって、サイバーセキュリティに大きな影響を与えている」とジョイス氏は述べた。

「ハッカーはこれまで以上に強力なツールを手に入れている」とケーブル氏は指摘し、具体的にはMythosとGPT-5.5を挙げた。

「これらのモデルは単なる誇大広告ではない」と彼は警告した。「セキュリティ業務において、人間と肩を並べ、あるいは凌駕する能力を、かつてない規模で発揮し始めているのだ。」

ジョイス氏は、「脅威アクター」はMythosのようなものさえ必要とせず、古いプログラムでもかなりの損害を与えることができると示唆した。

電子フロンティア財団の上級政策アナリスト、マシュー・グアリグリア氏は、内部からの脅威を強調し、「問題は、いかにしてAIを制御するかではなく、いかにしてAIをアメリカ国民に解き放とうとする機関を制御するかだ」と述べた。

グアリリア氏は証言の中で、米国の国家安全保障機関が、正当な理由もなく人々のデータを収集する様々なツールを既に使用しており、それによって「個人の政治的信条、私生活、宗教、位置情報について、時には不正確な推論を行い、重大な結果を招く可能性がある」と指摘した。 

さらにグアリリア氏は、「AIには、訴訟書類における誤った引用から、適切な訓練を受けていない国土安全保障省の新人職員を現場に送り出したAIの重大なミスまで、間違いを犯してきた実績もある」と述べた。 

「分類上の問題でより詳細な調査ができないために、我々が把握していない、もっと重大な事例が他にもある可能性が高い」と彼は付け加えた。

同様に、デリア・ラミレス下院議員（イリノイ州選出、民主党）は、「AIを活用した監視システムが、学校、公営住宅、病院などに広がりつつあるが、その仕組みに関する透明性はなく、異議を申し立てる手段もなく、誤りがあった場合の救済措置もない」と指摘した。

後に行われた、AIプログラムが実際には問題のない都市の水道供給に問題があると判断し、その結果、市民の水へのアクセスが制限されるというシナリオに関するやり取りの中で、グアリグリアとラミレスは、現在の米国法の範囲内では、問題がどのように発生したかについての透明性は、システムを導入する都市の裁量に委ねられる可能性が高く、誰が責任を負うべきかという問題はかなり曖昧であると示唆した。

路上でT-800と命をかけて戦うほど魅力的ではないにしても、ランサムウェア攻撃の増加、プライバシーのさらなる侵害、そしてHALがミスをして全員の水道を止めてしまった際に必要な透明性と説明責任の欠如は、どれもかなり深刻な問題に聞こえる。たとえこれらが大衆ヒステリーや映画シリーズを正当化するほどではないとしてもだ。もしかしたら、あらゆるものにAIを組み込むという現在の時代精神に対する合理的な懸念を抱くには十分かもしれない。そして、もしかしたら、現代生活のあらゆるものをインターネットに接続するという私たちの決断を再考する理由になるかもしれない。