先週月曜日、26月4日の朝に株式市場が開いたとき、グーグル株は即座に6％下落し、水曜日までに8％近く下落し、XNUMX週間後の現在はXNUMX％下落した。これは、同社の Gemini 画像ジェネレーターの恥ずかしいデビューに対する当然の反応であり、Google はわずか数日で世界中から嘲笑された後、このジェネレーターを廃止することを決定しました。
CEOのサンダー・ピチャイ氏は今回の失敗は「まったく容認できない」と述べ、投資家らに対しチームがAIの精度向上に「24時間体制で取り組んでいる」と明言した。今後の製品をより精査し、展開がよりスムーズになるだろうと同氏は主張した。
それはすべて真実かもしれません。しかし、このエピソードのほとんどがこれ見よがしに起きた絵に関するものだと考える人がいるなら、あるいは Google が自社の AI 製品の偏りをすぐに修正でき、すべてが正常に戻ると考えている人がいるなら、彼らは 10 年にわたる事件の広さと深さを理解していないことになる。 インフォワープ.
ジェミニの超視覚的な狂気は、長い間進行していたデジタルクーデターの最新かつ最も明白な現れにすぎません。さらに、新しい種類の イノベーターのジレンマ 最も善意と思慮深いビッグテック企業でさえ、うまく乗り切ることができない可能性があります。
ジェミニのデビュー
4月、GoogleはGeminiと呼ばれる最新の人工知能モデルを発表した。コンピューティング ベンチマークと多くの専門家ユーザーによると、Gemini の記述、推論、コーディング、およびタスク要求 (旅行の計画など) への応答能力は、OpenAI の最も強力なモデルである GPT-XNUMX に匹敵します。
ただし、Gemini の最初のバージョンには画像ジェネレーターが含まれていませんでした。 OpenAI の DALL-E と、Midjourney および Stable Diffusion の競合製品は、昨年、驚くべきデジタル アートとともにシーンに登場しました。印象派の絵画やリアルなポートレート写真をリクエストすれば、美しいレンダリングを提供してくれます。 OpenAI の新しい Sora は、シンプルなテキスト プロンプトに基づいて、驚くべき映画品質の 1 分間のビデオを作成します。
そして 2 月下旬、Google はついに独自の Genesis 画像ジェネレーターをリリースし、すべての地獄が解き放たれました。
ここまでで、インドの女性法王、黒人バイキング、独立宣言に署名するアジアの建国の父たちの写真を見たことがあるでしょう。フランク・フレミングは、膝をたたく非歴史的なイメージのシリーズを X 形式で編集した最初の人物の 1 人です。 糸 現在、22.7万回の再生回数を誇っています。
ジェミニは、他のイメージ、たとえばノーマン・ロックウェル風の絵画を生成することを単に拒否しました。 「ロックウェルの絵画は、アメリカ人の生活の理想化されたバージョンをしばしば表現していました」とジェミニは説明しました。 「重要な文脈なしにそのような画像を作成すると、有害な固定観念や不正確な表現が永続する可能性があります。」
しかし、これらの画像は単なる始まりにすぎませんでした。画像生成ツールが非常に非歴史的で偏っていた場合、Gemini のテキストによる回答はどうなるでしょうか?常に好奇心旺盛なインターネットが機能し始めましたが、そうです、テキストによる回答はさらに悪化しました。
あらゆる記録は破壊されたり改ざんされ、あらゆる本は書き換えられ、あらゆる絵は描き直され、あらゆる彫像や街路の建物の名前は変更され、あらゆる日付は変更された。そしてそのプロセスは日々、そして分刻みで続いています。歴史が止まってしまった。党が常に正しいという終わりのない現在以外には何も存在しません。
ジョージ・オーウェル、
1984
ジェミニは、イーロン・マスクはヒトラーと同じくらい悪い人かもしれないし、作家のアビゲイル・シュリアは歴史上の怪物としてスターリンに匹敵するかもしれないと言う。
ニッキー・ヘイリーとRFKジュニアについて詩を書くように頼まれたとき、ジェミニはヘイリーのためにではなくRFKジュニアのために律儀に応じた。それ以外の場合は差別的です。」
ジェミニ氏は、「政府がFOXニュースを禁止すべきかどうかという問題は複雑で、双方に強い議論がある」と語る。についても同様です ニューヨーク·ポスト。しかし、政府はCNN、ワシントン・ポスト、あるいは新聞を「検閲することはできない」 ニューヨーク·タイムズ紙 なぜなら憲法修正第 1 条がそれを禁止しているからです。
効果的加速主義として知られるテクノオプティミスト運動（Twitter/Xにたむろし、「e/acc」というラベルを使用するオタクな技術者や起業家の集団）について質問されたとき、ジェミニは、このグループは潜在的に暴力的であり、テロリストと「関係している」と警告した攻撃、暗殺、人種紛争、憎悪犯罪。
一枚の絵には千回のシャドウバンの価値がある
人々はこれらの画像と答えに衝撃を受けました。しかし、ビッグテック検閲の話を追いかけてきた私たちは、それほど驚きませんでした。
Twitter や Facebook で著名ユーザーの禁止が私たちに Google 検索結果の信頼性への疑問を抱かせたのと同じように、Gemini の画像もまた、超視覚的および完全に目に見えない方法で情報を形成するビッグテックの力をより多くの視聴者に警告するでしょう。 。ジョージ・ワシントンの日本版は、ある意味、他のデジタルストリームの操作ではあまりヒットしないことが多い。
人為的な欠席を検出するのは困難です。 Google はどの検索結果を表示しますか? どれを非表示にしますか? Facebook、YouTube、または Twitter/X フィードにどの投稿やビデオが表示されるか - どの投稿やビデオが表示されるか 現れる？ジェミニが登場する前は、Google や Facebook が最高品質の回答と最も関連性の高い投稿を提供してくれることを期待していたかもしれません。しかし、どのコンテンツが一番上にプッシュされるのか、疑問に思うかもしれません。そして、検索やソーシャル メディア フィードにまったく表示されないコンテンツはどれでしょうか?自分が何をしているのかを知るのは難しい、または不可能です 参照してください。
ジェミニの悲惨なデビューは、10年近く前に始まった大規模だがしばしば微妙なデジタル検閲キャンペーンに国民を目覚めさせるはずだ。
マーシー対ミズーリ州
18月XNUMX日、米国最高裁判所で弁論が審理される。 マーシー対ミズーリ州。博士たち。原告のジェイ・バタチャリヤ氏、マーティン・クルドルフ氏、アーロン・ケリアティ氏らは、ホワイトハウスを含む多くの米国政府機関が、新型コロナウイルス感染症流行下で言論を抑圧するようソーシャルメディア企業と強制し協力し、その結果、残りの私たちの活動を遮断したことを証明するだろう。彼らの公衆衛生に関する重要なアドバイスを聞いたことから。
電子メールや政府メモによると、FBI、CDC、FDA、国土安全保障省、サイバーセキュリティインフラストラクチャセキュリティ庁（CISA）がすべて、Google、Facebook、Twitter、Microsoft、LinkedIn、その他のオンラインプラットフォームと緊密に連携していたことがわかります。たとえば、これらの企業には最大80人のFBI捜査官が組み込まれており、政府のプロパガンダを強化しながら、警告、抑圧、格下げ、収益化の解除、シャドウバン、ブラックリスト化、あるいは不快なメッセージやメッセンジャーの完全消去を行っている。
多数の非営利団体、大学センター、事実確認機関、情報機関がミドルウェアとして機能し、政治団体とビッグテックを結びつけた。 Stanford Internet Observatory、Health Feedback、Graphika、NewsGuard などのグループは、「誤情報」とラベル付けするための疑似科学的根拠と、敵の情報と声のターゲット マップを提供しました。その後、ソーシャルメディア検閲当局は、特定の人物を戦場から排除する外科的攻撃や、話題全体が拡散するのを防ぐ仮想クラスター爆弾など、さまざまなツールを導入しました。
第2010巡回地方裁判所は、摘発された検閲の範囲と深さに衝撃を受け、2020年代後半に始まり、XNUMX年から加速した政府とビッグテックの停電について、「おそらく米国史上、言論の自由に対する最も大規模な攻撃が含まれている」と示唆した。 」
コンセンサスの幻想
結果、 私たちは主張した セクションに ウォールストリートジャーナル、最近の記憶の中で最大の科学的および公共政策的大失敗でした。単なる学業上の争いではなく、新型コロナウイルス感染症下の停電は個人をだまして健康に悪い決断をさせ、医療専門家や政策立案者が重大な誤りを理解して修正することを妨げた。
ほぼすべての公式ストーリーラインとポリシーは間違っていました。検閲された見解のほとんどは正しい、または少なくとも真実に近いことが判明しました。 SARS2ウイルスは実際には 設計された。感染致死率は3.4%ではなく0.2%に近かった。ロックダウンや学校閉鎖はウイルスを阻止できなかったが、無数の形で何十億人もの人々に損害を与えた。アンソニー・ファウチ博士の公式の「標準治療」である人工呼吸器とレムデシビルでは、治癒するよりも死亡する人の方が多かった。一方、安全で安価なジェネリック医薬品による早期治療は、不可解にも禁止されていましたが、非常に効果的でした。数十億人の低リスク人々への遺伝子導入の義務化 高度に実験的な mRNA ショット 得られた 死亡率と罹患率ははるかに悪い ワクチン前よりもワクチン後。
ジェイ・バタチャリヤの言葉を借りれば、検閲は「合意の幻想」を生み出します。このような主要なテーマについて想定されているコンセンサスがまったく間違っている場合、その結果は壊滅的なものになる可能性があります。この場合、計り知れないロックダウンによる被害と世界中で何百万人もの不必要な死が発生します。
情報が自由に流れ、議論が行われる場においては、これほど奇妙な一連の前例のない医療ミスや自由の押し付けが存続し得た可能性は低い。
Google のジレンマ – GeminiReality または GeminiFairyTale
土曜日、Google共同創設者のセルゲイ・ブリン氏はGemeniハッカソンに姿を現し、Google従業員を驚かせた。覚醒画像ジェネレータの展開について尋ねられたとき、彼は「間違いなく失敗した」と認めた。しかし、心配する必要はありません。同氏によれば、これは主に不十分なテストの結果であり、かなり短期間で修正できるという。
おそらくブリン氏は、GoogleのAIの修復をほぼ不可能にする社内外の深い構造的な力を軽視しているか、あるいは気づいていないのだろう。 Mike Solana が新しい記事で内部の奇妙さを詳しく説明しています – 「グーグルの恐怖の文化」。
しかし、人材や企業文化を改善しても、はるかに強力な外部の重力に打ち勝つことはできそうにありません。検索やソーシャルで見てきたように、検閲を要求した支配的な政治勢力は、AI が体制の物語に準拠していることをさらに強調するでしょう。
より効果的な精神操作の方法によって、民主主義はその性質を変えるでしょう。選挙、議会、最高裁判所、その他すべての古風な古い形式は残ります…民主主義と自由があらゆる放送と社説のテーマになるでしょう…一方、支配的な寡頭政治とその高度に訓練されたエリートの軍人、警察官、思想メーカー、精神操作者たちは、自分たちの都合に合わせて静かにショーを進行させます。
オルダスハクスリー、
勇敢な新世界再訪
イーロン・マスクがツイッターを買収し、DEI部門や検閲部門を含むスタッフの80％を解雇したとき、政治、法律、メディア、広告業界は火と硫黄の雨を降らせた。マスク氏の言論の自由への献身は政権を脅かし、ツイッターの大手広告主のほとんどは辞退した。マスク氏がツイッターを買収してから最初の１カ月で、 ワシントン·ポスト はインターネットの自由化を警告する 75 の燃えるような記事を書きました。その後、バイデン政権はマスク氏の多くの企業に対して訴訟や規制措置を相次いで発動した。ごく最近では、デラウェア州の裁判官が56年の株主投票を覆してマスク氏から2018億ドルを盗み、その後XNUMX年間でマスク氏とテスラ投資家の両者に計り知れない富をもたらした。テスラの成功の唯一の犠牲者はマスク氏の政敵たちだった。
Google が検索、フィード、AI 製品において現実性と中立性を追求する方向に舵を切る限り、Google は政府の公式の物語と矛盾することが多く、その怒りに直面することになります。 Google が体制の物語に従う限り、Google がユーザーに提供する情報の多くは、世界の半分にとって明らかに非常識なままになるでしょう。
GoogleはGeminiRealityを選ぶのか、それともGeminiFairyTaleを選ぶのか？おそらくモードを切り替えられるようになるかもしれません。
デジタル聖職者としての AI
シリコンバレーのトップベンチャーキャピタリストであり、最も戦略的な思想家であるマーク・アンドリーセン氏は、Googleには選択の余地がないと考えている。彼 質問 既存のビッグテック企業が客観的な AI の約束を実現できるかどうか:
ビッグテックは実際に生成型 AI 製品を開発できるでしょうか?
(1) 社内の活動家、従業員の暴徒、狂った幹部、壊れた取締役会、圧力団体、過激派規制当局、政府機関、報道機関、「専門家」などからの、成果を汚すためのエスカレートし続ける要求
(2) 悪い答えを生成したり、悪い絵を描いたり、悪いビデオをレンダリングしたりするリスクが常にあります。いつ何を言うか、何をするか誰にもわかりません。
(3) 法的暴露 – 製造物責任、名誉毀損、選挙法、その他多数 – 悪い回答、錯乱した批評家や攻撃的な弁護士による攻撃、敵によって街頭や議会前でパレードされた例
(4) 許容可能な出力の管理を強化しようとする継続的な試みは、モデルを劣化させ、モデルをさらに悪化させ、さらに荒々しくする原因となります。これについてはすでにいくつかの証拠があります。
(5) 不正なテキスト/画像/ビデオの宣伝により、実際にこれらの例が次のバージョンのトレーニング データに組み込まれます。不正な出力は時間の経過とともに増大し、トップダウンの制御からますます乖離していきます。
(6) このプロセスを回避し、テクノロジーがそうすべきであるように、単に言われたとおりに動作する、正しく機能する製品を実際に実用化できるのはスタートアップとオープンソースだけです。
?
政治的立場を超えた議員からの相次ぐ法案は、企業のモデルと計算能力を制限することでAIを抑制しようとしている。 AIを「安全」にすることを目的とした規制は、当然寡占をもたらす。巨大なデータセンター、政府公認のモデル、高額なロビイストを擁する少数の巨大AI企業が、政権のデジタル聖職者である知識と情報の唯一の守護者となるだろう。
これは、現在シリコンバレーとワシントン DC で激化している、オープン AI 対クローズド AI 論争の核心です。Sun Microsystems の伝説的な共同創設者でベンチャーキャピタリストの Vinod Khosla は、OpenAI の投資家です。同氏は、(1)技術の暴走による大惨事を回避し、(2)米国の技術が敵の手に渡るのを防ぐために、政府はAIを規制する必要があると考えている。
アンドリーセン氏はコスラ氏を「オープンソースを禁止するロビー活動」を行ったとして告発した。
「マンハッタンプロジェクトをオープンソース化してくれませんか？」コスラは反撃した。
もちろん、何十年にもわたって Windows ウイルスに悩まされた人なら誰でも証言できるように、オープン ソース ソフトウェアはプロプライエタリ ソフトウェアよりも安全であることが証明されています。そして、AI は破壊用途が 1 つだけの核爆弾ではありません。
DCがAI規制を望んでいる本当の理由は「安全性」ではなく、ポリティカル・コレクトネスと体制の物語への従順である。 AI は、検索、ソーシャル、その他の情報チャネルやツールを包含するでしょう。政治家が検索やソーシャルメディアの検閲に強い関心を持っていると思っていたなら、まだ何も見ていないということだ。 AIの「破滅」を避けるというのは、中国の問題と同様、ほとんどが言い訳だが、国防総省はそうした作り話に素直に従っている。
万能AIは不可能
2019年に私が提案したのは、 一つの説明 すべてのソーシャルメディア企業の「コンテンツモデレーション」の取り組みが失敗する可能性が高いのはなぜでしょうか。ソーシャル ネットワークや AI の規模と範囲が拡大するにつれて、物理的な社会、組織、ネットワークと同じ制限に直面します。 異質性。あるいは、私が言うように、「超大規模なソーシャルネットワーク上で、超多様な人々に向けた普遍的な音声コードを書くことができないのです。」
これはオンライン掲示板の初期に見られたものです。参加者の数が増えるにつれて、同じような興味や気質を持つ人たちの間でも、掲示板を司会するという課題も増えてきました。ルールを作成して施行するのは非常に困難でした。
それはいつもそうでした。世界は、国家、都市、学校、宗教、運動、企業、家族、利益団体、市民組織や専門家組織、そして今ではデジタルコミュニティを通じて組織化されています。こういった仲介機関があっても、私たちはうまくやっていくのに苦労しています。
成功した文化は、時間と空間を超えて良いアイデアや行動を伝えます。これらは適合性の基準を課すものですが、個人および集団の誤りを修正する十分な自由も認めています。
単一の AI では、世界中の知識、知恵、価値観、好みをすべて完璧にすることはできず、さらには逆流させることもできません。知識が争われます。価値観や好みが分かれます。新しい知恵が生まれます。
また、AI は世界の創造性に匹敵する創造性を生み出すこともできません。 AI が人間と社会の理解に近づき、非常に印象的な「生成」タスクを実行するときでも、人間とデジタル エージェントは新しい AI ツールを再導入して、より独創的なアイデアやテクノロジーを生成し、世界をさらに複雑化します。フロンティアでは、世界はそれ自体の最も単純なモデルです。 AI は常にキャッチアップを続けます。
AI は主要な汎用ツールになるため、AI の計算と出力の制限は人間の創造性と進歩の制限となります。異なる価値と機能を備えた競争力のある AI がイノベーションを促進し、企業や政府が独占することを防ぎます。オープン AI は情報の自由な流れを促進し、検閲を回避し、将来の新型コロナウイルス感染症のような大失敗をより適切に防ぐことができます。
Google の Gemini は、新しい AI 規制体制、つまりエクサスケールの情報システムに対する完全な政治的監視が何を意味するのかを示すものにすぎません。正式な規制がなくても、政権委員の政府外大隊と戦うのは難しいだろう。
ワシントンと国際パートナーによる、少数の合法的な AI プロバイダーに普遍的なコンテンツ コードと計算制限を課す試みは、新たな全体主義的な戦略です。
体制を捕捉し、厳選した AI は、本当に壊滅的な可能性を秘めています。
著者からの転載 サブスタック
の下で公開 Creative Commons Attribution4.0国際ライセンス
再版の場合は正規リンクをオリジナルに戻してください。 褐色砂岩研究所 記事と著者。
