Facebook の今や否定された検閲のコスト

歴史は、この時代を、アメリカの最も神聖な原則が前例のない制度的権力と衝突し、敗北した瞬間として記憶するだろう。基本的権利の組織的な解体は、軍事力や大統領令によってではなく、私たちを「誤情報」から守ると主張するテクノロジープラットフォーム、メディアのゲートキーパー、政府機関の静かな協力によって起こった。

メタがファクトチェックプログラムを突然廃止したことは、ザッカーバーグが「言論を優先する文化的な転換点」と発表したものの、近年の歴史上最も衝撃的な基本的人権侵害の一つとして記録されるかもしれない出来事の、静かな脚注のように聞こえる。60以上の言語で活動する100近いファクトチェック組織を含む、ますます積極的なコンテンツモデレーションを8年間続けてきたメタは、今やXのモデルに似たコミュニティ主導のシステムへと方向転換しようとしている。

ザッカーバーグ氏は発表の中で、まず検閲は単なる技術的なミスだったと示唆し、その後、終盤で態度を変え、長らく争われてきたことを認めている。「この世界的な傾向に逆らう唯一の方法は、米国政府の支援を受けることです。だからこそ、米国政府でさえ検閲を推進してきた過去4年間、非常に困難だったのです。米国が私たちや他の米国企業を追及したことで、他の政府もさらに踏み込む勇気を持てるようになりました。」

数百万ドルもの費用がかかり、膨大な情報公開請求、証言録取、証拠開示を伴う多くの裁判において、この事実は10万ページに及ぶ証拠文書に記録されている。マーシー対ミズーリ州事件だけでも、情報公開請求と証言録取を通じて膨大な量の通信記録が明らかになり、政府とソーシャルメディアプラットフォームとの連携の深さが露呈した。最高裁判所はこれらのすべてを審理したが、数名の判事は内容と規模を理解できず、下級裁判所による差し止め命令を覆した。そして今、ザッカーバーグは、まさに争点となっていた事柄、すなわち米国政府による憲法修正第1条の積極的な侵害への関与を公然と認めている。

これにより、少なくとも訴訟が進むにつれて、補償を見つけやすくなるはずだ。それでも、フラストレーションは溜まる。彼が何年も前に認めることができたはずのことを立証するために、何千万ドルも費やされた。しかし当時は検閲官がまだ権力を握っており、フェイスブックは権力者との関係を警戒していた。 

この変化のタイミングは示唆に富んでいる。トランプ氏の盟友が取締役会に加わり、Metaのグローバル担当社長が著名な共和党員に交代し、新政権が経営権を掌握しようとしている。ザッカーバーグ氏はこれを言論の自由の原則への回帰と位置づけているが、彼らが行った大規模検閲実験による損害は、単純な政策変更で元に戻せるものではない。

皮肉なことに、民間企業は独立性を主張しながら、実際には国家権力の延長として機能している。我々自身の経験を考えてみよう。ムッソリーニがファシズムを「国家権力と企業権力の融合」と定義したことを投稿したところ、Metaはそれを「誤報」として削除した。これは単なる検閲ではなく、メタ検閲、つまり、まさにその支配のメカニズムについての議論を封じ込める行為だったのだ。

テクノロジープラットフォームは民間企業の体裁を維持していたが、政府機関と連携した行動は、より憂慮すべき現実を明らかにした。それは、まさに彼らが我々の議論を阻止しようとしていた国家と企業の融合の出現だった。

以前にも述べたように、私たちは単に一線を越えただけでなく、人類の最も暗い時代を経て築かれた神聖なルビコン川をも越えてしまったのです。専制政治に対する革命から生まれた合衆国憲法修正第1条と、第二次世界大戦の惨禍を経て制定されたニュルンベルク綱領は、人権を守る揺るぎない守護者となるはずでした。しかし、どちらも「安全」の名の下に組織的に解体されてしまいました。私たちの祖先が警告していた、情報操作、恐怖、そして政府の行き過ぎた介入といった戦術が、恐ろしいほどの効率で用いられたのです。

この組織的な解体は、ワクチン効果に関する議論からウイルスの起源に関する議論、義務化政策に関する疑問に至るまで、あらゆる話題に及んだ。科学的な議論は、承認された物語に置き換えられた。新型コロナウイルス感染症のデータや政策に関する信頼できる議論が削除されたことからもわかるように、医療研究者は組織の立場と異なる研究結果を共有することができなかった。個人的な経験でさえ、公式のメッセージと一致しない場合は「誤情報」とレッテルを貼られた。検閲の本質について議論することさえ検閲の対象となるという、ばかげた事態にまで至った。

被害は社会のあらゆる階層に波及した。個人レベルでは、本物の体験を共有したというだけでキャリアが破壊され、専門資格が剥奪された。一般的な見解に疑問を呈した科学者や医師は、職業上疎外された。プラットフォームが直接の証言を「誤情報」とラベル付けしたとき、多くの人が孤立感や自分の目と体験を信じたことが不合理だと感じさせられた。

家族の絆の破壊は、さらに長く続くかもしれない。休日の食卓は空っぽになった。祖父母は孫とのかけがえのないひとときを逃した。何十年も仲が良かった兄弟は口をきかなくなった。長年の家族の絆は、事実についての意見の相違ではなく、事実を話し合う権利そのものをめぐって崩壊した。

おそらく最も陰険だったのは、コミュニティレベルの被害だった。地域団体は分裂し、隣人は隣人に反旗を翻した。中小企業はブラックリストに載せられる危機に直面した。教会は分裂し、学校理事会は戦場と化した。市民社会を支える社会構造が崩れ始めた。人々が異なる意見を持っていたからではなく、対話の可能性自体が危険だとみなされたからだ。

検閲官は勝利した。十分な制度的権力があれば、自由な言論を可能にする社会構造を破壊できることを示した。今やこの抑圧のためのインフラは、緊急を要すると思われるあらゆる理由のために再び展開される準備ができている。公の審判がないことは、恐ろしいメッセージを送っています。越えられない一線などなく、無視できない原則などないのです。

真の和解には、Meta の軽率な方針転換以上のものが求められます。ワクチンによる被害報告の抑圧から、ウイルスの起源に関する科学的議論の阻止、義務化政策に疑問を投げかける声の抑圧まで、検閲のあらゆる事例を文書化した、完全で透明性のある調査が必要です。これは、無実を証明することではありません。このような戦術が二度と使用されないように、非難の余地のない公的記録を作成することが目的です。

我が国の憲法修正第 1 条は提案ではなく、専制政治と戦った人々の血で書かれた神聖な契約でした。その原則は時代遅れの遺物ではなく、私たちが目撃したまさにその行き過ぎに対する重要な保護です。機関がこれらの基本的権利を不可侵の境界ではなく柔軟なガイドラインとして扱うと、損害は単一のプラットフォームやポリシーをはるかに超えて波及します。

私たちも、多くの仲間と同様に、これを直接目撃しました。しかし、個人の潔白を証明することが目的ではありません。「承認された物語」のために沈黙させられたすべての声、抑圧されたすべての議論、破壊されたすべての関係は、社会構造の裂け目を表し、私たち全員を貧しくしています。完全な説明責任と将来の行き過ぎに対する具体的な保護策がなければ、私たちは将来の世代を、異なる仮面をかぶった同じ独裁的衝動に無防備なままにしておくことになります。

問題は、失われたものを回復できるかどうかではありません。回復できないのです。問題は、これらの権利を最終的に真に不可侵のものとして認識するか、それとも、恐怖や切迫感が要求するたびに無視すべき不都合な障害として扱い続けるかです。ベンジャミン・フランクリンは、一時的な安全を買うために基本的な自由を放棄する人は、自由も安全も得るに値しないと警告しました。この課題に対する私たちの答えによって、子供たちに基本的な自由を守る社会を残すか、安全の名の下にそれらを軽々しく放棄する社会を残すかが決まります。

以下は、7 年 2024 月 XNUMX 日のマーク・ザッカーバーグの発表の全文です。

みなさん、こんにちは。今日は重要なことをお話ししたいと思います。Facebook と Instagram での表現の自由という原点に立ち返る時が来たからです。私は人々に声を与えるためにソーシャル メディアの構築を始めました。5 年前にジョージタウン大学で、表現の自由を守ることの重要性についてスピーチをしましたが、今でもその考えは変わりません。しかし、ここ数年で多くのことが起こりました。

オンライン コンテンツがもたらす潜在的な害については広く議論されており、政府や従来のメディアは検閲を強化しています。その多くは明らかに政治的なものです。しかし、世の中には実際に悪いものもたくさんあります。麻薬、テロ、児童搾取などです。これらは私たちが非常に真剣に受け止めている問題であり、責任を持って対処したいと考えています。そのため、コンテンツを管理するために多くの複雑なシステムを構築しましたが、複雑なシステムの問題は、間違いを犯すということです。

たとえ誤って投稿の 1% を検閲したとしても、それは何百万人にも及びます。そして、私たちは間違いや検閲が多すぎるという状況に陥っています。最近の選挙は、言論を再び優先する文化的な転換点のようにも感じます。そこで私たちは原点に立ち返り、間違いを減らし、ポリシーを簡素化し、プラットフォーム上での表現の自由を取り戻すことに注力します。具体的には、次のことを行います。

まず、米国でファクトチェッカーを廃止し、X のようなコミュニティ ノートに置き換えます。トランプ氏が 2016 年に初めて当選した後、旧来のメディアは、誤情報が民主主義の脅威であると書き立て続けました。私たちは、真実の裁定者とならずに、誠意を持ってそれらの懸念に対処しようとしましたが、ファクトチェッカーはあまりにも政治的に偏りすぎていて、特に米国で築いた信頼よりも破壊した信頼の方が大きいのです。そこで、今後数か月かけて、より包括的なコミュニティ ノート システムを段階的に導入します。次に、コンテンツ ポリシーを簡素化し、移民やジェンダーなど、主流の議論とはまったく関係のないトピックに関する一連の制限を撤廃します。

より包括的になろうという運動として始まったものが、意見を封じ込め、異なる考えを持つ人々を締め出すために使われることが多くなり、行き過ぎています。ですから、人々が私たちのプラットフォームで自分の信念や経験を共有できるようにしたいのです。3つ目に、私たちのプラットフォームでの検閲の大半を占める間違いを減らすために、ポリシーの施行方法を変えています。以前は、ポリシー違反をスキャンするフィルターがありました。これからは、違法で重大な違反に対処するために、それらのフィルターを集中させます。

重大度の低い違反については、対処する前に誰かが問題を報告してくれることを期待します。問題は、フィルターがミスを犯し、削除すべきでない多くのコンテンツを削除してしまうことです。そのため、フィルターを弱めることで、プラットフォーム上の検閲の量を大幅に減らします。また、コンテンツを削除する前に、より高い信頼性を要求するようにコンテンツ フィルターを調整します。現実には、これはトレードオフです。

これは、悪質なものを捕まえる回数が減るだけでなく、誤って削除してしまう無実の人々の投稿やアカウントの数も減ることを意味します。4 番目に、市民向けコンテンツを復活させます。しばらくの間、コミュニティからは、ストレスの原因となる政治関連の投稿を控えるよう要望がありました。そのため、こうした投稿の推奨は停止しましたが、今は新しい時代に入ったように感じます。人々が再びこうしたコンテンツを見たいというフィードバックが寄せられ始めています。そこで、コミュニティを友好的で前向きな状態に保ちながら、Facebook、Instagram、Threads に段階的にこれを復活させていきます。

5つ目に、信頼と安全、コンテンツ モデレーションのチームをカリフォルニアから移転し、米国を拠点とするコンテンツ レビューはテキサスに拠点を置く予定です。表現の自由を推進する取り組みの一環として、チームの偏見に対する懸念が少ない場所でこの取り組みを行うための信頼を築くのに役立つと考えています。最後に、トランプ大統領と協力して、米国企業を追及し、検閲を強化しようとしている世界各国の政府に対抗します。米国は、表現の自由に対する憲法上の保護が世界で最も強力です。ヨーロッパでは、検閲を制度化する法律が増え続けており、革新的なものを作ることが困難になっています。

ラテンアメリカ諸国には、企業にひそかに削除を命じることができる秘密裁判所があります。中国は、私たちのアプリが国内で動作することさえ検閲しています。この世界的な傾向に抵抗できる唯一の方法は、米国政府の支援を受けることです。だからこそ、米国政府でさえ検閲を推進してきた過去 4 年間、非常に困難でした。私たちや他の米国企業を追及することで、他の政府がさらに踏み込む勇気が湧いてきました。

しかし今、私たちは表現の自由を取り戻す機会を得ており、私はそれを喜んで受け入れています。これを正しく行うには時間がかかります。そして、これらは複雑なシステムです。完璧になることは決してありません。また、排除するために私たちがまだ懸命に取り組む必要がある違法なものもたくさんあります。

しかし、肝心なのは、長年コンテンツ モデレーションの作業を主にコンテンツの削除に集中してきた後、間違いを減らし、システムを簡素化し、人々に発言権を与えるという原点に戻ることに重点を置く時が来たということです。次の章を楽しみにしています。これからも良い姿勢でいて、すぐにもっと良い結果が出るでしょう。」