「フィリップ・クロス」はAIだったのか？

ブラウンストーンの著者と並んで ジェニファー・セイ、ウォルター・ブラッグマンの息もできないで佳作を受賞しました。 重要なコンテキスト: 漏洩した Brownstone Institute 児童労働や未成年者の喫煙を支持する内容のメールが明らかに。 ブラッグマンはハッシュタグを付けることを選択しました #ブラウンストーンファイル への明らかな言及において、 ツイッターファイル, ただし、影響力はやや劣ります。 この記事の執筆時点では、合計 XNUMX つのツイートが続いており、どちらもブラッグマンに敵対的です。 

ブラグマン氏によると、彼が閲覧した流出メールの中で、「ブルーメン氏は、反戦活動家のページが、おそらく自動化された単一のユーザーによって時間をかけてゆっくりと編集されているという逸話を語っていた」という。

ブラッグマンは正しい。 私はブラウンストーンの著者リストに関する社内メールでフィリップ・クロスの話を持ち出しました。 このストーリーは重要なものですが、最初にブレイクした2018年以来、あまり考えていませんでした。 最近のニュースを踏まえると、この話はXNUMX年前とはかなり異なっているように見えます。 この記事ではその物語を再考し、過去 XNUMX 年間で世界がどのように変化したかについて分析を続けていきます。 

この話は2018年に発覚した。長年反戦思想で知られる元英国下院議員のジョージ・ギャロウェイが、「フィリップ・クロス」という名の謎のウィキペディア編集者が自身のウィキペディアページに不都合な変更を加えたとして非難したのだ。BBCニュースは、ギャロウェイと謎のウィキペディア編集者との舌戦を報じた。

ギャロウェイの怒りの対象は、「フィリップ・クロス」という名前で知られる多作なウィキペディア編集者だ。 彼は、世界で最も人気のあるウェブサイトの XNUMX つであるインターネット百科事典や Twitter でも大きな議論の対象となっています。 そして、彼がウィキペディアのページを編集した一部の人々と、時には否定的なやりとりをしたことで偏見を持たれていると非難されている。

フィリップ・クロスのアカウントは、18 年 48 月 26 日のグリニッジ標準時ちょうど 2004 時 130,000 分に作成されました。それ以来、彼は 30,000 ページ以上に 300 回以上の編集を加えました (原文どおり)。 これはかなりの量ですが、それほど珍しいことではありません。たとえば、Wikipedia の編集者トップ XNUMX に彼を入れるには十分な編集ではありません。

しかし、反戦政治家やジャーナリストの関心を集めているのは、彼の編集内容だ。 彼の最も編集数の多いページのトップ 10 には、ジャズ ミュージシャンのデューク エリントン、サン紙、デイリー メール編集者のポール デイカーが含まれています。 しかしそのトップ10には、ジャーナリストのジョン・ピルジャー氏、労働党党首ジェレミー・コービン氏、コービン氏の戦略部長シェイマス・ミルン氏など、米国と英国の外交政策を声高に批判する人も数多く名を連ねている。

同氏を批判する人々はまた、フィリップ・クロス氏が西側諸国の中東への軍事介入を支持する著名人に関するページを好意的に編集したとも述べている。 

...

「彼の編集は、イラク戦争に反対する人々、その後のリビアやシリアでの介入戦争に反対する人々、そしてイスラエルを批判する人々を容赦なくターゲットにしている」とギャロウェイは言う。 

Mintpressはこの問題に関する優れた解説の要約版を出版し、エディンバラ・サンデー・ヘラルド紙のロン・マッケイの言葉を引用している。

ここに共通点があることがわかるのに、陰謀論者である必要はありません。 [標的にされた]人々は全員…ソーシャルメディアや主流メディアで私たちの外交政策に精力的に疑問を呈している著名な運動家たちです。 

反戦的な見解やウィキリークス創設者ジュリアン・アサンジへの支持で知られる元英国大使クレイグ・マレーも、同様の見解を示した。

[…]「フィリップ・クロス」作戦の目的は、特に外交問題において、支配的な企業メディアや国営メディアの言説に異議を唱える著名な人々を組織的に攻撃し、評判を損なうことにある。 

反戦サイトmedialens.orgは次のように質問した。

ノーム・チョムスキー、エドワード・S・ハーマン（『マニュファクチャリング・コンセント』の共著者）、ラニア・カレクといった著名な反戦活動家たちも、クロスによる執拗な落書き攻撃の標的となった。

マレー大使は、次の驚くべき事実を観察しました。 

BBCによると、身元不明の編集者は「ギャロウェイのページ（クロスが1800回以上編集したページ）の編集全体の20.4％を担当している」とのこと。BBCは、完全に不名誉な、あるいは否定的な方向への特定の編集内容を詳細に報じ続けている。

更新 「フィリップ・クロス」は、ほぼ 29 年間、ウィキペディアの編集を一日も休んでいません。 「彼」は、2013 年 14 月 2018 日から 1,721 年 XNUMX 月 XNUMX 日まで、クリスマスの XNUMX 日を含め、毎日編集してきました。 これは XNUMX 日間連続で編集したことになります。

つまり、133,612 年間で「フィリップ・クロス」の名前でウィキペディアの 14 回の編集が行われたことになります。 これは、週 30 日、XNUMX 日あたり XNUMX 件以上の編集を行っていることになります。 そして私はそれを比喩的に使っているわけではありません。ウィキペディアの編集には時間が設定されており、それをプロットしてみると、「フィリップ・クロス」のウィキペディア活動のタイムカードが XNUMX 人の個人であれば驚くべきものになります。

業務は時計仕掛けのように、年中無休、起きている時間ごとに、大きな変動もなく実行されます。

アンバサダー・マレーは、「フィリップ・クロス」によるウィキペディアページの編集量を、14年間の活動期間における曜日ごとの平均値として、以下のグラフで示しました。

このフィリップ・クロスとは一体誰なのか？ 上記のBBCの記事の後、クロスはウィキペディア史上最も活発な編集者ランキングで308位にランクインする荒らし行為から引退した。彼の以前のTwitterアカウント@philipcross63はもう存在しない。知っている人は誰も語らない。ギャロウェイはクロスを「現実的で傷つきやすい人物」だと考えている。

マレー大使は、ギャロウェイ氏がかつてこの人物または団体の身元情報に1,000ポンドの懸賞金を提示していたため、「法的措置を取る可能性もある」と指摘している。MediaLensは、「BBC Trendingは、彼がイングランドに住んでおり、フィリップ・クロスはウィキペディア以外で彼が普段使っている名前ではないことを突き止めた」と述べている。Everipedia.orgは、「クロス氏はジャズと演劇の愛好家である」と述べている。おそらく彼は、ビーチでの長い散歩や、ニューヨーク・タイムズ紙を手に暖炉の前でくつろぐことも好きだろうと私は推測する。

アンブ・マレーが提供するもの：

ここには XNUMX つのオプションがあります。 「フィリップ・クロス」は実に奇妙な人物であるか、ウィキペディアのコンテンツをコントロールするための有料作戦を装った偽りの人物であるか、あるいは彼の名を借りたそのような作戦の真のフロント人物であるかのいずれかである。

(NAIST) と

私の見解では、フィリップ・クロスはおそらく実在の人物ですが、彼の名前で活動しているグループの代表を務めているのではないかと考えています。 実際、政府が自慢しているのは、防衛省とGCHQの両方が、代替ニュースメディアに対して「公式」の報道を守ることを目的とした「サイバー戦争」作戦を行っているということである、そしてそれがまさに「フィリップ・クロス」の目的である、と政府が自慢しているのは、疑いようのない真実である。ウィキペディアでの操作。 出力の極端な規則性は、「フィリップ・クロス」が一人の人間またはボランティアの活動であることに異議を唱えます。 しかし、私は彼が本当にただの極度に執着した右翼狂信者である可能性を排除しません。

あるウィキペディア編集者は、非公式な場で、 「フィリップ・クロス」の異常な活動が明るみに出た場合、ウィキペディアの評判（もしあるとすれば）が損なわれるのではないかと懸念を表明した。

この話はハッピーエンドを迎えたのだろうか？2018年8月、Five Filtersが報じたところによると、「ウィキペディアの仲裁委員会（ArbCom）はついに、編集者フィリップ・クロス氏を『1978年以降のイギリス政治』のトピックから追放することを決定した」。しかし、そう簡単にはいかない。「しかし、ウィキペディアの仲裁委員会は、フィリップ・クロス氏の行為をコミュニティに警告しようとした編集者も罰するという、いささか卑劣な報復措置をとった」。

フィリップ・クロスの話は2018年に報道されたときに知っていましたが、当時はそれについての説明がありませんでした。 私にとってそれは不気味なほど奇妙に思えましたが、ボットや自然言語の自動化については考えていませんでした。 

最近のTwitterでの画期的な暴露により、組織的な検閲産業複合体（CIC）の存在とその規模が明らかになり、おそらく5年前の初期の形態における公的部門による検閲の疑念がはるかに現実味を帯びてきた。FiveFilters.orgは2018年に「Wikipediaのほぼすべては編集者のわずか1パーセントによって書かれている」と書いた。同じ記事では、Wikipediaの編集が集中していることについて、2017年にViceに掲載されたダニエル・オーバーハウスの記事を引用している。

しかし、百科事典が成長し、それに伴って協力者の数が増えるにつれて、熱心な編集者の幹部が現れ、それ以来ウィキペディアの成長の大部分を占めてきました。

マテイ氏と彼の同僚でサウスダコタ州立大学ジャーナリズム学科の助教授であるブライアン・ブリット氏は、機械学習アルゴリズムを使用して、ウィキペディア設立後最初の10年間の公開されている2億5000万件の編集ログをクロールした。9月に書籍として出版されたこの研究の結果は、ウィキペディアが自由な協力関係にある仲間たちのネットワークによって作られたサイトであるという建前にもかかわらず、「一部の仲間は他の仲間よりも平等である」ことを示唆している。

racket.news の長文記事では、CIC アクターが AI と自然言語処理を使用している複数の事例が挙げられています。たとえば、Public Goods Projectでは、

AI と自然言語処理を使用して、「事実確認を実行」し、「行動変容戦略を強化」するために、「物語、傾向、緊急の問題を特定、追跡、および対応」します。

イゴール・チョドフのサブスタックに掲載された最近の記事「ビル・ゲイツが出資したAIチャットボットがCOVIDワクチンを宣伝（ソーシャルネットワークで目にしたことがあるかもしれません）」では、nature.comの記事「タイ、香港、シンガポールにおけるCOVIDワクチンへの信頼と受容に対するチャットボットの効果」を引用し、情報操作のためにボットが使用されていることについてより詳しい情報を提供しています。

最近の高性能な大規模言語モデルの出現により、自動化という考えがより現実的になりました。 2018 年ではなかったとしても、LLM は現在、指定されたテキストをプロンプトの方向に傾けるように簡単に書き換えることができます。 

当時、これができるモデルはありましたか？ ウィキペディアの物語をコントロールする将来のキャンペーンはこのテクノロジーに依存するのでしょうか? 物議を醸すトピックの編集を自動化することで無料に近くなった場合、ウィキペディアのようなクラウドソーシングの知識ベースは、物議を醸すトピックの編集に人的時間と社会的相互作用という多大なコストがかかることに依存しており、その将来はどうなるでしょうか?