(画像キャプション)シャドーバンニングの歴史はインターネットの初期にまでさかのぼる。Vox; MirageC/Getty Images

By A.W. Ohlheiser 10月 29, 2023, 8:00am EDT

*著者について)A.W. OhlheiserはVoxのシニアテクノロジー記者で、テクノロジーが人間や社会に与える影響について報告書を書いている。また、ワシントン・ポスト紙、スレート紙、コロンビア・ジャーナリズム・レビュー紙などでオンライン文化や誤報を担当している。ニューヨーク大学で宗教学とジャーナリズムの修士号を取得している。

---

「アルゴスピーク（Algospeak）」とは、ソーシャルメディア上の自動モデレーションを回避するための戦術であり、そこではユーザーは、AIを搭載したフィルターによってピックアップされる可能性のあるキーワードの代わりに、新しい単語を作成して使う。人々は、死者を「unalive」、セックスを「seggs」、ポルノを「corn」（または単にコーンの絵文字）と表現したりするのだ。

パレスチナ人にもアルゴスピーク用語がある： “P*les+in1ans “だ。その存在そのものが、ハマスとイスラエルの戦争中に親パレスチナ的なコンテンツを投稿したり共有したりしている多くの人々の間で、彼らの投稿が不当に弾圧されているのではないかという懸念を物語っている。一部のユーザーは、自分のアカウントや特定のハッシュタグが「シャドーバンニング」されていると考えている。

アルゴスピークは、TikTok、InstagramとFacebookのようなプラットフォームで弾圧をかわすためにユーザーが開発した方法のひとつに過ぎない。人々は関係のないハッシュタグを使用したり、再投稿の代わりにスクリーンショットを撮ったり、アラビア語のハッシュタグの使用を避けたりして、パレスチナに関するコンテンツの制限を回避しようとしている。これらの方法が本当に機能するかどうかは定かではないが、活動家の間やインターネット上で広まっていることは、このようなコンテンツが世界中で隠されることへの真の恐怖を物語っている。

「シャドーバンニング」は、考え方として多くの人に広まっているが、証明するのは難しく、定義するのは必ずしも容易ではない。以下は、その歴史、現れ方、ソーシャルメディア・ユーザーとしてできることについてのガイドである。

シャドーバンニングとは何か？

シャドーバンニングとは、あるコンテンツを完全に禁止するのではなく、そのコンテンツを見る人を制限するためにしばしば秘密裏に行われるプラットフォーム・モデレーションの一形態である。Viceがこの用語の歴史を調査したところ、その起源は1980年代のインターネット掲示板システムにまで遡るようだ。

初期のシャドーバンニングは、デジタル隔離のように機能していた。つまり、 シャドーバンニングされたユーザーは、ログインしてコミュニティに投稿することはできるが、その投稿を他の誰も見ることはできない。彼らは存在するが、封じ込められているのだ。もし誰かが、掲示板にひどいことを書き込んだとして、サイトの管理者の一人からシャドーバンニングを受けたとしたら、その人は実質的に、そうとは知らずに、投稿を無意味なものに降格されられることになるだろう。

ソーシャルメディアが進化するにつれて、コミュニティがオンラインで形成され、集まる方法は大きく変わり、シャドーバンニングの定義も拡大した。人々は、アカウントを作成し、コミュニティの仮想空間に投稿するだけでなく、サイトのアルゴリズムや発見ツールを使ってエンゲージメントを得る方法を理解し、影響力のあるユーザーから再シェアを得たり、広告を購入したり、自分自身のフォロワーを作ったりすることで、オンラインで注目されるようになる。ユーザーがより多くの人の目に触れ、自動化されたフィルターを通して機能するようになるにつれ、モデレーティングはより複雑になっていった。

電子フロンティア財団（EFF）の国際的な表現の自由担当ディレクターであるジリアン・ヨークは、このような時点でシャドーバンニングとは、「ユーザーのプロフィールが表示される可能性のある検索やアルゴリズム、その他の領域からユーザーを隠す、実に不透明な方法」を意味するようになった、と語る。ユーザーは自分がシャドーバンニングされたことに気づかないかもしれない。その代わりに、例えば「いいね！」やリポストが突然減るなど、その影響に気づくかもしれない。彼らのフォロワーも、シャドーバンニングされたアカウントが投稿したコンテンツを見たりシェアしたりすることに支障が出るかもしれない。

あなたがアメリカにいる人なら、シャドーバンニングという言葉を知っているかもしれない。保守派の活動家や政治家が、ソーシャルメディア、特にFacebookやTwitter（現在X）が、右派の意見を意図的に検閲していると思い込んでいるのだ。これは、訴訟や議会の公聴会を引き起こした数年にわたるキャンペーンの一環である。

これらのプラットフォームが保守派に対して組織的な検閲を行っていたという証拠は乏しいが、多くのフォロワーを持つ著名な右翼のアカウントに対してプラットフォームが行動を起こすたびに、この考えは広まるようだ。最高裁は最近、テキサス州とフロリダ州で、ソーシャルメディア企業が自社のサイトをモデレートする方法を制限する法律を争う2件の裁判を審理することに合意した。

イスラエルとハマスの戦争に関連して、なぜ人々はシャドーバンニングを懸念するのか？

戦争は、暴力的なイメージ、プロパガンダ、誤った情報をオンライン上に大量に生み出し、急速なスピードで拡散し、それを見た人々の激しい感情的反応を引き起こす。それは避けられないことだ。活動家やデジタル上の権利のオブザーバーが懸念しているのは、パレスチナ人に関するコンテンツがプラットフォームのモデレーション・システムによって公平に扱われておらず、とりわけシャドーバンニングにつながっているということだ。

明白なアカウント禁止は、アカウント所有者にも、プラットフォーム上の他の誰にでもかなり見える。誤報に対抗するために設計されたモデレーション・ツールの中には、インフォメーション・ボックスや注意でコンテンツに公にフラグを立てるものもある。それに比べてシャドーバンニングは、公にラベル付けされることはなく、プラットフォームはユーザーに対して、そのアカウントのサービスの提供が制限されていることや、その制限の理由を伝えないかもしれない。しかし、パレスチナについて投稿した後にシャドーバンニングされるかもしれないという兆候に気づいたユーザーもいる。Mashableによると、Instagramユーザーが、連帯のために位置情報をガザに設定して投稿したり、パレスチナの人々を支援するための募金活動へのリンクをシェアしたり、パレスチナを支援するコンテンツを投稿したりした後、エンゲージメントが低下したという。

EFFや7amleh-The Arab Center for Social Media Advancementを含むいくつかのデジタル上の権利団体は、紛争中のパレスチナ人に対するデジタル上の権利侵害の可能性を積極的に追跡しており、特にInstagramでは、パレスチナ人活動家の一部が、ここ数週間で自分たちのコンテンツの流通の仕方に大きな変化が生じていることに気づいている。

7amlehの共同創設者でディレクターのNadim Nashifは、VoxへのEメールに「これらには、最近のエスカレーション（つまりイスラエルとハマスの戦争）に対して、アラビア語の名前を使用することを禁止する一方で、ヘブライ語の名前を許可すること、友達でないプロフィールからのコメントを制限すること、そして…投稿、Reels[Instagramの動画共有機能の一つ]、ストーリーの可視性を著しく低下させることが含まれる」と書いている。

Metaは声明の中で、一部のパレスチナ人ユーザーに影響を与えた投稿の可視性の問題は、世界的な「バグ」によるものであり、Instagramのハッシュタグの一部が検索できなくなったのは、それを使用するコンテンツの一部がMetaのルールに違反したためだと述べている。Metaの声明では、このポリシーに基づいて制限された特定のハッシュタグの名前は挙げていない。

パレスチナ人のデジタル上の権利の活動家であるMona Shtayaは、Instagramでハッシュタグ・シャドーバンを「政治的な考えを共有したり、人権侵害を記録したりする人々に対する集団的懲罰」であり、ガザの状況について事実を確認し、正確な情報を共有する努力に悪影響を与えるものだと指摘した。

シャドーバニングとモデレーションバイアスの違いは何か？

シャドーバンニングは、デジタル上の権利の専門家たちが追跡しているプラットフォームのルール実施における潜在的な偏見という、より広範な問題の一側面にすぎない。そしてこれは、親パレスチナ派のコンテンツにとって新しい問題ではない。

モデレーション・バイアスは「さまざまな種類があり、必ずしも意識的に行われるとは限らない」とヨークは言う。ヨークは、Metaのような米国を拠点とするプラットフォームがアラビア語のコンテンツをどのようにモデレートしているかが長い間問題になっていると述べた。「アラビア語のコンテンツモデレーターは相当数いるかもしれないが、アラビア語はさまざまな方言にまたがっているため、彼らは苦労している」と彼女は指摘する。

バイアスは、特定の用語がモデレーション・アルゴリズムによってどのように分類されるかにも現れる。私たちは、このような特定のバイアスがパレスチナのコンテンツに影響を与える可能性があることを、以前にも起きていたために、知っている。2021年、ハマスとイスラエルの対立が激化していたとき、デジタル上の権利団体は、親パレスチナ的な気持ちを不当にターゲットにしていると思われる何百ものコンテンツ削除を記録している。Metaは事実上、同社のシステムがムスリムにとっての聖地であるアル・アクサ・モスクへの言及をブロックしていたことを認めた。

Metaは2021年の紛争時のモデレーションの決定について独立した報告書を依託し、文脈に沿ったアラビア語の投稿のモデレーションにおけるMetaの弱点を明らかにした。報告書はまた、Metaの決定がパレスチナ人ユーザーの 「表現の自由、集会の自由、政治参加の自由、差別を受けない権利 」に 「人権上の悪影響を与えたと思われる 」ことを明らかにした。

報告書を受け、Metaは関連ポリシーをレビューし、特定の方言に精通したモデレーターを増員するなど、アラビア語のモデレーションを改善することを約束した。Metaは現在、イスラエルとハマスの戦争コンテンツのモデレーションを、ヘブライ語とアラビア語の専門知識を持つ一カ所に集中したグループによって主導しているという。いくつかのコンテンツ削除は、コンテンツが誤って削除されたアカウントが自動的にBANされるのを避けるため、アカウントの “ストライク “なしで行われている、と同社は付け加えた。

シャドーバンニングされる他のコンテンツとは？

シャドーバンニングの主張は、意見の分かれる問題と関連している。しかし、おそらく最もよく文書化されているケースは、主要なプラットフォームがヌードやセックスに関するコンテンツをどのように扱うかに関係している。セックス・ワーカーは、特に2018年に性売買の阻止を目的とした2つの法案が可決され、セックスに関する幅広いコンテンツをホストしていたオンラインプラットフォームの保護が削除された後、主要なソーシャルメディアプラットフォームでのシャドーバンニングを長い間記録してきた。

一般的に、シャドーバンニングは、ある種のコンテンツを直接制限する行為がプラットフォームにとって問題になりそうな場合に、プラットフォームにとって都合の良いモデレーションツールになるとヨークは言う。

「彼らは人々を完全に遮断しているとは見られたくないのです」と彼女は言う。「しかし、政府であれ、株主であれ、広告主であれ、様々な方面から圧力を受けている場合、ある種の言論を抑制しようとする一方で、人々がプラットフォームに留まることを認めることは、おそらく彼らにとって利益になるはずです」と彼女は言う。

TikTokのコミュニティガイドラインによると、TikTokのコンテンツもシャドーバンニングされる可能性があり、違反した場合、プラットフォームは「検索結果をリダイレクトしたり、”For You “フィードで動画を推薦できないようにしたりするなど、発見性を低下させる可能性がある」と記している。Instagram、YouTube、Xのような他のプラットフォームは、それぞれのモデレーションシステムによって定義された「境界線」や不適切なコンテンツのランクを下げたり、サービスを提供しないようにするツールを使用している。

企業がシャドーバンニングの事実を認めない限り、シャドーバンニングを証明することは不可能ではないにせよ非常に難しいが、シャドーバンニングの定義には当てはまらないものの、これらのモデレーションシステムに内在するバイアスの事例がいくつか記録されている。TikTokは2021年、ブランドのスポンサードコンテンツを作成できるクリエイターのデータベースのために、クリエイターがマーケティングの経歴に「黒人」や「黒人の成功」といったフレーズを使用することを自動的に禁止する誤りを修正することを迫られた。2017年、LGBTQのクリエイターたちは、YouTubeが、LGBTQの人々が登場する何の変哲もない動画を「制限付きコンテンツ」とし、視聴を制限していることを発見した。

自分のアカウントがシャドーバンニングされたかどうか、どうやって見分けるのか？

これは難しいことだ！「この件について、人々はしばしば企業にガス抜きされているように感じます」とヨークは言う。「多くのプラットフォームは、シャドーバンニングの存在を認めない」と彼女は続ける。たとえ、キーワードフィルターやアカウント制限のような自動モデレーションツールを使用していたとしても、シャドーバンニングを行うことができる。また、フォロワーの減少やエンゲージメントの低下など、シャドーバンニングの兆候を示すものの中には、ユーザーのコンテンツへの関心が関連して失われたり、正当なソフトウェアのバグによって説明できるものもある。

プラットフォーム独自のサイトの中には、アカウントを分析し、シャドーバンニングされたかどうかを知らせてくれると約束しているものもあるが、それらのツールは確実ではない。(サードパーティーのサイトにアカウント情報を提供することにも注意が必要だ）。解決策はひとつある、とヨークは言う。つまり、企業は、取り下げたり制限したりするコンテンツについてもっと透明性を高め、その理由を説明することができるはずだ、という。

紛争に関する適切な情報を見つけることは、すでに困難になっている。イスラエルとハマスの戦争について、特にガザについて詳しく知ろうとする人にとってはなおさらだ。ガザの現地でレポートを書けるジャーナリストはほとんどおらず、現地の状況を検証し、文脈を明らかにすることは極めて困難だ。the Committee to Protect Journalistsによると、この記事を書いている時点で、戦争が始まってから29人のジャーナリストが亡くなっている。この信頼できる情報の危機にシャドーバンニングの恐怖が加われば、より多くの人々に生の声を伝え、増幅させるための手段がまた一つ脅かされることになる。

https://www.vox.com/technology/23933846/shadowbanning-meta-israel-hamas-war-palestine