Howdy! How can we help you?
(algorithmwatch)偽情報を無視してはならない（無視できない）理由
(訳者前書き)以下は、Algorithmwatchのサイトに掲載されているAutomated Societyのメールニュース(2025/1/30受信)の記事を訳したものだ。トランプ政権の誕生はSNSの言論空間に以前とは異なる深刻な歪みをもたらしている。それは、トランプ政権にとって都合のよいようなコンテンツ環境を正当化しようとするビッグテックのかなり露骨な振舞いだ。そのわかりやすい例がザッカーバーグによる偽情報の規制撤廃ともいえるポリシーになる。一見すると「表現の自由」のための検閲の緩和のようにみえるが、実際には、たぶん、政権にとって不都合な情報が偽情報のフラグを立てられて、その拡散が抑制されることになる可能性が高いと私は推測している。
AlgorithmWatchは、自身のサイトで自身について「ベルリンとチューリッヒを拠点とする非政府、非営利団体である。私たちは、アルゴリズムと人工知能（AI）が正義、人権、民主主義、持続可能性を弱めるのではなく、それらを強化する世界のために闘う」団体と記述している。(小倉利丸)
「Automated Society」第126号へようこそ！
偽情報はまるでヒュドラの頭のようだ。1つの頭を切り落としても、また別の頭が生えてくる。しかし、偽情報と闘うために多くの人々が団結すればするほど、私たちの取り組みはより強固なものとなる。だからこそ、今回は私の技術研究部門の同僚であるオリバー・マーシュと力を合わせて、偽情報は実はそれほど問題ではないという神話を覆すことにした。
このメールは転送されたものですか？ こちらから購読できます。
Naiara Bellio & Oliver Marsh
過剰な誇張。偽情報については、多くの偽情報、あるいは単に一般的に質の悪い議論が存在する。多くの人々が、ソーシャルメディア上で拡散された誤ったコンテンツが、過激な選挙結果の原因であると主張している。これは2016年のブレグジットやドナルド・トランプの勝利後に見られた。最近では、2024年の選挙の多くに影響を及ぼす可能性があるとして、人工知能やディープフェイクの使用について多くの懸念が寄せられている。これは、人々がオンライン投稿の数件でだまされて投票を変えるだろうという上から目線のストーリーを好むという、真の民主主義への不満を無視している。
さまざまなメディアや人々が、偽情報は誇張された空虚なストーリーだと主張している。最近発表された学術論文「Why misinformation must not be ignored（なぜ誤情報を無視してはならないのか）」では、選挙全体を左右するほどの大げさなものではないにしても、偽情報が（すでに周縁化されたグループを含む）有害な影響を及ぼすケースがあることを指摘している。偽情報は有害な考えを広めたり、暴力を助長することさえあり、最近英国で起きたように、ソーシャルメディア上の誤った主張（サウスポートのナイフ襲撃事件はムスリム移民によるものという主張）をきっかけに、極右派のデモ隊が移民やモスクに反対して街頭に繰り出した。
不当な判断。「偽情報がどれほど大きな問題なのか」というこれらすべての議論は、全体像を見失っている。偽情報が引き起こす、あるいは引き起こさない問題が何であれ、それらに対処するには、私たちはビッグテック企業のオーナーたちの善意に頼り過ぎている。偽情報を最も積極的に否定している人々の中には、MetaのCEOであるMark Zuckerbergがいる。当然ながら、彼のプラットフォームは多くの偽情報の問題に関与してきた。第三者による事実確認プログラムを約5年間サポートして来た後、ザッカーバーグは突然、それを中止することを決定した。その理由は、「一種の検閲だからだ」という口実によるものだった。彼は、Xのようなコミュニティノートシステムの方がより効果的で信頼性が高いと主張している。
他のデジタルプラットフォームと同様に、Metaはコンテンツの規模に対処するために、特定のポリシーに違反するコンテンツにラベルを付ける自動システムを使用している。これらのアルゴリズムによる決定は、理屈の上では人間の校閲者の審査を受けることも可能である。しかし、ここ数年でMetaはこうした校閲者の多くを解雇し、それによってこうしたレビューは制限されてきた。また、システムは欺かれることもある。例えば、ポルノコンテンツはFacebookでは個々のユーザーフィードから削除されるが、AI Forensicsが発見したように、広告システムを通じてアップロードされると、促進されているように見える。また、システムは間違いを犯すこともある。今週、Instagramは一時的に、ハッシュタグ「#democrat」と「#democrats」の検索結果を表示しなかった。一方、ハッシュタグ「#republican」では、ソーシャルメディアプラットフォーム上で330万件の投稿が返された。
自動化の限界。しかし、一般的に「偽情報」はFacebookやInstagramから削除されることはなく、また、これらのシステムがそのようなコンテンツを削除することを意図したこともない。誤った情報や誤解を招くようなコンテンツは、例えば裸の画像や著作権のある動画のように、自動化されたシステムでは簡単に検出できない。そもそも、このようなより微妙な判断を行うために、独立したファクトチェック担当者が採用されたのだ。
一部の報道では、コンテンツのラベル付けはごく一部にとどまると報じられているが、EUのデジタルサービス法（DSA）に基づきMetaが発表したこの他のデータによると、昨年4月から10月にかけて、Facebookでは約1900万件、Instagramでは7万3000件の投稿が「ファクトチェック済み誤情報」として降格されたという。このコンテンツは削除されることはないが、自動化された機能を使用するなどして、拡散を最小限に抑えるための措置が取られている。
差別リスク。最近の変更は、真に問題を解決するために提案されたものではなく、むしろ米国の政治情勢やプラットフォーム所有者の利益によって推進されたものである（Metaがコミュニティポリシーを調整し、トランスジェンダーや同性愛を精神疾患と関連付けることを許したことなどを参照）。偽陽性（ラベル付けされるべきではないコンテンツにラベル付けすること）よりも偽陰性（ポリシー違反の可能性があるコンテンツにラベル付けしないこと）を優先するために、全体的なモデレーションアプローチを放棄することは、問題のひとつである。しかし、米国新政権を喜ばせるようなやり方で行うのは、まったく別問題である。
これらの変更に注目が集まることで、おそらく人々はすでに疎外されているグループを攻撃する動機づけをされるだろう。私たちが見たように、イーロン・マスクがTwitter上で以前に禁止されたアカウントを再び歓迎すると公に発表したことで、反ユダヤ主義と女性嫌悪が急増した。
混乱を反映している。これはヨーロッパに影響を与えないわけではない。特にファクトチェック機能の削除など、一部の変更は当初は米国のみに適用されるが、将来的には他の国々にも適用される青写真となる可能性がある。コンテンツモデレーションの変更は世界共通のようだ。DSA[EUのデジタル・サービス法]の下では、プラットフォームは、関連するシステムリスクを考慮し、適切に軽減していることを示せさえすれば、自らが適切と考える措置を自由に講じることができる。Meta自身の最近のDSAリスク報告書では、ファクトチェックがリスク軽減の重要な要素として挙げられている。しかし、それでも同社は同プログラムの廃止を決定した。
DSAは、ザッカーバーグが主張するような検閲ツールではなく、プラットフォームとその管理上の決定を検証するためのデータを提供してくれる。今、最も影響力のある議論は、マー・ア・ラゴやシリコンバレーで行われている偏狭で政治的な自己中心的なものだ。そして、私たち残りの者は、次に何が起こるのかを固唾をのんで見守っている。
https://r.algorithmwatch.org/nl3/451WBMe3Dp0s4zExe15X-g
