クライストチャーチ・コール – 人権を犠牲にした見せかけのテロ対策？

EDRiによる – 2019年5月22日

ニュージーランドのジャシンダ・アーダン首相は、2019年3月15日に自国のモスクが襲撃されたクライストチャーチのテロ事件への対応において、思いやりと共感性に富んだリーダーシップを発揮した。5月16日、パリでアーダンはフランスのエマニュエル・マクロン大統領と共同で、「テロリズムと暴力主義的なコンテンツをオンラインで排除するためのクライストチャーチ行動宣言」を発表した。

その前日、EDRiはニュージーランド政府が開催した市民社会と学識経験者との会合に参加した。この会議の目的は、呼びかけを発表し、呼びかけの実施とテロと白人至上主義に対抗するための共同活動に関する今後の提言を聞くことだった。

ニュージーランド政府のアプローチは賢明であり、行動要請の最終文書には自由で開かれたインターネットのための人権保障措置が含まれているが、このイニシアティブは疑問のある企業や政府の慣行に依存しているため素朴であり、テロとの闘いにとって非効率であり、深刻な人権侵害への扉を開くことになる。

“犠牲となったプロセス”

アーダン自身の言葉を借りれば、Tech for Good会議とG7デジタル大臣会合の開催に合わせ、迅速なプロセスと呼びかけを開始するために、市民社会の協議が「犠牲にされた」のである。NGOや、ジャーナリスト、学者、技術者などのステークホルダーは、呼びかけの最終決定までに寄稿する機会を得ることができなかった。急ぎのスケジュールは、プロセスへの有意義な参加の障害となった。パリでの協議会に反人種主義団体やグローバル・サウスからの団体が参加していないことは、グローバルに「暴力主義」に取り組むと称するイニシアチブにとって大きなギャップである。

ソーシャルメディアのビジネスモデルへの対処の失敗

この呼びかけでは、Google、Amazon、Facebook、Appleに署名してもらうために、ビジネスモデルへの批判や 疑問は差し控えている。しかし、偏向的、暴力的、あるいは違法なコンテンツを見せることで増加する行動ターゲティング広告収入を主な収益源としている限り、システム全体がそうしたコンテンツを促進し、人々がそれを共有するよう導き続けることになるだろう。人間の本性とそのあらゆる依存症は、不透明な人工知能によって奨励され、増幅される。

人権への懸念

国家当局がより大きな問題に対してビッグテックを招集することができないため、クライストチャーチの呼びかけでは、広範で定義が不明確なコンテンツの削除とフィルタリングに重点が置かれている。「テロリズムや暴力的過激主義的」コンテンツは、法執行当局や企業の評価に委ねられる可能性があり、人種差別のリスクを抱える団体、人権擁護者、市民社会組織、政治活動家などの正当な異議申し立てに対して恣意的に行われるリスクをはらんでいる。アップロードフィルターやコンテンツの迅速な削除といった解決策は、検閲になりかねず、欧州委員会が「偏見や固有のエラー、差別が誤った判断につながる可能性がある」と述べているように、エラーが起こりやすいものである。また、シリア戦争での例が示すように、団体や政府によって行われた人権侵害のかけがえのない独自の証拠も消失する可能性がある。国連の人権とテロ対策に関する特別報告者は、テロ対策や安全保障政策の影響を受ける人々の約67％が人権擁護者であると推定している。

説明責任も救済の可能性もないまま、取り締まりの権限や表現の自由の規制を民間に委ねることは、法の支配にとって大きな問題である。何が合法で何が非合法かを評価する上で、企業のサービス規約は法律に取って代わるものではありえない。この問題に加えて、実際に違法なテロコンテンツだけが削除されたかどうかを校閲する仕組みが必要だ。そうでなければ、ニュージーランドよりも法の支配を尊重しない国々で、人権がリスクにさらされることになる。

コンテンツのアップロードを防止したり、削除したりするためのアルゴリズムは透明性がなく、説明責任や救済の仕組みがない。したがって、説明責任を果たさないコンテンツの削除や、コンテンツの過剰な削除に対するインセンティブは、明確に否定されなければならない。同様に、法執行機関は、コンテンツの削除要請に関する透明性レポート（これらの要請の結果として開かれた捜査や刑事事件の数を含む）の提出を義務づけられることによって、説明責任を果たさなければならない。今後開催されるG7ビアリッツ・サミット、フランスとイギリスのオンライン危害/プラットフォーム義務提案、EUのオンラインテロコンテンツ規制など、広範な「オンライン有害コンテンツ」に対応するイニシアティブが多数存在する。表現の自由を制限するリスクのあるイニシアチブの全体的な影響は、証拠に基づいて評価される必要がある。これは現在のところ、そうなっていない。

オンライン、オフラインを問わず、テロと効果的に闘うためには、より広範な社会的取り組みが必要である。これには、教育、社会的包摂、緊縮財政の影響への疑問、ヘイトスピーチや汚名を着せるようなレトリックを使う政治家への説明責任、真のコミュニティの関与が含まれる。

YouTubeとFacebookの統計が教えてくれないこと (24.04.219)
https://edri.org/what-the-youtube-and-facebook-statistics-arent-telling-us/

欧州委員会活動文書 – テロコンテンツのオンライン普及防止に関する欧州議会および理事会の規則提案に伴う影響評価（2018.09.12）。
https://ec.europa.eu/commission/sites/beta-political/files/soteu2018-preventing-terrorist-content-online-swd-408_en.pdf

テロに対抗しつつ人権と基本的自由を促進・保護するための特別報告者レポート テロと暴力主義に対処するための措置が市民空間を閉鎖し、市民社会活動家や人権擁護者の権利を侵害することに果たす役割について (2019.02.18)
https://www.ohchr.org/Documents/Issues/Terrorism/SR/A_HRC_40_52_EN.pdf

(寄稿：EDRiのClaire Fernandez氏）
出典：https://edri.org/our-work/christchurch-call-pseudo-counter-terrorism-at-the-cost-of-human-rights/