(訳者注：GOFCTについては「GOFCT」のカテゴリーの文書も参照)

人権NGOによるGIFCTへの連名の手紙

2020年7月30日 / Emma Llansó

2020年7月28日

ラスムセン氏へ。

私たち以下の団体は、「テロ対策のためのグローバル・インターネット・フォーラム」（以下、「GIFCT」）の再編成と今後の活動について、市民社会が共有する懸念と展望をお知らせするために、この手紙を書いています。ここ数年、私たちの多くは、オンライン上のコンテンツを規制する上でGIFCTが果たす役割が大きくなっていることについて、GIFCTの設立企業と懸念を語り合ってきました。その中には、独立諮問委員会（IAC）への政府の参加による超法規的な検閲のリスク、ハッシュデータベースの使用と範囲の拡大、GIFCTの活動に関する持続的な透明性の欠如などの懸念が含まれていました。また、IACの任務や構造についても、テロ対策の要である人権保護に焦点が当てられていないことや、市民社会に不利な不公平な競争条件、NGOの構造的独立性の欠如など、多くの問題点を指摘しました。

2月25日の書簡では、これらの懸念に対処するための詳細な提言を行っています。4月3日のGIFCT暫定事務局長からの私信を含め、これらの懸念がまだ解決されていないため、私たちはIACへの参加を申請しないことにしました。これは、GIFCTが私たちの懸念に対応していないのではないか、また、市民社会の参加は、私たちの本質的な問題や提案に実際に対応することなく、意見を述べているという印象を与えるのではないか、ということを示唆しています。真のマルチステークホルダー・エンゲージメントには、市民社会から提起された懸念に対して、持続的かつ誠実で、応答性の高いエンゲージメントが必要です。

先日発表されたIACは、貴殿の規約にもあるように、「GIFCTの活動が国際的な人権法に沿ったものであることを確認する」「透明性と説明責任を促進する」ことなどを目的としています。これは、人権問題の専門家からの批判にオープンに対応しなければ実現しません。しかし、GIFCTはこれまで私たちの批判に応えてこなかったため、私たちはIACへの参加を申請せず、IACはほとんど政府関係者と学者で構成されることになりました。

IACへの参加を見送ったにもかかわらず、私たちはこれまで提起してきた問題に取り組むことを約束します。なぜなら、GIFCTが人権を脅かす可能性のある大きな役割を世界的に担っていることは明らかであり、上記のような懸念があるにもかかわらず、私たちはワーキンググループの重点分野に貢献できる貴重な専門知識を持っているため、私たちの団体の一部はワーキンググループに参加します。

私たちはあなたにこれらの問題を警告し、今後の計画を話し合うために私たちと会うよう要請します。

また、GIFCTのビジョンや、GIFCTが既存のコンテンツ・モデレーションやテロ対策にどのように貢献するのかについても話し合いたいと思います。政府やテクノロジー企業の政策立案者は、人権への影響を評価することなく、また、人権保護のための適切な保護措置を講じることなく、コンテンツの修正をテロ対策のための手段として扱う傾向が強まっています。また、コンテンツの修正は、「暴力的過激主義」や「過激化」の根本原因を長期的により効果的に解決できるような他のプログラムを犠牲にして行われているようです。また、GIFCTは、法執行機関や専門家と協力して、暴力的過激主義やテロ対策に取り組んでいますが、透明性はなく、このような取り組みがもたらす潜在的な人権侵害について実際に評価することもありません。テロ対策プログラムや監視は、世界中のイスラム教徒やアラブ人、その他のグループの権利を侵害し、政府が市民社会を黙らせるために利用されてきました。私たちは、コンテンツの節度とテロ対策の境界が明確であることを保証したいと思います。

現在、GIFCTのメンバー企業が機械学習アルゴリズムを使ってコンテンツを検知・削除するケースが増えていますが、その際にミスが発生しています。テロリストのコンテンツを削除することを目的としたプロセスが、反テロリズムのカウンタースピーチ、風刺、ジャーナリズム資料など、ほとんどの民主的な法的枠組みのもとでは正当な言論とみなされるコンテンツを削除するという逆効果になっている証拠があります。特に、人権侵害の記録は驚くべき速さで消滅しています。これにより、ジャーナリズムや人道的活動が妨げられ、また、ジェノサイドなどの重大な犯罪の被害者に対する救済や加害者に対する説明責任を果たすための司法メカニズムの将来的な能力が損なわれています。貴重な証拠となりうるコンテンツの削除は、シリアやイエメンなど、イスラム教徒やアラビア語を話す人が多い国での紛争に関連して特に多く見られます。これらの問題について、また、プライバシー権と説明責任の必要性の両方を満たす方法で、貴重な証拠をどのように保存しようとしているのか、ご意見をお聞かせいただきたいと思います。

また、あなたは、米国政府の元職員として、暗号化が国家安全保障に与える危険性についても言及されています。特に、世界中の人権擁護者が暗号化を利用しており、彼らの通信が悪用された場合、生命や自由が脅かされる危険性があることを踏まえ、現在の暗号化に対する見解をお聞きしたいと思います。

最後に、近年、少なくとも米国では、右翼的な暴力的過激主義を重要な脅威と考えていることが明らかになりました。クライストチャーチ・コールのようなコンテンツ・モデレーションに関する最近の取り組みは、主にこの種のイデオロギーを信奉する個人による暴力的な行為に拍車をかけています。クライストチャーチ・コールはもちろん、2019年3月15日に白人至上主義者のガンマンが祈りの最中に51人のイスラム教徒を殺害したクライストチャーチの大虐殺に対応したものです。しかし、クライストチャーチの大虐殺に対応して制度的に強化されたGIFCTは、テロや過激派の暴力について国際的に合意された定義がなく、そのような右派の暴力的過激主義が大体において法的に認められていない、複雑なグローバル環境の中で活動を続けています。

「テロリズム」や「暴力的過激主義」に共通の定義がなければ、そのようなコンテンツに対するルールの策定や実施は、非常に主観的で、偏ったものになる可能性があるとしか考えられません。もちろん、これはGIFCTだけでは解決できない大きな問題です。しかし、私たちは、このような基盤の上にコンテンツ・モデレーションの枠組みを構築することには注意を払います。過激派の暴力的な脅威の範囲を理解されているあなたが、GIFCTがこのジレンマにどのようにアプローチすべきか、ご意見をお聞かせいただければ幸いです。

署名の下に、2月の書簡の全文を掲載しています。なお、2月の書簡と今回の書簡の署名者のリストは、重複していますが、同一ではありません。私たちは、これらの極めて重要な問題について、皆様と協力できることを楽しみにしています。また、皆様のご都合がよろしければ、電話やバーチャル会議で話し合う機会を持ちたいと思います。

謹んでお願い申し上げます。

アクセスナウ
第19条
Association for Progressive Communications（プログレッシブ・コミュニケーション協会
ブルーリンク
センター・フォー・デモクラシー＆テクノロジー
ジャーナリスト保護委員会（Committee to Protect Journalists
危険な発言プロジェクト
デジタルコンテンツ保護協会（Derechos Digitales
電子フロンティア財団
ヒューマン・ライツ・ウォッチ
プライバシー・インターナショナル
デジタル著作権ランキング
ライツ＆セキュリティ・インターナショナル
SMEX
シリア・アーカイブ
ウィットネス

———————

2020年2月25日

フェイスブック、グーグル、マイクロソフト、ツイッターの代表者の皆様。

私たち以下の団体は、「テロ対策のためのグローバル・インターネット・フォーラム」（以下、GIFCT）の独立諮問委員会（IAC）への参加に関心ある人々を募集していることを受けて、この書面を提出します。人権および市民的自由の団体である私たちの多くは、基本的人権を促進し、政府および企業の関係者が同様に説明責任を果たすことを目的として、オープンで誠実な交流の精神で、過去数年間、GIFCTの会合を通じて、御社と関わってきました。

この精神に基づき、本日、私たちは、IACについて、また、オンライン上のコンテンツを規制する上でGIFCTが果たす役割の拡大について、いくつかの重要な懸念をお伝えしたいと思います。私たちの団体の多くは、過去数年にわたり、共有ハッシュ・データベースの構築や、企業間でのコンテンツ削除の調整に伴うリスクについて深く懐疑的であること、GIFCTが「テロリズム」、「暴力的過激主義」、「過激主義」、およびそれらへの支援や扇動をどのように定義・区別しているのかが明確でないこと、政府がGIFCTを準公式機関として言及することが増えていることなど、懸念事項について皆様と話し合ってきました。残念ながら、GIFCTがこれらの問題に真摯に取り組んでいる姿はまだ見られません。実際、GIFCTが以下に述べる懸念事項に対処するために今すぐ大幅に方針を変更しない限り、IACへの市民社会の参加は、GIFCTがもたらす人権への真の脅威のための粉飾決算になると私たちは考えます。以上のような理由から、私たちの団体は今回、IACへの加盟を申請しません。

政府のGIFCTへの関与による法外な検閲

私たちは常に、GIFCTが自主的で業界のみの団体であるにもかかわらず、最終的には何らかの政府の権限が付与されたり、国家機関との関係が深まったりするのではないかと懸念してきました。これは、IACが正式に設立され、政府をメンバーに加えたことで生じていると思われます。政府はGIFCTでの影響力を利用して、会員企業の「コミュニティ・ガイドライン」やコンテンツ・モデレーション・ポリシーをさらに活用し、世界的な言論の排除を確保することはほぼ間違いないでしょう。

これは、政府や企業の責任を追及する正式なメカニズムを著しく弱体化させるだけでなく、保護された言論の検閲を強化し、独立したジャーナリズムや研究を妨げ、戦争犯罪の起訴につながる証拠を隠蔽または破壊することになるのは必至です。私たちは、長年の経験と証拠から、GIFCTのメンバーがすでに「コミュニティ・ガイドライン」のもとで、例えば「暴力的過激主義への支持」を構成するものについて幅広い定義を用いたり、各国政府が発行したテロ組織への所属を判断するためのリストに依拠したりすることで、保護された言論のかなりの部分を削除していることを知っています。私たちは、「コミュニティガイドライン」に基づく削除に対する政府の影響力の増大が、ユーザーの表現の自由をさらに弱める結果になることを強く懸念しています。

共有ハッシュデータベースの範囲と利用方法の拡大

2017年のGIFCTの立ち上げに先立ち、2016年12月の共有ハッシュデータベースの立ち上げにより、我々の組織の多くは、プラットフォーム間でのコンテンツ削除に焦点を当てた集中型リソースの存在について懸念を表明しました。このような一元化されたレポジトリは、「テロリスト」コンテンツの特異な定義に基づく各企業の貢献に基づいており、「テロリズム」の最低公約数的な定義を生み出す危険性があり、「テロリスト」および「暴力的過激派」コンテンツの意味についてグローバルなコンセンサスが存在するという誤った概念を永続させます。さらに、私たちは、このデータベースを作成するために使用された定義と分類法が、差別的な方法で適用されていることを懸念しています。クライストチャーチ・コールは、白人至上主義者がクライストチャーチのイスラム教徒コミュニティを襲撃したことに対する反応であり、GIFCTの注目度は大きく上がりましたが、GIFCTがイスラム教に関連した暴力的過激派やテロリストのコンテンツと見なす範囲を超えていることを示すものを見てきていません。

各参加企業が、これらの用語の独自の定義に基づいて、自社のサービスから特定の投稿を削除するかどうかを個別に判断する権利を保持していることは理解していますが、実際には、小規模な企業が個別のレビューを行うリソースを持たないために、データベースを利用して削除を自動化することが懸念されます。また、大手企業であっても、コンテンツの削除判断を自動化することがあることも理解しています。その結果、戦争犯罪の証拠が隠滅されたり、政府の政策や企業、暴力的過激主義に異議を唱える言論など、批判的な表現が抑圧されたりしており、今後もその傾向は続くでしょう。コンテンツの審査に人間が関与している場合でも、企業のモデレーションシステムでは、テロリズムを扇動するような内容と、人権侵害に関する正当な報道との間のニュアンスの違いを見分けることができないことが多くなっています。

GIFCTの活動に関する透明性の持続的欠如

私たちの団体の多くは、GIFCTとそのメンバー企業に対し、GIFCTのメンバー構成、活動、政府との関係について、公的な透明性を高めるよう求めてきました。私たちは、昨年発表されたGIFCTの最初の透明性報告書を歓迎しましたが、GIFCTは、特に政府関係者との関係を公式化するにあたり、より詳細で意味のある情報を定期的に発表しなければなりません。私たちは、IACに対する透明性だけでは不十分であることを強調します。GIFCTのメンバー企業が下す決定は、世界中の個人やコミュニティに影響を与えます。

共有ハッシュデータベースの存在そのものに対する懸念に加えて、私たちの団体の多くは、ハッシュデータベースの透明性の低さを繰り返し強調してきました。どのようなコンテンツがハッシュデータベースで表現されているのか、GIFCTメンバー企業以外の人にはほとんど見えません。私たちは、共有ハッシュデータベースがハッシュの集合体であり、それ自体がレビューされうるコンテンツのリポジトリではないことを理解しています。しかし、このことは、例えば、保護された言論が検閲されているのか、戦争犯罪の証拠やその他の貴重な証拠が破壊されているのかどうかを客観的に評価することができない共有コンテンツ除去資源をGIFCTが維持しているという根本的な懸念に対する答えにはなりません。

NGOの独立性と役割

私たちは、GIFCT/IACと、NGOとしての私たちの役割についても、いくつかの懸念を抱いています。私たちは、人権、法の支配、ガバナンス、テクノロジーが社会に与える影響など、さまざまな問題について公に発言する私たちの独立性と能力を高く評価しています。IACに参加している政府から資金提供を受けたり、監視や報復の脅威にさらされたりするNGOもあるため、IACで政府と一緒に活動することは、私たちの能力を損なう可能性があります。

また、法執行機関を含む政府関係者と市民社会組織を代表する個人との間の力関係によって、私たちの交流が本質的に不平等なものになってしまうという懸念もあります。私たちは、民間企業、市民社会、政府が参加するマルチステークホルダー・イニシアチブについてさまざまな経験をしてきましたが、こうした状況で企業が政府関係者に対して不透明かつ従順な態度で振る舞うと、政府はこれらのイニシアチブの結果に並々ならぬ影響力を持つことになります。実際、これまでのGIFCTにおける私たちの経験では、政府はGIFCTの将来に関する交渉に直接関与しているのに対し、市民社会はほとんど相談されることなく後回しにされてきました。このような状況では、人権を侵害するような決定を阻止したり、修正したり、覆したり、政府が推進する政策や行動に責任を持たせることが非常に困難になります。私たちは、IACの構造が、GIFCTに対する政府の影響力を強めるだけではないかと懸念しています。

私たちは、GIFCTが人権を守るための信頼できる団体であるとみなされるためには、GIFCTのメンバーは少なくとも以下のことをすべきであると考えます。

• 非営利団体であることに関連するものも含め、GIFCTに起因する表現の自由およびその他の人権に対するリスクについて、独立した評価を実施し、公に共有すること。この評価には以下が含まれるべきです。
  • GIFCTがユーザーデータの開示を余儀なくされる可能性のある法律を含む、GIFCTが活動する法的環境の徹底的な分析。
  • 以下のような人権上のリスクを分析すること。
    • コンテンツ・モデレーション・ポリシーに基づき、合法的なコンテンツを削除するよう、政府が参加企業に圧力や影響を与えること。
    • テロリスト」または「過激派」コンテンツを削除するための過度に広範で差別的な基準の使用。
    • 自動削除または人による審査のためにコンテンツを識別する手段としてのハッシュ・マッチングの使用。
    • ハッシュデータベースの内容と運用に関する透明性の欠如。
    • GIFCTが政府やその他の団体と関係を持つ可能性があること。
  • 特定されたリスクをGIFCTがどのように軽減するかを示す計画。これには、権利に害を及ぼす行為があった場合に是正されることを保証するための、信頼できる効果的なプロセスを含む。
• ハッシュ・データベースに反映されているコンテンツの独立した外部監査またはレビューを受け入れることを約束し、ハッシュ・データベースが反映している素材の継続的に更新されるリポジトリを作成すること、またはメンバー企業に個別にそうすることを求めることを含め、そのために必要なあらゆる手段を講じること。
• ハッシュ・データベースの運用およびハッシュ・データベースに反映されているコンテンツを含む、GIFCTの慣行に関する情報を公開することを優先してください。

私たちは、率直な精神で、継続的な対話を目的として、これらの懸念と提言を皆様と共有します。私たちは、これらが複雑な課題であり、表現の自由と開かれたインターネットを維持するためのグローバルな環境が、これまで以上に厳しいものであることを承知しています。

アクセスナウ
アムネスティ・インターナショナル
ARTICLE 19
Association for Progressive Communications (APC)
ブルーリンク財団
センター・フォー・デモクラシー＆テクノロジー
ジャーナリスト保護委員会（Committee to Protect Journalists
危険な発言プロジェクト
デジタル遺族会
電子フロンティア財団
ヒューマン・ライツ・ウォッチ
国際法律家委員会（International Commission of Jurists
プライバシー・インターナショナル
デジタル著作権ランキング
ライツ・ウォッチ（英国
SMEX
シリア・アーカイブ
ウィットネス

出典：Human Rights NGOs in Coalition Letter to GIFCT July 30, 2020 / Emma Llansó

https://cdt.org/insights/human-rights-ngos-in-coalition-letter-to-gifct/

付記：下訳にhttps://www.deepl.com/ja/translatorを用いました。