ザ・ダイジェスト 2021年4月号

AIと人権：新しいフレームワークはどう評価されるのか？

先月のダイジェストで紹介したように、人工知能（AI）の開発、利用、管理のあり方について、世界各地でさまざまな取り組みが行われている。

4月は、欧州評議会、ユネスコ、欧州連合（EU）で大きな進展があり、この点で多忙な月となった。これら3つのプロセスの成果は、性質や形態が異なるものの、いずれも最終的には同じことを達成しようとしている。つまり、AI技術に対する国家レベルの規制とガバナンスを形成することだ。

●欧州評議会は、データ保護やサイバー犯罪に関する文書と同様に、各国（欧州評議会以外の国も含む）が承認または批准できる「法的文書」を通じて、AIガバナンスに関する一連の最低基準を提供しようとしている。この制度は現在も起草中で、協議期間が延長されている（ただし、急ぎの場合は5月9日まで）。私たちのコンサルテーションに対する回答はこちらでご覧いただける。また、ECNLでは、コンサルテーションサーベイへの回答方法に関する素晴らしいガイドを作成している。

●欧州連合（EU）は、すべてのEU加盟国を拘束し、また他の加盟国のモデルとなる可能性のある法律を策定中だ。今月、その草案が発表された。この草案では、AIの特定の用途を禁止し、「高リスク」のAIシステムに対する詳細な規制要件を設定し、その他の特定の用途に対する透明性報告義務を定めている。

●ユネスコは、国連加盟国がとるべき推奨政策行動を定めた、拘束力はないが非常に詳細な文書である勧告案の最新版を発表した。私たちは、この勧告案に対する初期評価を発表した。

これらのフレームワークは、人権の観点から見てどうなのか？これら3つのフレームワークの歓迎すべき点は、基本的な考慮事項として人権を認めていることだ。すべてのフレームワークが、AIに起因する人権へのリスクを明確に認識しており、それらを軽減するための対策を提案している。具体的には、AIシステムの透明性を高めること、人間へのリスクが最も高いAIシステムを制限すること、AI技術を開発する企業の責任と説明責任を高めることなどが含まれている（あるいは含まれる可能性がある）。

しかし、懸念事項も残る。

●EUの規制には、最も有害なAIシステムに対する限定的な禁止・制限が含まれているだけで、多くの例外があり、また、透明性に関する要件も弱いため（Access Now、AlgorithmWatch、ARTICLE 19、EDRiなど多くの団体が指摘）、かなりの割合のAIシステムがほとんど影響を受けないことになる。

●欧州評議会のプロセスではまだ草案が作成されていないが、私たちが提出した最近のマルチステークホルダー・コンサルテーションでは、回答者は法的手段にどのような内容を盛り込むべきかについて、限られた意見しか述べることができなかった。ほとんどの質問は、回答者に対して、大まかな記述に「同意する」か「同意しない」かを尋ねたり、懸念される特定の問題やAIの使用方法に優先順位をつけたりするだけだった。

●最後に、ユネスコの勧告案は、「倫理」と「人権」の関係が明確ではなく、不明確で定義されていない言葉が含まれており、AIに対する人間の監視の必要性に対するアプローチも限定的であるなど、「倫理的」なアプローチをとっている。さらなる分析は、勧告案に関するブログ記事をご覧いただきたい。

これらのプロセスの利点にかかわらず、さらなる懸念は、人権保護の断片化のリスクだ。同じ問題について複数の文書やフレームワークが存在すること自体は問題ではないが、基準が大きく異なると、普遍的に高いレベルの人権保護を実現するどころか、「底辺への競争」につながる恐れがある。

そこで、AI Policy Hubをアップグレードし、これらのフォーラムやその他のフォーラムで開催される主要なイベントや会議のカレンダーを掲載するとともに、関連する問題を理解するのに役立つ包括的なリソースとツールを用意した。

インド、英国、モーリシャスで暗号化をめぐる圧力に直面する仲介業者

ここ数ヶ月の間に、物議を醸しているインドの新しい仲介者ガイドラインは、様々な方面からの挑戦を受けている。

2月には、GPDをはじめとする多くの関係者が、（当時リークされた）ガイドラインがもたらす潜在的な人権リスクについて懸念を表明した。このガイドラインは、暗号化された通信を含むプラットフォーム上のすべてのトラフィックへのアクセスを仲介者に要求するものだ。 その後、このガイドラインに対して3件の裁判が起こされた。二件がケララ州高裁(うち1件はGlobal Encryption Coalition member SFLC.inのメンバーSFLC.inによるもの)で、もうひとつがデリーで起こされた。

ガイドラインを作成し、現在その実施のための標準作業手順書を作成している電子情報技術省（the Ministry of Electronics and IT MEITY）は、この論争に対応するため、市民社会からの質問を受け付けることを表明した。MediaNamaを含む市民社会グループが（非常に短い時間枠で）質問を提出するコンサルテーションに門戸を開いた。これは、暗号化に関するルールの影響について、政府から具体的な回答を得ることを目的としている。MEITY社がいつ回答するのか、またどの程度のことを話すのかは、まだ明らかになっていない。

暗号化の制限を求めているのはインド政府だけではない。今月、モーリシャス政府は、ソーシャルメディア企業による暗号化の導入を規制するための新しい政府案に関する協議を開始した。

また、英国では、6月に予定されている待望のOnline Harms法案が、エンドツーエンドの暗号化を導入している仲介業者に不利な影響を与えると予想されている。内務大臣のPriti Patelは、The National Society for the Prevention of Cruelty to Children（NSPCC）の年次総会でのスピーチで、FacebookがMessengerプラットフォームでエンド・ツー・エンドの暗号化を展開する計画を「容認できない」と述べた。NSPCC自身も以前、プライベートメッセージングを「オンラインでの子どもの性的虐待の最前線」と表現している。オープンライツグループは、この会議への回答の中で「子どもを保護する手段としてエンドツーエンドの暗号化を解除しようとする動きは、大人と同様に子どものプライバシー権を軽視している」と述べている。

その他のニュース

地域レベルでも暗号化を守る必要がある。今月、私たちは、Global Encryption Coalition（GEC）の約30のメンバーとともに、EUが提案しているオンライン上の児童性的虐待対策に関する共同声明に署名した。

過激派コンテンツへの対応：注目すべき3つのプロセス

クライストチャーチ・コールから2年が経過しようとしているが、テロリストや過激派のコンテンツへの対策は、引き続き各国の優先事項であり、オンライン上の表現の自由へのリスクとなっている。この分野での最近の動きをいくつか紹介する。

●EUは、オンラインでのテロリストコンテンツの拡散に対処するための規則を承認した。数十の組織が欧州議会に共同書簡を送り、この規則が、間違いを起こしやすく、正当な言論を制限する可能性のあるアップロードフィルタなどの自動コンテンツ修正ツールをプラットフォームに使用させることになると警告した。

●ニュージーランドでは現在、テロリストや暴力的過激派のコンテンツを含む、オンライン上の違法・有害コンテンツに対処するための法案が精査されている。GPDはニュージーランド政府に証拠を提出し、InternetNZが主催する共同声明にも署名した。これらの声明はいずれも、この法案が十分な保護措置を講じずに強制的なフィルタリングを行うことを提案していることに懸念を示している。

●イスラエルの最高裁判所は、同国の自主規制テイクダウン(コンテンツ削除)制度の合法性を問う申立てを却下した。裁判所は、政府のサイバーユニット（テロリストのコンテンツなど違法なコンテンツの削除要求をオンラインプラットフォームに発出スル）の行動と、特定の憲法上の権利の侵害との間の関連性を、申立者が立証していないと判断した。このような超法規的なコンテンツ削除を許可することは、政府が正当な手続きや透明性なしに言論を抑圧することを可能にすると、コメンテーターから批判を受けていまる。

その他のニュース

FacebookのOversight Boardから重要なニュースがあった。

●同委員会は、米国とEUがテロ組織に指定しているクルディスタン労働者党（PKK）の創設メンバーを起用したInstagram上の投稿の削除に関する案件を取り上げた。この決定は、フェイスブックの幅広いコンテンツモデレーションポリシーに広く影響を与える可能性がある。
●また、同委員会は、1月7日の禁止令を受けたドナルド・トランプ元大統領のFacebookおよびInstagramからの停止措置を支持したばかりだが、禁止令の時間枠が「不確定で標準的でない」と批判した。Facebookに対し、この決定を見直し、比例した対応を正当化するよう求めている。私たちは、この件を注視していく。

国連におけるサイバー：最新情報

情報通信技術に関するオープンエンド・ワーキング・グループ（OEWG）が最終報告書を採択し、政府専門家グループの最終会合が行われた3月と比べると、4月はサイバーに関する国連の議論は比較的静かなものだった。

しかし、5月と6月は、いくつかの重要な会議が予定されており、かなり忙しくなることが予想される。

●サイバー犯罪条約の交渉のために設置された新しい第3委員会グループの初会合（5月10日～12日）。この会議のライブストリームはこちらで視聴できる。

●非加盟国を対象としたGGEの最終非公式協議（5月20日～21日）、GGEの最終非公開会合（5月24日～29日） – OEWGの成果報告書を補完するコンセンサス報告書が完成することを期待している。

●新OEWGの最初の組織会議（6月1-2日）。新OEWGの第1回組織会議（6月1-2日）：この会議では、NGOの参加を含むOEWGの方法が決定されるため、特に重要だ。私たちは、他のグループとともに、これらの方法を形成するために密接に関わっていく。

その他のニュース

シニア・プログラム・リードのSheetal Kumarは、Journal of Cyber Policyに、サイバー規範の実施における市民社会の役割についての論文を発表した。

リスニングポスト

デジタル環境に関連する法律や政策を追跡する、月刊グローバルアップデート。

オンライン・コンテンツの分野では、いくつかの重要な新しい動きがあった。

●アイルランドは General Scheme Criminal Justice (Hate Crime) Bill 2021を導入。この法案は、1989年に制定されたヘイト扇動禁止法を更新（強化）し、オンライン上のヘイト犯罪にも適用できるようにしたもの。

●カナダは今後数週間のうちにオンライン安全法案を提出する予定だ。この法案は、新しいオンラインコンテンツ規制機関を設立し、コンテンツフィルタに関する規則を含むものだ。この法案は、テロリズム、暴力、ヘイトスピーチなど5種類の有害コンテンツに焦点を当てるが、特に偽情報は対象外となる。

●モーリシャスのICT法改正案では、ICT当局が国家デジタル倫理委員会を設置することで、ソーシャルメディア・プラットフォーム上のコンテンツを監視・検閲できるようになる。インターネットを政府がコントロールしようとする試みは、モーリシャスでは今に始まったことではない。今回の改正案では、「モーリシャス国民の基本的な権利と自由、特にプライバシーと秘密保持、表現の自由に対する権利を妨げる 」と率直に述べている。

信頼と安全の面では、いくつかの国でサイバーセキュリティとサイバー犯罪に関する法整備が進んだ。

●リベリアでは、2021年サイバーセキュリティ法の草案が行政院に提出され、その後、立法府に引き継がれて制定される予定であることを確認した。

●ドイツでは、連邦議会が「ITセキュリティ法2.0」を承認した。

●市民社会組織は、ザンビアで新たに可決された「サイバーセキュリティおよびサイバー犯罪法2021」について、表現の自由やプライバシーの権利を抑圧する可能性があるとして、懸念を表明している。

そのほか、バヌアツは国家サイバーセキュリティ戦略（NCSS）を承認し、英国は今年後半に新しいNCSSを発表する計画を確認した。また、オーストラリアは、人権への強いコミットメントを特徴とする「国際サイバーおよびクリティカルテック参画戦略」を発表した。

エマージングテックの分野では、ベラルーシが個人情報保護法を制定し、データ保護を推進している（施行は半年後）。また、ブラジルは「国家人工知能戦略」を採択し、2019年のコロンビア、2020年のウルグアイに続き、南米では3番目の国家となった。

Global Partners Digital 2021年4月ダイジェスト(メール配信版より)