Howdy! How can we help you?
(EFF)ガザのデジタル・アパルトヘイト： 大手ハイテク企業は、人権侵害に使用する技術における自らの役割を明かすべきだ
2024年8月13日
これは現在進行中のシリーズのパート2である。不当なコンテンツモデレーションに関するパート1は こちら。
ハマースによる10月7日の攻撃に対するイスラエル軍の反撃が始まって以来、GoogleとAmazonのような米国を拠点とする企業は、自分たちが提供しているサービスや、軍事的反撃に関与しているイスラエル軍との関係の内容について、もっと明らかにするよう圧力を受けている。
私たちもそう思う。透明性を高めなければ、これらの企業が、国連が定めた人権基準や、企業自身が公的に定めた人権基準を遵守しているかどうかを、一般市民は知ることができない。私たちは、この紛争が戦争犯罪を引き起こし、国際法が不法占拠と認める状況下で生活する民間人や難民を大規模かつ継続的に監視していることを知っている。このような監視には多大な技術的サポートが必要であり、プラットフォームを提供する企業が継続的に関与することなく監視が行われるとは考えにくい。
Googleの人権に関する声明では、「新製品の発売や世界各地での軍事作戦の拡大など、Googleのあらゆる行動において、私たちは国際的に認められた人権基準を指針としている。私たちは、世界人権宣言とその実施条約に謳われている権利を尊重し、国連ビジネスと人権に関する指導原則（UNGPs）やグローバル・ネットワーク・イニシアチブ原則（GNI原則）で定められた基準を守ることを約束する。GoogleはAIテクノロジーの場合、さらに踏み込み、人々への危害を助長したり、監視のために情報を収集・利用したり、人権侵害に利用されたりする可能性の高いテクノロジー、さらには全体的な危害を引き起こす可能性の高い利用がなされる可能性の高いテクノロジーにおいて、AIを設計・導入しないことを約束している」。
Amazonは、「ビジネスと人権に関する国連指導原則を指針としている」とし、「人権に関するアプローチは国際的な基準に基づいており、国際労働機関（ILO）の中核的条約、労働における基本的原則および権利に関するILO宣言、国連の世界人権宣言を尊重し支持している」と述べている。
GoogleとAmazonは、ガザにおける自社のテクノロジーの使用について真実を語るべき時である。そうすれば、彼らの人権へのコミットメントが本物なのか、それとも単なる空約束なのかを誰もが知ることができる。
人権侵害を助長するGoogleとAmazonへの懸念
イスラエル政府は長い間、アメリカに拠点を置く企業から監視テクノロジーを調達してきた。最近では、+972とLocal Callが8月に行った調査で、ガザのパレスチナ人を集団監視して収集したデータの規模が軍のサーバーだけではあまりにも大きかったため、イスラエル軍がアマゾンのウェブサービス（AWS）のクラウドにインテリジェンス情報を保存していることが明らかになった。同記事は、軍のデータ処理を担当するイスラエルのCenter of Computing and Information Systems部隊の司令官が、軍と業界関係者向けの講演で、イスラエル軍が民間ハイテク企業が提供するクラウドストレージとAIサービスを使用していることを認めたと報じており、講演にはAWS、Google Cloud、Microsoft Azureのロゴが登場した。
GoogleとAmazonが民間人テックサービスをイスラエル軍に提供することに関与したのはこれが初めてではないし、そのテクノロジーが人権侵害を助長するために使用されているのではないかという疑問が提起されたのもこれが初めてではない。2021年、GoogleとAmazon Web Servicesはイスラエル軍とプロジェクトNimbusと呼ばれる12億ドルの共同契約を結び、イスラエル国内にクラウドサービスと機械学習ツールを提供した。イスラエル財務省はこのパートナーシップの公式発表の中で、このプロジェクトは「政府、防衛当局、その他に包括的なクラウド・ソリューションを提供する」ことを目的としていると述べた。この契約では、GoogleとAmazonは、軍を含むイスラエル政府の特定の機関がそのサービスを使用することを妨げることはできないと報じられている。
Nimbusの詳細については多くのことは明らかになっていない。Googleは、このプロジェクトは軍事利用を目的としたものではないと公言、イスラエル軍は、Nimbusが軍の戦争遂行を支援していると公言している。報道によると、このプロジェクトにはGoogleがイスラエルにGoogle Cloudのセキュア・インスタンスを構築することが含まれているという。2022年のGoogleの文書によると、Googleのクラウド・サービスには、物体追跡、AIによる顔認識と検出、自動画像分類などが含まれる。Googleは2024年3月、Nimbusプラットフォームに基づく新たなコンサルティング契約をイスラエル国防省と締結しており、Googleは2021年以降の状況の変化にただ巻き込まれただけだと主張することはできない。
Project Nimbusと並行して、匿名のイスラエル政府関係者は、イスラエル軍が顔認識／クラスタリング機能を持つ2つのツールを使ってガザ地区全域に顔認識による掃討作戦を展開していると報じられている。1つは「顔インテリジェンス企業」であるCorsight社のもので、もう1つはGoogle Photosを通じて提供されるプラットフォームに組み込まれたものだ。
解明が必要
入手可能な大まかな情報に基づくと、明らかに懸念材料があり、各企業はそれぞれの役割を明確にする必要がある。
例えば、Google Photosは汎用サービスであり、Project Nimbusの一部は特定のクラウドコンピューティング・プラットフォームではない。EFFは以前から、汎用テクノロジーの誤用のみを法的義務の根拠とすべきではないと主張してきた。しかしCiscoが法輪功の特定を目的とした中国のゴールデンシールドの特別なモジュールを開発したように（現在、第9巡回区連邦控訴裁判所で係争中）、企業は故意に人権侵害を助長する特定のサービスを提供すべきではない。また、企業は自分たちのテクノロジーがどのように使用されているかを意図的に見逃してはならない。
要するに、ガザであろうと他の場所であろうと、もし彼らのテクノロジーが人権侵害を助長するために使用されているのであれば、これらのテクノロジー企業は、国際基準に基づく自社の人権・AI原則をどのように遵守しているかを公に示す必要がある。
私たちは（そして全世界は）GoogleとAmazonの対応を待っている。
