Howdy! How can we help you?
(The Intercept)イスラエルが写真ソフトを使ってガザの “暗殺リスト “を作成したことについて、沈黙するGoogle
Googleはその技術を “差し迫った危険 “のために使用することを禁じているが、イスラエルはその顔認識技術を利用してパレスチナ人の捕獲網を構築している。
2024年4月5日午前7時
イスラエル軍は、ガザ地区全域で顔認識システムを導入し、一般パレスチナ人をスキャンしている。
ニューヨーク・タイムズ紙によると、このプログラムは2つの異なる顔認識ツールに基づいている。1つはイスラエルの請負業者Corsight社製で、もう1つはGoogle Photosを通じて提供されている人気のある消費者向け画像整理プラットフォームに組み込まれているものだ。匿名のイスラエル政府関係者は『ニューヨーク・タイムズ』に、Google Photosは代替の顔認識技術のどれよりもうまく機能し、イスラエル軍が10月7日の攻撃に参加したとされるハマスの戦闘員の「暗殺リスト」を作成するのに役立ったと語った。
イスラエルがハマスのメンバーを特定しようとした結果、パレスチナ人の顔が大量に監視され、10月7日の攻撃以来、何千人ものガザ住民が逮捕された。逮捕・投獄された人々の多くは、ほとんど、あるいはまったく証拠がないまま、残忍な尋問や拷問を受けたと後に語っている。顔認識に関する記事の中で、『ニューヨーク・タイムズ』はパレスチナ人の詩人Mosab Abu Tohaを取り上げている。彼の逮捕とイスラエル軍による殴打は、顔認識の使用から始まった。Abu Tohaは、後に何の罪にも問われることなく釈放された。同紙によると、イスラエル兵は、顔認識による逮捕は “間違い “だったと語ったという。
顔認識システムは白人以外の顔では精度が低いことで有名だが、精度の問題はさておき、Googleフォトの機械学習を利用した分析機能を、民間人を軍の監視下に置いたり、それよりもさらに悪いことに利用することは、Googleが明確に表明しているルールに矛盾している。「危険で違法な活動」という見出しで、GoogleはGoogle Photosを「人々に深刻かつ直接的な危害を与える活動、商品、サービス、情報を宣伝するために」は使用できないと警告している。
Google Photosを使って人を傷つけることを禁止することと、イスラエル軍がGoogle Photosを使って「暗殺リスト」を作成することとが、どのように両立するのかとの質問に対し、同社の広報担当者Joshua Cruzは回答を避け、「Google Photosは広く一般に利用されている無料の製品で、似たような顔をグループ化して写真を整理することができます。写真に写っている見知らぬ人物の身元を提供するものではありません」。(その後、Googleの立場を明らかにするように何度も試みたが、クルーズはこれに応じなかった)。
このような禁止事項、あるいは人権に対する同社の長年の公約が、イスラエル軍にどのように適用されているのかは不明だ。
Human Rights Watchのアソシエート・テック・ディレクター、Anna Bacciarelliは『深刻かつ差し迫った被害』や『違法行為』をGoogleがどう解釈するかにもよるが、この種の顔認識による監視は、プライバシー、非差別、表現、集会の権利など、国際人権法に明記されている権利を損なうものです」「ガザの人々の人権が広く、継続的、組織的に否定されている中で、この技術がイスラエル軍によって使用されている背景を考えると、私はGoogleが適切な行動を取ることを望みます」と言う。
善をなすか、Googleをなすか？
Google Photosを使って人々に危害を加えることを禁止する利用規約に加え、同社は長年にわたり、さまざまな世界的人権基準を受け入れていると主張してきた。
「Googleのグローバル人権責任者であるAlexandria Waldenは、2022年のブログ投稿で「グーグルは創業以来、人権の向上のためにテクノロジーの力を活用することを信じてきました。「そのため、私たちの製品、事業運営、そして新たなテクノロジーをめぐる意思決定はすべて、私たちの人権プログラムと、世界中の人々の情報へのアクセスを向上させ、新たな機会を創出するという深いコミットメントに基づいています」。
同社によれば、この深いコミットメントには、世界人権宣言（拷問を禁じている）や、ビジネスと人権に関する国連指導原則（領土をめぐる紛争が最悪の権利侵害を生むと指摘している）の支持も含まれる。
イスラエル軍がGoogle Photosのような無料で一般公開されているGoogle製品を使用したことは、こうした企業の人権へのコミットメントや、同社がそれに基づいて実際に行動する意思がいかほどのものなのかについて疑問を投げかけるものだ。Googleは、「ビジネスと人権に関する国連指導原則」を支持し、支持していると述べている。この原則は、企業に対し、「たとえそのような影響に寄与していなくても、ビジネス上の関係によって、その事業、製品、サービスに直接関連する人権への悪影響を防止または緩和する」ことを求める枠組みである。[訳注：日本語訳 https://www.unic.or.jp/texts_audiovisual/resolutions_reports/hr_council/ga_regular_session/3404/]
Waldenはまた、Googleが「ICT企業に対する紛争によって侵害されやすい人権デューデリジェンス」を支持していると述べた。これは、ハイテク企業が紛争地域で自社の製品やサービスが悪用されるのを避けるための自主的な枠組みである。同文書の多くの勧告の中には、Googleのような企業に対して、”プライバシーや身体的安全保障に直接的な影響をもたらす（すなわち、所在を突き止め、逮捕し、投獄すること）国際人権法の規範に違反する政府監視のための製品やサービスの使用 “を再検討するよう求める内容がある。(このデューディリジェンス・フレームワークを共同執筆したJustPeace LabsとBusiness for Social Responsibilityのいずれも、Interceptのコメントの要請には返事をしていない)
「GoogleもCorsightも、自社の製品やサービスが人権侵害を引き起こしたり、助長したりしないよGoogle Photosの使用を停止するために、直ちに行動を起こすことを期待したい」とBacciarelliは語った。
Project Nimbusに対する労働者主導の抗議運動である「No Tech for Apartheid」キャンペーンに参加しているGoogle社員は、イスラエル軍がGoogle Photosの顔認識を使ってガザでの戦争を遂行するのをやめさせるよう、雇用主に次のように呼びかけた。
「イスラエルは、Google Photosのような消費者向けテクノロジーを武器化し、監視システムの一部としてパレスチナ人を識別するための顔認識機能として使用している。「Googleの従業員として、私たちは同社がProject Nimbusを直ちに中止し、ガザを壊滅させようとするイスラエル政府と軍の大量虐殺的アジェンダを支援するすべての活動の停止を要求する」。
Project Nimbus
Googleの人権原則と称するものが、そのビジネス慣行と矛盾するのは、イスラエルに限っても初めてのことではないだろう。2021年以来、Googleは物議を醸した「Project Nimbus」契約を通じて、イスラエル軍に高度なクラウド・コンピューティングと機械学習ツールを販売してきた。
誰でも無料で利用できる消費者向け製品であるGoogle Photosとは異なり、Project Nimbusはイスラエル国家のニーズに合わせたオーダーメイドのソフトウェア・プロジェクトである。しかし、NimbusもGoogle Photosの顔照合能力も、同社の膨大な機械学習リソースの産物である。
人権侵害や戦争犯罪の常習犯として非難されている政府に、このような洗練されたツールを売却することは、GoogleのAI原則に反するものだ。同ガイドラインは、「その目的が、広く認められた国際法と人権の原則に反する」いかなるアプリケーションも含めて、「危害」を引き起こす可能性のあるAIの使用を禁じている。
Googleは以前、その「原則」が「カスタムAI作業」にのみ適用され、第三者による自社製品の一般的な使用には適用されないなど、実際には見た目よりもはるかに狭いものであることを示唆したことがあった。Googleの広報担当者は2022年、Defense Oneの取材に対し、「Googleの技術は、軍によってかなり広範囲に使用できるということだ」と述べた。
Googleの幹部がブログに書いた保証を現実の結果にどのように反映するのか、あるいは反映することができるのかは、まだ不明だ。Project Nimbusに抗議した後、2022年に職を追われたGoogle元従業員のAriel Korenは、Googleの写真問題に対する沈黙について、自社の技術がどのように使われるかに対する責任を回避するより広範なパターンの中に位置づけた。
現在No Tech for ApartheidのオーガナイザーであるKorenはThe Interceptに次のように語った。「ジェノサイドを幇助することは、GoogleのAI原則と利用規約に違反すると言っても過言ではありません」「公的なコメントがないとしても、Googleの行動は、Google Cloudのビジネス上の決定において、同社が公表しているAI倫理の原則が何の関係も重みも持たないこと、そして、ジェノサイドの共犯であることでさえ、同社がどんな犠牲を払っても利益を追求する冷酷さを阻むことにはならないことを明らかにしています」。
出典：https://theintercept.com/2024/04/05/google-photos-israel-gaza-facial-recognition/
