Howdy! How can we help you?
(ヒューマン・ライツ・ウォッチ)Q&A：ガザにおけるイスラエル軍のデジタルツールの活用
2023年6月11日、イスラエルのラマト・ガンにあるイスラエル国防軍（IDF）の基地で、イスラエル軍の作戦データ・アプリケーション部隊「マツペンMatzpen」に所属する技術者が、自分の作業ステーションで業務を行っている。© 2023 ニル・エリアス／ロイター
2023年10月7日にイスラエル南部でハマース主導のパレスチナ武装集団による攻撃が発生して以来、ガザ地区での作戦におけるイスラエル軍のデジタルツールの利用について、多くの報道がなされてきた。報道によると、イスラエル軍は、ガザで誰や何を、いつ攻撃すべきかを判断するために、監視技術や人工知能（AI）、その他のデジタルツールを活用しているという。
ヒューマン・ライツ・ウォッチの調査によると、イスラエル軍がガザで利用している4つのデジタルツールは、軍事行動の判断材料として、不正確なデータや不確かな推定値を用いていることが判明した。イスラエル軍によるこれらのデジタルツールの使用は、イスラエル軍が国際人道法、特に軍事目標と民間人の区別に関する戦争法、および民間人への被害を最小限に抑えるために攻撃前にあらゆる実行可能な予防措置を講じるべきという義務に違反するリスクを孕んでいる。
ヒューマン・ライツ・ウォッチの調査によると、これらのツールは、国際人権法に違反する形で、現在の武力紛争以前に収集されたデータを含め、ガザのすべてのパレスチナ人住民に対するイスラエルによる継続的かつ体系的な監視に依存していると思われる。これらのツールは、パレスチナ人の個人データを用いて、脅威の予測や標的の特定といった軍事行動の判断材料としている。一部のツールは機械学習に依存しており、これは明示的な指示なしにデータから推論を行い、パターンを認識できるコンピュータシステムの活用である。
これらのデジタルツールがいつ、どこで使用されているか、また他の情報・諜報収集手法と組み合わせてどの程度使用されているかを立証することはできなかった。とはいえ、イスラエル軍によるこれらのツールの使用は、より正確な標的選定や民間人の人命・財産の損失を最小限に抑えることに寄与するどころか、むしろ民間人へのリスクを増大させている可能性があり、深刻な倫理的、法的、人道上の懸念を引き起こしている。
本Q&A文書では、4つのデジタルツールについて技術的・法的な分析を行い、これらのツールがもたらす新たなリスク、課題、疑問点を明らかにするとともに、適用される国際法に照らして各ツールを評価する。
本文書は、イスラエル当局者による公式声明、メディア報道、専門家やジャーナリストへのインタビュー、およびイスラエル軍が公表した未公開資料（ガザ地区住民の個人データを含み、誤ってオンライン上に公開されたものとみられる）に基づいている。
1.イスラエル軍がガザで使用しているデジタルツールにはどのようなものがあるか。
2.イスラエル軍の避難監視ツールとは何か、またどのように機能するのか。
3.携帯電話基地局による三角測量データは、軍事的な意思決定の根拠となるほど正確なのか。
4.避難監視システムが使用するデータについて、他に何が分かっているか。
5.「ラベンダー」とは何か、またどのように機能するのか。
6.「ラベンダー」はどのような根拠に基づいて疑いを割り当てるのか。
7.なぜラベンダーの評価は問題があり、危険なのか？
8.「ザ・ゴスペル」とは何か、その仕組みはどうか。
9.「Where’s Daddy?」とは何か、その仕組みはどうか。
10.携帯電話の位置情報データのみで、標的を絞った攻撃を行うのに十分な精度があるか。
11.ビッグデータ、機械学習、AIに依存するシステムの限界は何か。
12.軍事の文脈において、データを多用するデジタルツールはどのような新たなリスクや課題をもたらすか。
13.イスラエル軍が使用するデジタルツールは自律型兵器システムなのか。
14.国際人道法は、デジタルツールの軍事利用にどのように適用されるのか。
1.イスラエル軍がガザで使用しているデジタルツールにはどのようなものがあるか。
ヒューマン・ライツ・ウォッチは、イスラエル軍がガザで継続中の攻勢において、軍事計画や標的選定に関連して使用した4つのツールを評価した。その一つは、携帯電話の追跡に基づいて、ガザ北部の一部地域からのパレスチナ人の避難状況を監視するものだ。もう一つは、軍が「ザ・ゴスペル」と呼ぶもので、攻撃対象となる建物やその他の構造物のリストを生成する。さらに、「ラベンダー」と呼ばれるツールは、パレスチナ武装組織への所属が疑われるガザの人々に対する評価をランク付けし、軍事標的として分類する。「Where’s Daddy?」は、標的が特定の場所にいついるかを特定し、そこで攻撃できるようにすることを目的としている。
2. イスラエル軍の避難監視ツールとは何か、またどのように機能するのか。
イスラエル軍は、パレスチナ武装組織がイスラエル南部への襲撃を開始した直後の2023年10月7日、ガザへの爆撃を開始した。10月13日、イスラエル軍は、100万人以上が居住するガザ北部の全住民に対し、24時間以内にワディ・ガザの南側へ避難するよう命令を出した。しかし、避難できる安全な場所も、移動するための安全なルートも、適切な避難所も存在しなかった。
イスラエル軍の避難監視ツールは、携帯電話の位置情報データを利用して、ガザにおける人々の人移動を監視している。イスラエル軍がガザ北部で大規模な地上作戦を開始する1週間前の10月16日に報じられたニューヨーク・タイムズの記事によると、このシステムは、ワディ・ガザ以北の自宅からパレスチナ人が避難する状況を軍が監視するために使用されていた。その後、ワシントン・ポストとガーディアンの両紙が、このシステムに関する追加の詳細を報じた。
ジャーナリストたちは、イスラエルのベエルシェバにある南部司令部のオフィスを案内されたと述べている。そこにはガザの地図が表示された大型スクリーンがあり、ガザは620の区画に分割され、各区画は住民の避難進捗度に応じて色分けされていた。地図には病院、モスク、避難所、その他の施設の表示も含まれていた。報道によると、当時追跡されていた携帯電話の数は100万台を超えていた。2023年10月以前、ガザの通信省は報告で、ガザにおける有効な携帯電話契約者数が計1,041,198件であると明らかにしていた。
これらの報道によると、このシステムは基地局による三角測量やその他の監視データを活用し、ガザ住民の移動状況をリアルタイムで把握している。イスラエル軍の将校らは記者団に対し、この情報を基に、特定の場所で軍がどのような行動をとれるか、またどのような種類の武器を使用するかを判断していたと語った。
3.基地局による三角測量データは、軍事的な意思決定を行うのに十分な精度を備えているのだろうか？
基地局による三角測量データは、携帯電話が接続可能な基地局をもとにして位置を概算するものであり、モバイル端末、ひいてはそれを所持する人々の正確な所在に関する情報を提供する可能性は低い。この不正確さは、イスラエルがガザへのすべての送電線を遮断し、燃料輸入の封鎖によりガザ唯一の発電所が機能停止に陥ったことで携帯電話を充電するための電力が不足していることや、ガザの電話インフラが甚大な被害を受けたことによって、さらに悪化している。
軍事作戦に関する意思決定の根拠として、基地局の三角測量データを用いて民間人の存在を算出するツールは、当該作戦における民間人への被害リスクを高める。こうしたツールにより、軍事指揮官は、特定の地域に民間人がいない、あるいはごく少数しかいないと誤って判断し、その結果、その地域を攻撃してもよいと結論づけてしまう恐れがある。
4.避難監視システムが使用するデータについて、他に何が分かっているか。
2024年5月、ヒューマン・ライツ・ウォッチは、イスラエル軍が誤って公開したと思われるデータをオンライン上で発見した。そのデータには、ガザにおける人々の避難や移動を監視し、特定の地域への攻撃によって引き起こされる可能性のある民間人被害を予測するために使用されるシステムに関連する運用データとみられるものが含まれていた。
このデータは、イスラエル軍の避難情報ウェブサイトのソースコードに含まれていた。データには、ガザ地区の10年前の国勢調査データと一致する人口数値、細分化された人口データ、民間人の移動に関する情報、ガザ地区におけるイスラエル軍の展開状況、およびガザ地区を620のブロックに分割した各ブロックごとの攻撃の累計件数が含まれていた。データには個人情報も含まれており、各ブロックで最も人口の多い拡大家族の姓が記載されていた。
ヒューマン・ライツ・ウォッチは、イスラエル軍の展開状況に関するこのデータを分析・地図化したところ、2023年11月中旬のイスラエル軍によるガザ侵攻の状況と一致することが判明した。当時、イスラエル軍はガザ北部の大部分を制圧していたが、南部のハーン・ユーニスにはまだ侵攻してはいなかった。ヒューマン・ライツ・ウォッチは、オンラインで公開された情報の出所や用途を確証できなかったものの、その内容は、避難監視システムや軍事作戦の計画に関連するメディア報道で言及されたデータと類似している。避難監視システムは、他のデータ源にも依存している可能性がある。ヒューマン・ライツ・ウォッチは、このデータの公開について、イスラエルのデータ保護当局であるプライバシー保護庁に通報した。
クリックして画像を拡大
2024年2月22日、ガザ地区ラファの住宅やモスクに対するイスラエル軍の空爆後の破壊状況。© 2024 Fatima Shbair/AP Photo
5.「ラベンダー」とは何か、その仕組みは？
「ラベンダー」は機械学習を用いて、ガザの住民に対し、その人物が武装集団の構成員である疑いの程度を数値スコアとして割り当てる。報道によると、個人が攻撃対象としてマークされる閾値の設定は、イスラエル軍の将校が担当している。
軍は「ラベンダー」のようなツールの存在を極めて一般的な表現で認めており、これを「インテリジェンス情報源を照合することを目的としたデータベース」と呼んでいる。
2人のイスラエル軍将校によるプレゼンテーションと著書は、重要な技術的詳細を明らかにしている。2023年2月のプレゼンテーションで、軍の信号情報部門である第8200部隊のAI・データサイエンス責任者は、「新たなテロリストを発見するため」に機械学習を利用するデジタルツールについて説明した。同将校によれば、2021年にガザで初めて使用されたというこのシステムは、監視データを収集し、武装組織との関連が疑われる度合いに基づいて人々を評価するものだ。
プレゼンテーションで説明されたツール（ヒューマン・ライツ・ウォッチは、これが「ラベンダー」か、あるいは同じ基盤技術に依存する別のツールであると考えている）は、「ポジティブ・アンラベルド・ラーニングpositive unlabeled learning,」と呼ばれる半教師あり機械学習の一種を採用しており、ラベル付き（ポジティブ）データとラベルなし（ネガティブ）データの両方を含むデータセットからアルゴリズムを学習させる。この種の機械学習は、ラベル付きデータの特性を用いて、より大規模なデータセット内のパターンを特定しようとするものだ。この場合、アルゴリズムは、イスラエル軍が武装組織との関与を疑う人々に関する監視データやその他のデータから特徴を探し出し、その同じ特徴を用いて一般の人々の中からさらに多くの容疑者を特定する。この手法を大規模な集団に適用した場合、多くのデータポイントが裏付けの取れていないものとなるため、このプロセスは根拠のない推測に大きく依存するものとなる。
6.「ラベンダー」はどのような根拠に基づいて容疑を割り当てるのか？
「ラベンダー」にアクセスできない限り、このツールがどのデータポイントを用いて個人の容疑スコアを引き上げているかを完全に把握することは不可能だ。一般的に、半教師あり機械学習では、アルゴリズムが大量のデータを処理し、特定のタスクを実行するためにどの種類のデータが有用であるかを判断する。2021年にユニット8200の責任者であるヨッシ・サリエルYossi Sarielが著した、AIの軍事利用に関する書籍が、ある程度の洞察を与えてくれるかもしれない。サリエルは、ラベンダーと非常に似た特性を持つ「ターゲットマシン」について記述しており、これはソーシャルメディアプラットフォームと同様に、対象者の社会的つながりを収集・分析することで、潜在的な標的を特定するために使用できるものだと説明している。
サリエルが記述する、ある人物に対する疑いの度合いを高める要因には、その人物の社会的つながりや関係性、イスラエル軍がすでに過激派組織と関連があると見なしている人物と同じチャットグループへの参加、あるいは単に携帯電話や住所を繰り返し変更することすら含まれる。
7.なぜラベンダーの評価は問題があり、危険なのか？
ラベンダーの評価には重大な欠陥があり、武力紛争の際に民間人を深刻な危険にさらす恐れがある。ポジティブ・アンラベルド学習（質問5を参照）は、合法的な軍事標的を特定するための意思決定の根拠とするには不適切なツールだ。このツールが疑いの度合いを割り当てる根拠となる仮定は、国際人道法に基づくものではなく、アルゴリズムによって生成された基準であり、偏りがあり不完全である可能性が高く、技術的に精査することさえ不可能なデータに基づいている。
軍事上の意思決定の根拠として、こうした欠陥の可能性が高い仮定に依存することは、民間人が誤って標的とされる結果を招きかねない。ラベンダーは、多数の個人の行動やつながりに関するデータを収集し、それに基づいて「疑わしさスコア」を割り当てている。予測型警察活動ツールでは、犯罪の容疑がかけられていない個人の監視データを処理することで、一般市民の有罪が推定され、無罪推定の権利が侵害される。戦時下において、これは、戦争法が民間人としての地位を推定しているにもかかわらず、合法的な攻撃の対象となる軍事目標としての地位について推定を行うことを意味する。さらに、半教師あり機械学習の使用は、違法でも脅威でも問題でもない性質や行動に基づいて人々を不審者と特定し、出力結果に影響を与えることで、誤検知を引き起こす可能性がある。
当局がテロリズムやテロ組織について広範な定義を用いていること、および占領下のパレスチナ領土においてイスラエル軍事法の広範な規定に依拠し、団体を「敵対組織」として禁止していることは、さらなる懸念を生じさせている。例えばヨルダン川西岸地区では、軍がパレスチナの人権団体を「テロ組織」として禁止し、単にそのような団体やその関連組織に所属している、あるいはそれらに共感しているという理由だけでパレスチナ人を拘束している。
標的選定の判断材料とすることを目的とした「ラベンダー」のような機械学習ツールの訓練において、同様の広範な定義が用いられた場合、出力結果には同様の偏りが生じ、民間人が攻撃の標的となる可能性が高まる恐れがある。
8.「ザ・ゴスペル」とは何か、またどのように機能するのか。
「ザ・ゴスペル」は、アルゴリズムを用いて監視データを処理し、標的リストを生成する。メディア報道によると、「ザ・ゴスペル」は非人間的な標的を4つのカテゴリーに分類している。軍事標的（トンネルなどの地下標的を含む）、武装勢力の容疑者の自宅、そして「パワー・ターゲット」である。メディア報道で引用された現職および元情報分析官によると、後者は民間施設であり、その攻撃の公的な目的は、「ショックを誘発」し、「民間人がハマースに圧力をかけるよう誘導する」ことにあるとされる。イスラエル軍のウェブサイトに掲載された2020年および2023年の記事では、『ザ・ゴスペル』と酷似したアルゴリズムベースのツールについて説明されており、後者の記事ではそのツールが名称で言及されている。
「ザ・ゴスペル」の機能については「ラベンダー」ほど多くの情報は得られていないが、判断を下す際にポジティブ・アンラベルド学習を採用している可能性が高い。「ザ・ゴスペル」は、実質的に、どの構造物が民間施設とみなされ、どの構造物が軍事目標とみなされるかを決定するために使用されているツールであり、これは攻撃者が戦争法の下で義務付けられている区別を行うプロセスである。
9.「Where’s Daddy?[パパはどこ？]」とは何か、またどのように機能するのか？
メディアの報道によると、「Where’s Daddy」は、携帯電話の位置情報追跡を利用して、軍事標的としてマークされた人々が、攻撃可能な特定の場所（報道によれば、多くの場合、家族の自宅である）に入った際に、イスラエル軍のオペレーターに通知するツールだ。ヒューマン・ライツ・ウォッチは、イスラエル軍がこの機能を持つツールを使用していることを確認できたが、その他の具体的な技術的詳細については確認できなかった。
10.携帯電話の位置情報データのみで、標的を絞った攻撃を行うのに十分な精度があるのだろうか？
携帯電話の位置情報データは十分な精度を持たないため、特定の個人が特定の時間に特定の場所にいることを立証することはできず、軍事攻撃の判断材料として使用された場合、致命的な誤りを招く恐れがある。特に紛争地域では、ネットワークや端末へのアクセス状況が頻繁かつ突然変化する緊急事態において、人々が電話番号や端末を変更する可能性があるため、携帯電話は人間の標的を確実に特定する信頼できる指標とはならない。
さらに、携帯電話の位置を追跡する最も一般的な方法は、基地局の位置による三角測量（セルサイト位置情報と呼ばれる）か、携帯電話のGPSデータへのアクセスによるものだ。精密攻撃のために携帯電話の位置を特定するには、これらのシステムのいずれも単独では、十分な精度がない。また、標的選定にこれらを使用することは、戦争法が求める民間人への被害を回避するためのあらゆる実行可能な予防措置が講じられていないのではないか、という懸念を生じさせる。
11.ビッグデータ、機械学習、AIに依存するシステムの限界とは何か。
これらのシステムは、いくつかの前提条件や、社会に存在する偏見を再現してしまう傾向といった制約に縛られている。
「ブラックボックス効果」： 機械学習、AI、その他のアルゴリズムシステムは、その設計上、精査を許さないほか、出力がどのように生成されたかに関する処理内容や意思決定プロセスを示さず、また、関係する主体への責任の帰属を裏付ける資料を欠いている。デジタルツールにおいては、ユーザーがシステムの処理内容を確認し、出力がどのように生成されたか、またどのデータが使用されたかを把握できるようにすることが重要だ。これは特に、AIを利用する兵器や標的生成手法の場合に重要である。
「自動化バイアス」： 自動化バイアスとは、人々がデジタルツールの出力を過度に信頼してしまう現象であり、その一因として、デジタルツールが人間よりも中立的であるという認識がある。研究によると、軍事用途を含むデジタルツールの利用は、その出力に対する精査の不足を招く可能性があり、矛盾する情報に直面しても、自動化された出力を信頼し、依存し続けることさえある。
問題となる前提：すべてのデジタルシステムは、中核ととなる前提に基づいて動作する。つまり、これらは計算の根拠となる事実である（例えば、テレビ番組の推奨ツールの場合、「SFシリーズをよく視聴する人には、SF番組をより多く推奨すべきだ」といった前提がそれにあたる）。機械学習やAIベースのシステムに対する指示やパラメータは開発者によって設定されるが、こうした前提はプログラマーによって明示的に記述されるのではなく、初期の学習データに基づいてアルゴリズムによって導き出される。こうした技術に基づくツールは、特定の出力や目標を念頭に置いて大量のデータを処理し、そこから独自の結論を導き出すことができる（とはいえ、アルゴリズムベースのシステムがどのように使用されるかについて最終的責任を負うのは、依然としてこの技術の所有者、開発者、およびユーザーである）。この手法は、テレビ番組の推奨のようなリスクの低い用途では有効かも知れないが、生死に関わる結果をもたらす軍事的な文脈で使用される場合、深刻な懸念を引き起こす。
社会の偏見の再現： さらに、アルゴリズムシステムの出力は中立に見えるかもしれないが、機械はそのプログラマーや社会の偏見を反映する可能性が高い。このリスクは、人々や物体を軍事目標として攻撃すべきかどうかを判断する際に情報を提供するデジタルツールの開発や使用において、特に高い。例えば、イスラエル軍とパレスチナ占領地における敵対行為の文脈において、国際司法裁判所（ICJ）は7月、イスラエルがパレスチナ人に対して差別およびアパルトヘイトを行っているとの判断を下した。占領地の人々を標的とするためにイスラエル軍が開発・使用するデジタルツールは、こうした体系的な差別や偏見を反映している可能性がある。
「ごみが投入されれば、ごみが排出される（Garbage in, garbage out）」： 欠陥のあるデータは、欠陥のある結果を生む。デジタルシステムが、不正確、古く、不完全、あるいは運用対象となる文脈を十分に反映していないデータに基づいて構築されている場合、その出力も同様に欠陥のあるものとなる。
12.軍事の文脈において、データを多用するデジタルツールはどのような新たなリスクや課題をもたらすのか。
軍事の文脈で使用されるデジタルツールは、侵襲的な監視やデジタルによる非人間化への依存、軍によるデジタルツールへの過度な依存の可能性、そしてそれらのツールが戦争のペースを加速させる恐れがあることなどを通じて、新たなリスクや課題を生み出している。
機械学習やAIを採用したツールは、脅威の予測や標的の特定などの出力を生成するために、膨大な量のデータに依存している。ガザおよびヨルダン川西岸地区のパレスチナ人は、イスラエル当局による絶え間ない常時広範囲にわたる監視下に置かれている。そして、このデータの一部は現在、ガザにおける軍事作戦や計画の策定に活用されている。
現在の武力衝突以前から、占領国であるイスラエルは、ガザの生活諸側面に対して相当な支配力を維持しており、国際人権法および国際人道法の双方に基づき、住民の福祉を確保する義務を負っていた。イスラエルが加盟している市民的及び政治的権利に関する国際規約（ICCPR）第17条は、プライバシーの権利を明記しており、この権利は恣意的または違法な干渉を受けてはならない。
ICCPRを権威をもって解釈する国際専門家機関である国連人権委員会は、「プライバシーへのいかなる干渉も、その目的と比例し、かつ当該事案の状況において必要でなければならない」と判示している。デジタル技術によって広範囲にわたる域外監視が可能となっていることを踏まえ、政府は、国籍や所在地にかかわらず、個人のプライバシー権を尊重する義務を負っている。
イスラエル政府は、国際的に保護されているプライバシー権やその他の人権を侵害していると思われる方法で、ガザからのデータを取得・保存してきた。ガザのパレスチナ人に対するイスラエルの監視は、アパルトヘイト政策に等しい権利侵害のシステムと不可分につながっているため、これは特に問題である。
武力紛争においては、人権法は国際人道法の背景を踏まえて解釈されなければならない。したがって、ICCPR第17条で禁止されている「恣意的または違法な」プライバシーへの干渉が何を指すかは、敵対行為が開始された後の支配的な法体系（「lex specialis」）である戦争法を考慮に入れると、異なる可能性があるとされる。
デジタルによる非人間化： 自動化されたシステムは、人間を一連のデータポイントに還元し、そのプログラミングに基づいて本質的に偏見や欠陥を内包するシステムによって処理される。人間がデータポイントに還元され、監視され、選別され、分類されると、誰が危害（致死的な行動の対象となることを含む）を受けるべきかを決定しやすくし、そうした行動を実行することも容易になる可能性がある。自動化された監視から危害に至るこの一連の流れは、「デジタルによる非人間化」と呼ばれる。
デジタルツールへの過度な依存：速いペースのストレスの多い環境や、武力紛争中のように短期間で多数の標的を特定しなければならない状況下では、迅速に結果を出せるデジタルシステムに過度に依存する傾向がある。国際赤十字委員会（ICRC）はこれをリスクとして特定している。軍事オプションの判断材料として用いられるビッグデータ、機械学習、AIベースのシステムについて、誤りの多い意思決定や戦争法の違反を招き、民間人への被害の可能性を高める恐れがあると指摘している。
戦争のスピードアップ： ICRCはまた、デジタルシステムが戦争のペースを加速させる能力を、民間人にとってのリスク要因として挙げている。特に、作戦のスピードアップによって、軍事計画に使用される情報源の徹底的な分析や精査が妨げられる場合はなおさらである。イスラエル軍の将校らは、標的生成のためのデジタルツールにより、将校たちが、これらのツールを使用する前は1年かかっていたのと同じ数の標的を、わずか数日で生成できるようになったと公に述べている。
13.イスラエル軍が使用するデジタルツールは自律型兵器システムなのか。
イスラエル軍のデジタルツールは、自律型兵器システムではない。自律型兵器システムとは、人間の入力ではなくセンサー処理に基づいて標的を選定・攻撃する兵器であり、ヒューマン・ライツ・ウォッチはかねてよりその禁止条約の締結を求めてきた。一方、イスラエル軍が使用するツールは、イスラエル軍の作戦計画担当者に情報を提供するデータ処理システムである。提案された標的を攻撃するかどうかの決定は、機械ではなく人間が別途に行い、実行する。どのデジタルツールも、人間の入力と監督を必要とする。
しかし、2022年10月に採択された国連人権理事会の決議は、武力行使における人間の意思決定の重要性を強調している。同決議は、代表性のないデータセット、アルゴリズムに基づくプログラミング、および機械学習プロセスへの依存に対して警告を発している。こうした技術は、既存の差別、疎外、社会的不平等、固定観念、偏見のパターンを再現・悪化させ、予測不可能な結果を招く恐れがある。
イスラエル軍のデジタルツールは、自律型兵器システムと同様の問題を抱えている。それらの動作は、確認や情報源の特定、検証が困難であり、『ラベンダー』や『ザ・ゴスペル』で使用されている機械学習アルゴリズムの場合には、そもそも不可能である。同時に、それらは正確で偏りのないように見えるため、過度な依存を招きやすい。
14.国際人道法は、軍事目的でのデジタルツールの使用にどのように適用されるのか。
デジタルツールは軍事兵器ではない。しかし、軍事作戦での使用により、それらは国際人道法の制約の対象となる。ICRCが指摘しているように、「いかなる新しい戦争技術も、既存の国際人道法の規則に従って使用されなければならず、またそのように使用可能でなければならない」。
『ラベンダー』と『ザ・ゴスペル』は、軍事標的の選定、すなわち標的となる対象が合法的に攻撃可能かどうか、またどのような状況下で攻撃が可能かという判断に関して、重要かつ潜在的に致命的な問題を提起している。国際条約法および慣習法に見られる以下の2つの一般的な規則が、この点で最も関連性が高い。1）攻撃側は軍事目標と民間人および民間施設を区別し、前者のみを攻撃しなければならないという要件。2）攻撃側は、民間人の死傷や民間施設への損害を最小限に抑えるために実行可能なあらゆる予防措置を講じなければならない、という要件だ。
「ラベンダー」と「ザ・ゴスペル」は、機械学習を用いて軍事目標と民間人および民間施設を区別している。報道されているように、これらのデジタルツールに基づく推奨事項や評価が、十分な精査や追加情報なしに実行され、その結果として民間人に被害をもたらす攻撃が行われた場合、イスラエル軍は攻撃の実施において戦争法を違反することになり、これは戦争犯罪に該当する可能性がある。
「Where’s Daddy?」というツールは、携帯電話の位置情報追跡を利用して、軍事標的としてマークされた人々が実家などの特定の場所に入った際に、軍事要員に通知するものとされている。戦争法は、軍事指揮官が自宅にいる場合などにおける正当な軍事目標への攻撃を禁じてはいないが、すべての法的要件は依然として適用される。攻撃による軍事的利益と比較して、攻撃が不均衡な民間人被害をもたらしているかどうかといったその他の要素が考慮されているかどうかは不明だ。
また、国際法に規定されていない基準が適用される場合、これらのツールは懸念を引き起こす。機械学習を用いて誰かを「テロリスト」――国際人権法や国際人道法において定義されていない用語――とラベル付けすることは、国際法が求める犯罪行為の立証要件を満たさないまま、その人物を逮捕や致死的な攻撃の対象とする恐れがある。いわゆる「パワーターゲット」――破壊による心理的インパクトが想定されるとして、『ザ・ゴスペル』によって標的として認識されたと報じられている大規模な民間施設――に対する攻撃は、国際人道法の下で認められた概念ではない。こうした標的を攻撃する場合でも、区別、比例性、予防措置の原則を満たす必要がある。
