AI法には「国家安全保障」のための適用除外を設けるべきではない

y VANJA SKORIC

15. NOV, 12:41

EU理事会が世論とかけ離れた存在であることは、珍しいことではない。これは、EUのAI法で、「国家安全保障目的」で開発または使用されるAIシステムを監視・コントロールの対象から除外することによって、再び引き起こされた。私たちは、EU委員会と議会にこの点を是正するよう求めている。

「国家安全保障」は、人によって意味が異なり、厳密で合意された定義が欠けている。したがって、そのための免除は最初から曖昧であり、乱用の可能性がある。国の政府の分類に大きく依存し、その定義を利用して市民や 利害団体（例：気候変動への抗議者）に「過激派」や「テロリスト」のレッテルを貼ることができる。

監視のために顔認識などの強力なAIツールを使用するという文脈では、「国家安全保障」の免責は、私たちの基本的な権利と自由を危うくする可能性がある。監視はこれまでもすでに、抗議や言論の自由の権利に萎縮効果をもたらし、自由で開かれた民主主義に危害を及ぼしてきた。

欧州市民はこの脅威を認識している。欧州12カ国の結果[日本語訳]では、代表的な市民サンプルが、公的機関によるAIの利用、特に国家安全保障の文脈での利用について、ほぼ一致した見解を示している。

半数以上の成人が、国家安全保障や防衛におけるAIの利用を懸念しており、明確な多数（70％以上）は、政府はこの文脈において、すべての個人と集団の権利を常に尊重すべきである、つまり免責事項なしに尊重すべきであると考えている。

さらに、3分の2近くが、旅行先の他のEU諸国が、シークレットサービスによるAIの使用に関して、彼らの権利と自由の保護が不十分であれば、懸念を感じると回答している–この例外が含まれれば、容易に想像できるシナリオである。

EU加盟国は、市民にとって安全保障が何を意味するのかに触れていないように思える。提案されているEU AI法に基づけば、人々の権利に高いリスクをもたらすようなAIシステム（警察や国境管理の文脈におけるAIなど）は、監視と評価を強化した上で開発・使用する必要がある。

当初の欧州委員会の提案では、国家安全保障の目的で開発・使用されるAIに関する具体的な適用除外は含まれておらず、この問題はEUと加盟国の権限分担に関するルールの下で明確化されることになっていた。

しかし、本理事会は、最初の妥協案から、加盟国が防衛や国家安全保障のためにAIを使用する際のルールを削除することを望んでいることを示した。理事会は、リークされた最新の妥協案文において、その包括的な適用除外を拡大し、EU内で国家安全保障目的で開発または使用されるAIシステムだけでなく、EU内でその成果が利用されるAIシステムについても、行為者が公的機関か民間機関かにかかわらず、含めるとまで言い出したのだ。

一方、議会は人々の側に立ち、これらの適用除外はEUのAI法に組み込まれた禁止事項や保護措置を明らかに損なうものであるため、闘う準備を整えているものと思われる。

公共空間における最も侵襲的な生体認証の禁止は、もし各国政府が主張する曖昧な適用除外がEU全域で27の異なる法的ルールのパッチワークとなって適用されるなら、ほとんど意味をなさない。ブリュッセルの外交官たちが、国家安全保障AIシステムに関するこれら27の規制の枠組みを、すでに断片的なルールに不満を抱いている民間企業にどう説明するかは、まだわからない。また、世界中の政府がヨーロッパの規制を青写真として見ているため、この拡張はEUの外にも重要な影響を与えるかもしれません。

ECNLは最新の法的分析で、ブリュッセルの外交官が好む、国家安全保障問題に関する加盟国の「アンタッチャブルな国家管轄権」という説を論破している。

実際、欧州司法裁判所は、EU域内市場規制と加盟国の国家安全保障上の利益との間に本質的な矛盾はないとしている。EUのAI法は域内市場規制となるため、この目的のために開発されたシステムを完全に範囲から除外する正当な理由はない。

委員会と議会は、この適用除外が法律として成立するのを阻止するために行動しなければならない。

著者プロフィール
VanjaはECNLのプログラム・ディレクターで、グローバルおよびEUのエンゲージメント・プログラムを統括している。市民社会に影響を与えるセキュリティや テロ対策、マネーロンダリング対策に関する活動や、市民の自由に影響を与えるデジタルや人工知能 （AI）の問題におけるECNLの関与を主導している。アムステルダム大学シビックAIラボのAIと法に関する外部博士号候補者。

https://euobserver.com/opinion/156421