18-10-2022
軍事・国家安全保障に利用されるAIを欧州の新たな拘束力のある制度から除外することの危険性についての新たな法的見解。
人工知能（AI）の利用は、多くの分野で利益をもたらす一方で、基本的人権に深刻な脅威を与える可能性があることがますます認識されている。こうした脅威に対抗し、権利を保護するために、欧州連合（EU）と欧州評議会（CoE）の両レベルで、AIシステムの使用に関する拘束力のある規則が提案されている。

1. EUでは、AI法（AIA）がすでに立法化されている。
2. CoEでは、AI、人権、民主主義、法の支配に関する条約のいわゆる「ゼロドラフト[原案]」が配布されている。
   しかし、欧州の議員たちは、AIが基本的人権に対して間違いなく最大の脅威となる文脈、すなわち国家安全保障、防衛、国境を越えた法執行におけるAIの利用を、提案されている文書の適用から除外しようとしている。

ロンドン・メトロポリタン大学国際法名誉教授でオックスフォード大学マーティン・スクール AssociateであるDouwe KorffがECNLのために作成した法的見解では、説明不可能あるいは反対しがたいようなAIシステムは許容できないリスクを呈するため、AIAとCoE条約の両方で禁止されるべきであると主張している。具体的には

• AIAにおいて、国家安全保障を一律に免除することはできない。いかなる免除も比例的でなければならず、EU域内市場やデータ保護法などのEU法を損ねるものであってはならないためである。
• Europol、Frontex、その他のEUのエージェンシーは、EU基本権憲章の義務を免除されておらず、AIAの適用除外になるべきではない。
• 軍事的または二重の用途で開発されたAIシステムは、AIAの適用を除外されるべきではない。
• EUの外交・防衛政策／制度は、説明不可能あるいは反対しがたいようなAIシステムの禁止を考慮したものに改められるべきである。
• 国防のためのAIシステムの設計、開発、利用をCoE条約から明示的に除外すべきではない。

国家安全保障、防衛、国境をまたがる法執行の文脈におけるAIに関連するあらゆる事柄を包括的に新しい保護から排除しようとする試みは悪質であり、もし成功すれば、軍事-産業-政治の複合体全体がほぼデジタル上の権利の及ばない地域になってしまうだろう。

ECNLは前回のリーガル・ブリーファーで、AIAに人権保障措置を盛り込むための具体的な改正案をすでに提案している。今回の法的見解が、新しい文書の起草に携わる政策立案者や立法者に情報を提供する一助となり、上記のような危険性を生み出すことがないよう願うものである。

法的見解の全文と要旨は以下からダウンロードできる。

ECNL意見書 AI法における包括的な国家安全保障の免除
要旨

https://ecnl.org/news/rights-free-zone-blanket-national-security-exemption-ai-legislation