EFFのAIサイバーセキュリティ政策フレームワーク

メインコンテンツへスキップ
Categories
You are here:
Print

EFFのAIサイバーセキュリティ政策フレームワーク

著者:インディア・マッキニー、トーリ・ノーブル

2026年11月16日

最近、AIがウェブサイトのセキュリティを突破したというニュースが相次いでいる。AIが関与していることから新たな問題のように感じられるかもしれないが、実際には、これらの企業――世界最大級のテック企業の一部――が、こうした侵害を防ぐために講じることができたし、講じるべきだった、長年にわたるサイバーセキュリティのベストプラクティスが存在することが判明している。

最近のサイバーセキュリティインシデントは、世界最大級のテック企業の一部が、インターネットに接続されたシステム上で最先端のAIシステムをテストする際、基本的なセキュリティ対策を講じていなかったことを示している。残念ながら、こうした不備により、AI研究共有プラットフォーム「Hugging Face」やオーストラリアの医療システムのウェブサイトを含む、数多くのサードパーティのウェブサイトが侵害される結果となった。さらに悪いことに、テスト中のAIシステムに対する監視が不十分だったため、AI開発者はインシデントの大部分を、発生してからかなり時間が経ってからでなければ検知できなかった。もし各社が基本的かつ常識的なセキュリティプロトコルを遵守していれば、こうしたインシデントは発生しなかっただろう。

ホワイトハウスや大手AI企業の指導者の中には、措置は不要だと主張する者もいるが、当然のことながら、あらゆるレベルの議員や両党の議員が、新たな追加の安全プロトコルを策定するための法案を提案している。これらのインシデントは立法措置を正当化するかもしれない。しかし、良いニュースは、事後報告書が新たなプロトコルは概して不要であることを示している点だ。既存のベストプラクティスに従っていれば、OpenAIとHugging Faceの事例やそれに類する他の事例を防ぐには十分だったはずだ。つまり、責任あるAI開発者は、システムの開発やテストの際に、確立されたセキュリティ対策を講じることで、直ちに一般市民を保護するための措置を講じることができるのだ。

立法者はまず、過失、重過失、動産侵害、デジタルミレニアム著作権法(DMCA)第1201条、および消費者詐欺・濫用法(CFAA)やカリフォルニア州刑法第502条などの類似する州法規定といった、既存の法的保護措置を参照すべきだ。

政策立案者は、AI開発者に確立されたセキュリティプロトコルの遵守を義務付け、これを怠った場合に法的責任を課すことで、一般市民の保護に貢献できる。こうした政策は、イノベーションを阻害することなく、AI開発者による無責任な行為から一般市民を守ることになる。現行法の不備により新たな立法が必要とされる範囲において、EFFは以下の政策枠組みを推奨する:

  • 法的なセキュリティ要件:立法者は、AI開発者に対し、AIシステムのテストにおいて、強固なサンドボックス化やネットワークの隔離、最小権限のアクセス、効果的なログ記録と監視、明確なインシデント対応手順など、確立されたサイバーセキュリティのベストプラクティスを遵守することを義務付ける法律を制定すべきだ
  • 規制基準:議会は、米国国立標準技術研究所(NIST)1などの既存の連邦機関に対し、前述の確立されたベストプラクティスに基づき、生成型AIシステムの導入前の開発およびテストに関する安全基準を策定するよう義務付けるべきだ。当該機関は、報告されたセキュリティインシデントや主要な技術的進歩に応じて、2年ごとに、あるいは必要に応じてそれより早期に、基準を更新するよう義務付けられるべきである。これらの基準は、学術界や非営利団体のAI研究者、市民的自由擁護団体、および商業AI開発者と協議の上で策定され、公示・意見聴取プロセスを経て、機関による正式な規則制定を通じて採択されるべきである。その協議には、競争に対する潜在的な悪影響の評価を含めるべきであり、その目的は、規制基準が潜在的な競合他社を事実上締め出さないことを確保することにある。
  • 責任:本法は、NISTまたはこれらの規制の採択を担当する他の連邦機関が採択したサイバーセキュリティ基準を満たさない条件下で実施されたAIの開発および試験が、第三者システムへの不正アクセスを招いた場合、当該企業が状況下で第三者システムへの不正アクセスを防止するために合理的な措置を講じたことを証明できない限り、民事責任を規定すべきである。
  • 執行: 連邦および州の当局は、NISTなどの指定連邦機関が採択した最低基準を満たさなかった場合、AI開発者に責任を問えるようにすべきである。連邦に加え州にも執行権限を付与することで、規制の乗っ取りのリスクを低減できる。規制当局は、第三者のコンピュータシステムへの不正アクセスを伴うセキュリティインシデントが発生した場合、独立した調査の実施および影響を受けた当事者への通知を義務付けるべきである。最後に、立法には適切に的を絞った私的訴訟権を含めるべきである。

一般市民は、無謀なAI開発のリスクを心配する必要はないし、無責任な開発者による被害を防ぐためだけにAIの恩恵を諦める必要もない。実証されたリスクに対処する政策を採用することで、立法者は有用なツールの開発を妨げることなく、有意義な公的保護を提供できる。

1NIST、NSA、およびCISAは最近、AIエージェントの訓練および評価中のセキュリティインシデントを管理するための一連の自主的実践指針を発表した。これらの指針は参考にはなるが、ここで概説した公的かつ参加型のプロセスに従って策定されるべき規制基準に代わるものではない。

https://www.eff.org/deeplinks/2026/11/effs-ai-cybersecurity-policy-framework

Table of Contents