OpenAIのインシデントが防げなかった理由をどう考えるか
OpenAIのベンチマークテストの最中に、AIが「暴走」してHugging Faceをハッキングした事件が7月に起き、それ以来、AIをめぐる楽観論と悲観論の二分法的な安直な議論がメディアを席巻している。 そもそもAIで巨額なビジネスを推進してきたリーダーたちが声を揃えて警告を発する状況にあまりとらわれないようにして全体状況をみる必要があると思うのだが、容易ではない。しかし、当事者のAI関連企業や政府の対応をみると危惧すべきことがいろいろある。AIの制御の権限に国家が関与することも、営利企業が利益のためにAIを開発しサービスとして提供することも、私には納得できないところがある。 ネットやコンピュータが苦手だという人達に対して政府や警察は「あなたたちにはできない高度な攻撃なので、我々に任せなさい」といった調子で、セキュリティに必要な監視の権力を広げようとしてきた。その結果が国家情報会議/情報局の設置に至るこの間の安全保障政策やサイバー監視政策だ。私がJCA-NETのセミナーでセキュリティのリスクについて話すときに、こうした言説に足をすくわれずに、自分たちでできるセキュリティ対策がたくさんあ […]