(Techpolicypress)「AIの安全性」というセイレーンの歌

メインコンテンツへスキップ
Categories
You are here:
Print

(Techpolicypress)「AIの安全性」というセイレーンの歌

(訳者前書き)以下は、Tech Policy Pressに2023年に掲載されたやや古い記事だ。しかし、今、「AIの安全性」についての危機感が募るなかで、無批判にAIの安全という合唱に同調することに対する疑問を提起したエッセイとして、現在のリスクを抱えた時代だからこそ読むべきと思う。日本でも災害などから住民の「安全・安心」を守ることを掲げた住民避難などの防災対策が、戦争に備えての住民避難の組織化に転用可能なことから、防災訓練が警察や自衛隊の治安出動体制と表裏一体ではないか、という批判がある。こうした批判は、「AIの安全」という文脈では、まだ市民運動としても登場していない。このエッセイでチェンは米国の事例として、トルーマン政権による米国人の「安全の権利」が監獄の制度化をもたらした事例を紹介し、この前例をえて「AIの安全」という政策の危険性を指摘している。しかし、AIが戦争の武器になり、国家の統治インフラを担うようになる一方で、私たちの日常生活のなかである種の必需品として利用されるようになりつつあることを踏まえたとき、政府やテック企業がいう「AIの安全」が果たして私たちの安全ではなく、もっぱら国家の安全への関心に過ぎないのではないか、ということを疑う必要があるだろう。(としまる 2026/11/21アクセス)


ブライアン・J・チェン / 2023年11月15日

ブライアン・J・チェンは、Data & Societyの政策担当ディレクターである。

11月1日、英国で開催されたAI安全サミットに合わせて準備された演説を行った米国副大統領カマラ・ハリスは、「AIの安全性」について慎重に言葉を選んだ定義を示した。「私たちはAIがもたらすリスクの全容を考慮し、対処しなければならない」「人類全体に対する脅威だけでなく、個人、コミュニティ、制度、そして最も脆弱な人々に対する脅威についてもだ。」と彼女は述べた。

多くの人が称賛したように、副大統領が現在の被害に言及した一方で、その演説は政策立案を「安全なAI」に強く結びつけた。確かに、この戦略は賢明な政治手腕だ。しかし、歴史が何らかの指針となるならば、今や至る所で聞かれる「AIの安全性」への呼びかけは、議論の幅を狭め、アルゴリズムによる被害を是正しうる解決策を再定義してしまう可能性がある。特に米国の刑務所研究は、「安全性」への呼びかけが、構造的解決策を行政プロジェクトへと単純化させてしまった実例を示している。

間違いなく、「AIの安全性」は今、注目を集めている。2週間前、バイデン政権は「安全で、セキュアで、信頼できるAI」と題したAIに関する大統領令を発表した。そのわずか数日後、英国のリシ・スナク首相は英国の新たなAI安全研究所の設立を発表した。米国も同日、独自の安全コンソーシアムを立ち上げた。

つまり、「安全なAI」は人気を博している。しかし、それは実際には何なのだろうか。近日発表予定の論文の著者たちは、ある挑発的な問いを投げかけている。「もし『AIの安全性』が概念ではなく、あるコミュニティであるとしたら?」と。著者たちは、これを特定の関心事や実践を持つ集団として位置づけることで、資金力と人脈に恵まれたこのグループが、いかにして世論の議論の枠組みをますます決定づけるかを浮き彫りにしている。

このコミュニティは、「実存的リスクexistential risk」派とも呼べるもので、人類を滅ぼしかねない自己認識を持つ機械について警告を発している。批判者たちは彼らの手品のような手口を指摘し、悲観論者たちはAIの普及における自らの経済的利害から世間の目をそらそうとしていると主張している。アーメドAhmedらが指摘するように、この陣営にはイデオロギー的な人々も含まれている。効果的利他主義の真の信奉者である彼らは、AI問題を過度に悲観的に捉え、自らを「技術的超人」と称する彼らだけが人類の未来を守れるかのように主張している。

この「実存的リスク」コミュニティに対立するのは、現実世界におけるAIの現在の弊害に焦点を当てる提唱者たちだ。注目を集めるのは、今ここにあるアルゴリズムシステムであり、彼らはAIが労働者に及ぼす非人間化の影響、気候への影響、そして人々の人権や市民権への侵害といった問題に焦点を当てている。

ハリス副大統領の演説が示すように、政治家たちはこの二つの陣営を結びつけようと躍起になっている。統治とは、何らかの概念的な糸で利害団体をまとめ上げることであり、表面的には「安全なAI」がその役割を果たしている。例えば、バイデン大統領の大統領令は、多くの 団体が称賛したように、住宅、労働、教育などの分野におけるAIの弊害に対処している。また、それらの要素を「フロンティア」AIモデルを管理するための技術的プロトコルと結びつけている。

もし、こうした対立する陣営を「安全なAI」という枠組みの下にまとめ上げることが賢明な政治戦略だとしても、それは解決策の視野を狭め、政治経済の問題を見落とすことになるかもしれない。それは、AI政策を官僚主義に閉じ込めてしまう――あちこちに基準や報告要件を設ける――リスクがあり、そもそもAIを利益を生むものにしている、終わりのない監視や労働者の権力の低下といった制度的ダイナミクスを見逃す恐れがある。

「安全性」が進歩的な目標を阻害するのは、これが初めてのことではない。『The First Civil Right』の中で、政治学者のナオミ・ムラカワは、法と秩序の旗印の下で人種的平等を推進するためにトルーマン政権が用いた「安全と安心の権利」という表現が、いかにして最終的に構造的な変革を妨げたかについて指摘している。

黒人米国人を白人暴徒の暴力から守る政策を推進するため、トルーマン政権は米国人の「安全の権利」を「不法な暴力」からの自由と定義した。しかし、ムラカワは、「不法」な暴力の概念化が、「合法」な暴力を正当化してしまったと論じる。社会変革の範囲が、暴力行為が手続き上の規範を満たしているかどうかに限定されるにつれ、政策目標は暴力の終結から警察官僚機構の近代化へとシフトした。こうした措置が社会的平等のために講じられたことを称賛することはできるだろう――だが、それにもかかわらず、それらはアメリカの刑務所を膨張させ、警察による監視国家の先駆けとなってしまった。

国家の暴力を刑罰システムとして問う余地がほとんどなかったため、多くの改革派はシステムの公平性を主張することしかできなかった。ムラカワが指摘するように、多くの人々の活動範囲は、あくまで「個人が捜索され、逮捕され、収容され、あるいは死刑に処される際の行政のあり方」を評価することに限定されていた。

今日の「安全なAI」も同様に、AIの構造的な害悪に異議を唱える取り組みを阻害しかねない。データ抽出や労働収奪のシステムとしてのAIに異議を唱えることができず、活動家たちは、自分たちが持つ唯一の武器が安全の管理、すなわち技術的な監査、評価、リスク軽減のルーチンを実施することだけだと気づくかもしれない。

もちろん、AIは安全であるべきだ。そして、市民社会、倫理チーム、学界、政府にまたがる無数の人々が、AIをより安全にし、プライバシー保護を強化し、システムのバイアスを最小限に抑える方法を先駆けて模索している。

とはいえ、AIが現実世界に及ぼす危害を懸念する者たちは、この包括的すぎる政治的スローガンに異議を唱えるべきだ。妥協と合意形成は政治の常だが、「AIの安全性」という理にかなった呼びかけは、絶え間ないデータ収奪の論理に疑問を呈するどころか、それを支えるテクノ官僚体制を構築してしまう危険性をはらんでいる。

https://www.techpolicy.press/the-siren-song-of-ai-safety

Table of Contents