(DAIR)『Stochastic Parrots』の共著者らによる「AI一時停止」に関する書簡への声明

メインコンテンツへスキップ
Categories
You are here:
Print

(DAIR)『Stochastic Parrots』の共著者らによる「AI一時停止」に関する書簡への声明

(訳者前書き)2023年、AIの急速な普及にともなって、様々な弊害が顕在化するなかで、IT関連の著名な人々を巻き込んでAI開発の一時停止(モラトリアム)が提案された。一見するともっともにみえるこの提案について、「確率的オウム」の著者たちが公表したのが以下の声明である。以下の声明の背景にある「確率的オウム」については、ここで日本語訳を提供している。ぜひあわせてお読みください。(としまる)


2023年3月31日

要約:いわゆるAIによる害は現実のものであり、現在進行形であり、自動化システムを導入する人々や企業の行動に起因するものである。規制の取り組みは、透明性、説明責任、および搾取的な労働慣行の防止に焦点を当てるべきだ。

[画像出典:Rens Dimmendaal & David Clode / Better Images of AI / Fish reversed / CC-BY 4.0]

3月28日(火)、フューチャー・オブ・ライフ・インスティテュートは、「GPT-4よりも強力なAIシステムの訓練」について、最低6ヶ月間のモラトリアムを求める公開書簡を発表した。これには、チューリング賞受賞者のヨシュア・ベンジオや、世界有数の富豪であるイーロン・マスクを含む2,000人以上が署名している。

この書簡には、私たちが賛同する(そして2021年に査読を経た論文――通称「Stochastic Parrots」――で提案した)提言もいくつか含まれている。例えば、「本物と人工物を見分けるのに役立つ来歴証明や透かしシステム」といったメディアに関する提言などだ。しかし、これらは恐怖をあおる言説やAIの誇大宣伝に覆い隠されており、議論は「人間並みの知能」を持つ架空の「強力なデジタルマインド」のリスクへと誘導されている。こうした仮説上のリスクは、長期主義と呼ばれる危険なイデオロギーの核心であり、それは今日のAIシステムの導入から生じる実際の害を無視している。この書簡は、これらのシステムから生じている継続的な害について一切触れていない。例えば、1) 労働者の搾取や、大規模なデータ窃盗を通じて、ごく少数の組織に利益をもたらす製品が作り出されていること、2) 世界中で合成メディアが爆発的に増加しており、これが抑圧のシステムを再生産すると同時に情報エコシステムを危険にさらしていること、3) 少数の人々による権力の集中が社会的不平等を悪化させていることなどである。

私たちにとって、フューチャー・オブ・ライフ・インスティテュートのような長期主義団体からこの種の書簡が出されたこと自体には驚きはない。同団体は概して、私たちが劇的に強化されたポストヒューマンとなり、宇宙に植民地を築き、数兆人のデジタル人間を創造するという未来像に賛同しているからだ。しかし、この書簡に署名したコンピューティング専門家の数や、メディアによる肯定的な報道を目の当たりにして、私たちは落胆している。「繁栄」あるいは「潜在的に破滅的な」未来を約束する、AIによる空想上のユートピアや黙示録に気を取られるのは危険だ[1]。『確率的オウム』で指摘しているように、自動化システムの能力を誇張し、擬人化するような表現は、人工的なメディアの背後に知覚能力を持つ存在がいると人々に錯覚させる。これは、人々をChatGPTのようなシステムの出力を無批判に信頼させるだけでなく、主体性を誤って帰属させることにもつながる。責任は本来、人工物そのものではなく、その開発者にこそある。

私たちに必要なのは、透明性を確保する規制だ。人工的なメディアに接していることは常に明確であるべきであり、まさそれだけでなく、これらのシステムを構築する組織は、学習データやモデルアーキテクチャを文書化し、開示することを義務付けられるべきだ。安全に使用できるツールを開発する責任は、生成的システムを構築・展開する企業にあるべきだ。つまり、これらのシステムの構築者は、自社製品が生み出す出力に対して説明責任を負うべきである。「そのような決定は、選挙で選ばれていないテック業界のリーダーたちに委ねてはならない」という点には同意するが、同時に、そのような決定は、「AIの夏」を謳歌している学者たちに委ねるべきではないことも指摘しておく。彼らは、経済的にシリコンバレーに依存している場合がほとんどだからだ。AIシステムによって最も大きな影響を受ける人々――「デジタル国境の壁」にさらされる移民、特定の服装を強制される女性、生成システムの出力結果をフィルタリングする中でPTSDに苦しむ労働者、企業の利益のために作品を盗用されるアーティスト、そして生活費の支払いに苦労するギグワーカー――こそが、この議論において発言権を持つべきだ。

「あらかじめ決められたかのような技術的未来に『適応』し、AIが引き起こす『劇的な経済的・政治的混乱(特に民主主義への影響)』に対処しなければならない」という書簡の主張とは対照的に、私たちが持つ役割は、少数の特権階級の人々の優先事項や、彼らが構築・普及させようと決定したものに順応することにあるとは認めない。社会を機械が読み書きできる形に「適応」させるのではなく、私たちのために働く機械を構築すべきだ。現在、ますます大規模な「AI実験」へと向かう競争は、私たちが走るスピードを選ぶことしかできないような、運命づけられた道などではない。むしろ、これは利益追求によって突き動かされた一連の決定に過ぎない。企業の行動や選択は、人々の人権と利益を守る規制に基づいて形作られなければならない。

今こそ行動を起こすべき時である。しかし、私たちの関心の焦点は、架空の「強力なデジタルマインド」であってはならない。むしろ、それらを構築すると主張する企業による、極めて現実的かつ現在進行形の搾取的慣行に焦点を当てるべきだ。そうした企業は、急速に権力を集中させ、社会的不平等を拡大させている。

———

[1] 19世紀に端を発し、今日に至るまで続いている極めて現実的かつ有害な慣行である優生学が、この書簡の脚注5において、同じく「潜在的に破滅的」なものの例として挙げられていることに留意する。

https://dair-institute.org/blog/letter-statement-March2023

Table of Contents