Howdy! How can we help you?
(thebulletin.org)「AI for Good」には注意点も：国際AIサミットで基調講演者が検閲された経緯
(訳者前書き)ここに訳出したのは、The Blletin of the Atomic Scientistsのウエッブサイトに掲載されたインタビュー記事です。翻訳には、下訳にDeepLを用いて校正しました。(としまる)
文：サラ・グダルジ | インタビュー | 2025年7月10日
アベバ・ビルハネがジュネーブで開催された「AI for Good Global Summit 2025」で基調講演を行う。画像：AI for Good Global Summit
スイス・ジュネーブ — 火曜日、国連の人工知能（AI）に関する中核的なイベントである「AI for Good Global Summit 2025」がジュネーブで開幕した。しかし、サミットの開幕は物議を醸すことなく進んだわけではなかった。基調講演者であるアベバ・ビルハネ――TCD AIアカウンタビリティ・ラボthe TCD AI Accountability Lab（AIAL）の創設者兼代表であり、『タイム』誌が選ぶ「2023年AI分野で最も影響力のある100人」の一人――が登壇する数時間前、主催者側からスライドの一部を削除するよう求められた。
具体的には、主催者はビルハネに対し、「『パレスチナ』や『イスラエル』に言及する部分をすべて削除し、『ジェノサイド』を『戦争犯罪』に置き換える」こと、および「Metaによる違法なデータ・トレントについて説明したスライド」を削除するよう求めた。
「結局のところ、（特にビッグテック企業の）具体的な名称やロゴをすべて削除するか、講演を中止するかの二者択一だった」と、アルゴリズムのバイアスやAIの倫理・公平性を研究テーマとするビルハネは、Blueskyへの投稿で記した。
私はビルハネにインタビューを行い、舞台裏で何が起きたのか、この出来事がサミットの精神をいかに損なうものなのか、そして業界全体でより良く公正なAIの実装を確保するためにどう改善すべきかについて話を聞いた。
編集部注：本記事の対談内容は、長さと明瞭さを考慮して編集・要約されている。
サラ・グダルジ：あなたは「社会貢献のためのAI：テクノソリューション主義の新たな顔」と題した基調講演を行う予定だった。登壇前に何が起きたのか？
アベバ・ビルハネ：朝早く、講演のリハーサルに来るようメールが届いた。講演は午前10時半頃だった。私は午前8時過ぎに到着すると、とても親しみやすい主催者たちが私を席に招き、私の研究がいかに素晴らしいか、私がどれほど信頼できる科学者であるかについて話し始めた。その話は延々と続いた。彼らは同じことをぐるぐると繰り返しており、私は何かがおかしいと気づいた。そこで私は「どうしたの？ 教えて」と尋ねた。すると彼らは、私のスライドに載っているような内容ではステージに上がれないと言い、基調講演を「ファイアサイド・チャット」に変えるか、プレゼンテーションの内容を根本的に変更しなければならないと告げた。彼らは毎年、ファイアサイド・チャットのパネルに私を招待するが、私は時間の無駄だと感じているので、これまで断ってきた。今年、私が引き受けた唯一の理由は、それが基調講演であり、私のメッセージを聞く必要がある人々に対して伝えることができる場だからだ。
そこで交渉が始まった。私たちはノートパソコンを開き、スライドを1枚ずつ確認しながら、その都度一部を削除していった。彼らの主な懸念の一つは、私が「戦争犯罪にAIを使わない」と明記したスライドで、そこにはマイクロソフト、アマゾン、グーグル・クラウド、パランティア、シスコのロゴが載っていた。彼らはそれを削除してほしいと求めてきた。私はすでに多くの部分を削除していた。ガザ、パレスチナ、イスラエルに言及した内容は削除した。「ジェノサイド」という表現を「戦争犯罪」に修正した。Metaと違法なデータ・トレント行為を結びつけたスライドも削除していた。私にとって、それが限界だった。そこで彼らは協議し、戻ってきてこう言った。「あの1枚の画像を削除するか、あるいはそのスライドに他のロゴを何百個も追加して、特定された企業を非難する内容にならないようにしない限り、講演はできない」と。たまたま別の講演者がそこにいて、何気なく「ニューヨーク・タイムズに話してみたらどうだ」と口にした。その言葉が主催者を不安にさせたのだろう。彼らはおそらく、私に話させることだけが、おそらく計算済みリスクであり、最も簡単で手っ取り早い解決策だと判断したのだろう。私はなんとかそのスライド1枚を残したまま、内心は極度のストレスと震えに襲われながら基調講演を行った。
グダルジ：なぜ講演でこれらの要素を取り上げることが重要だったのか？
ビルハネ ：私は科学者としての訓練を受けているため、発表した内容はすべて、十分な実証的証拠に裏付けられた研究成果か、すでに公にされている分析や記事のいずれかだ。マイクロソフト、アマゾン、グーグル、パランティアを特に名指しするつもりはないが、これまでの記録が、彼らが権威主義的な政権と協力して、戦争を助長し、不正義を悪化させているクラウドインフラや様々な技術を提供していることを明確に示しているため、そうせざるを得ない。私にとって、「AI for Goodサミット」とは、善を行うこと、つまり持続可能な開発目標（SDGs）そのものだ。そしてSDGsの中でも、SDG 16は完全に軌道から外れていると思う。これは平和と正義に関する目標だ。企業は一方で、AIを社会貢献に活用していることを盾に、「ほら、私たちは基本的人権や持続可能性に取り組んでいる」と主張している。しかし一方で、彼らは戦争を助長する技術を提供している。これは偽善だ。だから私は、既存の証拠を用いて、改めてその点を指摘している。でっち上げなどではない。
グダルジ：今回の出来事は、サミットや業界全体について何を物語っているのか？
ビルハネ ：このサミットについては、正直なところ非常に失望している。「社会貢献のためのAI」と主張しているが、実際にはAI企業や業界、権威主義的な政府、そして彼ら自身の体裁を良くするためだけに役立っているように感じるからだ。彼らは毎年数万人の参加者数やスポンサーシップ、開発されたアプリの数を誇りにしているが、私にとっては、それらは影響力を測る適切な指標ではない。インパクトを測る適切な指標とは、現場での人々の生活の実際の改善だ。ここを見渡すと、どこを見ても「社会貢献サミット」というよりは、他のテックサミットと何ら変わらないように感じる。だからこそ、社会貢献を掲げるはずの場が、企業のアジェンダに完全に乗っ取られ、有意義な取り組みを行うどころか、大企業、とりわけ彼らの利益を推進・加速させることに終始しているのを目の当たりにするのは、本当に残念だ。
グダルジ：これはAI業界全体を反映していると思うか？
ビルハネ：デモ会場を見渡すと、ロボットだらけだ。講演を見てみても、登壇者の多くはテック企業の幹部やCEOだ。つまり、ある程度は単にテック業界を反映しているというだけでなく、これこそがまさにテック業界そのもののように感じられる。これはAIに焦点を当てたイニシアチブだが、AI業界に完全に飲み込まれ、今や彼らのアジェンダを推進しているのだ。
グダルジ：あなたの講演や研究の一部は、AIモデルやデータ、アルゴリズムが、周縁化されたコミュニティを十分に考慮していない点に焦点を当てている。火曜日の朝に起きたことは、特定のコミュニティを軽視した、一例だ。
ビルハネ： まあ、明らかに起きたことは正しくない。招待を受けて参加したにもかかわらず検閲され、本当にストレスの多い状況に置かれた黒人女性がいるというのは、いかなる基準で見ても良いことではない。他にどう説明すればいいのか分からないが、非常にがっかりする出来事だ。
グダルジ：業界は、より多くの人々に貢献するために何ができるのか。つまり、AIを本当に善のために活用するにはどうすればよいのか？
ビルハネ：ああ、これは大きな問いだ。AIは非常に広範な用語であり、製品、研究、アプリケーション、ユースケースなど、その範囲は極めて広い。したがって、具体的なアプリケーションや分野を特定せずに、AIについて、あるいはそれが世界に何らかの利益をもたらすかどうかを論じるのは難しい。しかし、人々がAIを生成AIと同一視する傾向にあるため、生成AIに関連して質問に答えることにする。
私にとって、その弊害――データセンターのエネルギー消費や冷却に必要な水による環境破壊、私たち一人ひとりがトレーニングデータを提供しているにもかかわらず、相談されることもなく、その事実すら知らされず、同意も求められない搾取的なビジネスモデル、そしてコンテンツのモデレーションやデータラベリングといった心理的に最も負担の大きい仕事に従事しながら、ごくわずかな報酬しか得られないギグワーカーの存在――を考えると、生成AIが全体としてプラスになるとは到底思えない。
さらに、生成AIをめぐる多くのアプリケーションは、これらのモデルを厳格にテスト・評価するのではなく、単に「私を信じろ」といったようなアプローチで運用されがちだ。家庭にあるトースターのような単純な家電製品を考えてみよう。市場に出る前、一般の人々の手に渡る前には、厳格な基準や評価、安全性の確認を経なければならない。一方、AIは社会にはるかに大きな影響を与えるにもかかわらず、私たちにはほとんど安全策がない。規制もほとんどなく、執行メカニズムもほぼ皆無だ。これらすべてを考慮すると、生成AIがどのように有益になり得るのか、本当に見当がつかない。
グダルジ：より有益なものに変えることはできるのか？
ビルハネ：理論的には「はい」と言いたいが、そのためには、私たちが知るAIそのものを根本的に見直す必要がある。機械学習において私たちが目指してきた多くの価値観を、本当に手放さなければならない。大規模で汎用的なAIは排除すべきだ。目的を持って構築され、小規模なコミュニティによって制御・管理される、より小さなモデルが必要だ。意図的に構築された小規模なAIは一定の善をもたらすかもしれないが、そこから資本主義的な動機を排除しなければならない。そして現在、資本主義とAIのビジネスモデルは深く絡み合っている。
また、現在、AIは人々を罰するためにあらゆる有害な方法で利用されている。これも排除しなければならない。AIは「罠」としてではなく、人々を助けるために使わなければならない。刑務所制度の場合であれば、これは再犯予測アルゴリズムは人々を捕まえるために存在しているものだ。福祉アルゴリズムを見ても、それらは不正利用者を捕まえるために存在している。つまり、社会空間に普及・導入されているAIのほとんどは、人々を助けるものではなく、罰する仕組みとして機能しているのだ。再犯予測アルゴリズムの代わりに、刑務所を出た人々が社会に復帰できるよう支援するものを開発すると想像してみてほしい。しかし、それだけでは利益が得られないため、そのようなツールは私たちには存在しないのだ。犯罪の定義を、テック企業のCEOやホワイトカラー犯罪者に再焦点化し、脱税者を摘発するツールを使うと想像してみてほしい。しかし、これもまた、少数の権力者たちの利益にはならない。だから、実現しないのだ。
また、優生学や人相学を事実上復活させているAIも数多く存在する。つまり、AIを善のために活用するためには、こうした要素を変えなければならないのだ。
グダルジ：また「AI for Good」でイベントを行う予定はあるか？
ビルハネ：もう招待されることはないと思う。その可能性は極めて低い。
