コンピューティング、君の手は血まみれだ
モシェ・Y・バルディ著
ACM通信、2024年1月、67巻1号、5ページ
10.1145/3632963

「棒や石で骨を折られることはあっても、言葉で傷つけられることはない」という古い子どものことわざがある。このことわざは今、「そして言葉も私を傷つけることがある “と改訂されなければならない。ヘイトスピーチについて考えてみよう。イーロン・マスクは2022年にTwitter（現X）のオーナー兼CEOに就任した。彼が意識的に掲げたのは、「事実上の公共の広場」を自由な言論の場に変えることだった。ソーシャルメディアの専門家たちは、コンテンツに節度を持たせなければ、Twitterがヘイトスピーチの拡散を許してしまうと懸念していた。プラットフォームを引き継いでから3カ月も経たないうちに、マスクは「コンテンツモデレーションに対するTwitterの強いコミットメントはまったく変わっていない」とツイートした。マスクは同日、Twitterの信頼・安全スタッフ（会社のポリシーに違反するコンテンツをプラットフォームから排除する責任を負うチーム）の大半を電子メールで解雇した。私たちは今、Twitter上でヘイトスピーチが急増している。しかし、ヘイトスピーチはインターネット全体に蔓延しており、その結果も出ている。

ミャンマー北部で進行中のロヒンギャ紛争は、ロヒンギャ系ムスリムとラカイン系仏教徒による宗派間の暴力と、ミャンマー治安部隊によるロヒンギャ市民への軍事的弾圧によって特徴づけられる。この紛争により、2015年からロヒンギャの人々がミャンマーから大量に移住し、2017年にはミャンマー軍と武装した地元の人々によるロヒンギャの人々の虐殺が何度か起きている。2022年、アムネスティ・インターナショナルは、Facebookの親会社であるMetaが、ミャンマーのロヒンギャの人々に対して行われた人権侵害に「実質的に関与した」と非難した。[a]アムネスティは、Metaのアルゴリズムが反ロヒンギャのコンテンツを「積極的に増幅」させたと主張した。また、Metaはソーシャルメディア・プラットフォームでのヘイトを抑制するよう市民や活動家から寄せられた嘆願を無視する一方で、エンゲージメントの増加から利益を得ていると主張した。

米国では、性質の異なるもうひとつの危機、つまり若者のメンタルヘルス危機が勃発している。2021年、米軍医総監は『Protecting Youth Mental Health（若者のメンタルヘルスを守る）』[b]と題する勧告レポートを発表したb。”今日の若者世代が直面する課題は、前例がなく、他に類を見ないほど困難なものである。”と軍医総監は記し、”こうした課題が彼らのメンタルヘルスに及ぼす影響は壊滅的である。”と付け加えた。パンデミックに代表されるように、いくつかの要因がこの危機を招いたと思われるが、この危機はパンデミックに先行していた。米国疾病管理センターは2019年、10～14歳の子どもの自殺率が2007年から2017年にかけて3倍近くになったとレポートした。私はそれを読んで息を呑んだ。

Appleは2007年6月末にiPhoneを発表し、Facebookは2008年7月にiPhoneアプリを発表した。偶然だろうか？「責任を持って安全に使用されない場合、テクノロジーツールは私たちを対立させ、いじめや排除のような否定的な行動を強化し、若者が必要とし、それに値する安全で協力的な環境を損なう可能性がある」。

2021年秋、内部告発者のFrances HaugenはFacebookの膨大な内部文書を議会と世界の報道機関に公開した。その文書は、Facebookがそのテクノロジーの社会的悪影響を十分に認識していたことを明らかにした。文書からの直接的な引用は以下の通りだ：

• 「私たちは、10代の少女の3人に1人のボディイメージの問題を悪化させている」
• 「私たちは、公言している通りのことを実際には行っていない。」
• 「誤情報、有害性、暴力的なコンテンツは、リシェアの中で際立って多い」

現在、米国の数十の州がMetaを青少年のメンタルヘルス危機の一因として訴えているのも不思議ではない。

私たちはいかにしてここまで来たのだろうか？ほんの10年前までは「クール」だと思われていたテクノロジーが、どうして弱い人々を傷つけ、トラウマを植え付け、さらには殺すために使用される凶器になってしまったのだろうか？私の過去のコラムを振り返ってみると、警告が見えてくる。効率性への執着は、レジリエンス（回復力）を犠牲にすることになった。[c] 効率性の名の下に、私たちはあらゆる摩擦をなくすことを目指した。[d] 効率性の名の下に、私たちは速く動いてものを壊すことが望ましいと思うようになり、[e] テクノロジー業界がごく少数の巨大企業に支配されるようになった。

今こそ、すべてのコンピューティングの専門家が、コンピューティングの現状に対する責任を負う時である。私たちはスターウォーズに喩えて、コンピューティングを「反乱軍」だと考えていたが、コンピューティングは「帝国」であることが判明した。問題があることを認めることは、コンピューティングが生み出した問題に対処するために必要な第一歩なのだ。

モシェ・Y・バルディ（vardi@cs.rice.edu）は、米国テキサス州ヒューストンにあるライス大学の大学教授であり、カレン・オストラム・ジョージ特別サービス教授（計算工学）である。Communications』誌の前編集長。

a. https://bit.ly/46iaEaH を参照。

b. https://bit.ly/3N7QERp を参照。

c. https://bit.ly/3ufWZU9 を参照。

d. https://bit.ly/3MKyWTP を参照。

e. https://bit.ly/46f8S9Z を参照。

f. https://bit.ly/47eIBdh を参照。

© 2024 著作権は所有者／著者に帰属する。
所有者/著者に(再)出版の許可を求める。

デジタル・ライブラリーは、Association for Computing Machineryによって発行されている。著作権 © 2024 ACM, Inc.

https://cacm.acm.org/magazines/2024/1/278892-computing-you-have-blood-on-your-hands/fulltext