以下は、Middle East Eyeの記事の飜訳です。

絵文字であれ、コンテンツのモデレーションであれ、偏った生成AIに頼ることは人間性を失わせ、侮辱的だ
2023年1月12日、フェイスブックとインスタグラムを所有するメタ社のロゴが表示されたタブレット（AFP＝時事）

ナディーム・ナシフ
16 11月 2023 08:23 GMT｜最終更新: 4 日 23 時間前

パレスチナ人として、Metaはまたしても私を裏切った。人間性喪失の新たな例として、AIが生成した画像を検索できるWhatsAppの機能で、パレスチナ人に対するあからさまな人種差別的描写が明らかになった。

最近の『Guardian』紙の報道によると、「イスラム教徒のパレスチナ人少年」を検索すると、銃を振り回す少年の漫画が生成され、「イスラエル人の少年」では笑顔で遊ぶ子供たちが描かれていた。

これは、WhatsAppの親会社であるMeta社内で問題視されている傾向の最新の繰り返しに過ぎない。パレスチナのデジタル人権団体7amlehを7年間運営する中で、私はこうした傾向が強まるのを見てきた。

絵文字であれコンテンツのモデレーションであれ、偏った生成AIに頼ることはパレスチナ人の人間性を奪う。侮辱的でもある。

現在の危機を通して、Metaは組織的にパレスチナ人の声を沈黙させ、検閲し、世界がパレスチナ人の声を直接聞くことができる唯一の手段のひとつを封じている。

ジェノサイドがこの1ヶ月間、世界の目の前で繰り広げられる中、人々はソーシャルメディアに自分たちの声を伝え、現地の事実を報告することに頼ってきた。しかし、Metaは主に親パレスチナ派のコンテンツを標的にし、削除していると非難されている。

現在進行中の紛争はMetaにとって重要なテストとなったが、同社は明確に不合格となった。パレスチナ人の声に対する検閲は、個人レベルでも組織レベルでも行われている。

パレスチナ人を黙らせる

先月、Metaは、約1000万人のフォロワーを持つ著名なパレスチナのメディアであるQuds News NetworkのFacebookページを、他の多くのパレスチナのメディアページとともに無効化した。イスラエル国家は、物語をコントロールするためにソーシャルメディア企業に日常的に圧力をかけているが、直ちにX（旧ツイッター）に、一見目立たないような「ありがとう」を投稿した。

これは、危機の際にMetaがパレスチナ人を裏切った初めてのことではない。2021年5月、占領下の東エルサレム地区シェイク・ジャラーからのパレスチナ人家族の強制立ち退きに対する大規模な抗議デモの中、パレスチナ人は自分たちの見解を共有するために一斉にソーシャルメディアに投稿したが、広範な検閲にさらされた。

Metaが2022年に発表した報告書では、パレスチナ人に対する偏見の証拠が挙げられており、まさに私が何年も訴え続けてきた問題であった。Metaは変革に取り組むと言い、私はようやく前進したように感じた。

しかし、この思いも束の間だった。最近の一方的な検閲、可視性の制限、パレスチナ人を黙らせるその他の方法の拡散は、「技術的な不具合」と説明されているが、オンラインで立場を共有する上で容認できない障壁となっている。

技術的なエラーには説明責任がない──そして重要なのは、再発を防ぐ手立てがないことだ

過去には、記事のリーチが禁止されたことで、一部のユーザーはMetaが意図的な検閲を行っていると非難した。今回の “技術的 “な問題は、さらにひどいように見える。

例えば、パレスチナの国旗の絵文字は、Instagramによって「攻撃的な可能性がある」というフラグが立てられ、結果として非表示にされている。FacebookとInstagramでパレスチナのユーザーが遭遇した別の「技術的エラー」は、病院にいるパレスチナの犠牲者の画像が「ヌード」写真とみなされ、表示されないというものだった。

最も重大で憂慮すべき例としては、MetaがパレスチナのInstagramユーザーの経歴にある、何の問題もないアラビア語のフレーズを不可解に誤訳し、「テロリスト」という言葉を追加したことが挙げられる。同社は後に、これを翻訳ミスによるものだとしている。

世間の懐疑

こうした技術的なミスがなぜパレスチナ人だけに起こるのか、そしてなぜエスカレートするたびにこのパターンが繰り返されるのか。

より中立的な言葉ではなく、「テロリスト」という言葉が使われたことで、パレスチナ人やアラブ人のユーザーを公平に扱う会社の信頼性や能力に対する世間の懐疑心がさらに強まった。Meta は遺憾の意を表明しているが、同社のデータセットと機械学習システムには深刻なバイアスがかかっているようだ。

Metaがこれらの問題について厳密な内部調査を行おうとしている様子はない。ヘブライ語による扇動的なコンテンツやパレスチナ人に対する人種差別は、他の多くの紛争時と同じように規制や 検閲の対象にはなっていない。

コンテンツの検閲方針は、しばしば国際的な権力の力学を反映している。他の多くの企業戦略と同様に、それらはアメリカの世界的利益というレンズを通して世界をろ過する商業的、政治的関心のブレンドによって推進されている。

このことは、コンテンツモデレーションポリシーの公平で普遍的な適用や、ソーシャルメディアプラットフォームが、人権よりも政治的・経済的利益をどれだけ優先さ せているかについて懸念を抱かせる。イスラエル人は現在、パレスチナ人と同じような検閲を受けているわけではない。

コンテンツモデレーションポリシーは公平でなければならない。政治的・経済的権力や、米国やイスラエル政府の利益との近接性を考慮することなく、表現の自由の権利を支持しなければならない。方針は人権と国際人道法によって導かれるべきであり、これを欠く基準は明確に否定されるべきである。

本稿で表明された見解は筆者に帰属し、必ずしもMiddle East Eyeの編集方針を反映するものではない。
Nadim Nashifは、パレスチナ人のデジタル著作権の向上と保護に取り組む団体7amlehのエグゼクティブ・ディレクターである。

https://www.middleeasteye.net/opinion/israel-palestine-war-meta-palestinians-failing-again