Categories
Table of Contents
< Back
You are here:
Print

(Propuburica) Facebookが20億人のWhatsAppユーザーのプライバシー保護をどのように弱体化させているか

WhatsApp はユーザーのメッセージを誰にも見られないと断言しているが、同社は大規模な監視活動を行っており、個人情報を定期的に検察官に提供している。
ピーター・エルカインド、ジャック・ギラム、クレイグ・シルバー
9月7日午前5時(日本時間
https://www.propublica.org/article/how-facebook-undermines-privacy-protections-for-its-2-billion-whatsapp-users

シリーズ:ソーシャル・マシーン

フェイスブックはいかにして独自のルールで行動しているのか

2021年9月8日付で修正。この記事の前のバージョンでは、WhatsAppがユーザーのメッセージをどの程度まで調査しているか、またメッセージのやり取りを秘密にするための暗号を解除しているかどうかについて、意図しない混乱があった。この記事では、ユーザーから虐待の可能性があると報告されたスレッドのメッセージのみを調査していることを明確にするために、文言を変更した。エンド・ツー・エンドの暗号化を破るものではない。

マーク・ザッカーバーグは、2019年3月にFacebookの新しい「プライバシーに焦点を当てたビジョン」を発表した際、同社のグローバルメッセージングサービス「WhatsApp」をそのモデルとして挙げた。フェイスブックのCEOは、「当社は現在、プライバシー保護のためのサービスを構築することに高い評価を得ているわけではありません」と認めた上で、「コミュニケーションの未来は、人々がお互い語りあうことが安全に保たれ、メッセージやコンテンツが永遠に残ることがないと確信しうるプライベートで暗号化されたサービスにますますシフトしていくと思います。このような未来を実現するために、私たちは貢献したいと考えています。私たちは、WhatsAppを開発した方法でこれを構築する予定です」と記した

ザッカーバーグは、WhatsAppの特徴的な機能を中心に説明し、InstagramやFacebook Messengerへの適用を計画していると述べた。エンド・ツー・エンドの暗号化は、すべてのメッセージを読めない形式に変換し、目的の場所に到達したときにのみ復号される。ザッカーバーグは、WhatsAppのメッセージは非常に安全であり、同社でさえも誰も読むことができないと述べている。ザッカーバーグは以前、2018年の米上院での証言で、「我々はWhatsAppのコンテンツを一切見ていない 」と言っていた。

WhatsAppはこの点を一貫して強調しており、ユーザーがメッセージを送信する前に、同様の保証を示すフラッグが画面上に自動的に表示される。「このチャットの外部の人間がメッセージを読んだり聞いたりすることはできません。WhatsAppでさえもそうです。」

これらの保証を考えると、WhatsAppがテキサス州オースティン、ダブリン、シンガポールのオフィスビルの1フロアに1,000人以上の契約労働者を抱えていることに驚くにちがいない。時間給で働く彼らは、仕事ごとに分けられたポッドの中でコンピュータに向かい、Facebookの特殊なソフトウェアを使って何百万ものプライベートメッセージや画像、動画を選別している。詐欺やスパム、児童ポルノ、テロリストの陰謀など、画面に表示されたものはすべて、通常1分以内に判断される。

契約労働者が閲覧できるのは、ユーザーによってフラグが立てられ、不正使用の可能性があるとして会社に自動的に転送されたWhatsAppメッセージの一部に限定される。この審査は、暗号化されていないデータ(送信者やアカウントに関するデータなど)も審査するという、より広範な監視活動の一環だ。

WhatsAppでは、ユーザーのプライバシーを守ると同時にユーザーを取り締まることは、非常に困難な任務だ。ProPublicaが入手した12月の社内マーケティングプレゼンテーション(49枚のスライド)では、WhatsAppの「プライバシー・ナラティブ」を「猛烈に」推進することが強調されている。「ブランドキャラクター」を「移民の母」になぞらえ、「ブランドトーンパラメーター」と題したスライドには、タリバンによる銃撃戦を生き延びてノーベル平和賞を受賞したマララ・ユサフザイの写真が表示されている。このプレゼンテーションでは、同社のコンテンツ・モデレーションの取り組みについては触れられていない。

WhatsAppのコミュニケーション担当ディレクターであるCarl Woogは、オースティンやその他の場所にいる契約労働者のチームがWhatsAppのメッセージを確認し、「最悪の」悪用者を特定して削除していることを認めている。しかし、WoogはProPublicaに対し、同社はこの作業をコンテンツのモデレーションとは考えていないと述べている。「WhatsAppでは通常、この言葉を使いません。」 同社はこの記事のための取材を拒否したが、質問に対しては書面でコメントを寄せた。「WhatsAppは世界中の何百万人もの人々のライフラインです。アプリの構築方法に関する決定は、ユーザーのプライバシー、高度な信頼性の維持、不正使用の防止を中心に行われています」と述べている。

WhatsAppがコンテンツをモデレートしていることを否定していることは、WhatsAppの企業兄弟であるInstagramやFacebook Inc.の発言とは明らかに異なる。WhatsAppは、約15,000人のモデレーターがFacebookとInstagramのコンテンツを審査していると述べているが、どちらも暗号化されたものではない。同社は四半期ごとに透明性レポートを発表しており、FacebookとInstagramが様々なカテゴリーの不正なコンテンツに対して「アクション」を行ったアカウントの数を詳細に示している。WhatsAppにはそのようなレポートはない。

Facebook Inc.は、コンテンツ審査員を配置することで、WhatsAppユーザーのプライバシーを侵害しているが、これはほんの一例だ。20億人のユーザーを抱える世界最大のメッセージングアプリであるWhatsAppは、ユーザーの理解や期待と比べてはるかにプライバシーを侵害している。ProPublicaの調査によると、2014年にWhatsAppを買収して以来、Facebookは複数の方法でセキュリティに関する保証を覆してきたことがわかった。(今年の夏に掲載された2つの記事では、WhatsAppのモデレーターの存在が紹介されていたが、ユーザーのプライバシーへの影響ではなく、その労働条件や給与に焦点が当てられてた。今回の記事は、メッセージやユーザーデータを精査するWhatsAppの能力の詳細と範囲を明らかにし、その情報を使ってWhatsAppが何をしているかを検証した初めての記事である)。

WhatsAppに勤務するコンテンツモデレーターたちの主張の多くは、昨年米国証券取引委員会に提出された内部告発の告発状にも反映されている。ProPublicaが入手したこの告発状には、WhatsAppがユーザーのメッセージ、画像、動画を調査するために、外部委託業者、人工知能システム、アカウント情報を広範囲に使用していることが詳細に記されている。訴状では、ユーザーのプライバシーを保護しているという同社の主張が虚偽であると主張している。同社の広報担当者は、「この訴状は見ていません」と述べている。米国証券取引委員会(SEC)は、この件に関して何の行動も起こしておらず、SECの広報担当者はコメントを控えた。

Facebookは、WhatsAppのユーザーから収集したデータの量、その使用目的、法執行機関との共有量についても軽視している。例えば、WhatsAppは、ユーザーの活動について多くを明らかにできる暗号化されていないメタデータを、司法省などの法執行機関と共有している。Signalのようなライバル会社は、ユーザーのプライバシー侵害を避けるため、メタデータの収集量を意図的に減らし、法執行機関との共有量を大幅に減らしていいる。(「WhatsAppは正当な法的要求に対応しており、特定の人物が誰とメッセージをやり取りしているかをリアルタイムで提供することを求める命令も含まれています」と述べている。)

財務省の職員がBuzzFeed Newsに機密文書をリークし、米国の銀行を経由したダーティーマネーの流れを暴露した事件で、WhatsAppのユーザーデータが検察官の立件に貢献したことを、ProPublicaは把握したことがある。

他のソーシャルメディアや通信プラットフォームと同様、WhatsAppもプライバシーを求めるユーザーと、犯罪やネット上の不正行為の撲滅に役立つ情報の提供を求める法執行機関との間で板挟みになっている。WhatsAppはこのジレンマに対し、「ジレンマではない」と主張している。WhatsAppの責任者であるWill Cathcartは、7月にオーストラリアのシンクタンクとYouTubeで行ったインタビューで、「エンドツーエンドの暗号化によって人々の安心と安全を確保しつつ、法執行機関と協力して犯罪を解決することは絶対に可能だと思います」と語っている。

プライバシーと法執行機関への情報発信との間の緊張関係は、第2の圧力によって悪化している。FacebookはWhatsAppで収益を上げなければならない。2014年に220億ドルでWhatsAppを買収して以来、Facebookはユーザーに1円も請求しないサービスからどうやって利益を生み出すかを考えてきた。

この難問は、ユーザーや規制当局、あるいはその両方を怒らせる動きにつながった。2016年にWhatsAppのユーザーデータをFacebookと共有することを決定したのも、アプリの収益化という目的があったからだ。同じ利益衝動が、WhatsAppで広告を販売するという物議を醸した計画に拍車をかけたが、2019年後半に断念された。また、1月に実施され失敗したもうひとつの取り組みの背後にも利益追求の指示があった。WhatsApp上でのユーザーと企業とのやりとりに関する新しいプライバシーポリシーを導入し、企業が顧客データを新たな方法で利用できるようにするというものだ。この発表により、ユーザーは競合アプリに流出してしまった。

WhatsAppのビジネスプランはますます大胆になっており、ユーザーがWhatsAppで支払いをしたり、カスタマーサービスのチャットを管理したりするなど、利便性はあってもプライバシー保護が不十分な一連のサービスを企業に提案することに重点を置いている。その結果、WhatsAppユーザーが企業とのコミュニケーションにWhatsAppを利用すると、エンドツーエンドの暗号化による保護がさらに損なわれ、同じアプリ内で2段階のプライバシーシステムが存在するという混乱を招いている。

同社が12月に発表したマーケティングプレゼンテーションでは、WhatsAppの相反する要求が表現されている。「プライバシーは今後も重要である」それは、「将来のビジネス目標を包含するために、ブランドの入口を更に広くする 」必要があるからだと述べている。

I. “Content Moderation Associates”

29人の現役および元モデレーターへのインタビューによると、オースティンのWhatsAppにおけるコンテンツモデレーターは、FacebookやInstagramのモデレーターと多くの点で共通しているという。ほとんどが20代から30代で、過去に店員や雑貨店のチェッカー、バリスタなどの経験を持つ人が多い。モデレーターたちは、Facebookをはじめとするフォーチュン500の巨大企業と取引のある巨大企業の請負会社、アクセンチュアAccentureに採用され、雇用されている。

求人情報には「コンテンツレビュー」という職種が記載されており、FacebookやWhatsAppについては一切触れられていない。雇用文書には、労働者の肩書きが 「コンテンツ・モデレーション・アソシエイト 」と記載されている。給与は時給16.50ドルから。モデレーターはアクセンチュアで働いていると伝えるように指示されており、秘密保持契約書(NDA)にサインすることが求められる。このNDAを理由に、ProPublicaの取材に応じた現役および元モデレーターのほとんど全員が匿名を条件にした。(アクセンチュアの広報担当者はコメントを控え、コンテンツのモデレーションに関する質問はすべてWhatsAppに問い合わせた)

2019年にオースティンでWhatsAppチームが結成されたとき、Facebookのモデレーターたちはすでに、オースティンの有名なバーや音楽シーンに隣接する6番街のオフィスタワーの4階に入居していた。WhatsAppチームはその上のフロアに設置され、新しいガラス張りのワークポッドと快適なバスルームが用意され、Facebookチームのメンバーたちは羨望の眼差しを向けた。パンデミックの間、WhatsAppチームのほとんどは自宅で仕事をした。オフィスでも自宅でも、彼らはスクリーンの前で毎日を過ごし、Facebookのソフトウェアツールを使って、テーマごとに「リアクティブ」と「プロアクティブ」に沿って整理された「チケット」の流れを調べる。

彼らは、毎週何百万ものWhatsAppのコンテンツを精査している。1人の審査員が1日に扱うチケットは600枚程度で、1枚あたりの作業時間は1分にも満たないという。WhatsAppは、コンテンツ審査のために雇用されている契約労働者の数を明らかにしていないが、ProPublicaが確認した一部の人員リストによると、アクセンチュアだけでも1,000人以上が雇用されているようだ。WhatsAppのモデレーターは、FacebookやInstagramのモデレーターと同様に、スピードと正確さに関するパフォーマンス基準を満たすことが求められ、アクセンチュアがそれを監査している。

彼らの仕事は他の点でも異なる。WhatsAppのコンテンツは暗号化されているため、FacebookやInstagramのように、人工知能システムがすべてのチャットや画像、動画を自動的にスキャンすることはできない。その代わり、ユーザーが、プラットフォームの利用規約に違反している疑いのあるメッセージを特定してアプリの「報告」ボタンを押すと、WhatsAppの審査員は非公開のコンテンツにアクセスできるようになる。WhatsAppの元エンジニアやモデレーターによると、この報告ボタンを押すと、違反したとされるメッセージとその前の4つのメッセージ(画像や動画を含む)の合計5つのメッセージが、スクランブルされていない状態でWhatsAppに転送されるという。自動化されたシステムは、これらのチケットを契約労働者が評価するための「リアクティブ」なキューに送る。

人工知能は、WhatsAppが収集したユーザーの暗号化されていないデータをスキャンし、疑わしいアカウント情報やメッセージングパターン(新規アカウントが急激に大量のチャットを送信するのはスパムの証拠)、過去に不正使用と判断された用語や画像などと比較することで、2つ目のキュー(いわゆるプロアクティブキュー)を開始する。暗号化されていないデータの精査は、広範囲に及ぶ。ユーザーのWhatsAppグループの名前とプロフィール画像はもちろん、電話番号、プロフィール写真、ステータスメッセージ、携帯電話のバッテリー残量、言語とタイムゾーン、携帯電話固有のIDとIPアドレス、無線信号強度、携帯電話のOS、電子機器のリスト、関連するFacebookやInstagramのアカウント、アプリを最後に使用した日、過去の違反履歴などが含まれる。

WhatsAppの審査担当者は、どちらのタイプのキューのチケットを提示されても、3つの選択肢がある。何もしない、ユーザーを「ウォッチ」にしてさらに精査する、またはアカウントを禁止する。(FacebookやInstagramのコンテンツモデレーターは、個々の投稿の削除など、より多くの選択肢がある。FacebookやInstagramのコンテンツモデレーターは、個々の投稿を削除するなど、より多くの選択肢があるが、WhatsAppのレビュアーは個々の投稿を削除できないため、「コンテンツモデレーター」ではないと主張している。)

WhatsAppのモデレーターは、主観的で微妙な判断を下さなければならないことが、ProPublicaのインタビューや文書で明らかになっている。審査員は、「スパム報告」、「Civic Bad Actor」(政治的なヘイトスピーチや偽情報)、「Terrorism Global Credible Threat」、「CEI」(児童搾取的画像)、「CP」(児童ポルノ)など、幅広いカテゴリーを審査する。もうひとつのカテゴリーは、WhatsAppを使って顧客とのチャットや商品の販売を行っている何百万もの中小企業のメッセージングや行動を対象としている。これらのカテゴリには、”business impersonation prevalence”、”commerce policy probable violators”、”business verification “などのタイトルが付けられている。

モデレーターによると、WhatsApp社やアクセンチュア社から送られてくるガイダンスは、難解であると同時に不穏で生々しい図像に基づいているという。例えば、虐待的な性的画像についての判断は、画像に写っている裸の子供が思春期に見えるか思春期前に見えるか、腰骨や陰毛を医学的な指標表と比較して判断することになる。また、あるレビュアーは、政治的なスピーチの列の中で、ナタを振り回した男が切断された頭部のようなものを掲げている粗いビデオを思い出していた。「私たちは、『これは本物の死体なのか、それとも偽物の死体なのか』と言いながら見なければなりませんでした。」

2020年末、モデレーターは、”sextortion “の疑いがある新しいキューについて告知された。これは説明用のメモによると、「インターネット上で自分ヌードや他人が共有した自分のヌード画像で脅迫される性的搾取の一形態」と定義された。このメモによると、労働者たちはユーザーから報告されたメッセージのうち、「セクストーション/ブラックメールのメッセージによく使われる定義済みのキーワードを含むもの 」を審査することになるという。

WhatsAppのレビューシステムには、バグのある言語翻訳などの障害がある。アクセンチュアは様々な言語を話す従業員を雇用しているが、一部の言語のメッセージについては、不正使用の苦情を評価するネイティブスピーカーが現場にいないことがよくある。そのため、Facebookの言語翻訳ツールを使用することになるが、このツールは不正確で、アラビア語のメッセージをスペイン語と表示してしまうこともあるとレビューで指摘されている。また、このツールには、現地のスラング、政治的背景、性的な意味合いなどに関するガイダンスはほとんどなかった。「あるモデレーターは、「私が参加した3年間というもの、いつもひどいものでした」と述べている。

このプロセスにはミスや誤解がつきものだ。髭剃り用のカミソリを販売しているのに、武器を販売していると指摘されたこともある。また、ブラジャーを販売していても、販売文句が「アダルト」となっていれば、禁止されている「性風俗関連営業」のレッテルを貼られてしまうこともある。また、翻訳ツールの不備により、子供の販売や屠殺が検出されたときにはアラームが鳴った。よくよく調べてみると、ハラール料理で調理して食べることを目的とした若いヤギが検出された。

このシステムは、通報者の人間的な欠陥によっても損なわれる。モデレーターによると、苦情は誰かを罰したり、嫌がらせやいたずらをするために提出されることが多いそうだ。あるモデレーターは、ブラジルとメキシコからのメッセージの中で、「グループ名を変えて友達に迷惑をかける人がいて、AIが片っ端からグループを禁止しているという報告が2カ月ほどありました」と説明している。「ひどいときには、何万件もの報告があったと思います。彼らはアルゴリズムが好まない単語を見つけ出したのです。」

他にも、WhatsAppのアカウント禁止の基準に満たないのに禁止されたとの報告もある。「ほとんどは違反ではありません」とモデレーターの一人は言う。「ほとんどは違反ではなく、すでにインターネット上にあるコンテンツで、ユーザーを混乱させようとしている人がいるだけです。」それでも、それぞれのケースで最大5つの暗号化されていないメッセージをモデレーターが調査することになる。

WhatsAppのAIの判断は完璧ではないとモデレーターは言う。昨年、アクセンチュアを9カ月で退社したカルロス・サウセダは、「掲載禁止された無実の写真がたくさんあった」と語る。「子供がお風呂に入っている写真だったかもしれませんが、何の問題もありませんでした」別のWhatsAppモデレーターが言うように、「多くの場合、人工知能はそれほど知的ではありません」

FacebookのWhatsAppモデレーターに対する書面によるガイダンスは、多くの問題を認めており、「我々はミスを犯し、我々のポリシーが悪質な行為者によって武器化され、善良な行為者を追放させてしまった」と指摘している。ユーザーがこのような虐待に関わる問い合わせを書いた場合、タイムリーかつ快適な方法で対応し、それに応じて(必要であれば)行動するのはWhatsAppの責任です」と述べている。もちろん、あるモデレーターによると、ユーザーレポートによって引き起こされた禁止をユーザーが訴える場合、2人目のモデレーターがそのユーザーのコンテンツを調査することが必要になる。

II. 悪質な行為を検知する「業界のリーダー」とは

Facebook Inc.はWhatsAppの監視プロセスについて、公式発表やウェブサイト上で曖昧にしている。同社は、WhatsAppがプラットフォームをどのように管理しているかを定期的に説明していない。WhatsAppのFAQページとオンライン苦情処理フォームには、フラグが立てられたユーザーの「最新のメッセージ」を受信することが記載されている。しかし、報告書の提出時に暗号化されていないメッセージの数や、それらのメッセージが外部の業者によって調査されていることなどは開示されていない。(WhatsAppはProPublicaに対し、違反者がシステムを「ゲーム化」しないようにするため、この開示を制限していると述べている)

対照的に、FacebookとInstagramは、モデレーターがコンテンツを取り締まる際に使用する基準を詳細に説明した長文の「コミュニティ基準」文書を掲載しているほか、「Facebookの安全を守る無名のヒーロー」に関する記事やビデオ、新しいコンテンツ審査サイトに関する発表も行っている。また、Facebookの透明性レポートでは、違反の種類ごとに何件のコンテンツが「アクション」されたかが詳細に報告されている。WhatsAppはこの報告書に含まれていない。

Facebook Inc.の役員は、議員との会談の際にも詳細を説明していないが、児童の性的虐待や搾取の画像からユーザーを守るために、暗号化がその妨げにならないようにしていると熱心に説明する。例えば、上院司法委員会のメンバーがFacebookのプラットフォームを暗号化することの影響についての質問に関して、同社は、2020年1月のフォローアップの書面による質問で、WhatsAppを引き合いに出し、法執行機関への対応力を維持していることを強調した。「暗号化されたシステムであっても、重要な位置情報やアカウント情報を含むメタデータの合法的な要求に対応することができる。WhatsAppという暗号化されたメッセージングサービスを提供しているが、他の暗号化されたサービスとは対照的に、虐待や安全性に関する懸念を報告する簡単な方法を提供している」

案の定、WhatsAppはその責任者であるCathcartによると、2020年に児童搾取の可能性がある画像を40万件、国立行方不明・搾取児童センター the National Center for Missing and Exploited Childrenに報告した。これは2019年の10倍の数である。「エンド・ツー・エンドの暗号化サービスにおいて、そのような行為を発見・検知することにおいて、我々は圧倒的に業界をリードしている 」と述べている。

オーストラリアのシンクタンクとのYouTubeインタビューの中で、Cathcartは、WhatsAppがユーザーからの報告に依存していることや、AIシステムが暗号化の対象となっていないアカウント情報を調べることができることについても説明した。また、20億人以上のユーザーから寄せられる不正使用の苦情を調査するために、WhatsAppは何人のスタッフを雇っているのかという質問に対して、Cathcartはコンテンツモデレーターや暗号化されたコンテンツへのアクセスについては言及しなかった。「WhatsAppに協力している人は、Facebook全体にたくさんいます。WhatsAppでフルタイムで働いている人の数は1000人以上です。カスタマーサービス、ユーザーレポート、エンジニアリングなどの内訳についてはここでは触れません。しかし、その数は多いです」

この記事のための書面による回答で、同社の広報担当者は次のように述べている。「私たちは、収集するデータを制限する一方で、スパムを防止し、脅威を調査し、受け取ったユーザーレポートに基づいて不正行為を行った者を追放するためのツールを提供する方法でWhatsAppを構築している。この作業には、セキュリティ専門家と、世界にプライベートなコミュニケーションを提供するためにたゆまぬ努力を続ける信頼と安全のチームの並々ならぬ努力が必要である」 広報担当者は、WhatsAppが新しいプライバシー機能をリリースしたことに言及し、その中には「人々のメッセージが消える方法」や「一度だけ表示される方法」に関するコントロールが含まれていると述べている。また、「ユーザーから寄せられたフィードバックによると、WhatsAppへの報告の際には、送られてきたコンテンツを我々が受け取ることを理解していると確信している」と述べている。

III. 個人のプライバシーに関する「ユーザーの欺瞞」について

2014年にFacebookがWhatsAppの買収計画を発表した当時から、プライバシーへの熱心な取り組みで知られるWhatsAppが、それとは反対のことで知られる企業の中でどのように振る舞うのかが注目されてきた。ザッカーバーグは、ユーザーのデータを大量に収集して利用し、ターゲットを絞ったデジタル広告を販売するという「監視資本主義」の手法を用いて、地球上で最も裕福な人間の一人となった。フェイスブックは、成長と利益を徹底的に追求した結果、顧客や規制当局を欺いていたと非難される一連のプライバシースキャンダルを引き起こした。

これに対してWhatsAppは、電話番号以外のユーザー情報をほとんど知らず、第三者と共有することもなかった。WhatsAppは広告を掲載しておらず、共同設立者のJan KoumとBrian Actonはともに元Yahooのエンジニアで、広告を敵視していた。彼らは2012年に「広告を販売しているすべての企業では、エンジニアリングチームのかなりの部分が、データマイニングの調整、個人情報を収集するのに優れたコードの作成、すべてのデータを保管するサーバーのアップグレード、そしてそれらがすべて記録され、照合され、スライスされ、梱包され、出荷されていることの確認に費やされている」と書いているが、さらに「広告が関わっている場合は、ユーザーが商品であることを忘れないでほしい」と付け加えている。WhatsAppは、「あなたのデータは画像にすら含まれていません。我々は単純に何の興味も持っていない」と述べていた。

ザッカーバーグは2014年の基調講演で、WhatsAppを「これまでと同様に」維持すると公言した。「WhatsAppとユーザーデータの使用方法に関する計画を変更するつもりはありません。WhatsAppは完全に自律的に運営されることになります」

2016年4月、WhatsAppは長らく計画されていたエンド・ツー・エンドの暗号化を完了し、テキストメッセージや電話がコスト的に困難な国を含む180カ国で、貴重なコミュニケーションプラットフォームとしての地位を確立した。国際的な反体制派、内部告発者、ジャーナリストなども、政府の盗聴から逃れるためにWhatsAppを利用していた。

しかしその4ヶ月後、WhatsAppはザッカーバーグが「やらない」と言っていたFacebookとのユーザーデータの共有を開始することを明らかにした。これにより、将来的に収益を上げるための様々な計画が可能になった。WhatsAppの新しい利用規約によると、ユーザーの電話番号、プロフィール写真、ステータスメッセージ、IPアドレスなどの情報を、広告ターゲティング、スパムや不正使用への対処、メトリクスの収集などの目的で共有するとしている。WhatsAppは、「電話番号をFacebookのシステムに接続することで、Facebookは、あなたがFacebookのアカウントを持っている場合、より良い友達を提案し、より関連性の高い広告を表示することができます」と説明している。

こうした行為によって、Facebookはますます規制当局に目をつけられるようになった。2017年5月、欧州連合(EU)の反トラスト規制当局は、WhatsAppとFacebookのアプリ群の間でユーザー情報を連携させることは不可能であると3年前に虚偽の主張を行なったとして、同社に1億1,000万ユーロ(約1億2,200万ドル)の罰金を科した。EUは、Facebookが「意図的または過失により」規制当局を欺いたと結論づけた。Facebookは、2014年の虚偽の記述は意図的なものではないと主張したが、罰金については争わなかった。

2018年の春には、今やともに億万長者となったWhatsAppの共同創業者たちはいなくなっていた。アクトンは、WhatsAppをFacebookに売却した「罪」に対する「懺悔」の行為として、後にWhatsAppのライバルとして登場することになる無料の暗号化メッセージングアプリ「Signal」を支援する財団に5,000万ドルを寄付した。(アクトンのドナー・アドバイズド・ファンドは、ProPublicaにも資金を提供している)。

一方、Facebookは、セキュリティとプライバシーの問題で、かつてないほどの非難を浴びていた。この圧力は、2019年7月に米連邦取引委員会が、ユーザーのプライバシーを保護するための過去の合意に違反したとして、50億ドルの画期的な罰金を科したことで頂点に達した。FTCによると、この罰金は、これまでのプライバシー関連の罰金の約20倍に相当し、Facebookの違反行為には、「個人情報のプライバシーをコントロールする能力に関して、ユーザーを欺く行為 」が含まれていた。

FTCは、Facebookに対し、WhatsAppユーザーも含めて、今後プライバシー保護のための措置を講じるよう命じたことを発表した。「WhatsAppとInstagramを対象とした、命令によるプライバシープログラムの一環として、Facebookは、新規または変更されたすべての製品、サービス、慣行を実施する前に、プライバシーレビューを行い、ユーザーのプライバシーに関する決定を文書化しなければならない。」コンプライアンス担当者は、「四半期ごとのプライバシーレビュー報告書」を作成し、それを会社や、要請があればFTCと共有することが求められる。

Facebookは、FTCの罰金と命令に同意した。実際、この合意は、そのわずか4ヶ月前にザッカーバーグがプライバシーに関する新たなコミットメントを発表したことが背景にあった。

その時点でWhatsAppは、Accentureなどの外部委託先を利用して、何百人ものコンテンツ審査員を雇い始めていた。しかしWhatsAppは、プライバシーに関する大きなメッセージに踏み込まないように、また世界中のユーザーを不安にさせないようにしていた。WhatAppは、コンテンツ審査のために業者を雇ったことを公には発表しなかった。

IV. 「メタデータで殺す」


ザッカーバーグは、Facebook Inc.が2019年にプライバシーに関する新たな取り組みを開始したことをアピールしたが、同社がWhatsAppユーザーのメタデータをこれまで以上に親会社や法執行機関と共有していることについては言及しなかった。

「メタデータ」という言葉は、一般の人には抽象的で、文芸批評と統計学が交差するような言葉に聞こえるかもしれない。デジタル化される前の古い例えで言えば、メタデータは封筒の外側に書かれているものに相当する。送信者と受信者の名前や住所、いつ、どこで郵送されたかを示す消印などで、「コンテンツ」は封筒の中に封印された手紙に書かれている。WhatsAppのメッセージも同様だ。内容は保護されているが、封筒には多くの情報が含まれている(例:タイムスタンプ、電話番号など)。

情報・諜報関係者は、これらの情報がいかに重要であるかを理解している。米国家安全保障局(NSA)が犯罪の疑いのない数百万人の米国人について収集していたメタデータが、2013年にNSAの元職員エドワード・スノーデンによって暴露され、世界的な大反響を呼んだ。NSAの元顧問弁護士であるスチュワート・ベイカーは、「メタデータは、人の人生のすべてを教えてくれる」と語っている。「メタデータが十分にあれば、コンテンツは必要ありません」。2014年にジョンズ・ホプキンス大学で行われたシンポジウムで、CIAとNSAの両方の元長官のマイケル・ヘイデン元帥は、さらに踏み込んだ発言をしている。「我々はメタデータに基づいて誰を人を殺すかを決める」

米国の法執行機関は、WhatsAppのメタデータを利用して人々を刑務所送りにしている。ProPublicaの調べでは、2017年以降、司法省が同プラットフォームのメタデータについて裁判所命令を求めた事例が10数件あった。これらは、ペンレジスター命令(固定電話のダイヤル番号を追跡するための技術から借りた言葉)と呼ばれる要求全体のごく一部であり、裁判所命令によって公開されていないもののほうが多い。Facebookの統計(プラットフォーム別の数字は公表されていない)によると、Facebookの全プラットフォームからの送受信メッセージのデータに対する米国政府の要求は、2017年上半期から2020年下半期にかけて276%増加している。このような要求に応じて、少なくともデータの一部を引き渡す割合は、この期間中に84%から95%に上昇している。

政府の調査官がWhatsAppから何を収集できたのかは正確には不明で、これらの命令の結果もしばしば公開されていない。WhatsAppは内部で、このようなユーザー情報の要求を「プロスペクティブ・メッセージ・ペア」(PMP)と呼んでいる。この問題に詳しい人物が匿名を条件に語ったところによると、PMPは、米国の法執行機関や、英国、ブラジル、インドの少なくとも3カ国の法執行機関からの要請に応じて、ユーザーのメッセージングパターンに関するデータを提供するものだ。他の国からの法執行機関の要請では、基本的な加入者のプロフィール情報しか得られない可能性がある。

WhatsAppのメタデータは、財務省の元職員で金融犯罪執行ネットワークに所属していたNatalie “May” Edwardsが、不審な取引に関する銀行の機密レポートをBuzzFeed Newsに漏洩したとして逮捕され有罪判決を受けた際に、極めて重要な役割を果たした。FBIの刑事訴状には、EdwardsとBuzzFeedの記者との間で「暗号化されたアプリケーション」を使って交わされた数百通のメッセージが詳細に記されており、これがWhatsAppであることがインタビューや裁判記録で確認されている。「2018年8月1日頃、Edwardsの電話が追跡可能になってから約6時間以内に、2018年7月のBuzzfeedの記事が公開された翌日に、Edwardsの携帯電話は、午前12時33分から午前12時54分までの約20分の間に、暗号化されたアプリケーションを介して約70件のメッセージを記者-1の携帯電話とやり取りした 」と、FBI特別捜査官のEmily Eckstut は2018年10月の訴状に書いている。この件に詳しい人物によると、Edwardsと記者がWhatsAppを使用したのは、Edwardsがこのプラットフォームを安全だと信じていたからだという。

Edwardsは、6月3日に共謀罪の有罪を認めて6カ月の懲役刑を言い渡され、先週、刑務所に収監された。Edwardsの弁護士はコメントを拒否し、FBIと司法省の代表もコメントを拒否した。

WhatsAppは長年にわたり、暗号化されていない情報をどれだけ多く法執行機関と共有しているのかを軽視しており、利用規約の奥深くに埋め込まれた決まり文句で言及しているだけだ。同社は、ユーザーが誰とどのくらいの頻度でコミュニケーションをとっているかについて、定期的にログを残すことはしていないが、同社の関係者は、Facebook内部のリーク調査であっても、あるいは法執行機関からの要請に対しても、独自の判断でこのようなトラッキングをオンにしていることを認めている。ただし、その頻度については、ProPublicaへの回答を避けている。

WhatsAppのプライバシーページでは、ユーザーが自分のメタデータを完全にコントロールできることを保証している。プロフィール写真の公開範囲は、連絡先のみ、全員、誰にも公開しない、のいずれかに設定することができ、ステータスアップデートを最後に開いたのはいつなのか、アプリを最後に開いたのはいつなのか、といったことが書かれている。ユーザーがどのような設定を選択しても、WhatsAppはこれら全てのデータを収集・分析する。この事実はこのページのどこにも記載されていない。

V. 「ビジネス目標を包含するための絞りの開放」

暗号化されたプラットフォームにおけるプライバシーとセキュリティの対立は、ますます激化しているように思われる。法執行機関や子どもの安全擁護団体は、Facebookのメッセージングプラットフォームをすべて暗号化するという計画を放棄するようザッカーバーグに求めている。2020年6月には、共和党の上院議員3名が「Lawful Access to Encrypted Data Act(暗号化されたデータへの合法的アクセス法)」を提出した。この法案は、法執行機関の令状に応じて、暗号化されたコンテンツへのアクセスを支援することをハイテク企業に義務付けるものだ。WhatsApp社は先日、暗号化されたアプリに「追跡可能性」(法執行機関に関連すると思われるメッセージの送信者を特定する方法)を提供することを要求するインド政府を提訴した。WhatsAppは他の国でも同じような要求を出して闘っている。

他の暗号化プラットフォームでは、ユーザーの監視方法がWhatsAppとは大きく異なる。Signalは、コンテンツ・モデレーターを採用しておらず、ユーザーやグループのデータ収集量も非常に少なく、クラウド・バックアップも許可しておらず、ユーザーの活動を取り締まるべきであるという考えを一般的に否定している。また、SignalはNCMECに児童搾取レポートを提出していない。

Appleは、プライバシー保護への取り組みをセールスポイントとして宣伝している。同社のiMessageシステムには、スパムの疑いがある場合にのみ「報告」ボタンが表示される。また、同社がNCMECに提出した年間報告書はわずか数百件だが、そのすべてが暗号化されていない送信メールのスキャンに基いている。

しかし、Appleは最近、新たな取り組みを行い、その過程でつまずいたように見える。議会からの圧力が強まる中、Appleは8月、ユーザーのiCloudバックアップに保存されている児童搾取の画像を特定するための複雑な新システムを発表した。アップルは、この新システムは個人のコンテンツを脅かすものではないと主張したが、プライバシー擁護団体は、権威主義的な政府がより広範なコンテンツ検索を要求し、結果として反体制派やジャーナリスト、その他の国家批判者を標的にすることを可能にするバックドアを作ることになると非難した。9月3日、アップル社は新システムの導入を延期することを発表した。

しかし、主要な技術プラットフォームの中で、最も常に懐疑的な見方をされているのはFacebookだ。カナダ児童保護センターのITディレクター、Lloyd Richardsonによると、フェイスブックは暗号化を利用してプライバシーに配慮していることをアピールしているが、その他のデータ収集方法についてはほとんど言及していないという。Richardsonは次のように述べている。「個人の保護のためにこうしたことを行っているという彼らの考えは、まったく馬鹿げています。あなたは、彼らが言っている通りのことをやっているということでFacebookが所有し、作成したアプリを信用しています。あなたはそんなことをする組織を信頼するのですか?」 (9月2日、アイルランド当局は、WhatsAppがユーザー情報を他のFacebookプラットフォームと共有する方法を適切に開示していなかったとして、2億2500万ユーロ(約2億6700万円)の罰金を科すと発表した。WhatsAppはこの決定に異議を唱えている)。

FacebookがWhatsAppをプライバシーの模範として宣伝することを重視していることは、ProPublicaが入手した12月のマーケティング文書にも表れている。この “Brand Foundations “というプレゼンテーションは、Facebook全体で21人のメンバーからなるグローバルチームが、6つのワークショップ、定量的調査、「ステークホルダーインタビュー」、「時間制限なしのブレインストーム」を経て作成したものだという。その目的は、WhatsAppのメリットを「感情的に表現」し、「ストーリーを伝えるためのインスピレーションツールキット」を提供し、「前進につながる人間の深いつながりを支持するブランド目的」を設定することだ。マーケティングデッキでは、WhatsAppの「所有可能な感情の領域」として「親近感」を挙げ、「人と人との会話に最も近いもの」を提供しているとしている。

別のスライドによると、WhatsAppは自らを「勇気ある企業」と表現すべきだとしている。その理由は、暗号化の保護や誤情報との闘いなど、「私たちが懸念していることに対して、金銭的な動機ではなく、公共の場で強い姿勢を示している」からだという。しかし、このプレゼンテーションでは、「将来のビジネス目標を包含するために、ブランドの開口部を開く」必要性も語られている。「プライバシーは引き続き重要だが、将来のイノベーションにも対応しなければなりません」という。

WhatsAppは現在、金を稼ぐための大規模な活動を展開している最中だ。WhatsAppは、プライバシーと利益のバランスをどのように取るのだろうかという疑念が広がっていることもあり、不安定なスタートとなっている。発表されたアプリ内での広告掲載開始計画は頓挫し、開始予定日の数日前、2019年末に放棄された。今年1月初め、WhatsAppはプライバシーポリシーの変更を発表した。これには、ポリシーを受け入れないとアプリから切り離されるという1カ月の期限がついていた。この変更は反発を招き、何千万人ものユーザーがライバルであるSignalやTelegramに流出してしまった。

上院議員は、トルコでの検閲について、Facebookの表現の自由への取り組みに「重大な疑問」を投げかけている。
今回のポリシー変更は、拡大を続けるWhatsApp Businessにおいて、ユーザーが企業とコミュニケーションをとる際のメッセージやデータの取り扱いに焦点を当てている。企業は、ユーザーとのチャットを保存し、ユーザーに関する情報をFacebookやInstagramでの広告のターゲットにするなど、マーケティング目的で使用できるようになぅた。

Elon Muskは「Signalを使え」とツイートしたが、WhatsAppユーザーは反発した。Facebookは、ポリシーの更新をユーザーに承認してもらうことを3カ月延期した。それまでの間、Facebookは、この変更が個人的なコミュニケーションのプライバシー保護に影響を与えないことをユーザーに納得させるために、通常の保証を少し変更したバージョンを使って奮闘した。「WhatsAppはあなたの個人的なメッセージを見たり、通話を聞いたりすることはできませんし、Facebookも同様です。」これは、同社が数年前にWhatsAppを買収したときと同様のメッセージ「私たちを信じてください」だ。

訂正
2021年9月10日。この記事では、AppleのiMessageシステムには「報告」ボタンがないと誤って記載しました。iMessageシステムには報告ボタンがありますが、それはスパムの疑いがある場合のみです(虐待の疑いがあるコンテンツの場合はありません)。

Print Friendly, PDF & Email
Tags:
Previous 政府が機密データを利用して行動を「ナッジ」するケースが増加していることが判明―独占取材 国や地方自治体が検索エンジンやソーシャルメディアでターゲット広告を使用
Next (Citizenlab)パールからペガサスへバーレーン政府、NSOグループのZero-Click iPhone Exploitsで活動家をハッキング