Categories
Table of Contents
< Back
You are here:
Print

(EFF) バックドア作ればやつらが来る:アップルは、世界中で監視と検閲を強化するためのバックドアを開いた

バックドア作ればやつらが来る:アップルは、世界中で監視と検閲を強化するためのバックドアを開いた
by Kurt Opsahl    AUGUST 11, 2021

iMessageで送信された画像をスキャンするアップルの新しいプログラムは、暗号化されたメッセージのプライバシーとセキュリティを支持してきた同社の姿勢から一歩後退しています。このプログラムは当初は米国内限定ですが、クライアントサイドでのスキャンを可能にするように、エンドツーエンドの暗号化の理解を狭めています。アップル社は、児童の搾取や虐待といった問題を解決することを目的としていますが、その一方で、監視や検閲を強化するように極めて簡単に方向転換が可能なインフラを構築することになります。このプログラムは、より広い要求には対応できないシステムであるというAppleの弁解を裏付けられるものにはなっていません。

各国政府は長年にわたり、暗号化されたメッセージの開示や暗号化技術の国家管理を要求していました。平文でのメッセージへのアクセスは強力な暗号化とは相容れないという反論に直面すると、「nerd harder[ハイテク企業なら世間の風向きに敏感になって技術力を発揮しろ]」と要求していたのです。Appleの子ども向け安全メッセージスキャンプログラムは、現在、米国でのみ展開されています。

米国政府はこれまでもはこれまでも、暗号化された通信へのアクセスを求めて、令状によるデータの入手を容易にしたり、自発的にデータを提供するように企業に圧力をかけてきました。しかし、米国政府が令状なしでコンテンツの選別と報告を義務付ける法律を成立させようとすると、深刻な憲法上の問題に直面します。たとえ民間会社が[データ提供を]行ったとしても、政府が命じた捜索は憲法修正第4条の保護の対象となります。容疑もないのに大量監視のために発行される「令状」は、令状発布としては違憲となります。第9巡回区控訴裁判所の説明によると、「条件が緩く拡大可能に作られた捜索令状で、実質的に “情報の一網打尽” を狙うなら、修正第4条の基本原則に根本的に反するものである」と述べています。 今回の新しいプログラムで、Appleは暗号化を弱体化させる米国の法律に対して強力な政策方針を打ち出すことができませんでしたが、最悪の行き過ぎた行為に対しては、憲法上の歯止めがまだあります。しかし、米国の憲法上の保護が必ずしもすべての国にもあるとは限りません。

アップルは世界的な企業であり、世界中で携帯電話やコンピュータが使用されており、それに伴って多くの政府から圧力を受けています。アップルは、政府からの 「ユーザーのプライバシーを劣化させるような、政府が定めた変更を構築・展開する要求 」を拒否することを約束しています。Appleが拒否すると言っているのは良いことですが、これは「できない」と言っているわけではないので強力な保護策とはいえません。さらに、この変更を実施する場合、Appleはプライバシーのために闘うだけでなく、世界中の議会や裁判所で勝利する必要があります。Appleが約束を守るためには、iMessageのスキャンプログラムを新しい国に拡大したときに、新しいタイプのコンテンツをスキャンしたり、親子関係以外にもコンテンツの報告をしなければならないという圧力に抵抗しなければならないでしょう。

反体制派が組織化やコミュニケーションを図るための最後の手段としている暗号化されたメッセージへのアクセスと管理を、権威主義国家が企業に要求するのは珍しくないことです。例えば、シチズン・ラボの調査によると、現在、中国の暗号化されていないWeChatサービスでは、すでにユーザーが共有する画像やファイルを監視し、検閲アルゴリズムの学習に利用しています。「あるWeChatユーザーから別のユーザーにメッセージが送信される際には、Tencent(WeChatの親会社)が管理するサーバーを通過し、メッセージが受信者に送信される前にブラックリストに登録されたキーワードが含まれているかどうかが検出されます」。Stanford Internet ObservatoryのRiana Pfefferkornが説明するように、この種の技術は、「もともとCSAM(Child Sexual Abuse Material)のためだけに作られたクライアントサイドのスキャンシステムが、検閲や政治的迫害のために将来どのように流用されようになるのかを示しています」。

Apple社も認識しているように、世界最大の市場を持つ中国では、拒否するのが難しい場合があります。他の国でも、ハイテク企業の現地従業員を逮捕するなど、企業に極端な圧力をかけることをためらうことはありません。

しかし、暗号化されたデータへのアクセスを求める強力な圧力は、少なくとも最初のうちは、法の支配を維持しようと努力する民主主義国家からもたらされます。ひとたび企業がそれを受け入れてしまうと、次には人権擁護への民主的制度があまり整っていない国々からも暗号の開示や回避を要求されるようになります。公序良俗や国家の安全保障といった、法律用語としては似ていても中身がまったく異なることを根拠にしたり、「不許可」 の範囲には下品やわいせつに限らず政治的言論が含まれていきます。これは非常に危険なことです。これらの国々は人権面での実績が乏しいにもかかわらず、自分たちも同じ価値観だと主張します。彼らは主権国家であり、自分たちの公序良俗上の必要性も同様に緊急であると考えるでしょう。彼らは、もしAppleがどの国家に対してもその国の法律に基づいてアクセスを提供しているのであれば、Appleは他の国に対しても、少なくとも同じ条件でアクセスを提供しなければならないと強く主張するでしょう。

「ファイブアイズ」諸国がメッセージのスキャンを求めてくる

例えば、カナダ、ニュージーランド、オーストラリア、英国、米国の情報機関の連合体である「ファイブアイズ」は2018年、企業が暗号化されたメッセージへの[復号化]アクセスを自主的に提供しない場合、「合法的なアクセスソリューションを実現するための技術的、法執行的、立法的、その他の手段を追求する」と警告しました。最近では、「ファイブアイズ」は正当化の理由をテロからCSAM[児童の性的搾取に関するデータ]の防止に軸足を移してますが、非暗号化アクセスへの要求は変わらず、テロや犯罪捜査も支援するような変更がなければ「ファイブアイズ」は納得しないだろう。

英国の調査権限法[Investigatory Powers Act]は、「ファイブアイズ」の脅しを受けて、国務長官が「技術的能力通知」を発行することを認めており、その通知によって通信事業者に「傍受令状、傍受装置設置令状、通信データ取得令状への対応能力やデータ取得認証発行」という技術基準を義務づけようとしています。英国議会がこの法案を検討していたとき、私たちは、「傍受機器設置令状の執行を容易にするために企業が更新情報の配布を強制されうるし、顧客に執行について通知することを禁止される可能性がある」と警告しました。

調査権限法で国務長官は 「通知に従うことの技術的実現可能性」を考慮することになっています。しかし、Appleが 「提案”」している変更に必要なインフラを本格展開してしまうと、監視を拡大する技術的実現可能性がないとはもはや言い切れなくなります。Apple社の新しいプログラムでは、英国がiMessageスキャンプログラムの現在の機能を拡張して、異なるアルゴリズムのターゲットと幅広い報告を行うアップデートを強制しようとするのではないかと心配しています。iMessageの「コミュニケーション・セーフティー」機能は完全にApple独自の発明であるため、Appleは何を報告対象とするかの基準を簡単に変更することができます。Apple社は、iPhoto用のハッシュ照合プログラムをメッセージの事前審査に採用するよう命令を受けるかもしれません。同様に、どのアカウントがこのスキャニングを適用するかという基準も、「発見」がどこへ報告されるかも、すべてApple社の管理下にあります。

オーストラリアも同様に、「援助・アクセス法」を制定しました。この法律では、暗号化を弱体化させる可能性のある技術的な援助や能力の提供を要求することができます。この法律にはいくつかのセーフガードが含まれていますが、市民社会団体、ハイテク企業、業界団体の連合体、このなかにはEFFやAppleも含まれていますが、それらが不十分であると説明していました。

実際、Appleはオーストラリア政府に提出した資料の中で、「政府は、ソフトウェアや機器のインストールやテスト、顧客の機器へのアクセスの促進、ソースコードの提出、電子的保護の除去、サービスの特性の変更、サービスの代替などをプロバイダに強制しようとする可能性があります」と警告しています。Apple社は、これらの技術が、Apple社のスキャンプログラムの範囲を強制的に変更しようとする試みにも使用される可能性があることを覚えていればよいのですが。

カナダでは、平文でのアクセスに対する明確な要求はまだ採用されていませんが、カナダ政府は、様々なオンラインプラットフォームに対するフィルタリング義務を積極的に追求しており、プライベート・メッセージング・アプリを対象としたより積極的な義務の可能性を示唆しています。

検閲体制が整い、準備が整っている

ファイブアイズは主として監視能力を求めていますが、インドとインドネシアは、すでにコンテンツ検閲への坂を滑り降りています。今年初めに施行されたインド政府の新しい「仲介者ガイドラインおよびデジタルメディア倫理コード」(以下、「2021年ルール」)は、コンテンツを事前に審査するという危険な要件をプラットフォームに直接課しています。規則4(4)では、コンテンツのフィルタリングを強制しており、プロバイダに対して、「規則で禁止されている情報を積極的に特定する」ために、自動化されたツールやその他の仕組みを含む「技術に基づく手段を展開するよう努める」ことを求めています。

3人の国連特別報告者からの批判を受けて書かれた2021年ルールへのインドの弁明は、子どもたちにとっての非常に現実的な危険性を強調するもので、スキャンや検閲のルールのがもたらすはるかに広範な影響には目を閉じています。2021年ルールでは、コンテンツ・テイクダウン規定を積極的かつ自動的に実施し、インドの法律で禁止されていた素材を積極的にブロックすることを義務付けています。関連するいくつかの法律では、規制の目的に「インドの主権と一体性、国家の安全保障、外国との友好関係、公序良俗」を含む広い範囲が対象とされています。このようなこのような法律の文言は、もはや “滑りやすい下り坂” どころではなく、表現の自由や政治的反対意見にとって危険なものであることは、想像に難くありません。実際、インドの非合法活動防止法(Unlawful Activities Prevention Act)の実績は、集会を主催したりソーシャルメディアに政治的なメッセージを投稿したりした学者や作家、詩人を逮捕するのに使われたと言われており、この危険性を際立たせています。

インドが、Appleのスキャンプログラムはコンプライアンスに向けた素晴らしいスタートであり、2021年ルールの広範な義務に対応するためにはさらにいくつかの調整が必要であると主張したとしても不思議ではありません。アップルは、拡大に抗議することを約束しており、WhatsAppなどが行っているように、法廷で2021年ルールを取り消すべきだと主張したり、アップルはこの2021年ルールで規制されるソーシャルメディアの仲介者の定義に当てはまらないと主張したりする可能性があります。しかし、インドの規則は、暗号化されたコンテンツを事前にスクリーニングすることに対する政府の要望と法的裏付けの両方を示しており、今回Appleの変更が実現した後は、いとも簡単にこのようなディストピアへ滑り落ちることになります。

残念ながら、このような状況は増え続けています。インドネシアでも大臣MR5規則が採択され、サービスプロバイダー(「インスタントメッセージング」プロバイダーを含む)に対し、システムに「禁止された(情報)が含まれていないこと、および(中略)禁止された(情報)の普及を促進しないこと」を「保証」するよう求めている。MR5では、禁止されている情報とは、インドネシアの法律や規則のいずれかの条項に違反するもの、または「地域社会の不安」や「公共秩序の乱れ」を引き起こすものと定義されています。また、MR5は、システム内に禁止されたコンテンツや情報がないことを確認できない者に対して、システム全体を停止させるなどの不つりあいな制裁を課しています。インドネシアでは、iMessageのスキャン機能を規制MR5を遵守するためのツールと捉え、Appleに自国でより広範で侵略的なバージョンを採用するよう圧力をかける可能性もあります。

圧力の高まり

このAppleのプログラムをより多くの国、より多くの種類のコンテンツに拡大しようとする圧力は、今後も続くと考えられます。2020年秋、欧州連合(EU)では、欧州委員会から流出した一連の文書が、おそらく今年中に欧州議会に反暗号化法を提出することを予見させました。幸いなことに、EUにはバックストップがあります。電子商取引指令(2000/31/EC)の第15条に記載されているように、EU加盟国は、ユーザーが送信または保存する情報を監視する一般的な義務を課してはならないことになっています。実際、欧州連合司法裁判所(CJEU)は、ユーザーの違法行為を検知・防止するために、仲介者に一般的な方法でサービスを監視する義務を課すことはできないと明確述べています。このような義務は、公平性や比例性といった原則とは相容れないものです。このような状況にもかかわらず、欧州委員会は、Politicoが公開したリークされた内部文書の中で、関連するオンラインサービスプロバイダーによるCSAMの検出を義務付ける行動計画(2021年12月を予定)を約束しており、その解決策として、クライアントサイドスキャンを挙げている。

なるほど、企業に対しては言葉巧みに「技術的解決」を要求するだけあって、政府の政策立案者は言葉の改変技術には優れています。暗号化されていない通信へのアクセスが最終的な目標であり、その過程でエンド・ツー・エンド暗号化という言葉をずっと狭い意味に閉じ込めておけるのですから、一石二鳥というところでしょう。

Appleが構築しているバックドアはまだ狭いかも知れませんが、新たな種類のコンテンツを探すように機械学習のパラメータを拡張したり、iPhotoのハッシュ照合をiMessageに採用したり、子どもだけでなく誰のアカウントでもスキャンできるように設定フラグを微調整したりすれば、すぐさま広いドアになってしまうのです。アップルのシステムはすでに完全に構築されており、あとは外部からの圧力によって必要な変更が加えられるのを待つだけといっていいものです。たとえ国際人権法で保護されていても当該国の法律で禁止されているメッセージを識別するためのハッシュやコンテンツ分類器が中国では、おそらくその他の国でも間違いなく、すでに導入されていることでしょう。そんな分類器はいくらでも悪用されます。同性愛を禁止している政府はLGBTQ+と受け取れるコンテンツを制限するように調整した分類器を要求するかもしれないし、権威主義的な政権は、人気のある風刺画像や抗議のチラシを見分けられる分類器を要求するかもしれないのです。

Appleが作った以上、彼らはやってくるでしょう。アップルは善意だったにせよ、セキュリティ上の弱点を世界中で義務づけできる方向へ道を開き、善意であれば、個人の生活やプライベートなコミュニケーションをスキャンしても構わないという主張を、可能にしたばかりか補強さえしています。私たちはAppleに再考を促し、Appleが2019年のラスベガスで開催されたCESカンファレンスのビルボードに記念すべき形で掲げた精神に戻ることを求めます。そこには、「iPhone が知ったことは iPhone に留まる」とありました。

出典:https://www.eff.org/deeplinks/2021/08/if-you-build-it-they-will-come-apple-has-opened-backdoor-increased-surveillance

付記:下訳にhttps://www.deepl.com/translatorを用いました。

Print Friendly, PDF & Email
Previous (Access Now) Appleに自社デバイスのエンド・ツー・エンド暗号化を回避する計画を撤回して信頼を回復するよう要請
Next (EFF) 暗号化について「Think Different」なアップルの計画は、私生活へのバックドアを開くことになる