2021-10-15

Ross Anderson

アップルは8月に、私たちのすべてのiPhoneに違法な画像がないかどうかをチェックするシステムを発表したが、反発が広がったために発売を延期した。しかし、このような監視システムを導入しようとする政府もあり、EUでは12月初めに新しい児童保護法を発表する予定だ。

さて、「Bugs in our Pockets、クライアントサイド・スキャニングのリスク」では、通信を監視する現在のやり方とは異なり、人々の機器に組み込まれたソフトウェアを使って大量の監視を行う方法について、検討している。クライアントサイド・スキャニングは、政府機関の新たな夢と呼ばれているが、その任務には様々な可能性がある。アップル社とFBIは、性的虐待の静止画を見つけることについて述べたが、EUは昨年、動画やテキストについても論じており、子どもの保護について議論がまとまった後は、テロリズムをターゲットにすることについても論じていた。また、Appleの提案にある知覚的ハッシュ関数に加えて、機械学習モデルの話題も出ている。また、リークされたEUの内部報告書が明らかにしているように、政府にとって望ましい結果は、クライアントサイドとサーバーサイドのスキャンが両方とも存在することしていることかもしれない。

本レポートでは、クライアント側とサーバ側の両方のスキャン機能、誤判定false positivesと検出漏れfalse negativesのトレードオフ、市民のデバイスにスキャンシステムを追加することで新しいタイプの攻撃を受けやすくなるなどの副作用について、詳細な分析を行っている。

私たちはアップル社の提案を賞賛するつもりはなかったが、最終的には、これがおそらく最善の方法であると結論づけた。しかし、それであったとしても、分別のある人間が信頼できると考えるシステムを提供するには至っていない。

たとえ携帯電話のエンジニアリングが完璧だったとしても、スキャナーは、どの写真を猥褻リストに載せるか、あなたのテキストを検索したりビデオを見たりする機械学習モデルをどのように学習させるかなど、対象となるすべての関係者をユーザーの信頼の防御ラインのなかに含めることになる。誰もが違法性を認めている児童虐待の画像を対象に学習を開始したとしても、内部の人間も外部の人間も、画像を操作して偽陰性や偽陽性を作り出すことは容易だ。細かく見れば見るほど、このようなシステムは魅力的ではなくなる。明らかな悪用を制限するために必要な措置は、設計空間を制限してしまうため、結局、警察のツールとしてはあまり効果的ではない。また、欧州機関がこのシステムの使用を義務付けるとしたら（すでにいくつかの立法上の小競り合いがあるが）、回避可能なさまざまな害に市民をさらすことになる。欧州司法裁判所は、テロとの戦いであっても、無令状や疑惑のない網羅的な監視はプライバシーを著しく侵害するという理由で、データ保全指令Data Retention Directiveを無効にしたことを忘れてはならない。クライアントサイドでのスキャンの義務化も同じ運命をたどるだろう。

しかし、「作れば必ず来る」のだ。デバイスベンダーが遠隔監視装置の設置を義務付けられれば、需要が殺到するだろう。行方不明の子供を探すためにシステムを拡張することに反対するような冷淡な人はいないだろう。習近平国家主席は、ダライ・ラマや戦車の前に立つ男たちの写真を誰が持っているのかを知りたがるだろうし、著作権弁護士は、クライアントの権利を侵害していると主張して、裁判所の命令でそれを阻止するだろう。私たちの親密なプライベート空間の延長として成長してきた私たちの携帯電話は、私たちのものではなくなり、プライベートなものでもなくなり、私たち全員の安全が低下することになろう。
行方不明の子供を探すためにシステムを拡張することに反対するような冷淡な人はいないだろう。習近平国家主席は、ダライ・ラマや戦車の前に立つ男たちの写真を誰が持っているのかを知りたがるだろうし、著作権弁護士は、クライアントの権利を侵害していると主張して、裁判所の命令でそれを阻止するだろう。私たちの親密なプライベート空間の延長として成長してきた私たちの携帯電話は、私たちのものではなくなり、プライベートなものでもなくなり、私たち全員の安全性が低下するでしょう。

出典：https://www.lightbluetouchpaper.org/2021/10/15/bugs-in-our-pockets/