Categories
Table of Contents
< Back
You are here:
Print

(AlgorithmWatch)COVID-19パンデミックにおけるADMシステム:ヨーロッパの視点から(仮訳)

PDFはこちら

(訳者のまえがき)以下に飜訳したのは、EUに拠点を置いくAlgorithmWatchが2020年9月に公表したCOVID-19接触者追跡アプリをめぐる問題についてのレポートである。日本でも春に厚労省や各自治体肝煎りで様々なアプリがリリースされましたが、夏に入ってややCOVID-19の感染拡大がを収まるかにみえたことや、アプリの不具合などもありその普及は進んでいないようにみえる。しかし、保健所の人員の逼迫のなかで感染経路追跡の仕事が過密になる一方で、政府・経済界は経済活動の維持を最優先にし、また、デジタル化が菅政権の目玉になっている現状をみると、今後再度COVID-19の感染防止政策のかで、人々の行動や人間関係を網羅的に把握するための自動化システムの導入が積極的に推進される恐れがある。下記のレポートは欧州を中心に諸外国における接触追跡や濃厚接触確認などの目的で開発されてきたアプリなどが人権やプライバシーに対してどのような問題を引き起してきているか、また引き起す危険性があるのかを網羅的にレポートしている。このレポートで紹介されている接触追跡(確認)アプリには、GPSを使い位置確認含めて把握するものと、Bluetoothを用いて地理的な位置を把握しないものがあり、また、こうしたデータを中央の政府などと共有するのか、あるいはデバイスの所有者のみが把握するだけなのかでも違いがある。

日本の場合は、Blutoothを用い地理的位置情報を把握しないこと、データの匿名性に配慮していることがもっぱら政府などで強調されているが、中央省庁のシステム9たとえばHer-Sysなど)との連携でどのように個人情報が把握可能なのか、また警察などへの保健医療情報へのアクセスの実態も不明なところが多い。しかも、こうしたプログラムの全体がオープンソースとしての透明性を欠いてもいる。レポートでも指摘されているように、GoogleやAppleのプラットームでこうしたアプリが機能することによって、民間企業が人々のプライバシー情報に関わる技術の主導権を握るという事態は、民主主義的なコントロールを実質的に不可能にしかねない。EUでは、また、GDPRが定めた個人情報保護のルールがCOVID-19のパンデミックのなかで次第になしくずし的に形骸化しかねない危機にもある。こうした事態が「新しいノーマル」として大衆的に受容されかねない事態にあることもこのレポートでは警鐘を慣らしている。

AlgorithmWatch は、人間の行動を予測したり規定したり、自動的に意思決定を行うために使用される社会的な関連性を持つアルゴリズムの意思決定プロセスを評価し、これに光を当てることを目的とした非営利の研究・アドボカシー団体。


(レポートのプレスリリースの訳)

現在進行中のパンデミックは、ヨーロッパ全土で多くの自動化された意思決定(ADM)システムの展開に拍車をかけている。Automating Society Report 2020の特集号で、AlgorithmWatchとBertelsmann Stiftungは、COVID-19の流行の結果としてヨーロッパ全体に導入されたADMシステムの初期のマッピングと調査を提供している。

ベルリン、2020年9月1日。スマートフォン用の接触追跡アプリ、体温スキャナー、顔認識技術:ウイルスの発生を食い止めることを目的としたこれらのようなアプリケーションやデバイスには、地方自治体と国の両方から大きな期待が寄せられている。新刊『COVID-19パンデミックにおける自動意思決定システム』(Automated Decision-Making Systems in the COVID-19 Pandemic. A European Perspective)は、16カ国をカバーする研究者ネットワークによって編集されたもので、ADMシステムの詳細な実例を集めたものだ。このレポートは、AlgorithmWatch と Bertelsmann Stiftung の Automating Society プロジェクトの一環として、また 10 月に発行予定の 2020 年版の「プレビュー」として出版される。

「それは、既存のanti-COVID ADMシステムの有効性を支持する証拠が乏しいにもかかわらず、すべての社会問題を技術を通じた『修正』を必要とする『バグ』とみなす『技術解決主義』という誤ったイデオロギーだ」と、プロジェクトマネージャーでレポートの共同編集者であるFabio Chiusiは述べている。「これは、人権を損なう危険性のあるツールや政策を無批判に採用することを正当化するために使われるかもしれない。しかし、公衆衛生の確保は、民主的なチェック&バランスと両立させることができるし、両立させなければならない」。

このことは、世界保健機関(WHO)とEUの両方の機関によっても明確に指摘されており、多くの加盟国が積極的に実施しようとした文書や原則を通じて、「曝露[lCOVID-19のウィルスに晒されたこと]通知」アプリの構想と開発に最も顕著に表れている。特に、いくつかの国が分散型のアプローチやオープンソースの技術を利用していることは好ましいことである。

国別の分析は、EU域内と域外のADMに基づく対応の主な特徴を比較することで文脈化されており、世界のさまざまな地域でテクノロジーと人権の相互作用がどのように考えられているかという点で、いくつかの大きな違いが浮き彫りになっている。そして、ADMシステムのラディカルで最終的には抑圧的なモデルは、主にアジアと中東に関連しているが、ヨーロッパのいくつかの国にも類似点が見られる。

ポーランドの「Kwarantanna domowa」アプリは、関連する人々が隔離されていることを確認するために、地理位置情報と顔認証技術を使用している。顔認証技術は、イタリアのコモ市でも社会的距離の取り方を強制するために導入されており、「ビッグ・ブラザー・コモ」のレッテルを貼られている。スロベニアでは、政府は、将来的に接触者追跡アプリの採用を義務付ける法的根拠を与えるだけでなく、警察の権限を大幅に拡大して将来、反政府デモを危険にさらすような、反コロナウイルス法制パッケージを通過させることに成功した。エストニアや英国のような国は、科学的な重みについての証拠がないにもかかわらず、個人の健康状態を証明するためのデジタル「資格証明書」として「免疫パスポート」の実験を行っている。

「ノーマルな生活に戻る」ために必要なツールとして販売される一方で、これらのADMシステムは、間違った発想で透明性を欠くなかで開発された場合、健康を根拠とする監視の浸透に基づく新しいノーマルの生活を押し付ける危険性がある。報告書によると、これらの社会技術システムは公衆衛生上の緊急事態から生まれたものかもしれないが、すでに権威主義的な環境で示されているように、COVID-19発生前に配備された監視装置のすでに問題となっている武器に加えて、間違いなく定着する可能性がある。

「この報告書が示すように、公衆衛生上の緊急事態の文脈では、テクノロジーはそれ自体が万能ではなく、より広範な社会技術的ソリューションに統合され、人権とデータ保護の既存の枠組みを考慮して責任を持って実装される必要がある」と、Bertelsmann Stiftungのプロジェクト・マネージャーで報告書の共同編集者であるサラ・フィッシャーは述べている。このことは、生活の多くの分野でADMシステムが使用されている場合にも当てはまるが、私たちは『Automating Society』レポートの第2版でこの問題を提起するつもりだ。

COVID-19パンデミックにおけるADMシステム:ヨーロッパの視点から(仮訳)

序論

ファビオ・キウージ

COVID-19のパンデミックは、ヨーロッパ中の多くの自動意思決定(automated decision-making ADM)システムの展開を加速させた。自動化することで重症急性呼吸器症候群コロナウイルス2(SARS-CoV-2)の発生を食い止めることを目的としたアプリケーションや装置に、地方自治体と各国政府の両方から大きな期待が寄せられている。

保健当局が手動で行っている接触追跡のスピードアップと補完のために、スマートフォンのアプリが登場し、プライバシーと人権のバランスをどのように取るのがベストなのか、また病気の蔓延を監視し、抑制する必要性との間で国際的に激しい議論が巻き起こっている。QRコードが発行され、検疫命令や店舗や公共の場でのチェックインを記録している。体温スキャナーは、時には顔認識技術を利用して、スーパーマーケット、スタジアム、博物館など多様な場所へのアクセスを可能にするために、急速に新常識になりつつある。人工知能は、群衆の行動に関するリアルタイムの洞察を得たり、リスクエリアを予測したり、公共政策の介入をモデル化したりするために、より一般的に、そして漠然とだが、大量の匿名化された人口データ分析を学習してきた。

いくつかの学術機関や市民社会組織、Ada Lovelace’s Instituteの「Digital Contact Tracing Tracker」からMITの「COVID Tracing Tracker」、Privacy Internationalの「Tracking the Global Response to COVID-19」に至るまで、これらの動向を追跡している。しかし、ヨーロッパ内の自動意思決定に関連した側面に特に焦点を当てたものはない。これらは、AlgorithmWatchとBertelsmann Stiftungの「Automating Society」プロジェクトの範囲に含まれており、2020年版が10月に発行される予定であるため、関連する展開を見逃すわけにはいかないと感じてきた。

この「プレビューレポート」は、COVID-19発生の結果としてヨーロッパ全体に展開されたADMシステムの初期マッピングと調査に完全に特化したもので、これを発行することを決めたのは上述のような事情があるためだ。特に、執筆時点ではウイルスの再燃に関する不確実性を考えると、「Automating Society」プロジェクトで調査したヨーロッパ16カ国でウイルスに対して展開されている社会技術システムの最初のスナップショットを提供することが必要かつ緊急であると感じた。

このレポートは決して不完全なものではない。この分野では、世界的に日常的に多くのことが起こっており、網羅性を主張しようとするにしても不十分であり、そのようなシステムの多くはまだ不透明であったり、試行中であったりする。しかし、なぜこれほど多くのADMシステムが採用されているのか、その実際の働きについて説明し、人権、民主主義、公衆衛生の観点から見たそれらの帰結についての考えを文脈化する。

また、EU域内と域外のADMに基づく対応の主な特徴を比較し、技術と権利の相互作用が世界のさまざまな地域でどのように考えられているのか、いくつかの大きな違いを浮き彫りにする。同時に、本レポートは、あらゆる社会問題を技術的な「修正」を必要とする「バグ」とみなす誤ったイデオロギーdemoaru「技術解決主義」が、多くの多様な努力のかわりに―既存のanti-COVID ADMシステムの有効性を支持する証拠が乏しいにもかかわらず―共通して存在しているのはなぜなのか、どのようなものなのかを示す。

このレポートの第2部では、この1年間、Automating Societyプロジェクトに取り組んできた研究者の優れたネットワークの努力のおかげで、国ごとのより詳細な分析が紹介され、それぞれの研究者からのユニークな現場の洞察が提供されている。

COVID-19 への反応でADMについて論じるとき、私たちは何について語っているのか?

デジタル技術は、COVID-19流行の初期から、COVID-19への解決策として喧伝されてきた。しかし、”AI “をめぐる主張は、漠然としていて、AlgorithmWatchは長い間、より厳密なロケーション”ADM “の定義を支持する一方で、病気の経過をただちに反転させることが可能であることがすぐに利用可能な証拠を前にしてあまりにも熱心に示され、公共の議論の注目の多くは、保健当局によって配置された手動の接触追跡の努力を自動化で補完する方法を中心に展開されている。

考え方は単純である:パンデミックの第一波の間に世界中で目撃されたような、全体的または部分的なロックダウンは、個人の権利と経済の両方に深刻な影響を与え、したがって、将来的には可能であれば回避されるべきである。したがって、最も効率的で安全な方法は、政府と学術界の多くの人によると、「スマート」なソリューションを導入して、症状のある人も無症状の人も含めて、ウイルス保菌者を迅速に発見し、過去2週間の接触をより簡単かつ確実に再構築することだという。この方法では、COVID-19に感染するリスクにさらされた人は誰でも、スマートフォンの通知を通じて速やかに警告を受けることができ、感染した可能性のある人はすぐに医療支援を探すことができる(例えば、検査を受け、必要に応じて隔離するなど)。

この計画は現実的か?そして、それをどのように行動に移すか?答えはヨーロッパ内でも大きく異なっていた。例えばスウェーデンは、これまでのところ、デジタル接触追跡アプリを採用していないし、採用する予定もない。スコットランドもまた、アプリを持たないことを真剣に検討し、必要ないかもしれないと主張している1。一方、スロベニアでは、アプリを作成するための法的枠組みを整備しており、陽性と判定された市民と国内であっても旅行を希望する市民の両方にアプリの作成を義務づけている。

このようなアプリによる欧州市民の生活への侵入を許容するレベルの考え方もまた、非常に異なる相対立する技術的解決策となるという問題がある。個人のプライバシーを守ることを重視するものもあれば、「中央集権型」または「分散型」のアーキテクチャの中で、Bluetoothの低エネルギー技術に頼ったものもあった。この区別(リンク切れ)は、表面上は単に技術的なものに過ぎまないが、実際には人権と疾病監視のバランスをめぐる公的な議論の要点を体現している。他のアプリケーションは、保健当局によって収集された疫学データの有効活用、特に危険な場所やクラスターの早期発見に焦点を当てており、GPS技術を採用している。

したがって、前者のアプリケーションは濃厚接触データに基づいているのに対し、後者は位置データに基づいており、権利だけでなく、理解、実際の機能、有効性についても全く異なる意味合いを持っている。

このことと他の重要な区別をよりよく理解するためには、まず、ADMシステムとは何か、それがCOVID-19病の文脈の中でどのように制度的、地政学的に枠組みとされているのか、より具体的には、異なるタイプのADMシステムによってどのようなプロセスと決定が行われ、どの程度の人間の関与があるのか、ということを詳しく見る必要がある。

パンデミックにおけるADMシステムの地政学

なぜ「ADM」ではなく「AI」なのか

「自動化社会Automating Society」報告書の第1版で私たちは「自動化された意思決定システム」を「意思決定モデル、このモデルを計算可能なコードに変換するアルゴリズム、このコードが入力として使用するデータ(このコードから「学習」するか、モデルを適用して分析するかのいずれか)、およびその使用を取り巻く政治的・経済的環境全体を包含する社会技術的な枠組み」と定義した。

「AI」とは逆に、ADMシステムは単なる技術ではない。むしろ、それらはある技術は深層学習アルゴリズムよりもはるかに洗練されていないかもしれないし、「インテリジェント」であるかもしれないが、意思決定プロセスの中に挿入される方法である。2

例えば、COVID-19の文脈では、同じ技術がその背後にある理由に応じて、まったく異なる目的に使用されることがある。例えば、Bluetooth LTEベースのスマートフォンアプリで収集されたデータは、任意で匿名で中央サーバーと感染の可能性のある個人のスマートフォンとで共有でき、市民がダウンロードしないことを決定した場合でも、重大視されず制裁は一切ない。あるいは、同じ技術をより権利侵害的なソリューションを採用することもでき、GPSと連携して市民の位置情報を継続的に当局に提供し、時には強制的なスキームでは、これが尊重されない場合には厳しい制裁を課すことも可能だ。

したがって、異なるガバナンスモデルは、異なるADMシステムに反映される。

強制的で権利侵襲的なADMシステム:中国モデル

権威主義国は、個人の権利よりも公衆衛生と安全性への懸念を強く優先させるADMソリューションを提供するために、すでに導入されているデジタル監視インフラをフルに活用し、さらに機器やデバイスを追加した。例えば中国では、ビッグデータを利用して「誰に伝染リスクがあるかどうかの結論を自動的に導き出す」カラーベースの格付けシステム、アリペイ・ヘルス・コードを採用している、とニューヨーク・タイムズ紙は書いている。ADM のこのモデルでは、市民は、個人情報をフォームに記入する必要があり、入力後3色の QR コードが表示される。緑のコードの保有者は無制限に移動できる。黄色のコードを持つ人は、7日間家にいるように言われるかもしれない。赤は2週間の隔離を意味する。スキャンは、ロイターのレポートによると、「オフィスビル、ショッピング モール、住宅複合私設と地下鉄システム」ではスキャンが必須だという。

世界で最もビデオ監視されている20都市のうち18は中国 (Comparitech)であり、世界のすべての CCTV カメラの54%を占めるこの Moloch (恐しい犠牲を要求するもの、聖書にあるセム族の神、モロクが語源:訳注)が顔認識技術で再利用されていることを考慮しないとしても「群衆の体温をスキャンし、マスクを着用していない個人を識別する」、AI スタートアップ企業 Rokid Corp が提供する「非接触熱拡張現実non-contact thermal augmented reality」スマート眼鏡も「社会的な距離を強制する」監視装置に追加されるということからもADM のこうした見通しがいかにラディカルで極端なものであるのかが容易にわかる。

アリペイの格付けシステムは義務化されているだけでなく、アルゴリズムによる信用スコアリングシステムが公私ともに生活のあらゆる側面を判断するのに慣れている国では、個人の健康状態とそれに伴う権利が自動的に透明性なしに決定されている。

中国を見習う国が増えてきている。例えば、ロシアではCOVID-19の流行が始まって以来、顔認証が採用されている。3月下旬、BBCは、「モスクワ警察は、顔認識と17万台のカメラシステムを使用して、検疫と自己隔離に違反した200人を捕え、罰金を科した」と報じ、「ロシアのメディアの報道によると、罰金を科された違反者の何人かは、カメラに拾われる前に、30秒にも満たない間外にいた」と付け加えた。

それだけでは十分ではないというのか、モスクワ当局はまた、中国で使用されたのと同様のジオロケーション追跡アプリのダウンロードと政府発行のQRコードの登録を義務付けた。4月から、この登録は「薬局、食料品店、または単なる(犬を)散歩のために、それぞれすべての外出で必要だと報じられている」とGizmodoは書いている。QRコードなしででかけるのは、刑務所行きを意味することになりかねない。

一方で、アプリはまた、隔離や自主隔離の市民に指示するプッシュ通知を送信し、「携帯電話もたないで外出していない証拠として」自撮りを送信すると、ヒューマンライツ・ウォッチは書いている。「ユーザーが通知を見逃すと、自動的に4,000ルーブルの罰金が課せられる」。しかし、ソフトウェアのバグや不具合のために、たとえ数千件ではないにしても、数百件の誤った罰金が課されている。

強制的で権利侵襲的なADMシステムは、ヨーロッパ以外の国にも大きく関係している。同じ頃、4月11日に、韓国政府は「隔離命令に逆らう人々に追跡リストバンドを装着する」計画を発表し、テストで陽性の個人の「場所の履歴」は、これまでのところ、定期的に保健当局によって収集されている。これがオンラインで公開され、影響を受けた個人が恥かしい思いをするという深刻な結果が生じている。

ソウルのナイトクラブがCOVID感染症の新しい波の潜在的なホットスポットになると、ガーディアンは、「韓国での追跡と検査方法の使用でゲイコミュニティのメンバーが恐怖を感じ、さらに自殺につながった」と書いている。

また、政府によっても確認されたことだが、ニューヨーク・タイムズの報道によると、検疫を強制するアプリでは「ハッカーに対して個人情報が脆弱な深刻なセキュリティ上の欠陥」があることが判明したという。重大なこととして、「アプリのユーザであるかのようにみせかけて隔離命令を破ったとか実際には別の場所にいるのに隔離しているなどデータを改竄することが可能だ」

インドはまた、5月1日にBluetoothとGPSベースの接触追跡アプリ「Aarogya Setu」のダウンロードを、公共部門と民間部門のすべての労働者に義務化した。ここでも同様の問題を抱えている。ハッカーは、常に「安全」に見えるようにアプリを改ざんすることができると主張し、いくつかのプライバシー問題が発生した。中国同様、顔認識が急速に新ノーマルとなり、より広範な生体認証監視インフラのなかに透明性を欠くかたちで存在している。

ADMシステムが侵入的であればあるほど、その結果は深刻なものになる。イスラエルでは、位置情報ベースの追跡アプリ「Magen」と、同国の諜報機関「Shin Bet」が運営するデジタル接触者追跡プログラムの両方で接触者の追跡が行われている。どちらも深刻な欠陥があることが証明された。Magenは不正確な位置情報の記録を示し、情報プログラムは、誤って人々に検疫を強制して大きな批判にさらされた後も7月に更新され、苦情についても常に返答がない報告されている。

この記事を書いている時点では、モバイルデータ解析(Coronameter)や音声監視に基づいた1-10の評価システムが検討されており、デジタル大量監視をCOVID-19への公衆衛生対応の不可欠な一部とした国々の明確な傾向は、いかに侵略的であっても、それでも満足しない、ということを示している。

ヨーロッパのエコー:ジオロケーション化されたセルフィーとブレスレット

ADMシステム開発のこのラディカルで最終的には抑圧的なモデルは主にアジアと中東に関連しているが、似たような状況はヨーロッパのいくつかの国にも見られる。ロシアの自撮りベースの隔離アプリと極めてよく似たものが、ポーランドの「Kwarantanna domowa」アプリに見いだせる。

5月にはハンガリーでも同様のシステムが採用された

ノルウェーの連絡先追跡アプリ「Smittestopp」も、いくつかの受けいれがたい会社との繋がりがみられる。アムネスティ・テックの調査では、実際にこれは、クウェートとバーレーンによるアプリとともに、その技術報告書で「非常に侵略的な監視ツール」と規定され、世界規模でユーザーの権利面で最悪の加害者のひとつである。これに対し、ノルウェーのデータ保護局は警告を発し、ユーザーのプライバシーに不釣り合いな影響を与えるという懸念を提起し、アプリ開発を一時停止しなければならないほどであった。

全くのディストピア的な展開のなかで、バーレーンはこのアプリを「Are you home?”」と呼ばれる全国放送のテレビ番組にまで結びつけており、アムネスティによると「ラマダン期間中に家にいた人に賞品を提供する。アプリを通して集められた接触情報を使って、コンピュータープログラムで毎日10の電話番号を無作為に選び、これらの番号を生放送中にアプリ利用者が家にいるかどうか確認した」という。

リトアニアのアプリは、EUのプライバシー規制GDPRに準拠していないとして、同国のデータ当局からも停止処分を受けている。

リヒテンシュタインはこれとは別のアプローチをとっており、ウェアラブルデバイスがCOVID-19の早期発見に役立つかどうかの調査を目的としたパイロット研究(リンク切れ)を優先している。このために、リヒテンシュタインは「COVI-GAPP」と呼ばれる研究を開始した。この研究では、2,200人の市民にバイオメトリック・ブレスレットを装着してもらい、「皮膚温、呼吸数、心拍数などの生体測定値」を収集し、これらのデータをスイスの研究所に送り、分析を行う。最終的には国内のすべての市民が参加することになるこの実験の背景にある考え方は、生理学的なバイタルサインを分析することで、「典型的な病気の症状がなくても、早期にCOVID-19を認識できる感覚アームバンドの新たなアルゴリズムが開発できるかもしれない」(AFP)というものだ。

Anti-COVIDブレスレットは、ヨーロッパ以外の国では、香港シンガポールサウジアラビアアラブ首長国連邦ヨルダンなどでも一般に使用されているが、主に隔離命令その他のCOVID-19の規制強化のために配備されている。

このような使用やその他の使用は、デジタル権利の活動家にとって懸念材料となっている。例えば、Electronic Frontier Foundationは、パンデミックの文脈では、ウェアラブルは、「ウイルスを封じ込めるのにほとんど役に立たないかもしれず、実証されていない技術であることに変わりはなく、せいぜい、広範な検査や手動による接触追跡のような一次的な公衆衛生対策を補完するものであるべきでだ」と書いている。また、重要なことは、「誰もが追跡トークンを着用しない権利を持つべきであり、彼らが望むときにいつでもそれを着用できる」ということだ。

これは、ミシガン州のアルビオン大学にはあてはまっていないようにみえる。キャンパスを安全な「COVIDバブル」に変えようとする試みで、学生が「自分の位置情報と進行中の健康データを追跡する」アプリをダウンロードする必要がある。ニューズウィークが入手した電子メールでは、「大学は学生に(…)、位置情報サービスを常にオンにしておかなければならないことを伝えた」とされている。

これだけではない。「Aura」と呼ばれるアプリは、「学生がキャンパスのバブルから離れた場合、学校の管理者に通知する」とも言われている。そして、学生が4.5マイルの境界線を超えたことが発見された場合、停学処分の制裁が課される。

中国のADMモデルのもう一つの反響が民主主義的な文脈の中にも聞かれる。

WHOのガイドラインは、ADMのための異なる、より好ましい姿を描いている。

しかし、COVID-19に対するADMシステムの開発というこの侵襲的なモデルは、世界保健機関(WHO)の原則に合致しているのだろうか?そうではない。

一つには、5月10日に発表されたガイドライン「COVID-19の文脈における接触者の追跡」の中で、WHOは「濃厚接触追跡proximity tracing」3システムの採用を義務化すべきではないと明確に述べているが、それは「そのようなデータの利用は、COVID-19のパンデミックの間やその後の基本的人権や自由を脅かす可能性もある」からである。

ここで懸念されるのは、パンデミックに対する緊急かつ効果的な解決策を装って、大規模な監視が常態化することである。「監視は、疾病監視と集団監視の曖昧な境界線をすぐに越えてしまう可能性がある」「したがって、デジタルでの濃厚接触追跡技術の使用と、そのような技術によって生成されたデータを使用する研究に厳格な制限を課す法律、政策、監視メカニズムが必要である」とWHOは書いている。

アプリのダウンロードの自由だけでなく、ユーザーはいつでも自由にアプリを削除でき、既存の不平等を悪化させるリスクを避けることができなければならない。例えばハンガリーでは、自宅隔離アプリは、ダウンロードするかどうかまでは任意であり、ダウンロードした時点で強制的なものとなる。地理的に特定された顔画像とSMS認証に従わないばあい、ただちに義務違反となり、罰金で制裁を課される可能性がある。

これは、WHOの原則から見ても問題がある。このようなアプリをダウンロードしても何のメリットもなく、ダウンロードしないことによる差別もないからである。繰り返しになるが、ハンガリーの隔離アプリの場合はそうではない。「自発的にソフトウェアをインストールすることに同意しない場合、警察は自宅隔離が遵守されていることを確認するために、アプリダウンロードの場合より頻繁に自宅を訪れることになろう」とIndex誌は書いている。

その後、WHOは、その有効性がまだ証明されていないソリューションの性急な開発に対して厳しい警告を出す。そして、「これらの技術の有効性と影響を測定することが不可欠だ」としながらも、そのギャップを埋める方法を我々は実際には知らない。「現在のところ、デジタル濃厚接触追跡の有効性を評価する確立された方法はない」とガイドラインには書いてある。

なしうること、なすべきこととして、WHO の文書では、採用されたADMシステムの「透明性と説明可能性」を提供することだと論じている。「自動化された意思決定の存在とリスク予測がどのように行われるのかについての意味のある情報」が含まれていること、すなわち 「収集されたデータの種類、データがどのように保存され共有されるのか、データがどのくらいの期間保持されるか」が記載されていることである。

ADMシステムのコードはオープンソースであるべきであり、「データを処理し、伝送するリスクを評価するために使用されるアルゴリズムモデルは、信頼性があり、検証され正当性が立証されなければならない」また、ガイドラインによれば、倫理と人権の尊重をチェックするために独立した監視機関を設置すべきである。

重要なことは、ダウンロードが同意に基づいて行われるべきであり、特にユーザーが陽性反応を示したという通知は、アプリによって自動的に送信されるべきではなく、医療専門家からの確認が必要だということだ。

いずれにしても、WHOは技術的な解決主義に対して警告し、デジタル濃厚接触追跡は「必須ではない」と主張しており、手動での接触トレースの努力に取って代わるものではなく、補完するためのものに過ぎないと主張している。「この技術は、ユーザーが COVID-19に感染する可能性のあるすべての状況を捕捉することはできず、また、通常電話や対面で行われる伝統的な公衆衛生の人と人との接触の追跡、テスト、アウトリーチに取って代わることはできない。デジタル濃厚接触追跡アプリは、既存の公衆衛生システムと国家的なパンデミック対応に完全に統合された場合にのみ、COVID-19への対応に役立つデータを提供するという点で効果的である。」

これは、デジタル濃厚接触追跡アプリに関するAlgorithmWatchの政策的立場と一致している。

EUの代替案:公衆衛生、デジタル技術、人権は相容れないものではない

WHOのガイドラインに最も近いアプローチは、おそらく欧州連合(EU)のものであろう。多くの文書の中で、EUの機関は、自動化された意思決定システムの利点(とされる点)と、プライバシー、人権、民主的なチェック&バランスの尊重を組み合わせようとして、中国モデルに代わる極めて必要性の高い代替案を提供し、欧州の法律や価値観を遵守しなければならないとしても、コロナウイルス発生に対する技術的対応が尊重すべき基準と原則を示している。

欧州データプライバシー委員会が3月以降明らかにしたように、実際には、COVID-19による公衆衛生上の緊急事態に対応するための個人データ処理は、GDPRと両立しない。しかし、EDPB議長のアンドレア・イェリネクが指摘するように、「このような例外的な時期であっても、データ管理者と処理者は、データ対象者の個人データ保護を確保しなければならない」としている。

2020年4月8日、欧州委員会は「COVID-19の危機に対処し、そこから脱却するための技術とデータの利用、特にモバイルアプリケーションと匿名化された移動データの利用に関する共通のEUツールボックスについて」の勧告を発表した

この文書は、2つの前提に基づいて、コロナウイルスの発生に取り組む際のデータとテクノロジーの利用方法に関するEU全体の戦略の舞台を設定している。第一に、パンデミックは国家レベルで適切に取り組むことができない問題であること。「[国ごとに]断片化されて調整されていないアプローチは、単一市場と基本的人権と自由の権利への深刻な侵害を引き起こす一方で、COVID-19 の危機との闘いを目的とした対策の有効性を妨げるリスクがある」と述べている。EU市民が国境を越えて移動する際に、お互いに通信できない異なるアプリをダウンロードしなければならないことを想像してみてほしい。

分断されたアプローチの欠点はすでに米国で明らかになっており、ADMシステムをどのように展開するかについての異なる見解や競合する見解が、包括的な戦略や原則を欠いたまま、一部の州ではBluetoothベースの分散型の「曝露通知」を選択し(サウスダコタ州、アラバマ州、バージニア州、ノースカロライナ州)、他の州では独自のソリューションを展開するという状況になっている。(たとえば、ユタ州では「連絡先を特定するためにGPS、WiFi、IPアドレス、携帯電話の位置情報データ、Bluetoothの組み合わせ」4を使用している)、多くの州ではADMシステムを全く考慮していない。5この結果、ユーザーは基本的人権と有効性に関する正当な懸念を示し、ほとんどの場合、混乱と低い導入率となり、相互運用不可能なソリューションと矛盾した健康政策のパッチワークに終る。

例えばミネソタ州では、当局は「抗議者の所属を把握するために、詳細には触れずに接触者追跡contact-tracingと呼ばれるものを使用している」とBGRは書いておりFast Companyによれば、ノースダコタ州で最初に開発された位置情報ベースのアプリは「Foursquareと位置情報をGoogleと広告IDを共有している」ことが判明したという。

その結果、ハーバード大学のジョナサン・ジットレイン教授は、「技術サイドの目に見える活動が暗礁に乗り上ている」と批判し、米国でのデジタル濃厚接触追跡は「始まる前に終わっている」のではないかと疑問視している。

これはまさに、EUの原則と相互運用性の仕様6が避けるべきことであった。

EU委員会の文書の第二の前提は、デジタル技術とデータが「COVID-19の危機に対処する上で貴重な役割を果たす」ことを認めているが、それは一定の条件を満たすことを前提としてでのことにすぎない。これは、プライバシーと基本的人権を尊重しつつ、「EUレベルで調整されたモバイルアプリケーションの利用に関する汎欧州的なアプローチ」を求めることを意味する。

そのためには、「濃厚接触データの使用、個人の位置や移動に関するデータ処理の回避、可能な場合は匿名化されたデータや集約されたデータの使用を含む、最も侵入的だが効果的な手段を優先」すべきであるとしている。

勧告はまた、パンデミックの進展をより的確に予測し、加盟国の対応の有効性を評価し、調整された戦略を伝えるために、「集団の移動に関する匿名化された集計データを使用する共通のスキーム」を求めているが、ここでも「匿名化を防止し、個人の再識別を避けるためのセーフガード」を設置しなければならない。

その後のEU文書に詳細が記載されているデジタル濃厚接触追跡アプリの民主的な使用基準は、欧州データ保護監督官であるヴォイチェフ・ヴィヴィオロフスキが次のように明確に表明した理論的根拠と一致する。「人間は、一方ではプライバシーとデータ保護、他方では公衆衛生のトレードオフに責任をもつ必要はない。Covid-19 の時代の民主主義国家は、これらの両方を持つ必要があり、そうするすることが可能だ」

「EU共通のツールボックス」の最初のイテレーションがeHealthネットワーク―指令2011/24/EUの第14条に基づいて作成された任意のネットワーク―によって4月16日に提示されたとき、実際には、デジタル濃厚接触追跡は、「EUのデータ保護とプライバシーの規則に完全に準拠している」と想定されており、任意で採用され「不要になったらすぐに廃棄され」、位置データ(GPS)ではなく濃厚接触データ(Bluetooth)に基づいており、サイバーセキュリティと相互運用性を備えている。

重要なことに、eHealthネットワークは、WHOが行ったように、デジタル接触追跡は、手動の接触追跡に代替するものではなく、補完的なものだと繰り返し、「アプリの有効性を監視する」ことを次のように求めている。「加盟国は、接触追跡をサポートするアプリの有効性を評価/反映するための一連のKPI(Key Performance Indicators, ndr)を開発すべきである。」

このようなアプリの中央集権型(ROBERT)と分散型(DP-3T)アーキテクチャの提案者、研究者、学者、議員の間で激しい議論が繰り広げられ、PEPP-PT(リンク切れ)コンソーシアム7はEUレベルで急速にその中心的な役割を失い、パンデミックに対するデータベース化された自動意思決定に関する重要な規定は、ほとんど注目されていない。

例えば、eHealth Networkのツールボックスでは、アプリを通じて発行された警告に関する意思決定の完全自動化処理は、GDPRの22条8によって一貫して禁止されるべきであると注意喚起されている。この文書では、そのようなアプリのコードはオープンソースで「公開され、レビューのために利用可能」であることが求められており、透明性も重要な鍵となっている。

より一般的には、COVID-19危機のADM関連に関するEU機関の介入はすべて、市民と保健当局との間の信頼関係を構築するという考えを中心に展開されている。これは、ヨーロッパ内でプライバシーと基本的人権が完全に尊重されている場合にのみ可能であり、同時に―またしても、WHOが規定していることと同様に―自由意志で接触追跡アプリを採用しないと決めた人々への差別的な結果を防止し、このような決定で「負の結果」が生じるべきではないと、明確に述べられている

これらは、中国やアジア・中東の他の国々で採用されているものとは根本的に異なり、根本的に対立するADMシステム導入モデルの柱である。

接触追跡を補完するADMシステム

ADMの異なるモデル間のこの根本的な衝突が、接触追跡の努力を補完するデジタル・アプリをめぐる世界的な議論の中でより明らかになったところはどこにもない。COVID-19感染症の最初の悲劇的な波の真っ只中で生まれたこの議論は、最初は、民主主義国に住む何百万人もの市民生活に前例のない政府の監視を正当化するかに見えた緊急性と必要性の感覚(ほとんどが技術的解決主義者)によって知られるようになった。

世界中の技術に熱中している人たちは、公衆衛生を可能にし、特にこれ以上の全面的なロックダウンを避けるために、プライバシーその他の基本的人権は何らかの形で犠牲にされなければならない、あるいは少なくとも犠牲になる可能性があると主張した。例えばイタリアでは、プライバシーを尊重することはADMシステムに不必要な負担をかけることになるので、プライバシーの完全排除を理論化した者もいた。

前述したように、どの技術が接触追跡の努力を迅速化するのに役立つかについての世界的な議論は、2つの主要な陣営で続いた:1つはGPS追跡(ノルウェー、アイスランド、ブルガリア)を使用し、位置情報(チェコ共和国のように、時には銀行や支払いデータをユーザーがダウンロードしたアプリからのデータと統合)を使用することを支持するもので、もう1つはBluetooth Low Energy、つまり濃厚接触データを選択した。

やがて、この陣営はまた、2つの相対立する考え方に分れた。フランス、イギリス、そして当初のドイツのような国は「中央集権型」のBluetoothベースのソリューションを開発しようとし、イタリア、スイス、デンマーク、エストニア(そして最終的にはドイツ自身)は「分散型」のソリューションを選択した。後者の場合、「接触追跡」アプリは接触追跡を全く行わず、その代わりに、2台の携帯電話がリスクのある接触だと考えるのに十分な時間、お互いに接近したことを示すだけで、所有者の1人が14日以内にCOVID-19と診断され、アプリを通してそのようなデータをアップロードする意思があれば、陽性の対象者への潜在的な曝露についての通知を出す。

議論は、anti-COVID-19 ADMシステムの情報を提供し、形成するために、プライバシーと基本的人権の面での長所と短所だけでなく、サイバーセキュリティと(少なくとも潜在的な)有効性の面でも、どのような正確なアーキテクチャを採用するかに集中した。

ゲームチェンジャーは、 「曝露通知 」の導入だった。この言葉は、任意のアプリが「接触追跡」を完全に置き換えることができるという間違った考えが広まるのを避けるために採用された用語で、これは商用スマートフォンにインストールされているOSのほぼ全てに責任をもつテック大手のGoogleAppleによって開発されたAPIだ。

月にプロトコルの発表から数ヶ月後、ニューヨークタイムズの記事7月20日では、位置データが収集されないだろうと報じたが、Mountain Viewによると、実際にBluetoothを介してユーザーに通知することができるようにするには、技術の巨人Googleは、位置情報を収集しないにもかかわらずまだ位置データをオンにするように求めていた。

これは議論をもっと先に進めなければならないことを示した。政策立案者や国の技術者がどのような方法でも作ることができずに、技術的なルールを強制する非常に強力な民間多国籍企業に従うか服従するしかないという問題が提起され、世界的な公衆衛生の緊急事態へのADMの応答は、民主的に選出された政府よりもビッグテックのCEOによってより簡単かつ効果的に決定できることを示唆している。

Bluetoothベースのアーキテクチャを選択したが、Google や Apple のアーキテクチャの採用を拒否した国が開発したアプリは、技術的な巨人によって課せられた制限や要件のためにすべて技術的な問題を抱えており、実際には各国がADMの開発戦略を全面的に再考するに至った。例えば、 英国は、ワイト島での試験中にiPhoneのわずか約4%しか認識できないことが立証された後、独自の集中型ソリューションを断念した。フランスでも、いくつかのプライバシー機能を緩和するためにテック巨人Cupertinoに依頼し、その結果バックグラウンドで動作する”StopCovid”アプリは、同一アーキテクチャで動作するアプリで常に不具合を生じることが発見され、特にオーストラリアでは、このアプリは、どのような基準でみても「深刻な失敗」とみなされたとシドニーモーニングヘラルドの社説で述べた。

アップルは政府の命令を遵守することを拒否し、5月26日に、 EUの5つの政府(ドイツ、 フランス、 イタリア、 スペインとポルトガル)のデジタル担当のトップは、数カ国語で公開された共同の論説で、二つのテック巨人を厳しく批判した。特に「デジタル主権」がデジタル化戦略に関するEU政策のスタンスを決定する中核的な原則であることを考慮すると、民間企業による曝露通知基準の導入は「政府と民間企業間の開かれた協力を促進する上で間違ったシグナル」だと主張した。

しかし、これはGPSベースのアプリや「分散化」されたBluetoothベースのアプリがバグや不具合を免責されるということを意味するものではない。例えば、カタールのアプリ「EHTERAZ」はGPSとBluetoothの両方の技術を使用しているが、Amnesty Tech Security Labの調査では、このアプリに「重大な脆弱性」が見つかっており、「悪意のある行為者が同国の100万人以上のユーザーの氏名、国民ID番号、健康状態、位置情報などの機密個人情報にアクセスすることを許してしまう」とAccess Nowは書いている。これは、カタールのADMシステム導入モデルを考えると、アプリのダウンロードはすべてのユーザーに義務付けられており、従わない場合は「最大3年の懲役と約55,000ドルの罰金という不釣り合いなペナルティに直面する」ということを考えると、より一層現実味があると言える。

Google/Appleベースの分散型アプリであっても、不正確さやバグを免れず、BBCの調査によると「アプリによって警告された人の数」を知ることさえできず、誤まった検知/陰性率が高くなる可能性がある。これは、有効性の面だけでなく、有効性が疑われる場合をいかにして判断できるのかという重大な疑問につながる。

ダブリンのトリニティカレッジの研究者によって6月末に発表された研究9では、さらなる懸念が出されている。ドイツ、スイス、イタリアの曝露通知アプリで採用されている濃厚接触検出ルールを公共交通機関(通勤電車)の文脈に適用することで、著者のダグラス・J・リースとスティーブン・ファレルは、「スイスとドイツの検出ルールは、データ内の携帯電話のペアの約半数が2m未満の距離にあるにもかかわらず、曝露通知をトリガしない」と結論づけた。

イタリアの検出ルールについては、「真の確からしさの割合(つまり、2m未満の携帯電話の正しい検出)は約50%である。しかし、それはまた、約50%の誤った割合でもある。すなわち、間違って2m以上離れている携帯電話の約50%に曝露通知をトリガする」これは何を意味するか、このパフォーマンスは 「我々の実験で、濃厚接触に関係なく参加者をランダムに選択して通知をトリガするのと似ている」と著者は結論付けている。

これらすべてについて、 ADMシステムが完全に可能だとしても、実際に接触追跡にどのようなデータが必要なか、という問題が残る。

位置情報と近接性:ADM システムが接触追跡を実際に支援するために必要なデータとは何か?

異なる接触追跡と曝露通知アプリの背後にある考え方は似ているかもしれないが、異なるアプリのアーキテクチャによって異なる意思決定プロセスが必要とされる。

GPSベースのアプリは位置情報を収集することで、例えば保健当局がCOVID-19で陽性と判定された個人の接触者網を再構築するのを助けることができ、その結果、接触者追跡作業が迅速化され、より効果的で完全なものにされることで、接触者追跡作業に貢献すると言われている(ここでは、ログは人間の記憶や判断だけではなく、より信頼性の高いものであると仮定されている)。

また、公衆衛生に関連する人口の傾向を理解するための情報を提供することもできる。例えば、多数の人々の動きのインテリジェントな分析は、社会的な距離のルールに対する人口の態度を明らかにすることができる。また、隔離ルールの実施にもGPSが採用されている。

一方、Bluetoothベースのアプリは位置情報を収集せず、その代わりに濃厚接触に基づいている。したがって、ADMのこのモデルでは、接触トレースや「曝露通知」アプリがダウンロードされているスマートフォンは、定期的にランダムで一時的なキーを含むBluetooth Low Energy信号を発する。このうちの一人がCOVID-19と診断されたとすれば、これと同じアプリをインストールした他のすべての携帯電話の暗号化されたログを作成することになる、すなわち、ログ内の他のスマートフォンの所有者を潜在的曝露の「接触」10に該当するとみなす。

この機能は、集中型と分散型の両方のBluetoothベースのアプリに共通する。しかし、その後のプロセスが異なる。オーストラリアの「COVIDSafe」アプリやイギリスで廃止された中央集権型アプリでは、個人がCOVID-19に陽性反応を示した場合、保健当局から、アプリを通じて収集したデータを中央データベースで共有するように求められることがあり、そのデータは、どの接触者がコロナウイルスに感染している可能性があるかを計算し、実際に追跡するために使用される。

イタリアの 「Immuni」やドイツの 「コロナ Warn-App」 のような分散型モデルとは違って、このような計算は、個人の携帯電話上で実行される。アプリを通じてこの情報を共有する意思があれば、陽性の被験者すべての「接触者」は、システムを通じて警告が出され、その結果として医療処置を求めることを決めることができる。

これは、中央集権的なアプリとは対照的に、たとえ匿名であっても、保健当局は感染した個人の連絡先の全ての連鎖を取得しないことを意味する。これが、このアプリは接触追跡アプリではなく、「曝露通知」アプリとして正しくフレーミングされている理由だ。これは個人にのみ感染への潜在的な曝露を通知するが、当局は、アプリのデータを使用しただけでは、最後の2週間に接触していた人、主要な場所、その個人が誰であるかを知る方法を持たない。BBCが報じているように、これらのアプリは接触追跡システムというよりも「警告システムとして動作する。」

自動化された意思決定のこのようなモデルの長所と短所を評価する際には、難しいトレードオフを考慮する必要がある。例えば、GPSシステムは、プライバシーや人権の面ではるかに侵襲的だが、同時に、将来の発生に対処する上で有用な情報を提供する可能性がある。他方で、Bluetoothシステムは、より侵襲的ではないが、おそらく有用性が低く、野心的でもなく、人口の大部分によって広範にダウンロードされ、開発が容易なテストプログラムと組み合わされた場合にのみ、実際に効果的がある。そうでなければ、潜在的な感染症警告通知の何がメリットなのだろうか?

接触追跡や曝露通知における ADM は全く機能していないのだろうか?

多くの専門家、機関、市民社会団体が、同時に効果を最大化し、基本的人権への負担を最小限にするために実際に必要とされるデータは何かについて見解を述べている。最初の配備から数ヶ月経った今でも、ADMシステムの有効性についての確固たる証拠がまだないため、答えはまだ暫定的なものである。

8月19日にLancet11に発表された文献の系統的レビューでは、110件のフルテキスト研究を分析した結果、「(特定された連絡先や通信量の削減に関する)自動接触追跡の有効性を示す実証的証拠はない」と結論付けられている。

実際、私たちが知っていることは、その有効性にいくつかの疑念を投げかけ、パンデミックに対する技術ベースの解決策に対する当初の熱狂的な関心を一掃し、実際にそれらを最優先で導入するという決定に疑問を投げかけている。

例えば、アメリカ自由人権協会(ACLU)の白書は、あらゆるタイプのデータ収集(GPS、電波塔の位置情報、Wi-Fi、Bluetooth、QRコード)について説明した後、4月に「上記で議論したデータソースのどれも、十分な信頼性を持って濃厚接触を識別するのに十分な精度を持っていない」と結論付けている。

GPS技術は「ベストケースの理論上の精度は1メートルだが、より一般的には屋外で5~20メートル」としている。また、「GPS無線信号は比較的弱く、屋内では機能せず、大きな建物の近く、大都市、雷雨、吹雪、その他の悪天候時には機能しない」とされている。

これは ADM にとって特に重要だ。「ピンポイントの精度を持つ位置データセットを想像したとしても」「それを任意の自動化された方法で2人が感染症の危険性があるかどうかについての信頼性の高い推測に自動的に変換するには諸問題がまだある」とACLU の論文は書いている。例としては、イスラエルでは、「ある女性が彼のアパートの外から感染したボーイフレンドに手を振っただけで「接触」として識別され、それだけに基づいて隔離命令が出された」。

携帯電話の基地局の位置データも十分正確とはいえない。特に農村部では、中国でさえ試験で望ましい結果にならず、これを放棄しなければならなかった。

Bluetoothに関して、そのクリエーター、Jaap HaartsenとSven Mattissonは、注意を喚起した。すなわち、精度と「検出範囲の不確実性」の面での問題は極めて現実的であり、「たしかに、 濃厚接触かどうかの判断を間違うことがあるかもしれないし、このことを説明する必要がある」とインターセプトに語った。

懐疑論は、トリニティカレッジのリースとファレルによる別の研究でも確認されており12、研究者は、その中で「受信したBluetooth信号の強さは、人が並んで歩くのか後ろにいるのかで大きく変化しうる。携帯電話を背中のポケットに入れているか、前ポケットに入れているか、ハンドバッグの中のどこに入れているか、などでも変化する」ことを発見した。これは Bluetoothにとって一般的な問題ではないかもしれないが、ウイルスの発生に関するコンテキストでは問題になる。

この論文によると、壁や家具、スーパーマーケットのショッピング通路、または電車やバスの棚や冷蔵庫などの特に金属製の物は、この重要な分散化、BluetoothベースのADMシステムのコンポーネントに「重要な影響」を与える可能性があり、COVID-19感染の実際の危険にさらされているユーザーに通知するということでパンデミックに対処する上での潜在的な貢献の核心部分に重大な影響を与える。

Leith教授はアイリッシュタイムズに「例えば、大きなスーパーマーケットの周りを歩いている2人が、接近している場合と2メートルの距離をとっている場合で、Bluetoothの信号強度はほぼ同じだとわかった。ポケットの中に携帯電話を入れて会議テーブルに座っている場合、隣に座っている人同士でも信号強度が非常に低いことがわかった」と語っている。このことは、曝露通知アプリが効果的かつ広範な接触者追跡の取り組みの柱となるべきだという考えに根本的に疑問を投げかける。

この研究では、ADMシステム導入前に大規模なテストを行うことを求めているが、前述したように、これはそれ自体が複雑な試みであり、このようなアプリの「成功」と「有効性」をどのように定義し、測定するのかさえ実際にはわからないのである。

これまでの実際の開発や利用可能な文献13からわかっていることは、このような重要な指標をめぐって根本的な混乱があることを裏付けるものになっている。実際のダウンロード数とアクティブユーザー数に基づいて、アプリの「成功」を定義することができるだろうか?発売後わずか2週間で1400万人以上の市民にダウンロードされたドイツのアプリは、最初の5週間は何百万ものAndroidベースのSamsungやHuaweiのスマートフォンのバックグラウンドでは正常に動作しないことが示されていたとしても、成功物語だと言えるのだろうか?

また、いくつかの国では、そのようなアプリのダウンロードを必須にしており、アプリの国際比較を難しくしている。実際、インドのArogya Setuの物議を醸すGPS+Bluetoothベースのアプリは、特定の社会的カテゴリーに対して義務化されたため、約100日で約1億2700万人の市民にダウンロードされ、世界で最も「人気のある」アプリとなり、世界で最も成功していることになる。これは、プライバシーやサイバーセキュリティの多くの問題を正当化することを意味するのだろうか?

また、インドのアプリ開発者が主張している24%の有効率はどうなのだろうか? 「アプリでCovid-19感染と推定されるすべての人々の24%が陽性反応を示した」という主張の実際の意味をどのように理解すべきなのか?ゼロでないパーセンテージは成功なか?

疑問は、分散化されたApple/Googleベースのアプリでこれらの変数をどうやって測定するかということだ。当局がアプリを通して誰がどのような状況で、どのような結果で「曝露通知」を受け取ったかを再構築することが不可能な場合、これらのアプリが実際に機能しているかどうかをどうやって評価するのか?

体温スキャナー、顔認証、免疫パスポート:これが私たちの新しい常識になるべきか?

COVID-19パンデミックは、世界規模で経済に深刻な影響を与えている。しかし、ウイルスはすべての商業部門に災いをもたらしたわけではない。それどころか、それによって利益を得ている企業もある。

体温スキャンと顔認証技術市場の最新の予測を見てみると、これらの製品は積極的に別目的で使用され、多くの技術企業や新興企業によって不可欠な「anti-COVID」ツールとして販売されており、スーパーマーケット、劇場、映画館、病院、スタジアム、銀行、官公庁、そしてもちろん民間企業にも導入されている。

「世界の赤外線画像市場は、コロナウイルスのパンデミックにより、今年の34億ドルから2025年までに46億ドルに成長すると推定されている 」と、2020年7月初旬にロイターが報じている。これは、「コロナウイルスに感染する可能性のある人を検出するための発熱検出技術を販売している企業が現在170社あり、パンデミック前に同様の技術を販売していた30社未満から増加している」ことを意味していると、IPVMディレクトリを引用してOneZeroは報じている。6つの最大のプレーヤーのうち5つ、Sunell、Dahua、Hikvision、TVT、YCXは中国のものだ。

Global Industry Analystsの推計によると、顔と音声のバイオメトリクス市場も、パンデミックで大幅に拡大しており、現在の推定値72億ドルから2027年には227億ドルに跳ね上がると予想されており、わずか5年で価値が3倍以上になるという。

これには驚くべきこととそうでもないことの両方がある。顔認証がEUの内外を問わず広く採用され、導入されていることを考えれば、驚くべきことではないが、意味ある民主的な議論やセーフガードがほとんど行われていないことを考えると、これは驚くべきことだ。

また、COVID-19との闘いにおいて顔認証がほとんど役に立たないことがわかっていることを考えると、驚くべきことである。最近の画期的な米国国立標準技術研究所(NIST)の研究では、パンデミックの期間中に何人かの開発者がPR資料で主張していたこととは対照的に、「口と鼻を適切に覆うマスクを着用すると、最も広く使われている顔認識アルゴリズムのいくつかのエラー率が5%から50%に急増する」と主張している。

体温スキャナーの精度や実際の有用性についても、疑問の声があがっている。Electronic Frontier Foundationによると、赤外線カメラは「公共の広場や歩道が常時ビデオ監視で埋め尽くされるような未来を築く恐れがある」という。

専門家の間では、遠くからの赤外線画像(発熱を検出すると謳っているカメラシステムの赤外線画像を含む)は効果がないと結論づけられている。このカメラの精度は通常、せいぜい摂氏±2度(華氏約±4度)程度である。また、「人間の体温は華氏2度と大きく変化する傾向がある。この技術はプライバシーの問題だけでなく、誤検知の問題も無視できない。誤検知は、強制隔離やハラスメントの危険性をもたらす。

COVID-19パンデミックとの闘いにおいては、完璧な精度であっても十分とはいえない。多くの感染者は無症状であったり、「発熱検出」カメラを作動させない「極めて軽い」症状だからだ。例えば、COVID-19で陽性であっても、全く熱がない場合もある。

これらの問題は、パンデミックのための「AI」ソリューションのより広い範囲に当てはまる。WHOがニューヨーク、ダーラム、モントリオールの大学と共同で行った研究14(執筆時点では査読なし)では、「COVID-19パンデミックによって引き起こされた医療や社会の課題をカバーするAIの潜在的な応用範囲は広いが、そのうちのいくつかは現在、使用可能なインパクトを示すのに十分な成熟度に至っていない」と結論づけている。

エストニアから英国まで、いくつかの国でも免疫パスポートの実験が行われている。15プライバシー・インターナショナルによれば、デジタル「認証情報」として採用された場合、個人は公共の場で必要とされるときにはいつでも自分の健康状態(陽性、回復、ワクチン接種など)を証明することができるようになるため、政府はさらなる全面的なロックダウンを回避できる。

しかし、ロンドンに拠点を置くNGOは、これまでに説明したすべてのツールと同様に、「WHOが強調しているように、これらの措置には現在のところ科学的根拠がない」と警告している。免疫パスポートにどのような情報が記録されるかは、現在のところ不明である」と警告している。

しかし、すでに知られていることは、免疫パスポートを使用することは、いくつかの「社会的リスク」を伴い、「特に、これらのパスポートを閲覧する権限が雇用者や警察の手にわたる場合、差別と排除への道筋をつける」のに役立つということになる。

このようなツールにはすべて共通した問題がある。それは、「正常な状態に戻る」ために必要なツールとして売り出されてはいるが、実際に何をするのかというと、その有効性については何の根拠もなく、健康を根拠にした監視の浸透に基づく新しい正常を押し付けようとしているということである。この社会技術的な装置は、すでに多くの例で示されているように、特に中国の杭州市では、公衆衛生上の緊急事態から生まれたものかもしれないが、すでに問題となっているSARS-CoV-2発生前に配備された監視装置の武器庫にこららが加えられて、決定的に日常生活に普及することは間違いない。

この「新しい通常」が実際にCOVID-19の拡散を抑制するのに役立つかどうかは、パンデミック後の段階で問えるものであり、そのときには、そのようなADMシステム実装の実際の結果が(うまくいけば)利用でき、さらに詳細な研究を伴って対処できるようになっている場合である。このような結果をどのように判定し評価するのかについての厳密なアプローチも、可能であればその間に開発される必要がある。

しかし、その証拠がどうであれ、公衆衛生上の緊急事態に取り組む際のADMの状況についてのこの初期の研究から一般的な結論を導き出すことが可能だ。すなわち、パンデミックのような複雑な社会問題に対して新しい技術的解決策を急ぐことは、手元にある社会問題を解決ぜずに不必要なまでに監視技術を正常化する可能性があるということだ。これらのシステムは、本当に私たちの基本的人権と民主主義と両立するというのであれば、採用前に広くオープンに議論されるべきである。

飜訳:小倉利丸 下訳にhttps://www.deepl.com/translator を使いました。

Footnotes:

1

BBCによると、数ヶ月間の懐疑論の後、7月末、スコットランドはついに「秋には使用できるようにしたい」と考えている連絡先追跡アプリの開発を発表した。このアプリはアイルランド共和国と北アイルランドで採用されているのと同じソフトウェアを共有することになる。

2

パンデミックの文脈での「自動化された意思決定」の定義を複雑にしているのは、本レポートの編集過程で明らかになったことである。この序論では、分散型の曝露通知アプリはADMシステムと見なされるべきであると仮定しているが、それは、ユーザーの同意の後に、ユーザーが近接していた感染対象への曝露の可能性のある通知の記録と共有を自動化しているからである。これがより広い公衆衛生の意思決定システムの(伝えられるところによると)不可欠なコンポーネントであり、デジタルが手動の接触追跡の努力に追加することができるものの要点、人間の努力を補完するための自動化の層である。 しかし、プロジェクトに参加した研究者の中には(ベルギー、デンマーク、ポルトガルの国別分析で明らかなように)、これを正しいとは考えない場合がある。DP-3Tベースのアプリは、何らかの決定を実際には自動化していないのだから「自動化された意思決定」や何らかのADMシステムを含んでいると考えるべきではない、という。健康の専門家と(あるいは)ユーザーは常にこの議論の渦中にある。こうしたアプリはCOVID-19反応のADMに関する報告書にすら含まれるべきではないことを意味し、これはデータ、自動化、パンデミックをめぐる広範で世界的な議論の重要な側面を見逃すことを意味するだろう。したがって、我々はそのようなシステムをADMシステムとして扱うことにしたが、同時にこの仮定は執筆時点では論争の的になっているという事実を反映させることにした。

3

この用語は、接触追跡の取り組みを支援するために配備されたADMシステムを、接触追跡の取り組みそれ自体と明確に区別するために採用されている。「濃厚接触追跡Proximity trackingはしばしば『接触追跡contact tracing』と混同されるが、接触追跡は広範な公衆衛生学的規律であり、濃厚接触追跡は接触追跡を支援するための新しい技術である。」WHOの文書では、「接触追跡 」を 「病気に感染した人を特定し、評価し、管理して感染を防ぐプロセス」と定義している。

4

その後、ユタ州の「Healthy Together 」アプリでは、位置追跡が廃止されている。「我々は過去 3 ヶ月の経過で場所の追跡は評判がよくないことを学び、その結果、これは本当に私たちの接触追跡の努力には役立たない」とユタ州疫学者のアンジェラ ダン博士は語っている。2650万ドルをかけたこのアプリは、実際には56,000人のユーザーにダウンロードされ、アクティベートされただけだった – 「これはアクティブなユーザー1人あたり約46ドルに換算できる」と、UtahPolicy.com (https://utahpolicy.com/index.php/features/today-at-utah-policy/24309-technological-boondoggle-utah-s-multi-million-dollar-coronavirus-app-will-no-longer-provide-contact-tracing)は指摘している。

5

「カリフォルニア州、コロラド州、コネチカット州、デラウェア州、ジョージア州、アイダホ州、インディアナ州、アイオワ州、ルイジアナ州、メリーランド州、モンタナ州、ニューハンプシャー州、ニューメキシコ州、テネシー州、テキサス州、バーモント州、ワイオミング州はすべて、現在、デジタル接触追跡アプリを開発していないことを確認した」と7月21日にLawfareに書いている(https://www.lawfareblog.com/what-ever-happened-digital-contact-tracing)。

6

2020年6月16日に公開された文書に記載されている「コロナウイルス。加盟国はモバイル追跡・警告アプリのための相互運用性ソリューションに合意する」、https://ec.europa.eu/commission/presscorner/detail/en/ip_20_1043

7

https://www.pepp-pt.org/ によれば、PEPP-PT は、「プライバシー保護のための濃厚接触追跡」のための「すぐに使用でき、十分検証され、適切に評価されたメカニズムと標準を提供することで、国の取り組みを支援する」国際的な取り組みである。

8

説明については、https://ico.org.uk/for-organisations/guide-to-data-protection/guide-to-the-general-data-protection-regulation-gdpr/individual-rights/rights-related-to-automated-decision-making-including-profiling/ を参照。

9

Douglas J. Leith and Stephen Farrell (2020), Measurement-Based Evaluation Of Google/Apple Exposure Notification API For Proximity Detection In A Light-Rail Tram, https://www.scss.tcd.ie/Doug.Leith/pubs/luas.pdf.

10

曝露通知アプリの文脈での「接触」の定義は様々であるが、WHOのガイドラインによれば、「COVID-19症例から1メートル以内で15分以上」、「発症2日前から14日後まで」の接触はCOVID-19感染の可能性があるとされている。

11

Isobel Braithwaite, Thomas Callender, Miriam Bullock and Robert W. Aldridge (2020), Automated and partly automated contact tracing: a systematic review to inform the control of COVID-19, https://www.thelancet.com/journals/landig/article/PIIS2589-7500(20)30184-9/fulltext

12

Douglas J. Leith and Stephen Farrell (2020), Coronavirus Contact Tracing: 濃厚接触検出のためのBluetooth受信信号強度の使用の可能性の評価。https://www.scss.tcd.ie/Doug.Leith/pubs/bluetooth_rssi_study.pdf

13

Leonardo Maccari and Valeria Cagno, ‘Do we need a contact tracing app?

14

Joseph Bullock, Alexandra Luccioni, Katherine Hoffmann Pham, Cynthia Sin Nga Lam and Miguel Luengo-Oroz (2020), Mapping landscape of Artificial Intelligence applications against COVID-19, https://arxiv.org/abs/2003.11336

15

この詳細は、両国の個々のセクションに記載されている。

Print Friendly, PDF & Email
Previous (EFF)COVID-19と監視技術―2020年を振り返る
Next (EFF)曝露通知技術の詳細が明かに