監視社会

デジタル監視社会としてのSociety5.0批判

目次

  • 1. コンピュータに社会を描くことはできるのか
    • 1.1. 安倍の世界経済フォーラムでのスピーチ
    • 1.2. スピーチが隠していること
    • 1.3. 私たちは「石油」ではない
    • 1.4. 情報フェティシムズ:データが「資源」となり、私たちはもはや生身の人間としては扱われなくなっている
  • 2. 5G、AI、IoT(5AI)は悪夢のトライアングル
    • 2.1. グローバル資本主義の覇権を狙う日本政府の戦略
    • 2.2. 隠蔽される問題群
    • 2.3. そもそも問題の根源はコンピュータ科学の社会認識の枠組みにある
  • 3. いったいどのようなことが現実に可能なのか。
    • 3.1. 政府が描く「スマートハウス」―現代のビッグビラザー?
    • 3.2. スマートホームを支えるイデオロギーとしての温情主義的な家族国家観―デジタル天皇制?
  • 4. 捜査機関はどこまでの技術をもっているのか
  • 5. コンピュータが理解する社会と私たちが理解する社会の本質的な違い
    • 5.1. Society5.0の抽象的な「人間」モデル
    • 5.2. 実際の社会は矛盾や摩擦があり、AIもまた差別する
    • 5.3. 政治的異議申立ての「犯罪化」がすすむ?
    • 5.4. コンピュータが描く社会システムには「弁証法」がない
  • 6. 私はデータではない。私が何者かを資本や政府に決めさせない。サイバー空間での抵抗の権利へ

1 コンピュータに社会を描くことはできるのか

1.1 安倍の世界経済フォーラムでのスピーチ

安倍は今年初めに開催された世界経済フォーラムで、デジタルデータ、デジタルガバナンスなど「デジタル」を演説の中心的な課題として以下のように述べた。日本資本主義のグローバルな戦略のなかで「デジタル」の領域が重要な位置を占めていることを示唆している。

皆様、時は熟しました。我々、皆承知のとおり、これから何十年という間、私たちに成長をもたらすもの、それはデジタル・データです。そして何かを始めるなら、今がその好機です。何と言っても、毎日毎日、新たに生まれているデータの量は、250京バイト。これは一説によれば、米議会図書館が所蔵する活字データ全体の25万倍が、新たに追加されているというのと同じです。1年の遅れは、何光年分もの落後になるでしょう。一方では、我々自身の個人的データですとか、知的財産を体現したり、国家安全保障上の機密を含んでいたりするデータですとかは、慎重な保護の下に置かれるべきです。しかしその一方、医療や産業、交通やその他最も有益な、非個人的で匿名のデータは、自由に行き来させ、国境をまたげるように、繰り返しましょう、国境など意識しないように、させなくてはなりません。

グローバル経済を議論する国際的なフォーラムの場で、安倍が言う「我々」とは誰のことなのだろうか。政治家であり権力者である「我々」と、彼等に対して異議申し立てをする「我々」は同じ「我々」ではない。にもかかわらず「我々」と一括りにされるとき、彼等に抗う「我々」の居場所はあらかじめ奪われている。「国境など意識しないように、させなくてはなりません。」とは、誰に対する命令なのだろうか。

1.2 スピーチが隠していること

安倍は上のスピーチのなかで、日々生み出される膨大なデータには、個人データ、知的財産、安全保障上の機密データのような保護あるいは秘匿されるべき情報と国境を越えて自由に流通させるべき情報があるという。これらのデータを守ることが政府の責任であるというのだろう。個人データ、知的財産、安全保障が国益に還元できるものとする安倍のこの発言にどれほどの人が疑問を抱いただろうか。

しかし、企業の知的財産には個人情報が含まれており、本来私たちに帰属すべき個人情報が資本の所有に帰せられるという問題がある。安全保障上の機密には、言うまでもなく、警察や政府機関が権力の維持のために収集する膨大な反政府運動や敵国とみなす国や人々の情報が含まれる。これらが誰から保護あるいは秘匿されるのかといえば、私たちからである。その結果として、私たちは、「私の個人情報」を奪われ、政府や資本への批判に不可欠なかれらにとって不利益となる情報へのアクセスを阻まれ、私たちの思想信条、表現の自由が抑制される。

1.3 私たちは「石油」ではない

他方で、越境する匿名情報とは日本の政府や資本が海外展開する上で必須となる越境する情報ネットワークを当事者の国や人々のアクセスを阻むようなシステムの構築をも含意している。「非個人的で匿名のデータ」はビッグデータの解析技術を前提すれば、言われているほど確実な匿名性を担保しうるものにはならないだろう。安倍はこのスピーチで現代のデータを20世紀初めの石油になぞらえている。データは富をもたらす「資源」なのだ。この観点からすると、越境するデータとは、日本の政府と資本が、海外の資源(データ)を収奪するための新たな構想でもあるということだ。

こうした情報をコントロールする体制を安倍は「DFFT(データ・フリー・フロー・ウィズ・トラスト)と呼び、膨大なデータを社会基盤とする構想をSociety5.0と呼んでいる。そしてこのような社会が地域格差を解消する鍵を握る「格差バスター」にもなるという。そして安倍は、二つの主題を指摘する。

成長のエンジンは、思うにつけもはやガソリンによってではなく、ますますもってデジタル・データで回っているのです。(略)新たな現実とは、データが、ものみな全てを動かして、私たちの新しい経済にとってDFFTが、(略)最重要の課題となるような状態のことですが、そこには、私たちはまだ追いついていないわけです。

(略)私たちがインターネットを壮大な規模で使うようになったのは、1995年頃です。でも、21世紀も20年を数えようという頃になって、データが、我々の経済を回している事実にようやく気がつきました。この際、大阪トラックを始めて、それをとても速いトラックとする。そのための努力は、私たち皆が共にできるといい、米国、欧州、日本、中国、インドや、それに大きな飛躍を続けているアフリカ諸国が、努力と共に成功を共有し、それでもって、WTOに新風が吹き込まれるというふうになればと願います。

1.4 情報フェティシムズ:データが「資源」となり、私たちはもはや生身の人間としては扱われなくなっている

資本主義は、脱工業化[1]のなかで新たな「資源」として情報あるいはデータという分野を見い出した。かつて、社会のなかの多様な自然エネルギーが石炭、石油などに置き換えられたように、データが「資源」になるということは、「世界」がデータという「資源」に置き換えられてゆくことを意味している。もともと人間は、情報やデータに還元できるものではない。コンピュータが処理可能な二進法の数字に置き換え可能な遺伝情報は、「遺伝子」そのものではない。しかし、「遺伝子」それ自体が二進法の数値に置き換え可能であり、しかも、このような遺伝情報をもとに、遺伝子組み換えによってもともとの生体に変更を加えることが可能になると、あたかも情報やデータが生命体の実体であるかのような転倒現象、情報フェティシズム(物神化)が生み出される。

こうした転倒は、私たち一人一人が何者であるのかを決定する権利が私たちから奪われていることを意味している。私が何者であるのかを銀行や職務質問する警察官は、「私」ではなく私が所持している身分証明書というデータによって確認するように、現代ではコンピュータが私の生体情報によって私であるかどうかを確認する。

こうしたデータとしての私が資源になることによって、資本は利益を上げ、国家は権力の再生産を実現する。そして、私たちが情報、データに転換されて、彼等の利益のために犠牲にされる。マルクスは資本主義の搾取の根拠を労働者の「剰余労働」に求めた。しかし、これは搾取の一部に過ぎない。人間がその存在を資本や国家に依存しなければ維持できないような構造に否応なく組み込まれ、その結果として存在の意味を奪われ、この意味の剥奪を埋めるために、資本と国家の意思を内面化するような社会に私たちは生きている。搾取とは、資本と国家への依存を強いられて生存の意味を剥奪される状態を指す。人間のデータ化は、こうした搾取の構造に人間を総体として組み込むためのひとつの技術である。[2]

2 5G、AI、IoT(5AI)は悪夢のトライアングル

2.1 グローバル資本主義の覇権を狙う日本政府の戦略

Society5.0は2016年に策定された『科学技術基本計画』[3]のなかで、ドイツの「インダストリー4.0」、米国の「先進製造パートナーシップ」、中国の「中国製造 2025」」を念頭に置いて、「世界に先駆けた「超スマート社会」の実現」として、定義された。つまり、現在のグローバル資本主義の覇権を狙おうとする日本政府の戦略なのだ。こうしたグローバルな戦略が家庭や地域コミュニティの細部、日常生活から構想されるような構図になっていることが特徴的である。私たちの日常のライフスタイル、とりわけネット環境が、そのまま国策とリンクする。同じネット環境が私たちのコミュニケーションの権利を支える社会インフラでもあることを念頭の置くとき、ネットのこの両義性は深刻な問題を提起することになる。私たちが沈黙してしまえば、国策、国益が優先され、私たちのコミュニケーションの権利が脅かされることは目にみえている。

近代資本主義は、国民国家とグローバルな市場からなる矛盾にみちた構造をもつ。どの資本であれ、世界市場で主導権を握るためには、価格競争における優位の他に、次の条件を満たさなければならない。

  • 生産される商品が、グローバルな市場において、技術的な標準化の主導権獲得できていること。
  • いかなる国であれ、その国の国内法と抵触しない仕様を満たしていること。
  • 本籍国[4]の軍事外交政策が資本の多国籍的な展開の後ろ盾になっていること。

技術の標準化は、他の資本(とりわけ異なる本籍国の資本)との協議が不可欠であり、多くの場合政府間の協議が不可欠になり、政府の外交力が重要な条件をなす。国家を越える経済的な規模を誇る資本であっても法制定の権力は持てない。様々な経済法、企業関係法規、労働法制から環境法などに至るまで、法を公然と無視することはできない。そして、現在の米中関係のように、政府間の摩擦を資本独自の力で解決することもできないし、市場の交渉に還元できるわけでもない。すでに、「スマートハウス」関連では、経産省が電気、ガス・水道といった家庭のインフラを可視化して一元的に管理するHEMS(Home Energy Management System)の導入にやっきになっている。[5]このHEMSに対応した家電や住宅設備を「制御」する共通の通信プロトコルとしてECHONET liteが2012年に経産省の肝煎りで策定されている。しかし、この「日本発」の技術の標準化仕様が国際標準になるのかどうかは未知数だ。経産省は「日本発のこの国際標準が成立・発行され、家庭用エアコンが当該標準に基づき普及すれば、HEMSの導入が国内外で促進され、世界的な省エネルギーに貢献することが期待されます。また、国際市場における日本製品の優位性向上や、これらに関するサービス事業の市場拡大を目指すことができます。」[6]と述べているが、いったいどこの国が日本の製品や海外市場展開に有利だが自国にとっては相対的に不利になるような技術の標準化を受け入れるだろうか。米国、中国、EUなど技術覇権を目指す諸国との競争激化のなかで、私たちは、実際にスマートハウスという名の監視型住宅に住むことを強いられる。

現在のグローバル資本主義のなかで、日本がもっぱら「デジタル」の領域に関心を示すのは、長期の不況のなかでこの分野だけが例外的に「成長」しているからだ。言い換えれば、この分野で日本が国際競争力を失なえば、更なる苦境に陥いる可能性があるということでもある。この意味で、日本資本主義がその再起を賭けて、人々の日常生活やコミュニティを実験台あるいはショーケースにしながら、世界に日本のデジタル技術を売り込むことがアベノミクスの成長戦略の最後の賭けでもある、ということである。

『科学技術基本計画』では次のように述べている。

生活の質の向上をもたらす人とロボット・AIとの共生、ユーザーの多様なニーズにきめ細かに応えるカスタマイされたサービスの提供、潜在的ニーズを先取りして人の活動を支援するサービスの提供、地域や年齢等によるサース格差の解消、誰もがサービス提供者となれる環境の整備等の実現が期待される。また、超スマート社会に向けた組の進展に伴い、エネルギー、交通、製造、サービスなど、個々のシステムが組み合わされるだけにとどまらず、来的には、人事、経理、法務のような組織のマネジメント機能や、労働力の提供及びアイデアの創出など人が実施る作業の価値までもが組み合わされ、更なる価値の創出が期待できる。

一方、超スマート社会では、サイバー空間と現実世界とが高度に融合した社会となり、サイバー攻撃を通じて、現実世界にもたらされる被害が深刻化し、国民活や経済・社会活動に重大な被害を生じさせる可能性がある。このため、より高いレベルのセキュリティ品質を実していくことが求められ、こうした取組が企業価値や国際競争力の源泉となる。

この極めて退屈な報告書の社会認識は、全体主義国家の特徴でもある社会を構成する人間像が端的に反映されている。政治的な主体としての人間への視点が全く欠如しており、社会を構成する人々の意思決定は民主主義ではなく、AIを介在させた高度な統制モデルに基いている。この報告書には民主主義も人権も一切登場しない。個人情報は2箇所、プライバシーは1箇所で言及されているが、これらは、権利概念として言及されているわけではない。Society5.0は、こうした個別資本を越える課題を複数の資本の利害を束ね、家庭を基礎単位として、コミュニティ全体を巻き込んで、政府が主導して新しい社会のコミュニケーションインフラを構築しようというものであって、ここには政治的な意思決定のプロセスが完全に欠落している。

2.2 隠蔽される問題群

上で引用した抽象的で曖昧な文言をより具体的にイメージしたときに、問題の在処が明確になる。

  • 生活の質の向上をもたらす人とロボット・AIとの共生。 「共生」の定義がない。ロボットやAIには省力化の傾向があり、これらの機械によって職を奪われる人達が必ず生み出される。AIやロボットによる経済の活性化が新たな雇用を生むという反論は、的外れでもある。というのは、AIやロボットで職を奪われた労働者がAIやロボットが創出する新たな職に就けることもこれまで以上の所得も保証されていないからだ。
  • ユーザーの多様なニーズにきめ細かに応えるカスタマイされたサービスの提供。 「ユーザ」の多様なニーズに対応するためにはユーザがどのようなニーズを持っているのかを把握できるシステムが必要になる。「きめ細か」であるためには、日常生活の詳細にわたるデータを収集し、解析することが必要になる。確かに「便利」なようにみえる。朝食で食べるパンがなくなる前に注文してくれる、帰宅すると風呂が涌いている、エアコンを快適な温度に調整する、聴きたい音楽を選んでかけてくれる….。しかし、こうしたテレビCMが提供するシチュエーションだけが「多様なニーズ」というわけではない。夜中にトイレに行く回数が多いとか、セックスの回数より消費されている避妊具の数が多い(どこで「消費」したんだろうか)とか、風邪で医者に行くと職場に連絡したのに医者に行っていないとか。多様なニーズやきめ細かなニーズに応じようとすればするほど、人には知られたくないちょっとした嘘やプライバシーが「機械」に晒されることになる。親の目を盗んで子どもたちはちょっとした悪戯をするものだが、こうした経験をする余地がますます狭くなるかもしれない。
  • 人事、経理、法務のような組織のマネジメント機能。 「組織のマネジメント機能」は、基本的に資本(経営者側)の立場にたった言い回しである。上の引用にある「ユーザーの多様なニーズにきめ細かに応えるカスタマイズされたサービスの提供」という文言を職場にあてはめたとき、「ユーザ」は会社の経営者なのか、現場の労働者なのか、労働者であっても正規なのか非正規なのかで「ニーズ」は対立するのではないか。Society5.0は、経団連が全面的に支援しているように、「ユーザ」として前提されているのは企業の経営者たちである。[7]労働者の多様なニーズを労働組合が組織として受け取るためのプラットームとしてのロボットとかAIは想定されていない。ロボットやAIが人事に介入すると、あたかも客観的な「データ」に基いているかのように誤解されてしまう。使用者側は、この「データ」を客観的で人間の主観が入っていない「証拠」として人事や労務管理の正当性を主張する。労働者たちは、こうした労使関係の意思決定のメカニズムに対抗するには、ロボットやAIが用いている解析プログラムそのものの妥当性を検証できなければならない。労働者の権利が明確に組み込まれていないプログラムは認めてはならない。とすれば、労働運動は、会社のAIが収集したデータと同じデータを取得して独自にプログラムを組んで会社の判断の不当性を主張するか、あるいは会社がデータを収集することそれ自体を認めずに、データの消去と解析に用いないことを認めさせなければならない。コンピュータは労資関係が内包している対立を対立としてそのままプログラムすることはできない。
  • 企業のマネジメントと消費者運動 同様に、資本と消費者の間にも対立がありうる。電力会社が原発を保有すべきか廃棄すべきかという重大な経営問題について対立があるとき、企業のロボットとかAIは、原発容認の政策を掲げる会社の方針に沿ったプログラムで動くだろう。消費者のニーズは無視されることになるが、ここでも、無視の口実としてあたかも客観的なデータでもあるかのようにして、コンピュータがはじき出した様々なデータが用いられる。それだけでなく、会社のAIは、会社に異論を唱える消費者たちの身元を詳細に調査して会社の「ニーズ」に応えるだろう。逆に消費者たちが自分たちのニーズを満たすようなデータを要求してもSociety5.0はこうしたニーズを無視するか、会社を代弁するだけになる可能性が高い。そもそも会社のAIが収集する社内のデータを社外の消費者運動が利用でき、しかもそれを消費者運動が独自に構築したプログラムで解析できなければならない。あるいはそもそもの会社が解析に用いた消費者の個人情報そのものの廃棄を求めることができなければならないだろう。労資関係の場合同様、対立する企業と消費者の利害をロボットやAIは解決できないにもかかわらず、あたかも「解決」が可能であるかのようにして企業によって利用される。

2.3 そもそも問題の根源はコンピュータ科学の社会認識の枠組みにある

コンピュータ科学は、弁証法と実証的な検証不可能性に基く資本主義批判という反資本主義の理論的な基礎を根底から覆すものだった。コンピュータ科学が前提とする「方法」は、社会制度ばかりか社会認識から人間の基本的な存在様式に至るほとんどあらゆる分野を支配してきた。[8]

コンピュータは確かに、ある種の計算領域においては、正しい結果を生み出すことは多分、議論の余地はない。しかし、実は、こうした「正しさ」は見た目ほど広範囲に及ぶわけではない。むしろ極めて限定された領域でしか機能していない。たとえば、商店が一日の売り上げを計算して、そのなかから8パーセントの消費税がどれだけの金額になるのかをコンピュータに計算させることはできても、コンピュータに「なぜ消費税が8パーセント」なのかは理解できないし、理解する必要のない前提とされている。現在世界規模で大問題になっているトランプ政権による対中国貿易での関税引き上げ政策も同様で、多くのアナリストたちは、関税引き上げの影響を推計するためにコンピュータを駆使し、金融市場もまた、コンピュータにその影響を計算させる。この貿易戦争は、このようなコンピュータによる世界理解の観点からすると、全てが、経済成長や資本の利益という「結果」だけが「経済」の主要な問題であり、これまでの通説では、自由貿易が最適な「解」を与えるとされていたのだが、トランプはむしろ保護主義という「解」を政治的に最適な「解」として選択したために、市場経済の前提が崩れたと感じられた。(人間には。コンピュータは何も感じないだろうが)

新自由主義の時代は、経済の領域にコンピュータ科学が、実務においても、また、学問分野においても大規模に導入された時代である。現実の複雑極まりない事実の世界を抽象的な統計データに還元し、経済システムの最適な状態を一定の数式から導く「方法」が唯一科学的な方法だと信じられてきた。このようにして構築された経済の理想的なモデルが一旦人々に受容され、実務の世界でも「正しい」経済のありかたであると信じられるようになると、人々は、今度は、この理想的なモデルを物差しにして、現実の社会の問題や未解決の難問の原因を「現実が理想的なモデルのようには存在していないのが問題なのだ」と考えるようになる。こうした本末転倒が蔓延した時代が、新自由主義とこれを支えた経済学や関連する社会科学の理論だった。だからといって、その前に隆盛を誇ったケインズ主義が正しかったわけではない。マクロ経済学やミクロ経済学のパラダイムは資本主義を歴史的な社会としては理解できないモデルであるだけでなく、そもそもここでは人間は生産要素でしかなく、コストでしかない。しかし、こうした「理論」が正しいとされて、政策が策定され、この理論を前提にしてデータが収集され、統計が整備される。このある種の「神の世界」はそれなりの完結した整合性のあるシステムを構築する。実証もできれば様々な予測も可能だ。しかしこの理論ではこの社会で人々が置かれている「搾取」を問題にする枠組みがないのだ。コンピュータ科学はこの限界と問題をそのまま継承している。

Society5.0には、社会関係に内包されている様々な対立や矛盾として表われている多様な要求と闘争を受け入れる枠組みそのものがない。社会は、企業の意思によって束ねられた社員や消費者たちから構成される。多様な「ニーズ」は相互に対立することもない。コンピュータの膨大なデータが解析されるときも、こうした摩擦や闘争は、たぶん社会を危険に晒す問題として警察が取り組むべき「犯罪」のカテゴリーに含まれるかもしれない。

労働運動も消費者運動もこうした社会ではその存在意義を削がれる。人々はどこまでも非政治的であって、政治という領域への関心が全くない存在であることがあたかも理想的な市民であるかのように描かれている。Society5.0ではたびたび福祉の領域に言及される。福祉は高度に政治的な課題であるが、それが人々の配慮や倫理・道徳に転嫁される。いずれ公共交通の車内の監視カメラが人々を監視し、優先座席に座ろうとする若者を選別して警告したり、ペナルティを課すような時代になりかねない。人々は「叱られたくないから」という理由でこうした警告に従い、あたかも公衆道徳が守られた社会であるかのようなうわべの体裁が整えられる。

3 いったいどのようなことが現実に可能なのか。

3.1 政府が描く「スマートハウス」―現代のビッグビラザー?

Society5.0が高度が監視社会になるだろうという予測は、それが予測の域を出ないのであれば、私たちのような反政府運動の担い手によるプロパガンダとしか受け取られないかもしれない。将来についての口当たりのよいハッピーな社会像ではなくて、実際にこれまで、どれほどのことが監視社会として実現されているのか。

図1: 総務省が構想するSociety5.0

各家庭を単位とした「スマートハウス」からコミュニティを基盤とした「スマートシティ」へ、という展開の延長線にSociety5.0がある。しかし、こうしたスマートナンチャヤラという取り組みは思うように進展してこなかった。そのなかで唯一実用化の水準を強引に達成したのが曰く付きの電力のスマートメータだった。ここから家庭内の機器を統合して監視するシステムへの展開がとどこおっている間に、世の中はあっという間にIoTと5Gの時代へと展開してしまったために、むしろ出遅れ感が強く、これが官民の危機感になっている。[9]

上の夢物語のようなSociety5.0が監視社会の観点からみたとき、どのような問題があるのか。企業や政府の情報共有は進むだろうし、AIによって調整・操作された情報、過疎化されたまま機械に監視される地方、高齢者や障害者の自立が阻害される社会になるだろう。それだけでなく、社会の構成にとって重要な政治的社会的な意思決定の基盤をなす行政、立法、司法といった制度とこれらへの私たちの関わりが一切登場しない。Society5.0とは政治の領域が排除された社会、言い換えれば、私たちが否応なく非政治化されざるをえない社会を意味している。その一方で、行政組織が官僚制度をコンピュータのネットワークとアルゴリズムに置き換えはじめたことによって、情報処理能力を急速に高度化してきたのに対して、立法と司法(とりわけ裁判制度)は、人による討議や審理が中心的である。意思決定を機械に委ねるところまではまだいっていないが、その結果として、行政による機械化=スピードアップに追い付けなくなっている。早晩、AIの導入は司法、裁判制度をAIに依存させることになりかねないし、代議制民主主義よりも行政によるビッグデータ解析などのデータ分析が優位を占めるようになることは目に見えている。

Society5.0は、コミュニティの監視、あるいは人口統制(住民コントール)を基盤として、その有機的なネットワークとして国家レベルの、つまり国民レベルの統制を実現しようというものだ。このコミュニティレベルでビッグデータの仕組みを用いることはすでにある種の実証実験が行なわれている。[10]現実空間で行なわれている様々な振舞いをビッグデータとして蓄積し、AIを駆使して解析し、その結果を現実世界にフィードバックするような社会システムが構想されている。従来と大きく異なるのは、ネットを介した情報のやりとりが個別のサービスとして企業や行政によって個々に縦割りになっている構造を、企業相互、行政の部門あるいは行政間でデータを共有して展開できるような統合的な社会インフラを構築することにある。こうした構造を可能にするには、膨大なデータの流通を円滑に行えるだけのネットワーク(5Gがこれを担う)と、蓄積されたビッグデータを解析するAI、そして現実世界に張り巡らせられる人とモノ双方と繋がるIoT機器の三位一体である。

以下に紹介するのは三菱総研が経済産業省の助成金を受けて実際に実施した実証実験である。

家庭内のIoT機器は、機器の動作状況だけでなく、たとえばドアホンは来訪者のログや画像を取得するなど様々な情報を取得し、利用者のスマホのデータも取得する。これを実証実験に参加した企業が共有する。こうした実証実験は、比較的単純なモデルとして実施されており将来はより高度で複雑なシステムとなるととが想定されている。プライバシー情報の扱いについては、家電などのメーカーごとに個別に個人情報の取り扱いのルールを決める煩雑さへの反省が述べられている。統合的なルールの策定への期待があるが、そうなると、企業が個別に、自社のポリシーや機器の仕様に合わせて個人情報を扱うのではなく、統合的な個人情報の扱いを決める方向に進むだろう。そうなると、個人情報の取得範囲が広い機器(例えば、対話型ロボットや監視カメラ機能がついている室内の機器など)に合わせて個人情報の取得を容易にする方向に流れるだろう。また、一般に個人情報の取得やプライバシーポリシーは、実施前に承認をとることになるが、実際の実施ではプライバシーポリシーのルールや合意事項ではカバーできないような事態が生じうる。こうした場合に企業側に有利になりかねない。今後統合的な運用が進めば、事実上個人情報が全ての企業や政府機関で共有されることが当然という方向になる以外にないだろう。[11]

こうした機器に対して、私たちがプライバシーを防衛するための自衛の手段として何らかの技術的な対抗策をとることが、もしかしたら、これらの機器を設置している企業のサーバやネットワークなど、企業などの財産への侵害行為とみなされるかもしれない。どこまでが私の所有に帰属し、どこからが企業や行政などの所有なのか、その境界が曖昧なまま、ネットワークの社会基盤を保護する名目で私たちの介入が犯罪化されてしまうかもしれない。

3.2 スマートホームを支えるイデオロギーとしての温情主義的な家族国家観―デジタル天皇制?

本稿の冒頭で引用した安倍のスピーチのなかで、「我々自身の個人的データですとか、知的財産を体現したり、国家安全保障上の機密を含んでいたりするデータですとかは、慎重な保護の下に置かれるべきです。」と述べていた。ここで彼が「我々自身の」と述べたときの「我々」が誰を指すのか、という問題は脇に置き、とりあえず全ての人々の、といった意味合いとして解釈しておこう。

上で用いられた「保護」という言葉の微妙なニュアンスに注目しておく必要がある。たとえば「国民の権利としての個人デ=タを保護する責任と義務が政府にはあります」という言い回しであれば、「保護」は権利と義務の関係のなかに位置付くが、そうではない。むしろ「国民の個人データを政府の保護下におきます」ということであって、ここでいう「保護」は、権利の保護ではなく、権力を維持する上で必要な「監視」に近いニュアンスだろう。

「我々自身の個人的データですとか、知的財産を体現したり、国家安全保障上の機密を含んでいたりするデータですとかは、慎重な監視の下に置かれるべきです。」

彼は個人データを私たちの権利に関わるものであるという原則を立てるのではなく、国家が私たちの個人データを監視する義務がるとみなしている。これを「保護」と言い換えるのは、「保護観察」とか精神病院の「保護室」などで用いられる意味があることを想起すれば、保護=監視という等式は決して強引な解釈ではないことは理解していただけるのではないかと思う。更に付言すれば、国家安全保障上の機密は、時として(常にと言い換えたいくらいだ)私たち民衆の安全とは真逆であって、むしろ公開されることこそが私たちの安全、あるいは権力の腐敗を正す重要な機会となる。

私たちは、国家の監視や権力の支配の手段として利用されることから私たちの個人データを防衛なければならないのだが、安倍は、逆に、国家こそが個人データの保護者=監視者になるべきと主張している。安倍に限らず権力者の個人データへの関心は、ビッグデータの時代にはリアルタイムでの私たちの動静をプライバシー領域にまで踏み込んで監視=保護することを意味している。これは私たちの関心とは根本から対立している。

家族を基盤に地域から国家へと積み上げる構図を国家がトップダウンで構想する監視=保護のスタイルは、コンピュータ化された高度な情報通信インフラという現代的な装いをとってはいるものの、発想そのものは、日本の近代国家がその出発点から持ちつづけている家族国家観とコミュニティによる相互監視のシステムを基盤にしている。個人はこの監視=保護の網の目のなかで家族か地域、あるいは職場に帰属する従属変数であって、自由で自立した個人は想定されていない。国家は、生活の細部に至るまで介入し保護者の役割を演じつつ、監視者としての動機を背後に持ち続ける。

これは、同時に、スマートホームあるいはSociety5.0のイデオロギー構造を示している。こうした家族から国家へと至る社会統制のイメージがコンピュータによって制御可能なアルゴリズムに変換され、機器に実装される。アイデアそのものは資本主義で歴史の終焉とする凡庸な文明史観だ。これが露骨なイデオロギーとならないのは、テクノロジーのもつ「中立性」や「科学」の装いをとっているからだ。「日本」という国家は、近代の始めから、科学の普遍性と神話の擬制をイデオロギーの両輪しとしてきた。戦後、この両輪は、日本のナショナリズムの中核をなす「経済ナショナリズム」を支える構造をとるようになった。天皇は宗教的な祭司として神話の世界を体現しつつ「文化」や「学術」といった普遍的な世界に「日本」というシンボリックな権威を付与する役割を担ってきた。科学技術を「平和」という文言に言い換え、経済帝国主義を支える生産力と労資関係の基盤をなしてきたテクノロジーを「日本の繁栄」として意味づけ、学術や文化イベントを権威づける権力儀礼の制度として高度なテクノロジーがナショナリズムを支える。監視=保護のネットワークが情報化やコンピュータテクノロジーによる社会開発として展開されるということは、この国にあっては、端的に言えばデジタル天皇制と言っていいようなナショナリズムと不可分なものとして機能することになる。天皇制がインターネットの時代に、どのようにしてイデオロギーの再生産装置として構造化されるのかという問題は、SNSやネットの右翼言説の蔓延(これは世界的な現象でもある)を踏まえれば無視できない重要な課題だ。Society5.0を推進する政権が極右であるということの関係性に注目しておく必要がある。

4 捜査機関はどこまでの技術をもっているのか

Society5.0には、明示的に犯罪などへの対処については言及がない。上記の経産省の実証実験報告書でも、かろうじて、「防犯・見守り」「防犯センサー」というキーワードが登場するくらいである。しかし、「防犯」が組み込まれている以上、防犯に関連するデータを警察などとどのように共有するのかは当然課題になる。その場合、単に、防犯センサーが警察とネットワーク化されるだけではなくて、犯行現場の室内のあらゆるIoT機器などが収集しているデータが犯罪の裏付けとなる証拠であるとされるならば、こうしたデータを捜査機関に提供できる仕組みが必要になる。そうなると、データのやりとりの統合機能となる「統合WebAPI」が捜査機関のネットワークと相互接続する可能性も否定できない。

室内はプライバシー空間なので、捜査機関が直接監視するような仕組みを導入することは容易ではないが、これはあくまで法的な制約に関する問題であって、技術的に不可能ではない。

すでに海外では、かなり深刻な警察による監視システムが稼動している。たとえば、ロサンゼルス警察は、Palantirという民間のデータ分析企業のシステムを導入し、2010年頃に既に、リアルタイムで事件を分析するための部署、Los Angels Police Department’s Real-Time Analysis Critical Response(RACR)を設置した。Palantirは次のように説明している。

Palantir Law Enforcementは、既存の事件管理システム、証拠管理システム、逮捕記録、令状データ、召喚状データ、RMSまたはその他の犯罪報告データ、コンピューター支援派遣(CAD)データ、連邦機関リポジトリ、ギャングの諜報情報、容疑者の記録、自動車免許をサポートしており、ナンバープレート自動読み取り(ALPR)データ、およびドキュメントリポジトリや電子メールなどの非構造化データを扱う。[12]

このシステムは、リアルタイムに、事件の発生現場に関連するデータを表示(地図、過去の事件発生履歴、関連する人物など)し、現場のリスクを推測して、パトロールする警察官のスマートフォンに情報を送信する。あらゆる関連情報を統合的に扱えることがPlantirのシステムの「売り」とされている。このシステムは、テロ対策でも用いられており、海外のテロ事件についても、テロ容疑者のデータベースを活用するなど治安管理のシステムとしての機能も持っている。[13]

こうしたシステムができてすでに10年になるのだ。まだ顔認証などのシステムが実用化される以前に、これだけの統合的なデータ分析の技術を捜査機関が保有できるということを念頭に置いて「スマートホーム」や「スマートシティ」を理解することが必要だろう。

Palantirは、政府などのシステム開発を行うわけだから、外部には公開されていないデータを用いた治安管理を実施するわけだが、公開された情報だけでかなり深刻な問題を引き起しかねないようなデータ分析もまた現実に行なわれている。FacebookなどのSNSやブログのメッセージの内容を分析することによって、人々の人間関係を大量に解析するソーシャルネットワーク分析も行なわれてきた。こうした分析を通じて人々の繋りが可視化され、ビジネスに使われる場合もあれば、治安監視や弾圧の手段にも使われるものになっている。こうした解析技術がアラブの春の弾圧に使われてきたのだ。[14]

上の図は、英語でのブログ投稿の内容をいくつかのカテゴリーに分けてマッピングしたものだ。捜査機関による解析ではないが、こうした解析から、誰がどのような話題を投稿し、どのような人間関係を構築しているのか、といった社会関係の解析に利用できる。こうした社会ネットワーク分析を政府が治安弾圧などの目的に利用することも可能なのだ。

5 コンピュータが理解する社会と私たちが理解する社会の本質的な違い

5.1 Society5.0の抽象的な「人間」モデル

Society5.0がデジタル全体主義になるのは、社会の内部にある様々な矛盾や対立を無視して、社会がシステムにとって都合のよいような均衡を実現できるようなモデルになっていることによる。

とはいえ、「社会」であるから、全ての人々を完全に抽象的な「個人」に還元するといったモデルになっているわけではない。Society5.0を支える人間像は、「表向き」は次のようなものだろうと思われる。

  • 性別はあるが、LGBTQのような性的マイノリティは想定されていない。
  • 年齢あるいは世代が社会構造のなかに存在していることは想定されている。
  • 国籍や民族の違いなどは想定されていない。
  • 企業の価値観に同調することが想定されている。
  • 政治的な関心に基づく多様性は想定されていない。
  • ネットを介した市場経済が提供する商品の消費に無条件に同調する消費者が想定されている。

5.2 実際の社会は矛盾や摩擦があり、AIもまた差別する

しかし、実際にSociety5.0が社会のなかに実装された場合、このモデルが想定している予定調和の世界から逸脱する様々な人間の行動が、このSociety5.0の阻害要因とみなされることになるだろう。実際には上のような抽象的なモデルではなくて、たとえば

  • 性別のデータベースが人口政策とリンクすれば「生む性」としての女性への差別的な扱いを助長する可能性がある。
  • 国籍や民族のデータが実際には重要な監視のために取得される可能性がある。
  • 労働組合、社会運動など人々の権利としての抵抗権や異議申し立ての行使がコミュニティの治安維持を口実に監視される。
  • 投票行動は匿名性を保証されず、ビッグデータから予測される各個人の投票行動が推測できるようになる。
  • 医療情報、逮捕歴、前科、職場や学校での懲戒処分の履歴、交通違反、クレジットの未払いや債務、近隣住民とのトラブルなどネガテイブな情報がコミュニティの「安全」にとって必須の情報として蓄積される。
  • 生体認証情報はこれらのデータを束ねる上で重要な鍵となる。
  • 移動情報(室内での人の動きから、GPSによる位置や路上の移動、職場の出退勤などまで)がリアルタイムで蓄積される。

こうしたデータが何らかの「意図」に基づいて処理されるとき、あるいは、処理のためのプログラムがAIに組み込まれるとき、そしてAIが自律的に学習するとき、この「意図」に込められている既存の社会の偏見や差別を機械が学習してしまうことが知らている。これまでもよく指摘されてきたのは、犯罪発生率が高い地域が有色人種の居住区であるという「データ」から、黒人であることを犯罪の原因に結びつけるという考え方が導かれたりする。データ相互を因果関係として結び付けようとする「人間」の発想には偏見が関与していることがあるが、これに気づかれないことが多々ある。こうなると、警察のパトロールや監視が特定の地域で強化されることが正当化されて、それが再び犯罪率の偏った統計に反映する。人間の差別や排除をAIが助長してしまうのだ。機械はあたかも中立的な装いをもち、数学的なアルゴリズムは「正しい」のだから結果もまた正しく、その価値判断も中立で客観的だという誤解を人々は持ちやすい。たとえ差別的な結果となっても、それが「差別」であることを証明することすらできない。

既に個別のデータベースとしては存在しており、これらを統合するシステムが構築されて横断的に参照されて将来の行動予測などに利用できるようにするための法的な条件さえ整えば決して難しいことではない。こうして、差別や特定の社会集団への監視がより強固なシステムとして構造化される。

5.3 政治的異議申立ての「犯罪化」がすすむ?

自由と人権を防衛するために、IoTの監視を拒否してこうしたシステムに対して抵抗する人達が、この統合的な監視のシステム全体に対して異議申し立ての行動をとるとすれば、こうした行動は、このシステムの側からはどのようにみなされるのだろうか。労働者のストライキの権利がこのスマートシティやスマート工場で行使されることを、システムは労働基本権の行使とみなすだろうか。あるいは、消費者がIoTの監視をボイコットする行動をとるとしたら、どうだろうか。こうした行動は、現実の世界であればイメージしやすいが、サイバー空間で行使されるということは、ある種のハッカーのような行動として「犯罪化」されてしまうのではないだろうか。サイバー空間では、私たちは、ストライキ、デモ、座り込み、ピケッティングなど現実の空間では、ネットワークの遮断、DOS攻撃、ウィルス作成、ハッキング、著作権侵害などとして権利行使の大半が犯罪化されている。Society5.0そのものは、ある種の絵に描いた餅のような空疎なモデルだが、こうした社会へと向おうとする資本と国家の意図は確実にあり、そのために財政や資金が投資に回されている現実がある。その最も典型的な状況が、次世代通信インフラとされる5Gへの投資であるもは間違いない。

5.4 コンピュータが描く社会システムには「弁証法」がない

たとえば、データの収集から意思決定までのプロセスは下記のようになる。[15]

何らかの解決したい課題があるとして、収集されたデータを用いて、ある種の「加工」をほどこして、何らかの意思決定を下すことによって、当初に設定された課題の解決に導く。この過程で生成されたデータや解析結果は現実の世界の一部を構成することにもなる。たとえば、失業率の実態を調査して対策をたてる場合、データ処理の結果は政策策定の意思決定に利用されると同時に、失業率がどれほどなのかというデータが「現実世界」の一部を構成することによって、人々の意識に影響を与えることになる。こうした作業をするためには、誰が失業者なのかを判断する基準が必要になる。総務省の労働力調査では、調査対象者(毎期10万人)がたまたま調査期間の1週間の間に短期のアルバイトをしていたら失業者にはカウントされない。就業していても食えるだけの賃金を得ていなくても失業者とはならない。

現実世界は無限に複雑であり、それをまるごとデータにすることは不可能である。何らかの方法で現実の世界からデータのもとになるものを抽出するわけだが、そもそもの「生データ」を作成する段階から多くの前提条件―そのなかには偏見がまぎれ込んでいたり、新自由主義的な経済理論に基づく処理がなされているかもしれない―によってデータが選別されざるをえない。

上記のフローチャートのうち、現実の世界からデータが整理されるまでの間には下記のようなデータを解析する人間の意図や意思が深く関わる。どのようなデータを収集するのか、収集したデータのなかからどのようなデータを組合せたり比較するなどの作業をするのかは、一定の「理論」や社会認識なしにはなしえず、最終的にコンピュータに解析させることができるようなデータに加工されて、「出力」されたときには、システムが内包しているイデオロギー的な偏りが科学や数学の客観性の装いのなかに隠されてしまう。(下記の図)[16]

図8: データサイエンティストの関与(Rachel Schutt、Cathy O’Neil『データサイネンス講義』、オライリージャパン、p.45)

このような一連のデータの解析の流れに特徴的なのは、どのような出来事であれ、その出来事がこの一連のコンピュータによってあらかじめプログラムされた世界の外には出られないということだ。あるいはフィードバックえを通じて現実の世界を変える余地があるとしても、それは、このシステムを根本的に破壊するような過程をとることもない。言い換えれば、社会が歴史的な存在として変化し、別の社会へと転換する過程を最初から排除しているのだ。

しかし、現実の世界は、むしろ、このような一連の流れのなかでデータとして収集、処理され、解析されるような領域には含まれない外部が常に存在する。上のフローチャートに「オリンピック」の項目があるが、ここにはオリンピックを廃止するという選択肢はどのように組み込まれるのだろうか。ありうるとすれば、財政的な観点から、その是非を問うという選択肢はありそうだが、そもそもオリンピックに内在している身体の資本主義的な偏向といった本質的な批判の観点は入れないのではないか。社会を変えようとする政治的社会的な人々の力は、データとして量化することができない価値観やイデオロギーと不可分だが、こうした観点は、このような社会ではシステムの円滑な運用にとっての阻害要因として否定されるのではないだろうか。

6 私はデータではない。私が何者かを資本や政府に決めさせない。サイバー空間での抵抗の権利へ

私が「データ」とされた瞬間から、私が何者なのかを決定する権限が奪われ始める。自己情報コントロールの権利や「忘れられる権利」は重要で、基本的人権の再定義の重要な課題であることは確かだが、それだけでは不十分になっている。そもそも、データとされること自体を拒否することが必要なのだ。そのためには何をなすべきなのか。何ができるのだろうか。技術はブラックボックスになり、その多くは極めて難解な代物だ。言論表現の自由、思想信条の自由がこうした難解で不可解な技術によって支配されるような事態になったのはここ半世紀のことだ。まだ半世紀である。この事態の方向を切り替える余地はいくらでもありうるだろう。

少なくとも、データを取得されないことの積み重ねは、このビッグデータの信頼性を損うことになりうる。些細なことのようにみえるが、些細なデータの欠落が重要なことに繋るものなのだ。ビッグデータの時代に、私たちがほんの数分であれ、身を隠すことができれば、それはもしかしたら大きな意味をもつかもしれない。Facebookにアカウントをもたない。Amasonでの買い物の履歴がない。クレジットカードの利用履歴がない。インスタグラムに写真がない。しかし、他方で、確実に多くの人々とのコミュニケーションの回路は維持できている…。政府にも資本にも理解しえない「私」のアイデンティティを自覚的に構築することは、反政府運動、反資本主義運動の重要な運動課題になるだろう。17

脚注:

1

脱工業化とは、資本主義中枢諸国が物的生産や農業などを周辺部へと再配置しつつ、国内の<労働力>構成がもっぱら金融、サービス、情報、経営マネジメント、物流などの分野にシフトする状態を指す。世界人口を食べさせる上で不可欠な食料や、生活必需品の生産そのものが世界規模で脱工業化するわけではない。

2

私の搾取概念については、拙著『搾取される身体性』、青弓社参照。

4

本籍国とは、一般には多国籍資本の本社が立地している国を指すが、それだけでなく、その資本が「我が国の企業」というナショナルなアイデンティティを満たすものとして、その国あるいは「国民」が認知するようなナショナリズムの心情が動員されるような国を指す。

6

経済産業省「ECHONET Liteのアプリケーション通信インターフェース(AIF)仕様に関する国際標準化の検討が始まります。―家庭用エアコンとHEMSコントローラーの相互接続性向上を目指して」2019年2月6日 https://www.meti.go.jp/press/2018/02/20190206001/20190206001.html

7

経団連は毎年のようにSocetyl5.0関連のレポートや提言を出している。「Society 5.0実現による日本再興 ~未来社会創造に向けた行動計画~」https://www.keidanren.or.jp/policy/2017/010.html 2019年の事業計画は「『「Society 5.0 for SDGs』で新たな時代を切り拓く」がタイトルにもなっている。https://lnews.jp/2019/05/l0531305.html

8

サイバネティクスをはじめとするコンピュータ科学の方法の問題については、拙著「サイバースペースにおける闘争と「主体」」『ポリロゴス』2号、2000年、『絶望のユートピア』桂書房に再録。

9

「2010 年に ECHONET Lite が HEMS の標準規格として推奨され、HEMS 補助金政策も開始されたことから、「スマートハウス」=「HEMS」=エネルギーを最適制御する住宅として世の中に浸透した背景がある。当初は一つのきっかけとして環境・エネルギー対策に取り組み、その後防犯や健康、快適サービス等に展開する予定であったが、エネルギー観点から抜け出せないまま現在に至っている。その間、各種センサをクラウドと連携させることで、多様なデータを安価に収集・分析し付加価値を高める取り組み、いわゆる IoT 機器が普及することとなった。Bluetooth や Zigbee 等の通信プロトコルを採用し、専用のゲートウェイを通じてクラウドと直接接続されるこれらのデバイスを、今更 ECHONET Lite 化して欲しいと要求するのも無理がある。また、そもそも ECHONET Lite 規格は家庭内のローカルネットワーク内での利用を想定しているため、クラウドから ECHONET Lite 機器を制御する汎用的なしくみが無いこともネックである。」 「IoT 機器の課題については、以下の二点が考えられる。 (1)個々のデバイス(サービス)がスマートフォンアプリと紐づいており、機器が増えてくると使い勝手が悪くなる (2)一つ一つは便利であっても、機器間の横の連携が取りにくい

(1)については、機器の設定や操作は全てスマートフォンアプリに統合されており、設定手順もアプリの指示に沿って行うようになっている。ただ、利用する機器が増えてくるとスマートフォンがアプリだらけになってしまう。(2)については、例えば帰宅した際は、スマートロックアプリを起動し鍵を開け、Hue アプリで照明をつけ、赤外線リモコンアプリでテレビやエアコンをつけるという、あまりスマートとは言えない使い方になってしまう。そこで、両者の機能をクラウド上で連携させることで課題を解決しようというのが本提案の主旨である。すなわち、ローカルネットワーク内の ECHONET Lite 機器を汎用的にクラウド接続するしくみを構築し、各社の IoT 機器のサーバーと連携させ、例えばスマートロックが開いたら、ECHONET Lite の照明やエアコンを ON し、赤外線リモコンでテレビをつけるといった連携動作を実現させる。」(三菱総研、「IoT を活用した社会システム整備事業(スマートホームに関するデータ活用環境整備推進事業)」第三分冊)

10

『調査報告書:平成 28 年度補正IoT を活用した社会システム整備事業(スマートホームに関するデータ活用環境整備推進事業)』三菱総合研究所、本論を収めた第一分冊の他に下記がある。第二分冊「新規サービス創出のための情報クラウド間連携基盤の実証」、第三分冊「IoT を活用したスマートホームクラウド構築及び検証」

11

経産省は、その後、2017年になって、国立研究開発法人新エネルギー・産業技術総合開発機構によるIoTを活用した社会システムの実証実験に産業保安分野・製造分野を加えた。 https://www.nedo.go.jp/news/press/AA5_100832.html

12

https://www.palantir.com/solutions/law-enforcement/ 下記の参照。Andrew Guthtie Ferguson, The Rise Of Big Data Policing, Surveillance, Race, and the Future of Law Enforce,ment, New York University Press.

13

Palantirによるデータ分析 https://www.youtube.com/watch?v=f86VKjFSMJE

14

ゼイナップ トゥフェックチー『ツイッターと催涙ガス ネット時代の政治運動における強さと脆さ』 毛利嘉孝(監修)、中林敦子訳、エレキング。

15

データサイエンスのプロセス(Rachel Schutt、Cathy O’Neil『データサイネンス講義』、オライリージャパン、p.45)

16

ウエッブスクライピング:入手したひとまとまりのデータを解析し、不要な部分を削ったり、必要な部分だけを取り出したり、一部を置き換えたり、並べ替えたりして、目的に適う形式に整形することをスクレイピングということがある。特に、WebページやWeb上で公開されているデータについてこのような処理を行うことをWebスクレイピングという。Webスクレイピングにより、Webページとして人間が見やすい形で公開されているデータを、ソフトウェアが自動処理しやすい形式に変換して活用することができるようになる。 クリーニング:データベースに保存されているデータの中から、重複や誤記、表記の揺れなどを探し出し、削除や修正、正規化などを行い、データの品質を高めること。 データマンジング:あるフォーマットのデータを別のフォーマットに変換すること。データランジング:取得したデータの型などを調整して統計分析や機械学習に適したデータにすること (http://e-words.jp)

17

かなり前に書いたものだが、下記も参照。「サイバー・スペースの階級闘争」金田善裕編『サイバー・レボリューション』第三書館、1995年。『絶望のユートピア』に再録

本稿は、つくばで開催された「6.8 集会とデモ: ビッグデータがもたらす監視社会 G20デジタル経済・貿易会合への批判」で発表しました。主催者のみなさんに感謝します。