2021年7月1日｜午後12時31分

音声認識技術はしばしば人権を侵害するが、この技術がどんどん広がってきている。最近では、Spotifyが性別や感情の状態などを検知できるとする音声認識技術を開発していることを私たちは指摘した。

しかし、スポティファイだけではない。世界で有力企業のいくつかは、あなたに関するデータを採取することが利益につながるという理由で、同様の人権侵害技術を展開している。音声認識市場は拡大しており、2025年には268億ドル（約2兆円）という莫大な規模になると予想されている。

これはすべてを網羅したリストではないが、以下にいくつかの危険な事例を紹介する。

マクドナルド：ドライブスルーであなたの声を認識する

マクドナルドは、シカゴ周辺のドライブスルー10店舗で音声認識技術のテストを行っている。同社によると、この技術を使って 「年齢、性別、訛り、国籍、出身国 」を特定するという。6月には、イリノイ州のマクドナルドに来店した顧客が、同意なしに音声認識を使って注文を取ったことが州法に違反しているとして、訴訟を起こしている。

Amazon Halo Wristband：声のトーンをモニタリングして、気持ちを推察する。

アマゾンは、Halo Wristbandという製品を通じて、あなたの声に含まれる「ポジティブさ」や「エネルギー」を検知し、コミュニケーション能力の向上に役立てることができると主張している。気味が悪いですか？口調による取り締まりの登場だ。

TikTok：あなたの “声紋 “を集める

人気ソーシャルメディアアプリ「TikTok」は、6月にプライバシーポリシーを更新し、人種、収入、性別、配偶者の有無などあらゆる情報を含む「人口統計学的分類」に役立てるために「ボイスプリント」を収集する可能性があることをユーザーに知らせた。(訳注 日本のプライバシーポリシー。文末の訳者付記参照)

コールセンター：あなたが興奮しているかどうかを察知する

一部のコールセンターでは、AIを使ってあなたの感情を検知しようとしており、あなたの「怒り」の感情に基づいて、特定の製品を販売するのに最適な担当者に繋ぐことが、スマート冷蔵庫の一部のモデルで、あなたの声を録音して（サーバーに保存して）、より多くの製品を販売するために利用する可能性がある。(訳者付記参照)

サムスン：スマート冷蔵庫があなたを記録する

スマート冷蔵庫の一部のモデルで、あなたの声を録音して（サーバーに保存して）、より多くの製品を販売するために利用する可能性がある。

HireVue：あなたの声が就職できるかどうかを決める時

アルゴリズムによる監査と、市民社会からの強い圧力を受けて、AI採用企業のHireVueはついにソフトウェアの顔認識を取りやめた。しかし、顔認識を使って採用の可否を決めることはないが、音声認識ソフトウェアを使って、あなたの話し方に基づいてあなたの適性について同様に問題ある推測を行うことは止められていない。

これらはすべて、憂慮すべきことであり、特定の管轄区域では違法となる。音声認識技術を使って私たちを推測することは、私たちのプライベートな生活を侵害し、有害で固定観念を強化するものだ。

私たちは、この新しい技術に注目し、責任を負うべき企業に呼びかけている。搾取ではなく、人間へのリスペクトを。

また、この問題に注目しているのは私たちだけではない。私たちは、世界中のパートナーと協力して、バイオメトリック監視を禁止するキャンペーンを開始し、性別や性的指向の自動認識を違法とするよう呼びかけている。(訳注：日本語訳「集団的・差別的な監視を可能にする生体認証技術の世界的禁止を求める公開書簡」)

この危険な技術の拡散について、広く伝えてください、RTしてください。

私たちは、スマート冷蔵庫や音声アシスタント、マイク付きアプリが私たちの声を聞き、プロファイリングし、心を読むようなことで気を揉むことはしたくない。

訳者付記

Tiktok日本のプライバシーポリシーの該当箇所は下記。ボイスプリントの文言はないが「音声の特性」というより曖昧な表記があり、「人口統計学的分類」に利用することも明記されている。

「当社は、表示される物や風景、顔の画像内の存在や位置および身体的特徴·特質、音声の特性、ならびにユーザーコンテンツ内で話される言葉のテキストを特定するなどして、お客様のユーザーコンテンツの一部である画像や音声に関する情報を収集することがあります。当社は、これらの情報を、特別な動画エフェクトを可能にし、コンテンツモデレーション、人口統計学的分類、コンテンツや広告のレコメンド、および個人を特定しないその他の作業のために収集します。」

コールセンターにおけるAI利用について。一例として、NTTコミュニケーション傘下のNTTコムチュオのサイトに事例と解説がある。「お客さまの声や購入履歴などから顧客の行動を予測します」とあり、「声」の分析に言及している。

出典：https://www.accessnow.org/6-ways-tech-is-listening-to-you/