AIと税金： 私たちはより良いものを求めている
ジョイ・ブオラムウィニ（Joy Buolamwini

4月12日

AI搭載の顔認証を使って税務サービスにアクセスする際に問題がある場合は、https://tax.ajl.org にレポートを提出する。

米国の納税者の皆様へ、

IRSは、重要な税務サービスへのアクセスにID.me（営利目的の顔認証会社）をまだ使用している。ID.meは、私たちのセンシティブな顔データを取得するだけでなく、クラスアクション訴訟に参加する権利を放棄し、携帯電話会社のアカウントへのアクセスを許可し、アップロードしたデータの所有権を同社に与えるよう求めている。私たちはもっと良いものを手に入れるべきだ。AJLでの経験を共有し、代替案を要求する。

ビデオ：顔認識を使って政府サービスにアクセスする際の課題 https://youtu.be/LoPdpvDm9bc

政府にはまだ守るべき約束がある

税金の季節がやってきた。今週、私は国税庁のウェブサイトにアクセスし、アカウントを作成した。しかし、初めてこのサイトを利用する私にとって、新しいアカウントを作成する唯一の選択肢は、ID.meを利用することであった。事前にIRSのユーザーネームがないと、他のオンラインの選択肢はなかった。

昨年、国税庁は「顔認証にサードパーティーのサービスを使わないようにする」と約束したが、これは市民権団体やプライバシー擁護団体、受給を阻まれた個人からID.meの信頼性に問題があるとの深刻な圧力に直面したためだった。代替手段の欠如は、有害な企業、特にハイテク企業を規制するという政府の約束に反している 。人種的公平性に関する大統領令から、AI権利章典の青写真、NISTのAIリスク管理フレームワークまで、政権は正しい方向へ向かって動いている。今こそ、言葉を行動で裏打ちする時である。

ID.meは、年齢、性別、人種の偏りを示す多数の顔認識技術を使用している。これらのシステムは、AIを使って顔の画像を比較し、一致するかどうかをテストする。Coded Biasのドキュメンタリーや報道、政府自身の研究（2019年、2022年）を見逃しているかもしれないが、この技術は常に機能するとは限らない。そして、彼らがより頻繁に失敗する傾向があるのは誰に対してなのか、あなたはきっと想像がつくだろう。そう、黒人、アジア人、ネイティブアメリカンの人々だ。コロラド州の男性が給付金を受け取れなかったことでわかったように、問題は有色人種だけに及ぶものではない。もし政府の言うことを信じてほしいのであれば、政府は政府サービスへの公平なアクセスを提供することから始める必要がある。

寝る前に何ページも読み進める

“仲裁合意およびクラスアクション放棄の通知：サービス規約には、以下に定める拘束力のある仲裁条項およびクラスアクション放棄が含まれており、ID.meとのあらゆる紛争解決に関するあなたの権利に影響を与える。” – ID.meサービス規約より抜粋

私は渋々ながら登録作業を開始した。私たちの顔データは、パスワードとは異なり、簡単に変更することができないため、他に類を見ない重要なものであり、ID.meが私たちの顔に対してどのような保護を行っているのかを確認したかった。Term and Servicesをクリックして確認した。

ID.meの保護策は、私たちではなく、会社を守るためのものばかりだ。実際、ID.meを使ってサービスにアクセスすることで、あなたは自動的に、会社に対するクラスアクション訴訟への権利を放棄することに同意することになる。つまり、ID.meのサービスを利用することで、金銭的な被害や誤った詐欺の告発があったとしても、同社は責任を取らないということだ。また、この規約では、システムを利用する際に、携帯電話会社のアカウントや携帯電話に関する情報へのアクセスを自動的に許可することを通知している。ワシントンでは、不公正な商習慣、ジャンクフィー[経費もかからないのに請求される手数料など]、データブローカーなどの悪徳商法を取り締まるという動きがあるが、なぜこのようなデータ抽出的でまぎらわしい強制的なプロセスが、私と私の税金情報の間に立ちはだかるのか、不思議でならなかった。

さらにスクロールしていくと、プライバシーポリシー、バイオメトリックデータプライバシーポリシー、クッキーポリシー、クレデンシャルポリシー、その他ID.meが適宜発行するポリシーなど、確認すべき文書がさらにあることを知った。これらのポリシーはいつでも変更可能なので、頻繁にチェックする必要がある。これだけ読む時間がある普通の人がいるのだろうか？

バイオメトリックデータ・プライバシーポリシーにはこうある。”検証の一環としてあなたの情報の収集と処理に一旦同意が提供された場合、それが収集された取引を完了するため、または検証サービスを完了するために必要な場合には、取り消すことができないことに注意してください。” つまり、自分の顔をあきらめることが、私の想像をはるかに超えるものだとわかった時点で、考えを変えることはできないということなのだろうか。

現実的な選択肢が必要だ

ID.meの利用規約には、「いつでも、ID.meの適用される利用規約の条項に同意しない場合、アカウントを閉じることができる」とある。これは技術的には正しいかもしれないが、もしID.meが私のIRSアカウントにオンラインでアクセスする唯一の選択肢であれば、私はこれらの条件の多くに同意していなくても、事実上アカウントを維持しなければならない。私たちにはもっといい方法がある。バイオメトリックでない代替手段が必要であり、取り消し可能な同意が必要であり、強力なプライバシー保護が必要なのである。

AJLは、政府の約束を守り、政府のために働くすべての企業が、私たちのデータと生活を守ることを最優先させるために、「No Case, No Face」キャンペーンを開始する。いかなる民間企業も、私たちの重要な税務情報を保管し、機密データを扱い、有効でない技術を使用し、意味のある説明責任を回避することを許してはならない。アルゴリズム・ジャスティス・リーグは、裁判を強化するために、これらのストーリーを集めている。政府の重要なサービスを利用するために、自分の顔を提出する必要はないはずだ。もしあなたがそう思うのなら、私たちはあなたの声を聞く必要がある。

希望はある。

あなたの声をお聞かせください： https://tax.ajl.org

敬具

ジョイ・ブオラムウィニ博士

出典：https://medium.com/@Joy.Buolamwini/ai-and-taxes-we-deserve-better-8f96715855c7