(CDT)人工知能がトップニュースを席巻している

Categories
< Back
You are here:
Print

(CDT)人工知能がトップニュースを席巻している

人工知能がトップニュースを席巻している。

ChatGPTからBard、MidJourney、そしてその先まで、生成型人工知能がトップニュースを席巻している。しかし、「AI」には、急速に進化しているテキストや画像の生成ツール以上のものが含まれている。自動化されたシステムは、雇用、行政サービス、公共の安全に関する決定をますます左右し、人々の経済的機会、市民的自由、市民権へのアクセスに影響を与えている。

CDT(Center for Democracy & Technology)は、AIシステムが持つ革新的な可能性を認識する一方で、システムが無責任に設計・導入された場合に生じる非常に現実的な危害に注目している。CDTの代表兼CEOであるAlexandra Reeve Givensが最近の上院での証言で述べたように、私たちはこれらの問題に取り組むための社会横断的な努力を必要としており、それにより、AIに関する米国のグローバルリーダーシップが、信頼、公正、民主的価値への真のコミットメントを基礎とすることを確実にする。


雇用の問題。 AIやその他の自動化システムを用いて、労働者の募集、採用、評価、管理、さらには解雇を行う企業が増えている。履歴書スクリーニングツール、ゲーム化された性格テスト、自動管理システムなどを含むこれらの自動雇用決定ツールautomated employment decision tools (AEDTs)(AEDT)は、一見、人事担当者や管理者の時間を節約するように見える。しかし、これらのツールは、求職者が求める仕事を遂行するのに必要でない特定の特徴をテストすることがあり、しばしば、代表的でない、歴史的に不利な立場にある労働者を差別することがある。開発者がこれらの自動化されたシステムの活動について透明性を持たず、テストして可能な結果について詳しく知る方法を提供しなかったり、潜在的に欠陥のあるデータに頼って訓練したりすると、これらのシステムは職場における既存の偏見や表現の欠如を強化し、すでに疎外されたコミュニティを差別する可能性がある。

政府サービス。自動意思決定のためのAIツールのユーザーは、民間企業だけではない。公共住宅を管理するような公共サービスエージェンシーは、より迅速かつ効果的に給付を分配するために、データやテクノロジーを活用している。データの安全性を保護し、偏見を緩和するための強力なセーフガードがなければ、エージェンシーのデータ実務は人々の経済的・社会的幸福を害する可能性がある。政府がどのような目的でこれらのシステムを使用するかにかかわらず、つまり、どの潜在的な給付金受給者を優先的に決定するのか、あるいは身元確認のために生体認証を使用するのかにかかわらず、個人のプライバシーを肯定し、市民権を尊重し、包括的参加システムを育成し、透明で責任ある監督機能を促進し、広いコミュニティ内で公正な社会構造を進めることが極めて重要である。


政府の監視。政府におけるAIツールの使用は、公共の利益を超えて監視にも及んでいる。米国だけでも、法執行官のいる連邦機関の半数が、標的を絞った方法とそうでない方法の両方で顔認識を使用している。これらのツールの使用は、人々の市民的自由を不当に奪い、反体制派や脆弱なコミュニティを標的にするために悪用される可能性があるため、人権に対する特別な脅威となる。顔認識は、格差のある取り締まりを増幅する可能性があり、正確性に欠けるため、このリスクをさらに高めることになる。あるアルゴリズムでは、アジア人や黒人を白人男性より100倍も多く誤認する可能性がある。この監視テクノロジーがどのように使用されるかを制限する安全策を確立する必要がある。

出典:2023/4/27 CDTメールニュース配信

Tags:
Table of Contents