サンフランシスコは2019年、市当局による顔認識技術の利用を禁止し、サマーヴィル、マサチューセッツ州やオークランドも同様の決定をしました1。政府・自治体が特定の「技術」を禁止するのは異例です。なぜ禁止されたのでしょう？
WIREDの動画を紹介します。
顔認識とは？
顔認識は画像の中から顔を見つけたり（顔検出）、ある人の顔を別の人の顔と区別したりする技術です。スマートフォンには顔でアンロックできるものもあります（顔認証）。これも顔認識の応用です。空港での搭乗手続きや、コンサート会場への入場や、建物への入館手続きを「顔パス」にするためにも使われています。見ている人の表情に合わせて最適なデジタル広告を出すこともできます。
Image by teguhjati pras from Pixabay
一見とても便利な技術ですが、危険もあるといいます。動画ではコンピュータビジョンの専門家で弁護士のグレッチェン・グリーン(Gretchen Greene)さんに話を聞いています。
公的機関での利用
今ではどこでも監視カメラがあります。データを集約するのも簡単です。顔認識技術と組み合わせれば、人々の移動を追跡できます。たとえば警察は容疑者リストの顔写真を持っていますが、数が多いので照合が大変です。コンピュータで顔認識すれば素早く正確に照合できます。
顔認識のソフトウェアはあらかじめ顔画像と顔以外の画像のデータセットを使って何が顔で何が顔ではないかを学習する必要があります。政府は運転免許写真などを使って顔認識ソフトウェアを学習させられます。SNSを運営している企業も、利用者がアップロードする写真を顔認識の学習に使えます。Instagramのように利用者が顔にラベルを付けてくれるならば学習データとして最適です。
人種によって顔認識の精度が違う
顔認識技術を公的機関が使うことの何が問題なのでしょうか？ 一つは認識精度です。顔認識技術で人違いが起こったら問題です。
しかも、現在の顔認識では間違いが特定の性別や人種で起こりやすいのです。
こちらの動画ではMITのJoy Buolamwiniさんが何が問題かを話しています1。
彼女は、Face++とMicrosoftとIBMの顔認識サービスの性能を調べました2。認識に使ったのは、国会議員の女性比率の高い国々の議員の顔写真です。肌の色が濃い国としてルワンダ・セネガル・南アフリカを使い、薄い国としてアイスランド・スウェーデン・フィンランドを使っています。
これら3社のサービスのどれでも女性の方が男性より顔画像として認識率が低く、肌の色が濃い人は薄い人より認識率が低いことがわかりました。
これは顔認識サービスを作るのに使ったデータセットに偏りがあるためだと考えられています。学習に肌の色の薄い男性ばかりを使うと、肌の色の濃い女性の顔が認識されにくくなるのです。
サンフランシスコでの禁止についてのこちらの記事では、技術を改良すれば、人間による人種的偏見が入らないから今よりよいという意見も紹介されています。他方、顔認識技術がこれまで差別されてきた人々をますます虐げる可能性も指摘されています。
人々が萎縮する？
もう一つの問題はプライバシーと個人の自由です。
冒頭の動画では、人々は自分の行動が追跡されていたら自由に行動できなくなるかもしれないと話されています。見られていると思うとLGBTQセンターや宗教施設に行きにくくなるかもしれません1。監視カメラによる顔認識がいつどこで行われるのかわかりにくいのも問題です。
今のところアメリカでは国レベルでの顔認識への規制はなく、自治体レベルで規制されています。顔認識は公的機関では今のところ広く使われていません。禁止するならばまだ遅くない、と動画は締めくくられています。
