ほとんどの住民が知らなかったライブ顔認識の実証実験

オーストラリア初とされる取り組みで、西オーストラリア警察は6月からパースとフリーマントル全域にライブAI顔認識カメラを静かに配備した。試験開始からわずか1週間で、システムは13万件以上の顔をスキャンし、33件のアラートを生成し、18件の逮捕につながった。警察はまた、この技術が地域内の性犯罪者登録者21人の特定と接触に役立ったと述べた。

スキャンの規模だけでも注目に値するが、最も厳しい視線を集めているのは、その実施方法だ。これらの通りを歩いていた住民は、自分たちがスキャンされていることを知らされていなかった。看板による周知キャンペーンも、パブリックコメントの期間も、明確なオプトアウトの仕組みもなかった。多くのオーストラリア人にとって、このプログラムを初めて知ったのは、警察や地方自治体からの通知ではなく、事後のニュース報道を通じてだった。

通知がなかったことが重要な理由

顔認識システムは、公共の場で人々の画像を撮影し、それをデータベースと照合することで機能する。多くの場合、これはリアルタイムで行われる。そのプロセスが一般への通知なしに運用されると、人々はどこに行くか、誰と一緒にいるか、自分の移動がどのように記録・照合されうるかについて、十分な情報に基づいた選択をする力を失う。プライバシー擁護者や法律専門家は、これが監視の監督における基本原則、つまり人々は一般に、いつどのように監視されているかを知るべきだという原則を損なうと指摘している。特に政府機関による監視についてはなおさらだ。

この実証実験では、少なくとも1件の誤認が確認されている。これは、高度なAIシステムであっても人を取り違える可能性があり、その結果が不便なものから深刻なものまで様々であることを改めて示している。誤認のリスクは均等に分布しているわけでもない。顔認識ツールは、特定の人口統計グループに対して誤り率が高くなるという十分に文書化された歴史があり、プライバシー上の懸念と並んで公平性の懸念も生じさせている。

西オーストラリア警察は、この結果を公共の安全上の成果、逮捕件数、特定された犯罪者、生成されたアラートという観点から位置づけている。しかしプライバシー監視団体は、真の費用対効果の評価には、実証実験のルールに関する透明性が必要だと主張する。映像と照合データがどれだけの期間保持されるのか、誰がそれにアクセスできるのか、他機関と共有されるのか、スキャンされたが何の捜査にも関係のない何万人もの人々の生体データがどうなるのか、といった透明性だ。

生体データ収集のより広いパターン

この実証実験は孤立したものではない。世界中の政府や民間企業は、警察目的の顔認識、空港での生体認証、特定のコンテンツやサービスへのアクセスを許可する前に顔をスキャンしてユーザーの年齢を推定する年齢確認システムなど、生体認証への依存を強めている。これらのシステムはいずれも、同様の根本的な問いを投げかける。単一のシステムにどれだけの生体データを収集させてよいのか、それはどれだけの期間保持されるべきなのか。こうしたトレードオフが別の、しかし関連する文脈でどのように展開しているかを知りたい読者は、世界各国の年齢確認法が、生体スキャン、データ保持、同意をめぐる同様の議論をすでに迫っていることを確認できる。そこでは、その技術の影響範囲から考えて予想されるよりも、一般の認知がはるかに低いことが多い。

西オーストラリア警察の実証実験は、生体監視が政策論争から実際の配備へ移行したときに何が起きるかを示しているという点で、有用な事例研究だ。この技術は多くの場合に意図どおり機能したが、明確な一般への通知、独立した監査証跡、正式なオプトアウトの選択肢がないことは、技術的能力が監督をいかに早く追い越しうるかを示している。

あなたにとっての意味

パースやフリーマントルに住んでいるか訪れたことがあるなら、知らないうちにすでにスキャンされていた可能性がある。同様のパイロットプログラムが他の場所で検討されるにつれて、同じ動きが他の都市にも広がるかもしれない。オーストラリア国外でも、この事例は公共空間におけるAI顔認識の実証実験がどこへ向かっているのかを予見させる。安全統計によって正当化される静かな展開であり、プライバシー保護措置は最初から組み込まれるのではなく、後から追加されることが多い。

一般的に、ライブの公共顔認識システムが自分の地域で稼働してしまえば、それからオプトアウトすることはできない。だからこそ、透明性と公開の議論が重要なのは、こうしたシステムが稼働する前であって、後ではないのだ。

実践的なポイント

  • 地元の警察や市議会が、現在または計画中の顔認識の実証実験について情報を公開しているか確認し、一般からの意見募集や協議のプロセスがあるかを探す。
  • 公共空間で顔認識やその他の生体認証ツールが提案される際には、明確なデータ保持・削除方針を求める声を支持する。
  • AI監視システムをパイロット段階を超えて拡大する前に、精度とバイアスに関する独立した監査を求める。
  • 警察活動などの一つの目的で収集された生体データが、後で他の機関や民間企業と共有される可能性があるかどうかについて情報を追い続ける。

より多くの都市が同様のシステムを試すにつれて、AI顔認識の実証実験をめぐる議論はさらに大きくなるだろう。こうしたプログラムがどのように配備されているかを知り、透明性が欠けている場合にはそれを要求することが、この技術の今後の使われ方に対して一般市民が影響を及ぼす最も現実的な方法の一つだ。