Studenti se staví proti neregulovanému rozpoznávání obličejů

Skupina studentů z Dillí formálně požádala Vrchní soud v Dillí, aby nařídil zničení dat z rozpoznávání obličejů, která o nich byla shromážděna během nedávných protestů. Žádost se soustředí na záběry pořízené sledovacím vozem Ikshana, který dillíská policie údajně použila ke skenování davů a porovnávání tváří s existující databází s prahem shody 80 %. Podle petice neexistuje žádné zveřejněné pravidlo, nařízení ani zákon, který by upravoval, jak byla tato databáze vytvořena, kdo k ní má přístup nebo jak dlouho mohou být biometrické údaje uchovávány.

Není to poprvé, co používání rozpoznávání obličejů dillískou policií na protestních shromážděních vyvolalo pozornost. Zpravodajství již potvrdilo, že dillíská policie použila technologii rozpoznávání obličejů v Jantar Mantar, a to poté, co se objevily dřívější zprávy o dodávkách s rozpoznáváním obličejů spatřených poblíž demonstrantů na stejném místě. Toto nejnovější podání je významné konkrétním požadavkem: nejen vysvětlením právního základu, ale soudním příkazem k přímému smazání dat.

Proč na prahu 80 % záleží

Systémy rozpoznávání obličejů neprodukují jistoty, ale skóre pravděpodobnosti. Práh shody 80 % znamená, že systém je navržen tak, aby označil tvář jako pravděpodobnou shodu, i když existuje významná šance, že se mýlí. V kontrolovaném prostředí, jako je ověřování známého podezřelého podle jedné fotografie, to může být přijatelný kompromis. Při nasazení na dav protestujících, z nichž mnozí nemusí mít žádnou spojitost s trestním vyšetřováním, se tentýž práh stává něčím zcela jiným: nástrojem, který riskuje chybnou identifikaci běžných demonstrantů a jejich zařazení do policejní databáze pouze na základě politického shromáždění.

Navrhovatelé tvrdí, že právě toto je škoda, kterou rozpoznávání obličejů vytváří, je-li nasazeno bez pravidel. Bez řídícího rámce neexistuje definovaný standard pro to, kdo je skenován, co se stane s falešnou shodou, jak dlouho výsledná data zůstanou uložena nebo zda mohou být později znovu použita pro nesouvisející vyšetřování. Absence tohoto rámce je nyní ústřední právní otázkou, kterou dillíské soudy již začaly zkoumat při zpochybňování právního základu pro skenování obličejů na protestech. Nová petice studentů posouvá toto zkoumání o krok dál tím, že se neptá jen na to, zda bylo skenování zákonné, ale co by se s daty mělo stát nyní, když existují.

Širší vzorec sledování protestů

To, co se objevuje v Dillí, odráží vzorec pozorovaný v jiných jurisdikcích, kde se rozpoznávání obličejů přesunulo od vyšetřovacího nástroje k nástroji pro monitorování davu na veřejných demonstracích. Přitažlivost této technologie pro orgány činné v trestním řízení je přímočará: dokáže zpracovat mnohem více tváří, mnohem rychleji, než jakýkoli lidský policista stojící u zátarasu. Ale protesty jsou také místem, kde jsou sázky chybné identifikace a zastrašujícího účinku nejvyšší. Lidé účastnící se zákonné demonstrace mají rozumné očekávání, že to nepovede k zachycení jejich biometrických údajů a jejich neomezenému ukládání, zejména pokud žádný nezávislý orgán neschválil systém, který je zachycuje, ani nestanovil limity, jak lze s výsledky nakládat.

Žádost o zničení rovněž nastoluje praktickou otázku, kterou budou muset soudy řešit: jakmile byly biometrické údaje shromážděny a potenciálně porovnány s jinými záznamy, je vůbec jejich smazání úplnou nápravou? Kopie, zálohy a jakékoli následné shody vytvořené během doby uchovávání komplikují to, co by jinak bylo přímočarým příkazem k vymazání položky z databáze.

Co to znamená pro vás

Pokud se účastníte veřejných shromáždění, ať už v Dillí nebo jinde, stojí za to pochopit, že rozpoznávání obličejů nasazené na protestech funguje velmi odlišně od téže technologie používané k odemykání telefonu nebo ověření totožnosti na hraničním přechodu. V těchto spotřebitelských kontextech obvykle se skenováním souhlasíte a ovládáte zařízení, které drží vaše data. Na protestu snímaném policejními kamerami neplatí ani jedno. Neexistuje žádný mechanismus souhlasu a vy nemáte žádný přehled o tom, zda byla vaše tvář zachycena, porovnána nebo uložena.

Tento případ je připomínkou, že právní odpovědnost za tyto systémy často zaostává o roky za jejich nasazením. Soudy, které kladou základní otázky jako kdo to schválil, podle jakého pravidla, s jakými lhůtami pro uchovávání, jsou otázky, jež měly být pravděpodobně vyřešeny dříve, než jakákoli dodávka přijela k davu, nikoli až poté.

Klíčové poznatky

  • Studenti z Dillí žádají Vrchní soud, aby nařídil zničení dat z rozpoznávání obličejů získaných ze záběrů z protestů, nikoli pouze rozhodnutí o zákonnosti.
  • 80% práh shody používaný policií vyvolává skutečné obavy z falešných shod aplikovaných na pokojné demonstranty.
  • Podle petice v současnosti neexistuje žádné zveřejněné pravidlo upravující databázi, se kterou dillíská policie porovnávala tváře.
  • Tento případ je součástí širšího vzorce zkoumání rozpoznávání obličejů na protestech v Jantar Mantar a jeho výsledek by mohl ovlivnit, jak indické soudy budou napříště přistupovat k biometrickému sledování veřejných shromáždění.

Jak se tento soudní spor vyvíjí, stojí za to sledovat nejen to, zda soud nařídí data zničit, ale zda vůbec stanoví nějaký standard pro to, jak lze rozpoznávání obličejů na budoucích protestech používat.