Proč Centrum pro demokracii a technologie bije na poplach

Technologie rozpoznávání obličejů se stala jednou z nejrozšířenějších forem sledování pomocí umělé inteligence a orgány činné v trestním řízení se na ni stále více spoléhají při identifikaci podezřelých, monitorování davů a sledování pohybu ve veřejném prostoru. Nová tematická zpráva Centra pro demokracii a technologie (CDT) předkládá ostrý pohled na to, proč je to důležité: rozpoznávání obličejů je nebezpečné, když selže, a nebezpečné jiným způsobem, když funguje.

Toto zarámování jde k jádru debaty o zákonech na ochranu soukromí v souvislosti s rozpoznáváním obličejů. Když technologie někoho nesprávně identifikuje – ať už kvůli špatnému osvětlení, nekvalitním snímkům nebo dobře zdokumentovaným rozdílům v přesnosti napříč různými demografickými skupinami – může to vést k neoprávněnému podezření nebo i horším důsledkům. Když však rozpoznávání obličejů funguje přesně tak, jak má, umožňuje jiný druh újmy: schopnost sledovat jednotlivce při jejich každodenním pohybu, často bez jejich vědomí nebo souhlasu. Zpráva CDT tvrdí, že oba výsledky si zaslouží pozornost, nejen případy selhání, které obvykle dominují titulkům.

Které jurisdikce skutečně omezují používání rozpoznávání obličejů

Jedním z hlavních problémů, které CDT identifikuje, je, že právní ochrana před sledováním pomocí rozpoznávání obličejů je nejednotná v závislosti na tom, kde žijete. Některé jurisdikce omezily, jak mohou policie a další vládní agentury tuto technologii nasazovat – vyžadují soudní příkazy, zakazují použití v reálném čase nebo ji omezují na specifické vyšetřovací okolnosti. Na jiných místech neexistují žádná smysluplná omezení a rozhodnutí o nasazení jsou ponechána téměř výhradně na jednotlivých agenturách nebo odděleních.

Tato nerovnoměrnost znamená, že dva lidé stojící v různých městech, nebo dokonce v různých čtvrtích v rámci stejné metropolitní oblasti, mohou mít dramaticky odlišná očekávání ohledně soukromí, když je poblíž kamera pro rozpoznávání obličejů nebo mobilní jednotka. Bez jednotného národního rámce se ochrana před sledováním stává spíše otázkou geografie než zaručeným právem.

Kde právní ochrana selhává a sledování přetrvává

I tam, kde pravidla existují na papíře, zpráva CDT upozorňuje, jak mezery v prosazování, dohledu a transparentnosti mohou podkopávat jejich účinnost. Nasazení rozpoznávání obličejů není vždy předem veřejně oznámeno a dotčení obyvatelé často nemají spolehlivý způsob, jak zjistit, kdy a kde se technologie používá, dokud není pozdě.

Nejde o hypotetickou obavu. Nedávná kontroverze ve Velké Británii přesně ukazuje, jak to v praxi vypadá. V případu popsaném v článku Lewisham Councillor's Live Facial Recognition Van Map Row rozhodnutí místního politika zveřejnit polohu dodávky s živým rozpoznáváním obličejů vyvolalo celostátní debatu právě proto, že taková transparentnost ohledně polohy není něco, na co by obyvatelé obvykle mohli spoléhat. Incident ukazuje, jak může sledování fungovat tiše ve veřejných prostorách, přičemž povědomí o jeho přítomnosti často závisí na náhodných odhaleních spíše než na systematických požadavcích na oznámení.

To je základní napětí, na které zpráva CDT poukazuje: i sebelepší zákony o ochraně soukromí při rozpoznávání obličejů znamenají málo, pokud veřejnost nemá spolehlivý přehled o tom, kdy a kde se technologie skutečně používá.

Co to znamená pro vás

Pro většinu lidí je praktickou realitou, že sledování pomocí rozpoznávání obličejů může probíhat ve veřejných prostorách bez jasného upozornění, bez ohledu na to, co místní zákony technicky povolují. Vzhledem k tomu, že právní ochrana se v jednotlivých jurisdikcích značně liší a požadavky na zveřejnění jsou často slabé nebo neexistující, jednotlivci se musí pohybovat v prostředí, kde nemohou vždy předvídat, kdy jsou skenováni nebo sledováni.

To neznamená, že ochrana soukromí je nemožná, ale znamená to, že spoléhání se pouze na legislativu nestačí. Povědomí o místním nasazení, podpora přísnějších požadavků na transparentnost a obecná digitální hygiena – to vše hraje roli při snižování vystavení riziku, i když nemohou eliminovat riziko rozpoznávání obličejů ve veřejném prostředí.

Praktické kroky pro ochranu vašeho soukromí

I když nikdo se nemůže zcela vyhnout veřejnému sledování pomocí rozpoznávání obličejů, existují kroky, které mohou snížit celkovou expozici a podpořit širší odpovědnost:

  • Zůstaňte informováni o místním nasazení. Sledujte místní zprávy a komunitní skupiny, které monitorují, kdy a kde orgány činné v trestním řízení ve vaší oblasti používají technologii rozpoznávání obličejů.
  • Podporujte požadavky na transparentnost. Prosazujte politiky vyžadující veřejné oznámení před nasazením nástrojů pro rozpoznávání obličejů, podobně jako v debatě o zveřejnění v případu Lewisham.
  • Pochopte pravidla ve vaší jurisdikci. Zjistěte, zda vaše město nebo stát má nějaké zákony o ochraně soukromí při rozpoznávání obličejů, protože ochrana se výrazně liší podle místa.
  • Chraňte svou digitální stopu jinde. Ačkoli rozpoznávání obličejů cílí na fyzický pohyb, minimalizace zbytečného sdílení dat online snižuje celkový sledovací profil, který o vás může být vytvořen.
  • Oslovujte tvůrce politik. Veřejná připomínková řízení a zasedání místních zastupitelstev jsou často místy, kde se rozhoduje o nasazení sledovacích technologií.

Zpráva CDT je připomínkou, že zákony o ochraně soukromí při rozpoznávání obličejů zůstávají spíše mozaikou než jednotným štítem. Dokud legislativa nedohoní možnosti technologie, informované veřejné povědomí a trvalá obhajoba zůstávají jedněmi z nejúčinnějších nástrojů, které mají jednotlivci, jimž záleží na sledování ve svých komunitách, k dispozici.