Ostrzeżenie RAND dotyczące systemów biometrycznych i cyfrowej tożsamości
Nowy raport RAND dodaje nowej wagi obawie, którą rzecznicy prywatności podnoszą od lat: systemy tożsamości zbudowane w jednym celu rzadko pozostają ograniczone do tego celu. Według raportu agencje bezpieczeństwa przyjmujące systemy identyfikacji biometrycznej, tożsamości cyfrowej i sztucznej inteligencji powinny być zobowiązane do uzasadnienia potrzeby stosowania tej technologii, zanim w ogóle ją nabędą.
Może to brzmieć jak podstawowe zabezpieczenie biurokratyczne, ale jego brak jest dokładnie tym problemem, na który wskazuje RAND. Gdy agencja ma już wdrożone rozpoznawanie twarzy, bazy danych odcisków palców lub infrastrukturę cyfrowej tożsamości, systemy te mają tendencję do wykorzystywania ich znacznie szerzej niż pierwotne uzasadnienie. Główny argument RAND jest taki, że ryzyko związane z nadzorem opartym na biometrycznej tożsamości cyfrowej nie jest hipotetycznym przypadkiem brzegowym. Jest przewidywalnym skutkiem sposobu, w jaki te narzędzia są przyjmowane i rozszerzane, gdy już istnieją.
Od narzędzia weryfikacji do narzędzia typowania
Wzorzec opisywany przez RAND jest prosty. System biometryczny lub cyfrowej tożsamości zostaje wprowadzony, aby rozwiązać wąski problem: zweryfikować tożsamość podróżnego, potwierdzić kwalifikowalność do usługi lub sprawdzić czyjś wiek. Ale leżąca u podstaw infrastruktura — bazy danych, algorytmy dopasowywania, punkty zbierania danych — nie znika, gdy to wąskie zadanie zostanie wykonane. Staje się trwałą zdolnością, do której mogą sięgnąć inne części rządu lub zupełnie inne agencje.
W ten sposób systemy identyfikacji stają się systemami typowania. Baza danych zbudowana do potwierdzania, kim ktoś jest, równie łatwo może być użyta do śledzenia, gdzie ktoś był, z kim się kontaktuje lub czy pasuje do listy obserwacyjnych. Apel RAND, by agencje uzasadniały potrzebę przed nabyciem, jest zasadniczo próbą spowolnienia tego dryfu, zanim nastąpi, poprzez wymuszenie rozmowy o zakresie i ograniczeniach na etapie przyjęcia, a nie po tym, gdy system jest już ugruntowany i trudny do rozmontowania.
Cyfrowa tożsamość i weryfikacja wieku już normalizują tę infrastrukturę
To, co czyni raport RAND godnym uwagi, to nie tylko jego ostrzeżenie dotyczące agencji bezpieczeństwa za granicą. Pojawia się w momencie, gdy podobna infrastruktura jest budowana w Stanach Zjednoczonych, często pod znacznie mniej kontrowersyjnym sztandarem: ochrony dzieci w internecie.
Przepisy i propozycje dotyczące weryfikacji wieku coraz częściej wymagają od platform lub rządów potwierdzania wieku użytkownika, a potwierdzenie wieku w praktyce oznacza potwierdzenie tożsamości. Praca badawcza CGO na temat weryfikacji wieku już podniosła kwestię tego, co dzieje się z danymi tożsamościowymi gromadzonymi przez te systemy, gdy bezpośrednie uzasadnienie związane z bezpieczeństwem dzieci zostanie spełnione. Praca argumentuje, że pośpiech w uchwalaniu tych przepisów często pomija dokładnie ten rodzaj analizy, który według RAND powinien być obowiązkowy, zanim jakikolwiek system tożsamości zostanie w ogóle zbudowany.
Ta sama dynamika pojawia się w propozycjach legislacyjnych takich jak KIDS Act. Jak wyjaśnia jedna z analiz, projekt ustawy jest przedstawiany jako środek ochrony dzieci, ale funkcjonuje jako system nadzoru, który miałby obejmować całą populację, nie tylko osoby nieletnie. Kontrole wieku wymagają weryfikacji wszystkich, co oznacza, że infrastruktura ostatecznie obejmuje również dorosłych. To jest problem ponownego wykorzystania opisywany przez RAND, tyle że rozgrywający się na gruncie krajowym za pomocą ram ochrony dzieci, a nie bezpieczeństwa narodowego.
Co to oznacza dla Ciebie
Większość ludzi nigdy nie będzie miała bezpośredniego kontaktu z systemami agencji bezpieczeństwa, na których skupia się raport RAND. Ale leżąca u podstaw lekcja ma szerokie zastosowanie: każdy system, który gromadzi dane biometryczne lub tożsamościowe w jednym określonym celu, może zostać później przekierowany do innego celu, często bez informowania osoby, której dane dotyczą. Systemy weryfikacji wieku, programy cyfrowej tożsamości i narzędzia logowania biometrycznego wszystkie niosą to samo ryzyko strukturalne, niezależnie od tego, jak nieszkodliwie brzmi pierwotna propozycja.
Nie oznacza to, że każda propozycja cyfrowej tożsamości lub weryfikacji wieku jest potajemnie programem nadzoru. Oznacza to, że ciężar dowodu powinien spoczywać na agencji lub firmie proponującej system, a nie na społeczeństwie próbującym przewidzieć, jak dane mogą być wykorzystane za pięć lat.
Czego powinni żądać decydenci i obywatele
Zalecenie RAND, aby agencje uzasadniały potrzebę przed nabyciem technologii biometrycznej lub cyfrowej tożsamości, jest rozsądnym minimum, a nie maksimum. Decydenci oceniający jakikolwiek nowy system tożsamości — niezależnie od tego, czy jest uzasadniany bezpieczeństwem, ochroną dzieci czy wygodą — powinni zapytać, jaki konkretny problem system rozwiązuje, kto jeszcze będzie miał dostęp do gromadzonych przez niego danych i co stanie się z tymi danymi, gdy pierwotne zadanie zostanie wykonane. Obywatele dbający o prywatność mogą domagać się, aby te same pytania były zadawane publicznie, zanim systemy zostaną wdrożone, a nie po tym, gdy stały się już trwałą infrastrukturą.
Wspólny wątek łączący raport RAND z krajowymi debatami o weryfikacji wieku jest prosty: gdy system tożsamości istnieje, jego zastosowanie ma tendencję do rozszerzania się. Żądanie uzasadnienia z góry i jasnych ograniczeń dotyczących wtórnego wykorzystania to jedno z niewielu dostępnych narzędzi, aby powstrzymać ryzyko związane z nadzorem opartym na biometrycznej tożsamości cyfrowej przed staniem się rzeczywistością, a nie ostrzeżeniem.
