Ugoda Meta z prokuratorami generalnymi 51 stanów zobowiązuje firmę do zapłaty co najmniej 12,1 mld dolarów – to kwota, która zdominowała nagłówki w kontekście tego porozumienia. Jednak według doniesień Security Boulevard pieniądze mogą być dla Meta najłatwiejszą częścią do zrealizowania. Każde zobowiązanie dotyczące bezpieczeństwa nastolatków wpisane w umowę – od ograniczania szkodliwych treści po ograniczanie możliwości kontaktu z nieletnimi – zależy od tego, czy Meta będzie wiarygodnie wiedzieć, którzy z jej użytkowników mają mniej niż 18 lat. Taka zdolność nie istnieje obecnie w żadnej sprawdzonej, respektującej prywatność formie, co czyni z tej ugody coś więcej niż wypłatę: to nakaz zapewnienia wiarygodności wieku, za którym nie stoi żadna ugruntowana technologia.

Czego tak naprawdę wymaga ugoda Meta poza pieniędzmi

Kwota w nagłówkach, niezależnie czy podawana jako 12,1 mld dolarów, czy wyższa – 18 mld dolarów – którą podają inne źródła, zwykle przyćmiewa wymogi operacyjne ukryte w treści ugody. Jak opisano we wcześniejszym raporcie dotyczącym tego, jak ugoda Meta za 18 mld dolarów wystawia weryfikację wieku na próbę, porozumienie to nie jest jedynie karą finansową. Zobowiązuje ono Meta do zbudowania i utrzymywania systemów, które potrafią odróżniać nieletnich od dorosłych na jej platformach na tyle wiarygodnie, aby uzasadniać działania egzekucyjne, takie jak ograniczanie wiadomości, modyfikowanie feedów treści czy ograniczanie targetowania reklam.

To znacznie trudniejszy problem inżynieryjny niż wypisanie czeku. Ugody finansowe mają określony punkt końcowy. Wymogi dotyczące zapewnienia wiarygodności wieku nie mają: wymagają od Meta ciągłej weryfikacji wieku na masową skalę, w odniesieniu do miliardów kont, w sposób, który regulatorzy i sądy mogą kontrolować pod kątem zgodności. Jeśli leżąca u podstaw metoda wykrywania będzie niedokładna lub niespójna, firmie grozi powrót przed oblicze prokuratorów generalnych – tym razem za niespełnienie warunków samej ugody, która miała rozwiązać spór.

Jak działa zapewnienie wiarygodności wieku i jakie dane gromadzi

Zapewnienie wiarygodności wieku to termin zbiorczy określający metody, których platformy używają do szacowania lub potwierdzania wieku użytkownika. W praktyce zwykle sprowadza się to do kilku kategorii: deklarowane daty urodzenia, które łatwo sfałszować i które dają niewielką realną ochronę; przesyłanie dokumentów tożsamości wydanych przez państwo, co wymaga od użytkowników podania skanu prawa jazdy lub paszportu; sprawdzanie metody płatności, wykorzystujące kartę kredytową jako przybliżony wskaźnik pełnoletności; oraz szacowanie wieku na podstawie twarzy, które analizuje zdjęcie lub wideo twarzy użytkownika, aby oszacować przedział wiekowy.

Meta zaczęła już eksperymentować z elementami tego zestawu narzędzi. Firma niedawno opublikowała to, co nazwała swoim pierwszym benchmarkiem dokładności dla tych narzędzi – próbę skwantyfikowania, jak często systemy szacowania wieku mają rację, co szczegółowo opisano w relacji dotyczącej pierwszego benchmarku dokładności Meta dla weryfikacji wieku. Osobno firma prowadzi pilotaże funkcji potwierdzania wieku na dużych rynkach, w tym test obejmujący wdrożenie potwierdzania wieku w WhatsApp dla 600 milionów użytkowników w Indiach. Każdy z tych pilotaży gromadzi jakąś formę danych biometrycznych lub tożsamościowych – czy to skan twarzy, dokument tożsamości, czy sygnały behawioralne wykorzystywane do wnioskowania o wieku.

Ryzyko prywatności i biometryczne niewiarygodnej technologii wykrywania wieku

Tu ujawnia się prawdziwy koszt ugody – nie w dolarach, ale w danych. Aby przekonać prokuratorów generalnych, że naprawdę chroni nieletnich, Meta ma silną motywację do gromadzenia większej ilości danych potwierdzających tożsamość od większej liczby użytkowników, nie tylko nastolatków. Szacowanie wieku na podstawie twarzy wymaga zdjęcia na żywo lub przesłanego zdjęcia. Weryfikacja tożsamości wymaga skanowania dokumentu państwowego. Oba rozwiązania tworzą wrażliwe rekordy, które wcześniej w większości kont w mediach społecznościowych nie musiały istnieć.

Problem polega na tym, że żadna z tych metod nie została udowodniona jako dokładna lub bezpieczna w skali, w jakiej działa Meta. Model szacowania twarzy wytrenowany na jednej populacji może błędnie oceniać inną. System przesyłania dokumentów tworzy magnes na dokumenty państwowe powiązane z kontami w mediach społecznościowych – atrakcyjny cel dla każdego, kto chce dokonać kradzieży tożsamości lub przejęcia konta. A ponieważ ugoda nie precyzuje, którą metodę Meta ma zastosować – tylko, że wiek musi być znany – firma ma motywację do nakładania na siebie wielu niedoskonałych systemów, zamiast zdecydować się na to najbardziej chroniące prywatność użytkowników.

Czy nastolatki lub użytkownicy dbający o prywatność mogą uniknąć tej warstwy nadzoru

Na razie nie ma żadnych sygnałów, że użytkownicy – czy to nastolatkowie, czy dorośli – będą mogli zrezygnować z kontroli zapewnienia wiarygodności wieku, gdy Meta wdroży je na szeroką skalę. Warunki ugody dotyczące bezpieczeństwa nastolatków zależą od znajomości wieku użytkownika, co oznacza, że firma ma niewiele miejsca na uczynienie weryfikacji opcjonalną, jeśli chce uniknąć naruszenia właśnie podpisanej umowy. Dorośli korzystający z platform Meta powinni się spodziewać, że każda próba podziału użytkowników według wieku ostatecznie dotknie konta wszystkich – nie tylko tych podejrzewanych o przynależność do nieletnich – ponieważ firma potrzebuje możliwej do obrony metody udowodnienia statusu wieku każdego użytkownika.

Co to oznacza dla Ciebie

Jeśli korzystasz z Facebooka, Instagrama, WhatsAppa lub innych produktów Meta, spodziewaj się w nadchodzących miesiącach próśb o potwierdzenie wieku nowymi metodami. Mogą to być skany twarzy, przesyłanie dokumentów tożsamości lub weryfikacja płatności. Zanim prześlesz jakiekolwiek dane biometryczne lub dokument tożsamości, sprawdź, co Meta mówi o tym, co zrobi z tymi danymi, jak długo będą przechowywane i czy będą udostępniane stronom trzecim w celach weryfikacyjnych. Rodzice nastolatków powinni zwracać szczególną uwagę na to, jak te systemy współdziałają z istniejącymi kontrolami rodzicielskimi, ponieważ niedokładne wykrywanie wieku może albo nadmiernie ograniczyć konto nastolatka, albo nie wychwycić takiego, które powinno zostać oznaczone.

Kluczowe wnioski

Ugoda Meta może zostać zapamiętana ze względu na cenę, ale jej trwały wpływ będzie mierzony tym, ile danych dotyczących tożsamości i biometrii firma ostatecznie zbierze, aby udowodnić zgodność. Technologia weryfikacji wieku wciąż nie jest sprawdzona w skali, jakiej wymaga ta umowa, co oznacza, że wczesne wdrożenia będą prawdopodobnie niedoskonałe, a kompromisy dotyczące prywatności – znaczące. Użytkownicy, którzy chcą być na bieżąco, powinni śledzić aktualizacje dotyczące benchmarków dokładności Meta i programów pilotażowych, ponieważ będą one sygnałem, jak inwazyjny stanie się ostateczny system. Do tego czasu traktuj każdą prośbę o skan dokumentu lub weryfikację twarzy z aplikacji Meta z taką samą ostrożnością, z jaką podchodzisz do każdej firmy proszącej o wrażliwe dokumenty osobiste – ponieważ ugoda gwarantuje, że taka prośba nadejdzie, ale nie to, że technologia za nią stojąca jest gotowa.