Попередження RAND щодо біометричних і цифрових систем ідентифікації

Нова доповідь RAND додає ваги занепокоєнню, яке правозахисники у сфері приватності висловлюють уже багато років: системи ідентифікації, створені для однієї мети, рідко залишаються обмеженими цією метою. Згідно з доповіддю, органи безпеки, які впроваджують біометричну ідентифікацію, цифрову ідентичність і системи штучного інтелекту, повинні бути зобов'язані обґрунтувати потребу в цій технології ще до її придбання.

Це може звучати як базовий бюрократичний запобіжник, але саме його відсутність і є проблемою, на яку вказує RAND. Коли в установи вже є розпізнавання облич, бази даних відбитків пальців або інфраструктура цифрової ідентифікації, ці системи, як правило, залучаються до використання, що виходить далеко за межі їхнього початкового обґрунтування. Ключовий аргумент RAND полягає в тому, що ризики спостереження за допомогою біометричної цифрової ідентифікації не є гіпотетичними крайніми випадками. Вони є передбачуваним наслідком того, як ці інструменти впроваджуються та розширюються, щойно вони з'являються.

Від інструменту верифікації до інструменту націлювання

Модель, яку описує RAND, є прямолінійною. Біометрична або цифрова система ідентифікації впроваджується для вирішення вузької проблеми: перевірки особи мандрівника, підтвердження права на отримання послуги або перевірки чийогось віку. Але базова інфраструктура — бази даних, алгоритми зіставлення, точки збору — не зникає після виконання цього вузького завдання. Вона стає постійною спроможністю, до якої можуть отримати доступ інші частини уряду або взагалі інші установи.

Саме так системи ідентифікації стають системами націлювання. База даних, створена для підтвердження, ким є людина, з такою ж легкістю може використовуватися для відстеження того, де людина була, з ким спілкується або чи відповідає вона списку спостереження. Заклик RAND до установ обґрунтовувати потребу до придбання — це, по суті, спроба уповільнити цей дрейф до того, як він станеться, змушуючи до розмови про масштаб і обмеження на етапі впровадження, а не після того, як система вже укорінилася і її важко демонтувати.

Цифрова ідентифікація та перевірка віку вже нормалізують цю інфраструктуру

Доповідь RAND примітна не лише своїм попередженням щодо органів безпеки за кордоном. Вона з'являється в момент, коли подібна інфраструктура будується всередині Сполучених Штатів, часто під набагато менш суперечливим гаслом: захист дітей в інтернеті.

Закони та пропозиції щодо перевірки віку дедалі частіше вимагають від платформ або урядів підтверджувати вік користувача, а підтвердження віку на практиці означає підтвердження особи. Дослідницька робота CGO щодо перевірки віку вже порушила питання про те, що відбувається з даними про особу, які збирають ці системи, після того як негайне обґрунтування захисту дітей було задоволено. У роботі стверджується, що поспіх із ухваленням цих законів часто оминає саме той різновид перевірки, який, за словами RAND, має бути обов'язковим до створення будь-якої системи ідентифікації взагалі.

Та сама динаміка проявляється в законодавчих пропозиціях, таких як KIDS Act. Як пояснює один аналіз, законопроєкт подається як захід із захисту дітей, але функціонує як система спостереження, яка застосовувалася б до всього населення, а не лише до неповнолітніх. Перевірки віку вимагають верифікації кожного, а це означає, що інфраструктура зрештою охоплює й дорослих. Це і є проблема перепрофілювання, яку описує RAND, лише вона розгортається всередині країни через рамку захисту дітей, а не національної безпеки.

Що це означає для вас

Більшість людей ніколи не взаємодіятимуть безпосередньо з тими системами органів безпеки, на яких зосереджена доповідь RAND. Але основний урок застосовний широко: будь-яка система, яка збирає біометричні дані або дані про особу для однієї заявленої мети, може згодом бути перенаправлена на іншу мету, часто без повідомлення людини, чиї це дані. Системи перевірки віку, програми цифрової ідентифікації та інструменти біометричного входу — усі вони несуть цей самий структурний ризик, незалежно від того, наскільки невинно звучить початкова пропозиція.

Це не означає, що кожна пропозиція щодо цифрової ідентифікації чи перевірки віку є таємною програмою спостереження. Це означає, що тягар доведення має лежати на установі чи компанії, яка пропонує систему, а не на громадськості, яка намагається передбачити, як дані можуть використовуватися через п'ять років.

Чого мають вимагати політики та громадяни

Рекомендація RAND — щоб установи обґрунтовували потребу до придбання біометричної технології чи технології цифрової ідентифікації — це розумний мінімум, а не максимум. Політики, які оцінюють будь-яку нову систему ідентифікації, незалежно від того, чи вона подається в контексті безпеки, захисту дітей чи зручності, мають запитати, яку конкретну проблему вирішує система, хто ще матиме доступ до даних, які вона збирає, і що станеться з цими даними після завершення початкового завдання. Громадяни, які дбають про приватність, можуть домагатися, щоб ті самі питання ставилися публічно до розгортання цих систем, а не після того, як вони вже стали постійною інфраструктурою.

Наскрізна нитка, що з'єднує доповідь RAND із внутрішніми дебатами про перевірку віку, проста: щойно система ідентифікації існує, її використання, як правило, розширюється. Вимагати обґрунтування заздалегідь і чітких обмежень на вторинне використання — це один із небагатьох доступних інструментів, щоб ризики спостереження за допомогою біометричної цифрової ідентифікації стали реальністю, а не попередженням.