Предупреждение RAND о биометрических и цифровых системах идентификации
Новый доклад RAND придаёт дополнительный вес опасениям, которые правозащитники в сфере приватности высказывают уже много лет: системы идентификации, созданные для одной цели, редко остаются ограниченными этой целью. Согласно докладу, от спецслужб, внедряющих биометрическую идентификацию, цифровую идентификацию и системы ИИ, следует требовать обоснования необходимости технологии ещё до её приобретения.
Это может звучать как базовая бюрократическая мера предосторожности, но именно её отсутствие и является проблемой, на которую указывает RAND. Как только у ведомства появляется распознавание лиц, базы данных отпечатков пальцев или инфраструктура цифровой идентификации, эти системы, как правило, начинают использоваться далеко за пределами их первоначального обоснования. Ключевой аргумент RAND заключается в том, что риски биометрического цифрового надзора — это не гипотетические крайние случаи. Это предсказуемый результат того, как эти инструменты внедряются и расширяются после своего появления.
От инструмента верификации к инструменту нацеливания
Модель, которую описывает RAND, прямолинейна. Биометрическая или цифровая система идентификации внедряется для решения узкой задачи: проверки личности путешественника, подтверждения права на получение услуги или проверки возраста. Но лежащая в основе инфраструктура — базы данных, алгоритмы сопоставления, точки сбора — не исчезает после выполнения этой узкой задачи. Она становится постоянной возможностью, к которой могут подключиться другие части правительства или вообще другие ведомства.
Именно так системы идентификации превращаются в системы нацеливания. База данных, созданная для подтверждения того, кем является человек, с тем же успехом может использоваться для отслеживания того, где человек был, с кем он связан или соответствует ли он списку наблюдения. Призыв RAND к ведомствам обосновывать необходимость до приобретения — это, по сути, попытка замедлить этот дрейф до того, как он произойдёт, заставив провести разговор о масштабах и ограничениях на этапе внедрения, а не после того, как система уже укоренилась и её трудно демонтировать.
Цифровая идентификация и проверка возраста уже нормализуют эту инфраструктуру
Отчёт RAND примечателен не только предупреждением о спецслужбах за рубежом. Он выходит в момент, когда аналогичная инфраструктура строится внутри Соединённых Штатов, зачастую под куда менее спорным лозунгом: защита детей в интернете.
Законы и предложения о проверке возраста всё чаще требуют от платформ или правительств подтверждения возраста пользователя, а подтверждение возраста на практике означает подтверждение личности. Исследовательская работа CGO о проверке возраста уже поднимала вопрос о том, что происходит с данными о личности, которые собирают эти системы, после того как непосредственное обоснование защиты детей исчерпано. В работе утверждается, что спешка с принятием таких законов часто обходит именно ту проверку, которую, по словам RAND, следует сделать обязательной до создания любой системы идентификации.
Та же динамика проявляется в законодательных предложениях, таких как KIDS Act. Как объясняет один из анализов, законопроект подаётся как мера защиты детей, но функционирует как система надзора, которая распространялась бы на всё население, а не только на несовершеннолетних. Проверка возраста требует верификации каждого, а значит, инфраструктура в итоге охватывает и взрослых. Это и есть проблема перепрофилирования, описанная RAND, только разворачивающаяся внутри страны под предлогом защиты детей, а не национальной безопасности.
Что это значит для вас
Большинство людей никогда напрямую не столкнутся с системами спецслужб, на которых сосредоточен доклад RAND. Но основной урок применим широко: любая система, собирающая биометрические данные или данные о личности для одной заявленной цели, может быть позже перенаправлена на другую цель, часто без того, чтобы человеку, чьи это данные, вообще об этом сообщили. Системы проверки возраста, программы цифровой идентификации и инструменты биометрического входа — все несут этот же структурный риск, независимо от того, насколько безобидно звучит первоначальное предложение.
Это не означает, что каждое предложение о цифровой идентификации или проверке возраста является тайной программой надзора. Это означает, что бремя доказывания должно лежать на ведомстве или компании, предлагающей систему, а не на общественности, пытающейся предугадать, как данные могут быть использованы через пять лет.
Чего должны требовать политики и граждане
Рекомендация RAND — чтобы ведомства обосновывали необходимость до приобретения биометрической технологии или технологии цифровой идентификации — это разумный минимум, а не максимум. Политикам, оценивающим любую новую систему идентификации, будь она подана в контексте безопасности, защиты детей или удобства, следует спросить, какую конкретную проблему решает система, кто ещё получит доступ к собираемым ею данным и что произойдёт с этими данными после выполнения первоначальной задачи. Граждане, заботящиеся о приватности, могут добиваться, чтобы те же вопросы задавались публично до развёртывания этих систем, а не после того, как они уже стали постоянной инфраструктурой.
Сквозная линия, связывающая доклад RAND с внутренними дебатами о проверке возраста, проста: как только система идентификации существует, её использование, как правило, расширяется. Требование обоснования на начальном этапе и чётких ограничений на вторичное использование — один из немногих доступных инструментов, позволяющих не дать рискам биометрического цифрового надзора стать реальностью, а не предупреждением.
