Впервые в австралийской полиции

Полиция Западной Австралии стала первой в стране, кто применил технологию распознавания лиц в реальном времени в публичных пространствах, и система быстро дала результат. Во время испытаний сотрудники использовали технологию, чтобы идентифицировать и задержать человека в режиме реального времени — событие, которое полиция подаёт как подтверждение концепции, а защитники приватности — как тревожный сигнал.

Система сканирует видеопотоки вживую, по сообщениям обрабатывая сотни лиц в минуту, и мгновенно сверяет их с полицейской базой изображений. В отличие от традиционного распознавания лиц, которое обычно применяется постфактум для сравнения записей с места преступления с базой данных, эта технология работает в моменте, отмечая совпадения и оповещая сотрудников, когда люди проходят мимо камер наблюдения. Испытания, как сообщается, проводились с использованием маркированного полицейского автомобиля, размещённого у крупных мероприятий и в оживлённых общественных зонах; система сверяла лица со строго контролируемым списком оповещения, состоящим из законно хранящихся полицейских изображений.

Почему обеспокоены защитники приватности

WA Police преподносит этот живой арест как доказательство работоспособности технологии. Однако критики видят в нём начало гораздо более масштабного разговора о том, какой уровень слежки общество готово принять в обмен на удобство или безопасность.

Постоянно всплывают три опасения. Первое — риск ложных срабатываний: системы распознавания лиц, даже хорошо настроенные, могут ошибаться в идентификации, и неверный сигнал в контексте живой работы полиции может означать, что невиновного человека остановят, допросят или, того хуже, на основании компьютерной ошибки, а не улик. Второе — алгоритмическая предвзятость. Системы распознавания лиц демонстрируют документально подтверждённые различия в точности для разных демографических групп, что вызывает страх, что некоторые сообщества могут непропорционально страдать от ложных совпадений. Третье, и, пожалуй, самое устойчивое — опасение «расползания функций»: технология, внедрённая для узкой цели, например выявления лиц из конкретного списка оповещения на крупных мероприятиях, может постепенно расширять сферу применения, пока не станет рутинным инструментом общего наблюдения за публикой.

Именно последний пункт вызывает наибольшее сопротивление. Как только появятся инфраструктура и общественное согласие на сканирование толпы на музыкальном фестивале или спортивном событии, не останется технических преград, чтобы использовать то же самое на протестах, в транспортных узлах или на обычных уличных углах. Критики утверждают, что подобные испытания постепенно нормализуют слежку, каждое расширение оправдывается успехом предыдущего.

Более масштабная проблема данных

Испытания распознавания лиц поднимают вопросы не только о полицейской тактике, но и об управлении данными. Каждое отсканированное, совпавшее или записанное лицо становится точкой данных в государственной системе, а государственные системы не всегда демонстрировали надёжность в хранении чувствительной личной информации. Биометрические данные особенно уязвимы, ведь в отличие от пароля, лицо невозможно сменить, если оно скомпрометировано или использовано не по назначению.

Здесь испытания в Западной Австралии вписываются в более широкий шаблон тревог относительно государственных технологий. Государственные учреждения накапливают всё больше личных данных — от регистрационных записей до биометрических сканов, — а их послужной список по обеспечению безопасности этих данных неоднозначен. Проблемы, подобные описанным в статье Утечка данных в WA DOL: Когда государственные системы подводят вас, показывают, как уязвимости в государственных системах могут сохраняться годами, прежде чем их устранят, и как последствия ложатся непосредственно на простых людей, чью информацию предполагалось защищать. Список оповещения для распознавания лиц — это, по сути, ещё одна чувствительная база данных, и её безопасность столь же важна, как и точность.

Что это значит для вас

Для жителей Западной Австралии, и для всех, кто следит за этим испытанием как за предвестником полицейских технологий в других местах, непосредственное влияние ограничено: пока система сверяет лица с конкретным списком оповещения, а не записывает всех, кто проходит мимо. Но это испытание знаменует собой значимый сдвиг в том, как можно мониторить общественные пространства, и разумно задавать вопросы до того, как технология станет постоянной или расширится.

Вам не нужно быть технологом, чтобы иметь право голоса. За подобными публичными испытаниями обычно следуют обзоры, общественные консультации или парламентский контроль, и именно обратная связь от общества в эти периоды реально определяет, будут ли встроены надзорные механизмы. Понимать, что именно сканируется, кто находится в списке оповещения и как долго хранятся данные — разумные вопросы для любого сообщества, впервые сталкивающегося с такой технологией.

Ключевые выводы

  • Распознавание лиц в реальном времени отличается от постфактумного сравнения: оно отмечает людей по мере их прохождения мимо камер, повышая цену любой ошибки.
  • Ложные срабатывания и алгоритмическая предвзятость остаются реальными рисками, даже в испытаниях, представляемых как узкие и контролируемые.
  • Расползание функций — постепенное расширение первоначальной цели инструмента — главная тревога, за которой эксперты следят особенно пристально.
  • Управление данными важно не меньше, чем точность. База данных распознавания лиц — это ещё одно хранилище чувствительной личной информации, нуждающееся в надёжной защите и контроле.
  • Общественный контроль на этапе испытаний — одно из немногих окон, когда голос сообщества может повлиять на то, как и станет ли эта технология постоянной.

Пока полиция Западной Австралии расширяет и оценивает испытание, дискуссия о распознавании лиц в реальном времени будет лишь усиливаться. Оставаться информированным о том, как развертываются эти системы, и задавать вопросы о надзоре и защите данных — наиболее практичный способ для общества повлиять на дальнейшее направление технологии.