Първи случай в австралийската полиция

Полицията на Западна Австралия стана първата сила в страната, която внедри технология за лицево разпознаване на живо в обществени пространства, и системата бързо доведе до резултат. По време на изпитанието служителите използваха технологията, за да разпознаят и арестуват човек в реално време – ключов момент, който полицията представя като доказателство за концепцията, а защитниците на личния живот разглеждат като предупредителен знак.

Системата работи, като сканира потоци от видео на живо, като според съобщенията обработва стотици лица в минута и незабавно ги сравнява с полицейска база данни от изображения. За разлика от традиционното лицево разпознаване, което обикновено се използва след събитието, за да съпоставя записи от местопрестъпление с база данни, тази технология действа в момента, като подава сигнали на служителите, докато хората преминават покрай наблюдавани камери в реално време. Съобщава се, че изпитанието включва маркиран полицейски автомобил, разположен в близост до големи събития и в натоварени обществени зони, като системата проверява лицата спрямо това, което властите описват като строго контролиран списък за сигнали със законно съхранявани полицейски изображения.

Защо защитниците на личния живот са обезпокоени

Арестът на живо се представя от полицията на Западна Австралия като доказателство, че технологията работи. Но критиците виждат същото събитие като начало на много по-голям разговор за това колко надзор е склонна да приеме обществеността в замяна на удобство или безопасност.

Три опасения изплуват постоянно. Първото е рискът от фалшиви сигнали: системите за лицево разпознаване, дори добре настроените, могат да сбъркат идентификацията, а неправомерно подаден сигнал в контекста на полицейски действия на живо може да означава, че невинен човек бива спрян, разпитан или – още по-лошо – въз основа на компютърна грешка, вместо на доказателства. Второто е алгоритмичното пристрастие. Системите за лицево разпознаване имат документирана история на по-ниска точност при различни демографски групи, което поражда страхове, че някои общности могат да бъдат непропорционално засегнати от грешни съвпадения. Третото, и може би най-настойчивото, е опасението от разширяване на обхвата: технология, въведена с тясна цел, като идентифициране на хора от конкретен списък за сигнали на големи събития, постепенно може да увеличи обхвата си, докато се превърне в рутинен инструмент за по-широко обществено наблюдение.

Точно върху последната точка се съсредоточава голяма част от съпротивата. След като веднъж съществуват инфраструктура и обществено приемане за сканиране на тълпи на музикален фестивал или спортно събитие, няма почти никаква техническа пречка това да бъде използвано на протести, транспортни възли или обикновени улични ъгли. Критиците твърдят, че подобни изпитания са склонни да нормализират надзора постепенно, като всяко разширение се оправдава с успеха на предишното.

По-големият проблем с данните

Тестовете с лицево разпознаване не поставят само въпроси за полицейските тактики; те повдигат въпроси за управлението на данните. Всяко лице, сканирано, съпоставено или регистрирано, се превръща в точка от данни, намираща се в правителствена система, а правителствените системи невинаги са се оказвали надеждни пазители на чувствителна лична информация. Биометричните данни са особено чувствителни, защото, за разлика от паролата, лицето не може да бъде сменено, ако бъде разкрито или злоупотребено с него.

Именно тук тестът в Западна Австралия се свързва с по-широка тенденция на безпокойство около технологиите в публичния сектор. Правителствените агенции все повече съхраняват големи обеми лични данни – от регистри за шофьорски книжки до биометрични сканирания – а историята на сигурността на тези данни е смесена. Проблеми като описания в Пробив в данните на DOL на Западна Австралия: Когато правителствените системи ви подвеждат показват как уязвимостите в правителствените системи могат да съществуват години наред, преди да бъдат адресирани, и как последиците падат директно върху обикновените хора, чиято информация е трябвало да бъде защитена. Списъкът за сигнали за лицево разпознаване по своята същност е още една чувствителна правителствена база данни и нейната сигурност има същото значение, както и точността ѝ.

Какво означава това за вас

За жителите на Западна Австралия и за всички, които наблюдават този тест като показателен за полицейската технология на други места, непосредственото въздействие е ограничено: системата в момента проверява лица по конкретен списък за сигнали, а не регистрира всеки, който минава покрай нея. Но изпитанието бележи значителна промяна в начина, по който обществените пространства могат да бъдат наблюдавани, и е разумно да се задават въпроси, преди технологията да стане постоянна или да се разшири.

Не е необходимо да сте технолог, за да имате отношение към това. Подобни публични изпитания обикновено са последвани от прегледи, обществени консултации или парламентарен контрол и обратната връзка от обществеността през тези периоди реално оформя дали ще бъдат вградени механизми за надзор. Какво се сканира, кой е в списъка за сигнали и колко дълго се пазят данните – това са разумни въпроси за всяка общност, която за първи път се сблъсква с този вид технология.

Ключови изводи

  • Лицевото разпознаване на живо се различава от съпоставянето след събитието: то подава сигнали за хора в реално време, докато преминават покрай наблюдавани камери, което повишава залога при всяка грешка.
  • Фалшивите положителни сигнали и алгоритмичните пристрастия остават реални рискове дори при изпитания, представяни като тесни и контролирани.
  • Разширяването на обхвата – постепенното разширяване на първоначалното предназначение на инструмента – е опасението, което експертите следят най-внимателно.
  • Управлението на данните има значение не по-малко от точността. Базата данни за лицево разпознаване е още едно хранилище на чувствителна лична информация, което се нуждае от силна сигурност и надзор.
  • Общественият контрол по време на фазата на изпитание е един от малкото прозорци, в които приносът на общността може да повлияе върху това как или дали тази технология ще стане постоянна.

С разширяването и оценката на този тест от полицията на Западна Австралия, разговорът за лицевото разпознаване на живо само ще се усилва. Да сме информирани за начина на внедряване на тези системи и да задаваме въпроси за надзора и защитата на данните е най-практичният начин обществеността да има думата за това накъде ще поеме тази технология.