Изпитание за лицево разпознаване на живо, за което повечето жители така и не научиха

В нещо, описвано като първо за Австралия, полицията на Западна Австралия тихо разгърна камери за лицево разпознаване с изкуствен интелект в реално време в Пърт и Фримантъл от юни. Само за една седмица от изпитанието системата сканира повече от 130 000 лица, генерира 33 сигнала и доведе до 18 ареста. Полицията също заяви, че технологията е помогнала за идентифицирането и осъществяването на контакт с 21 регистрирани извършители на сексуални престъпления в района.

Мащабът на сканирането е забележителен сам по себе си, но най-голямо внимание привлече начинът, по който то се случи: жителите, минаващи по тези улици, не бяха уведомени, че биват сканирани. Нямаше кампания с обозначения, период на обществено обсъждане или ясен механизъм за отказ. За много австралийци първата информация за програмата дойде от медийни публикации след факта, а не от известие от полицията или местната власт.

Защо липсата на уведомяване има значение

Системите за лицево разпознаване работят, като заснемат изображения на хора на обществени места и ги сравняват с база данни, често в реално време. Когато този процес тече без публично уведомление, хората губят възможността да правят информиран избор къде да ходят, с кого да бъдат виждани или как техните движения могат да бъдат записвани и съпоставяни. Защитниците на правото на личен живот и правни експерти изтъкват, че това подкопава основен принцип на надзора върху наблюдението: хората поначало трябва да знаят кога и как биват наблюдавани, особено от държавни органи.

Изпитанието също доведе до поне едно потвърдено погрешно идентифициране — напомняне, че дори усъвършенстваните системи с изкуствен интелект могат да сбъркат идентичността на хора, понякога с последици от неудобство до сериозни. Рисковете от погрешно разпознаване също не са равномерно разпределени; инструментите за лицево разпознаване имат добре документирана история на по-високи нива на грешки при определени демографски групи, което поражда опасения за равнопоставеността наред с тези за личния живот.

Полицията на Западна Австралия представи резултатите като успехи за обществената безопасност — извършени арести, идентифицирани нарушители и генерирани сигнали. Но наблюдателите за защита на личните данни твърдят, че истинската оценка на разходите и ползите изисква прозрачност относно правилата на изпитанието: колко дълго се съхраняват кадрите и данните за съвпадения, кой има достъп до тях, дали се споделят с други агенции и какво се случва с биометричните данни на десетките хиляди хора, които са били сканирани, но нямат връзка с никакво разследване.

По-широката тенденция за събиране на биометрични данни

Това изпитание не съществува изолирано. Правителствата и частните компании по света все по-често се обръщат към биометричната проверка, независимо дали чрез лицево разпознаване за полицейски цели, биометрични проверки по летищата или системи за проверка на възрастта, които сканират лица, за да определят приблизителната възраст на потребителя, преди да предоставят достъп до определено съдържание или услуги. Всяка от тези системи повдига сходен основен въпрос: колко биометрични данни трябва да бъде позволено да събира всяка отделна система и колко дълго те да се съхраняват? Читателите, които се интересуват как тези компромиси се проявяват в различен, но свързан контекст, могат да видят как законите за проверка на възрастта по света вече налагат подобни дебати за биометричното сканиране, съхранението на данни и съгласието, често с далеч по-малка обществена осведоменост, отколкото обхватът на технологията предполага.

Изпитанието на полицията на Западна Австралия е полезна практическа илюстрация именно защото показва какво се случва, когато биометричното наблюдение премине от дебат за политики към реално внедряване. Технологията работи според очакванията в много случаи, но липсата на ясно публично уведомление, независима одитна следа или официални възможности за отказ показва колко бързо способностите могат да изпреварят надзора.

Какво означава това за вас

Ако живеете в или посещавате Пърт или Фримантъл, може вече да сте били сканирани, без да знаете, и същата динамика може да се разпространи в други градове, тъй като подобни пилотни програми се обмислят на други места. Дори извън Австралия този случай е предварителен поглед към накъде се движат изпитанията на лицево разпознаване с изкуствен интелект в обществени пространства: тихи внедрявания, оправдавани със статистики за безопасност, като защитата на личния живот често се добавя след факта, вместо да бъде заложена от самото начало.

По правило не можете да откажете участие в действаща публична система за лицево разпознаване в реално време, след като тя вече работи във вашия район, и точно това прави прозрачността и обществения дебат толкова важни преди тези системи да започнат да действат, а не след това.

Практически изводи

  • Проверете дали местната полиция или общинският съвет са публикували информация за настоящи или планирани изпитания за лицево разпознаване и потърсете процес за обществена обратна връзка или обсъждане.
  • Подкрепяйте исканията за ясни политики за съхранение и изтриване на данни винаги, когато за обществени пространства се предлагат лицево разпознаване или други биометрични инструменти.
  • Настоявайте за независими одити на точността и пристрастията във всяка система за наблюдение с изкуствен интелект, преди тя да бъде разширена отвъд пилотната фаза.
  • Останете информирани как биометричните данни, събрани за една цел, например полицейска дейност, биха могли по-късно да бъдат споделени с други агенции или частни компании.

Разговорът за изпитанията на лицево разпознаване с изкуствен интелект само ще става по-силен, тъй като все повече градове тестват подобни системи. Да се информирате как тези програми се внедряват и да изисквате прозрачност, когато това не се случва, е един от най-практичните начини обществеността да повлияе на начина, по който тази технология ще се използва занапред.