Надзорен орган за полицията във Великобритания предупреди, че грешки при разпознаването на лица могат да изложат на риск от неправомерен арест хора от етнически малцинства. Според The Guardian инспектори са установили, че някои служители са действали въз основа на потенциални съвпадения от ретроспективни търсения с разпознаване на лица, без да извършат достатъчно допълнителни проверки. Констатацията подсилва нарастващата загриженост относно случаите на неправомерни арести във Великобритания, свързани с разпознаване на лица, и повдига практичен въпрос: какво защитава човека, когато софтуерът посочи грешното лице?
Изходната статия е кратка, затова тази публикация се придържа към това, което е било съобщено, и обяснява по-широкия контекст внимателно.
Какво установиха инспекторите относно ретроспективното разпознаване на лица
Ретроспективното разпознаване на лица се различава от живите системи, които сканират лица в реално време, докато хората минават покрай камера. При ретроспективно търсене полицията взема изображение на лице, което представлява интерес, например кадър от видеонаблюдение, и го сравнява с база данни от изображения, за да генерира потенциални съвпадения.
Ключовата дума е „потенциални“. Съвпадението от софтуер е следа, а не идентификация. Според репортажа на The Guardian инспекторите са установили, че някои служители са третирали тези резултати като основание за действие, без да извършат достатъчно допълнителни проверки. На практика това означава, че на възможно съвпадение може да е било придадено повече тежест, отколкото е заслужавало, преди да бъде извършен арест.
Това е проблем на процеса в същата степен, в която е и проблем на технологията. Дори един добре работещ алгоритъм произвежда фалшиви съвпадения, така че проверките, които хората извършват след това, са основната защита срещу грешка.
Защо етническите малцинства са изложени на по-висок риск от грешки при съвпадение
Предупреждението на надзорния орган специално подчертава риска за етническите малцинства. Загрижеността е, че грешките при съвпадение не се разпределят равномерно сред населението. Ако една система е по-склонна да произвежда фалшиви съвпадения за някои групи, тогава тези групи са изправени пред по-висока вероятност да бъдат погрешно маркирани като заподозрени.
Комбинирайте това с недостатъчна проверка и рискът се мултиплицира. Фалшиво съвпадение, което е надлежно проверено, се хваща рано. Фалшиво съвпадение, което се приема за чиста монета, може да доведе до спиране, арест или по-лошо. Загрижеността на надзорния орган е комбинацията: склонно към грешки съвпадение плюс слаба верификация.
Ето защо подробностите как се извършва и преглежда едно търсене също имат значение. Кой преглежда списъка с кандидати, какви други доказателства се изискват и как се обработват разногласията — всичко това определя дали една грешка достига до реален човек.
Къде британските предпазни мерки и правни правила са недостатъчни
Констатациите на инспекторите подсказват, че предпазните мерки съществуват на хартия, но не винаги се прилагат последователно на практика. Тази разлика е част от причината правителството да разглежда правилата. Ние разгледахме плана му за затягане на правната рамка в нашата статия за правилата на британската полиция за разпознаване на лица, провокирани от камерите на Oxford Street, а констатациите на надзорния орган подкрепят необходимостта от по-ясни, приложими стандарти както за ретроспективните, така и за живите търсения.
Документацията е едно от местата, където да търсим как предпазните мерки трябва да работят. Министерството на вътрешните работи е публикувало оценка на поверителността за живата система за разпознаване на лица на имиграционните служби, която обобщихме в нашия преглед на оценката на поверителността на LFR на Министерството на вътрешните работи. Четенето на такива документи показва какви рискове признават властите и какви смекчаващи мерки обещават. Проверката е дали тези обещания се спазват на практика, което е точно това, което разглеждат подобни инспекции.
Също така си струва да се отбележи, че разпознаването на лица не се ограничава само до полицията. Търговците на дребно също го използват и същите въпроси относно точността и възможностите за обжалване се прилагат. Нашето отразяване на сигналите на Facewatch и британските купувачи изследва тази страна на картината.
Какви са правата ви, ако бъдете погрешно идентифицирани
Изходната статия не излага индивидуални средства за защита, затова следното е общо ръководство, а не правен съвет.
- Попитайте каква е основата. Ако бъдете спрени или арестувани, можете да попитате защо. Ако е било използвано разпознаване на лица, попитайте дали има други доказателства, които ви свързват с инцидента.
- Поискайте вашите данни. Съгласно британското законодателство за защита на данните обикновено можете да направите заявление за достъп до лични данни, за да видите личната информация, която дадена организация съхранява за вас, въпреки че полицията понякога може да приложи изключения.
- Водете записи. Отбелязвайте дати, часове, места и имената или номерата на участвалите служители.
- Потърсете съвет. Адвокат или организация, специализирана в граждански свободи, може да ви обясни възможностите ви за жалби или оспорвания.
- Подайте жалба. Можете да се оплачете на съответната полицейска служба и да ескалирате, ако не сте удовлетворени.
За търговски обекти нашето ръководство за вашите права на поверителност в търговията на дребно относно сканиранията на Facewatch обхваща как да оспорите и оспорите сигнал.
Какво означава това за вас
Повечето хора никога няма да бъдат погрешно съпоставени, но рискът не е разпределен равномерно и предупреждението на надзорния орган е напомняне, че софтуерният резултат е само толкова надежден, колкото са проверките зад него. VPN няма да скрие лицето ви от камера на улицата, така че реалните protections тук са правни и процедурни: надзор, прозрачност и правото да оспорвате грешки.
Ако сте загрижени, следете как се развиват правилата. Обръщайте внимание дали новото законодателство установява ясни изисквания за човешка верификация преди предприемане на действие въз основа на съвпадение и дали независимата инспекция продължава.
Основни изводи
- Съвпадението от разпознаване на лица е следа, а не доказателство за самоличност.
- Надзорният орган установи, че някои служители са действали въз основа на ретроспективни съвпадения без достатъчно проверки.
- Етническите малцинства са изложени на по-висок риск от грешки при съвпадение, според предупреждението.
- Ако бъдете погрешно идентифицирани, попитайте за основата, водете записи, поискайте данните си и потърсете съвет.
- Бъдете информирани: прочетете за плана на правителството за затягане на правилата за разпознаване на лица от полицията и вижте как предпазните мерки са документирани в оценката на поверителността на LFR на Министерството на вътрешните работи.
Рискът от неправомерен арест във Великобритания, свързан с разпознаване на лица, се свежда до това дали верификацията успява да върви в крак с технологията. Докато това не се случи, познаването на правата ви е най-добрата ви практическа защита.
