Британский полицейский наблюдатель предупредил, что ошибки распознавания лиц могут подвергать этнические меньшинства риску необоснованного ареста. Согласно The Guardian, инспекторы обнаружили, что некоторые офицеры действовали на основе потенциальных совпадений из ретроспективных поисков по распознаванию лиц, не проводя достаточных дополнительных проверок. Эта находка усиливает растущую обеспокоенность по поводу случаев необоснованных арестов из-за распознавания лиц в Великобритании и поднимает практический вопрос: что защищает человека, когда программное обеспечение указывает не на то лицо?

Исходная статья короткая, поэтому этот материал придерживается того, что было сообщено, и осторожно объясняет более широкий контекст.

Что инспекторы обнаружили в отношении ретроспективного распознавания лиц

Ретроспективное распознавание лиц отличается от живых систем, которые сканируют лица в реальном времени, когда люди проходят мимо камеры. При ретроспективном поиске полиция берёт изображение интересующего лица, например, кадр с камеры видеонаблюдения, и сравнивает его с базой данных изображений для получения потенциальных совпадений.

Ключевое слово — «потенциальных». Совпадение, выданное программным обеспечением, — это наводка, а не идентификация. Согласно репортажу The Guardian, инспекторы обнаружили, что некоторые офицеры воспринимали эти результаты как основание для действий, не проводя достаточных дальнейших проверок. На практике это означает, что возможному совпадению могли придать больше веса, чем оно заслуживало, прежде чем был произведён арест.

Это проблема процесса в той же мере, что и проблема технологии. Даже хорошо работающий алгоритм выдаёт ложные совпадения, поэтому проверки, которые выполняют люди после этого, являются главной защитой от ошибок.

Почему этнические меньшинства подвергаются более высокому риску из-за ошибок сопоставления

Предупреждение наблюдателя особо подчёркивает риск для этнических меньшинств. Озабоченность вызывает то, что ошибки сопоставления распределяются по населению неравномерно. Если система с большей вероятностью выдаёт ложные совпадения для некоторых групп, то эти группы подвергаются более высокой вероятности быть ошибочно отмеченными как подозреваемые.

В сочетании с недостаточной проверкой риск усиливается. Ложное совпадение, которое должным образом проверено, выявляется на ранней стадии. Ложное совпадение, принятое за чистую монету, может привести к остановке, аресту или худшему. Озабоченность наблюдателя — это сочетание: подверженное ошибкам сопоставление плюс слабая верификация.

Именно поэтому важны детали того, как проводится и проверяется поиск. Кто изучает список кандидатов, какие другие доказательства требуются и как разрешаются разногласия — всё это определяет, дойдёт ли ошибка до реального человека.

Где британские гарантии и правовые нормы не справляются

Выводы инспекторов свидетельствуют о том, что гарантии существуют на бумаге, но не всегда применяются последовательно на практике. Этот разрыв — часть причины, по которой правительство рассматривало правила. Мы освещали его план ужесточить правовую базу в нашем материале о правилах распознавания лиц британской полицией, вызванных камерами на Оксфорд-стрит, и выводы наблюдателя усиливают аргументы в пользу более чётких, подлежащих исполнению стандартов как для ретроспективных поисков, так и для живых систем.

Документация — одно из мест, где можно увидеть, как должны работать гарантии. Министерство внутренних дел опубликовало оценку конфиденциальности для живого распознавания лиц в иммиграционном контроле, которую мы обобщили в нашем обзоре оценки конфиденциальности LFR Министерства внутренних дел. Чтение таких документов показывает, какие риски власти признают и какие меры смягчения обещают. Проверка состоит в том, соблюдаются ли эти обещания на местах, что как раз и изучают подобные инспекции.

Стоит также отметить, что распознавание лиц не ограничивается полицией. Розничные продавцы тоже его используют, и те же вопросы о точности и средствах правовой защиты применимы. Наш материал о предупреждениях Facewatch и британских покупателях исследует эту сторону картины.

Каковы ваши права, если вас идентифицировали ошибочно

В исходной статье не излагаются индивидуальные средства правовой защиты, поэтому ниже приведены общие рекомендации, а не юридическая консультация.

  • Спросите, на каком основании. Если вас остановили или арестовали, вы можете спросить почему. Если использовалось распознавание лиц, спросите, связывают ли вас с инцидентом какие-либо другие доказательства.
  • Запросите свои данные. В соответствии с законодательством Великобритании о защите данных вы, как правило, можете подать запрос на доступ к субъекту данных, чтобы увидеть персональные данные, которые организация хранит о вас, хотя полиция иногда может применять исключения.
  • Ведите запись. Отмечайте даты, время, места и имена или номера участвовавших офицеров.
  • Обратитесь за советом. Солиситор или организация, специализирующаяся на гражданских свободах, может объяснить ваши варианты подачи жалоб или оспаривания.
  • Подайте жалобу. Вы можете пожаловаться в соответствующее полицейское подразделение и обжаловать решение, если вы не удовлетворены.

Что касается розничной торговли, наше руководство о ваших правах на конфиденциальность в рознице в связи со сканированием Facewatch описывает, как оспорить и обжаловать отметку.

Что это значит для вас

Большинство людей никогда не будут ошибочно сопоставлены, но риск распределяется неравномерно, и предупреждение наблюдателя напоминает, что результат программного обеспечения надёжен настолько, насколько надёжны проверки за ним. VPN не скроет ваше лицо от камеры на улице, поэтому реальная защита здесь — правовая и процедурная: надзор, прозрачность и право оспаривать ошибки.

Если вас это беспокоит, следите за развитием правил. Обращайте внимание на то, устанавливает ли новое законодательство чёткие требования к человеческой верификации перед принятием мер на основе совпадения и продолжается ли независимая инспекция.

Ключевые выводы

  • Совпадение от распознавания лиц — это наводка, а не доказательство личности.
  • Наблюдатель обнаружил, что некоторые офицеры действовали на основе ретроспективных совпадений без достаточных проверок.
  • Этнические меньшинства подвергаются более высокому риску из-за ошибок сопоставления, согласно предупреждению.
  • Если вас идентифицировали ошибочно, спросите об основании, ведите записи, запросите свои данные и обратитесь за советом.
  • Будьте в курсе: читайте о плане правительства ужесточить правила распознавания лиц полицией и смотрите, как гарантии документируются в оценке конфиденциальности LFR Министерства внутренних дел.

Риск необоснованного ареста из-за распознавания лиц в Великобритании сводится к тому, успевает ли верификация за технологией. Пока это не так, знание своих прав — ваша лучшая практическая защита.