Неправомерный арест, построенный на догадке машины

Бабушка из Теннесси подаёт иск на $10 миллионов после того, как, по её словам, предполагаемое совпадение по ИИ-распознаванию лиц привело к тому, что её ложно обвинили в кражах в банках Северной Дакоты и задержали на шесть месяцев. Это дело, впервые освещённое ABC News, поднимает острые вопросы о том, насколько полицейские управления должны доверять автоматизированным инструментам идентификации, когда последствия ошибки могут означать месяцы за решёткой для невиновного человека.

Согласно сообщению, женщину связали с банковским мошенничеством, которого, как она утверждает, она не совершала, после того как программное обеспечение для распознавания лиц сопоставило её изображение с записями камер наблюдения. Она провела полгода под стражей, прежде чем дело против неё развалилось, и теперь она добивается иска с требованием $10 миллионов в качестве компенсации за это испытание.

Как происходят ошибки распознавания лиц

Системы распознавания лиц работают путём сравнения фотографии или кадра видео с базой изображений и формирования вероятностной оценки совпадения. Эта оценка представляет собой статистическую догадку, а не certainty. Когда следователи или прокуроры воспринимают результат алгоритма как окончательное доказательство, а не как одну из многих зацепок, риск ложного обвинения резко возрастает.

У этих систем documented пробелы в точности в зависимости от качества изображения, освещения, угла камеры и демографического состава обучающих данных, использованных для их создания. Зернистый стоп-кадр с камеры наблюдения, частичный профиль или необычное выражение лица — всё это может подтолкнуть алгоритм к ложноположительному результату. Когда это ошибочное совпадение становится основой для ордера на арест, бремя доказательства невиновности ложится на человека, которого ошибочно обвинили, зачастую с последствиями, меняющими жизнь, как те шесть месяцев задержания, описанные в этом деле.

Ставки приватности и гражданских свобод

Этот иск — часть более широкой картины обеспокоенности тем, как правоохранительные органы применяют распознавание лиц без единых национальных стандартов, надзора или требований к прозрачности. В отличие от совпадения отпечатков пальцев или ДНК, которое обычно проходит строгую криминалистическую проверку перед использованием в суде, результаты распознавания лиц могут быть получены мгновенно и применяться на местах с гораздо меньшей проверкой.

Основополагающая проблема — это проблема данных и согласия. Большинство людей, чьи лица попадают в эти системы сопоставления, никогда не соглашались на использование своих изображений таким образом. Фотографии, взятые из баз данных водительских удостоверений, социальных сетей или публичных камер наблюдения, могут попадать в инструменты распознавания без ведома человека. Когда алгоритм даёт сбой, пострадавший зачастую понятия не имеет, что его биометрические данные вообще были частью процесса, до тех пор пока уже не сталкивается с уголовными обвинениями.

Это отсутствие прозрачности перекликается с дебатами, происходящими в других областях цифровой политики, где ключевой вопрос состоит в том, кто контролирует поток персональных данных и по каким правилам. Точно так же, как обсуждения вокруг сетевого нейтралитета сосредоточены на обеспечении справедливого и равного обращения с информацией, перемещающейся по сетям, дебаты о распознавании лиц сосредоточены на обеспечении справедливого и подотчётного обращения с персональными биометрическими данными, перемещающимися через правоохранительные системы.

Что это значит для вас

Большинство людей никогда не столкнутся с неправомерным арестом, связанным с распознаванием лиц, но это дело напоминает, что биометрические данные, собранные для одной цели, могут в итоге использоваться способами, которых люди никогда не ожидали и на которые не давали согласия. Ваше лицо, в отличие от пароля, нельзя изменить, если его неправомерно используют или ошибочно сопоставят с помощью несовершенной системы.

Если вы живёте или работаете в районе, где полицейские управления используют технологию распознавания лиц, стоит понять, какие местные правила, если они вообще есть, регулируют это использование. Некоторые юрисдикции требуют проверки человеком, прежде чем совпадение алгоритма может привести к аресту, другие — нет. Знание того, существуют ли такие гарантии в вашем сообществе, может помочь вам добиваться более сильных мер защиты, если их нет.

Для людей, обеспокоенных собственным биометрическим следом, практическими шагами будут проверка настроек приватности в социальных сетях, понимание того, какие государственные базы данных хранят вашу фотографию, и информированность о местном и региональном законодательстве о распознавании лиц. Правозащитные группы и законодатели в нескольких штатах уже добивались ограничений или запретов на использование этой технологии полицией, и общественное давление исторически было движущим фактором таких политических изменений.

Более широкая картина

Этот иск на $10 миллионов, вероятно, будет привлекать дальнейшее внимание по мере продвижения через правовую систему, и он пополняет растущий корпус дел, оспаривающих то, как инструменты ИИ-распознавания лиц используются в уголовных расследованиях. Каким бы ни был исход, это дело подчёркивает простую истину: технология, продвигаемая как следственный кратчайший путь, несёт реальные человеческие издержки, когда даёт сбой, и эти издержки сильнее всего ложатся на людей, наименее способных дать отпор.

По мере того как инструменты распознавания лиц становятся всё более распространёнными в полицейской работе, информированность о том, как работают эти системы, где хранятся ваши биометрические данные и какие меры защиты существуют в вашем районе, — один из самых практичных способов защитить себя от того, чтобы стать следующим предостерегающим заголовком.