Неправомерен арест, основан на предположение на машина

Баба от Тенеси съди за 10 милиона долара, след като твърди, че предполагаемо съвпадение при лицево разпознаване с изкуствен интелект е довело до това да бъде фалшиво обвинена в банкови кражби в Северна Дакота и задържана за шест месеца. Случаят, за който първо съобщи ABC News, повдига остри въпроси за това колко доверие трябва да оказват полицейските управления на автоматизираните инструменти за идентификация, когато последствията от грешка могат да означат месеци зад решетките за невинен човек.

Според репортажа жената е била свързана с банкови измами, които твърди, че не е извършила, след като софтуер за лицево разпознаване е свързал изображението ѝ със записи от камери за наблюдение. Тя е прекарала половин година в задържане, преди делото срещу нея да се разпадне, и сега води дело с искане за 10 милиона долара обезщетение за преживяното.

Как се случват грешки при лицевото разпознаване

Системите за лицево разпознаване работят, като сравняват снимка или кадър от видео с база данни от изображения и генерират вероятностен резултат за съвпадение. Този резултат е статистическа оценка, а не сигурност. Когато следователи или прокурори третират резултата на алгоритъма като категорично доказателство, а не като една следа сред много, рискът от неправомерно обвинение нараства рязко.

Тези системи имат документирани пропуски в точността в зависимост от качеството на изображението, осветлението, ъгъла на камерата и демографския състав на обучителните данни, използвани за изграждането им. Зърнест кадър от наблюдение, частичен профил или необичайна физиономия могат да тласнат алгоритъма към фалшиво положителен резултат. Когато това погрешно съвпадение стане основа за заповед за арест, тежестта да се докаже невинност се прехвърля върху неправомерно обвинения, често с променящи живота последици като шестте месеца задържане, описани в този случай.

Залогът за неприкосновеността и гражданските свободи

Това дело е част от по-широка тенденция на загриженост относно начина, по който правоприлагащите органи използват лицево разпознаване без последователни национални стандарти, надзор или изисквания за прозрачност. За разлика от съвпадение по пръстов отпечатък или ДНК, което обикновено преминава през строга криминалистична валидация, преди да бъде използвано в съда, резултатите от лицевото разпознаване могат да бъдат генерирани мигновено и приложени с много по-малко внимание на терен.

Основният проблем е свързан с данните и съгласието. Повечето хора, чиито лица попадат в тези системи за съвпадение, никога не са се съгласявали изображенията им да бъдат използвани по този начин. Снимки, изтеглени от бази данни на шофьорски книжки, социални мрежи или обществени камери за наблюдение, могат да захранват инструменти за разпознаване без знанието на човека. Когато алгоритъмът даде грешка, засегнатият човек често дори не знае, че биометричните му данни са били част от процеса, докато вече не се изправи пред наказателни обвинения.

Тази липса на прозрачност отразява дебати, които се водят и в други области на цифровата политика, където основният въпрос е кой контролира потока от лични данни и при какви правила. Точно както discussions около мрежовата неутралност се съсредоточават върху гарантирането на справедливо и равно третиране на информацията, преминаваща през мрежите, дебатът за лицевото разпознаване се съсредоточава върху гарантирането на справедливо и отчетно третиране на личните биометрични данни, преминаващи през системите на правоприлагащите органи.

Какво означава това за вас

Повечето хора никога няма да се сблъскат с неправомерен арест, свързан с лицево разпознаване, но този случай е напомняне, че биометрични данни, събрани за една цел, могат да бъдат използвани по начини, които хората никога не са предвиждали или на които не са се съгласявали. Вашето лице, за разлика от парола, не може да бъде променено, ако бъде злоупотребено или погрешно съпоставено от дефектна система.

Ако живеете или работите в район, където полицейските управления използват технология за лицево разпознаване, си струва да разберете какви местни политики, ако има такива, регулират това използване. Някои юрисдикции изискват човешки преглед, преди алгоритмично съвпадение да доведе до арест, докато други не. Знанието дали тези предпазни мерки съществуват във вашата общност може да ви помогне да настоявате за по-строги защити, ако липсват.

За хората, загрижени за собствения си биометричен отпечатък, прегледът на настройките за поверителност в платформите на социалните мрежи, разбирането кои държавни бази данни съхраняват снимката ви и информираността за местното и щатското законодателство относно лицевото разпознаване са практични стъпки. Групи за застъпничество и законодатели в няколко щата вече настояха за ограничения или забрани върху полицейското използване на технологията, а общественият натиск исторически е бил движещ фактор за тези промени в политиката.

По-голямата картина

Това дело за 10 милиона долара вероятно ще привлече продължително внимание, докато преминава през правната система, и се добавя към нарастващия брой случаи, оспорващи начина, по който инструментите за лицево разпознаване с изкуствен интелект се използват в наказателни разследвания. Какъвто и да е изходът, случаят подчертава една проста истина: технология, рекламирана като разследващ пряк път, носи реални човешки разходи, когато се провали, и тези разходи падат най-тежко върху хората, най-малко подготвени да се защитят.

С нарастването на разпространението на инструментите за лицево разпознаване в полицейската работа, информираността за това как работят тези системи, къде се съхраняват биометричните ви данни и какви защити съществуват във вашия район е един от най-практичните начини да се предпазите от това да станете следващата предупредителна новина.