Першість в австралійській поліцейській практиці

Поліція Західної Австралії стала першим правоохоронним органом у країні, який розгорнув технологію розпізнавання облич у реальному часі в публічних місцях, і система не забарилася з результатом. Під час випробування офіцери застосували технологію для ідентифікації та арешту людини в реальному часі — етапний момент, який поліція подає як доказ працездатності концепції, а захисники приватності — як тривожний сигнал.

Система працює шляхом сканування потокового відео, за повідомленнями обробляючи сотні облич щохвилини, і миттєво звіряє їх із поліцейською базою зображень. На відміну від традиційного розпізнавання облич, яке зазвичай використовується постфактум для порівняння записів із місця злочину з базою даних, ця технологія працює в моменті, позначаючи збіги для офіцерів, коли люди проходять повз камери спостереження в реальному часі. Як повідомляється, випробування передбачало розміщення позначеного поліцейського автомобіля поблизу великих заходів та в людних публічних місцях, при цьому система перевіряла обличчя за списком, який посадовці описують як суворо контрольований перелік законно отриманих поліцейських зображень для сповіщень.

Чому захисники приватності стурбовані

Арешт у реальному часі подається поліцією Західної Австралії як доказ того, що технологія працює. Але критики бачать ту ж подію як початок значно ширшої розмови про те, який рівень спостереження громадськість готова прийняти в обмін на зручність чи безпеку.

Три занепокоєння спливають постійно. Перше — це ризик хибних сповіщень: системи розпізнавання облич, навіть добре налаштовані, можуть помилково ідентифікувати людей, і неправильне позначення в контексті оперативної поліцейської роботи може означати, що невинну людину зупинять, допитають або, що гірше, — на основі помилки комп'ютера, а не доказів. Друге — алгоритмічна упередженість. Системи розпізнавання облич мають задокументовану історію нижчої точності для різних демографічних груп, що викликає побоювання, що деякі спільноти можуть бути непропорційно зачеплені хибними збігами. Третє і, мабуть, найстійкіше — це занепокоєння щодо розширення функцій: технологія, впроваджена для вузької мети, як-от ідентифікація людей із конкретного списку сповіщень на великих заходах, може поступово розширювати сферу застосування, поки не стане рутинним інструментом для ширшого публічного моніторингу.

Останній пункт — це те, на чому зосереджена значна частина негативної реакції. Щойно інфраструктура та суспільне прийняття для сканування натовпів на музичному фестивалі чи спортивному заході з'являться, залишиться мало технічних бар'єрів для використання цієї технології на протестах, транспортних вузлах або звичайних вуличних перехрестях. Критики стверджують, що такі випробування, як це, схильні поступово нормалізувати спостереження, причому кожне розширення виправдовується успіхом попереднього.

Більша проблема даних

Випробування розпізнавання облич порушують питання не лише про поліцейську тактику; вони порушують питання про управління даними. Кожне обличчя, проскановане, зіставлене або зареєстроване, стає точкою даних у державній системі, а державні системи не завжди демонстрували надійність як розпорядники чутливої особистої інформації. Біометричні дані особливо чутливі, оскільки, на відміну від пароля, обличчя неможливо змінити, якщо воно було скомпрометоване або використане неналежним чином.

Саме тут випробування в Західній Австралії пов'язане з ширшою тенденцією занепокоєння щодо технологій у державному секторі. Державні установи дедалі частіше зберігають великі обсяги особистих даних — від ліцензійних записів до біометричних сканів, — а їхня репутація щодо безпеки цих даних є неоднозначною. Проблеми, подібні до тих, що детально описані в Витік даних WA DOL: коли державні системи підводять вас, показують, як вразливості в державних системах можуть зберігатися роками, перш ніж їх усунуть, і як наслідки лягають безпосередньо на звичайних людей, чия інформація повинна була бути захищеною. Список сповіщень для розпізнавання облич є, по суті, ще однією чутливою державною базою даних, і її безпека має таке ж значення, як і її точність.

Що це означає для вас

Для мешканців Західної Австралії та для всіх, хто спостерігає за цим випробуванням як за провісником поліцейських технологій в інших місцях, безпосередній вплив є обмеженим: наразі система перевіряє обличчя за конкретним списком сповіщень, а не реєструє кожного, хто проходить повз. Але випробування знаменує суттєвий зсув у тому, як публічні місця можуть контролюватися, і цілком розумно ставити запитання до того, як технологія стане постійною або розшириться.

Не обов'язково бути технологом, щоб мати в цьому свою частку. За публічними випробуваннями, як це, зазвичай слідують перевірки, громадські консультації або парламентський контроль, і відгуки громадськості в ці періоди справді визначають, чи будуть запроваджені заходи нагляду. Розуміння того, що сканується, хто перебуває в списку сповіщень і як довго зберігаються дані, — це обґрунтовані запитання для будь-якої спільноти, яка вперше стикається з такою технологією.

Ключові висновки

  • Розпізнавання облич у реальному часі відрізняється від постфактумного зіставлення: воно позначає людей у моменті, коли вони проходять повз камери спостереження, підвищуючи ставки будь-якої помилки.
  • Хибні спрацювання та алгоритмічна упередженість залишаються реальними ризиками, навіть у випробуваннях, які подаються як вузькі та контрольовані.
  • Розширення функцій, поступове розширення початкової мети інструменту, — це занепокоєння, за яким експерти стежать найпильніше.
  • Управління даними має таке ж значення, як і точність. База даних розпізнавання облич — це ще одне сховище чутливих особистих даних, яке потребує надійної безпеки та нагляду.
  • Громадський контроль під час випробувальних фаз — це одне з небагатьох вікон, коли внесок спільноти може вплинути на те, як — і чи — ця технологія стане постійною.

У міру того як поліція Західної Австралії розширює та оцінює це випробування, розмова про розпізнавання облич у реальному часі лише голоснішатиме. Бути поінформованим про те, як ці системи розгортаються, та ставити запитання про нагляд і захист даних — це найбільш практичний спосіб для громадськості вплинути на те, куди ця технологія рухатиметься далі.