Випробування живого розпізнавання облич, про яке більшість мешканців навіть не знали

Як повідомляється, вперше в Австралії поліція Західної Австралії непомітно розгорнула в Перті та Фрімантлі камери живого розпізнавання облич зі штучним інтелектом, починаючи з червня. Лише за один тиждень випробування система відсканувала понад 130 000 облич, згенерувала 33 сповіщення та призвела до 18 арештів. Поліція також заявила, що технологія допомогла ідентифікувати 21 зареєстрованого сексуального злочинця в цьому районі та встановити з ними контакт.

Масштаб сканування сам по собі примітний, але найбільшу увагу привернуло те, як воно відбувалося: мешканцям, які проходили цими вулицями, не повідомляли, що їх сканують. Не було ані інформаційних табличок, ані періоду громадських консультацій, ані чіткого механізму відмови. Для багатьох австралійців першою звісткою про програму стали новини постфактум, а не повідомлення від поліції чи місцевої влади.

Чому відсутність повідомлення має значення

Системи розпізнавання облич працюють, знімаючи зображення людей у публічних місцях і порівнюючи їх із базою даних, часто в реальному часі. Коли цей процес відбувається без публічного повідомлення, люди втрачають можливість свідомо вирішувати, куди їм ходити, з ким їх бачать і як їхні пересування можуть бути зафіксовані та перехресно зіставлені. Захисники приватності та правники наголошують, що це підриває базовий принцип нагляду за засобами стеження: люди загалом мають знати, коли і як за ними ведеться спостереження, особливо з боку державних органів.

Випробування також дало щонайменше один підтверджений випадок хибної ідентифікації — нагадування, що навіть складні ШІ-системи можуть помилково впізнавати людей, іноді з наслідками від незручних до серйозних. Ризики хибної ідентифікації також розподілені нерівномірно: інструменти розпізнавання облич мають добре задокументовану історію вищих показників помилок для певних демографічних груп, що порушує питання рівності поряд із питаннями приватності.

Поліція Західної Австралії представила результати як перемоги у сфері громадської безпеки: здійснені арешти, ідентифіковані правопорушники та згенеровані сповіщення. Але правозахисники у сфері приватності стверджують, що справжня оцінка витрат і вигод вимагає прозорості щодо правил випробування: як довго зберігаються відеозаписи та дані про збіги, хто має до них доступ, чи передаються вони іншим відомствам і що відбувається з біометричними даними десятків тисяч людей, яких просканували, але які не мали жодного стосунку до розслідування.

Ширша тенденція збору біометричних даних

Це випробування не існує ізольовано. Уряди та приватні компанії в усьому світі дедалі частіше звертаються до біометричної верифікації — чи то розпізнавання облич для правоохоронних цілей, чи біометричні перевірки в аеропортах, чи системи перевірки віку, які сканують обличчя, щоб оцінити вік користувача, перш ніж надати доступ до певного контенту чи послуг. Кожна з цих систем порушує схоже ключове питання: скільки біометричних даних має бути дозволено збирати одній системі та як довго їх слід зберігати? Читачі, які хочуть дізнатися, як ці компроміси проявляються в іншому, але пов’язаному контексті, можуть поглянути на те, як закони про перевірку віку в усьому світі вже змушують вести подібні дискусії про біометричне сканування, зберігання даних і згоду, часто з набагато меншою обізнаністю громадськості, ніж передбачає масштаб технології.

Випробування поліції Західної Австралії є корисним прикладом саме тому, що воно показує, що відбувається, коли біометричне спостереження переходить від політичних дебатів до реального впровадження. Технологія в багатьох випадках працювала, як задумано, але відсутність чіткого публічного повідомлення, незалежного аудиторського сліду чи формальних можливостей відмови показує, як швидко можливості можуть випереджати контроль.

Що це означає для вас

Якщо ви живете в Перті чи Фрімантлі або відвідуєте їх, вас, можливо, вже просканували без вашого відома, і та сама динаміка може поширитися на інші міста, оскільки подібні пілотні програми розглядають в інших місцях. Навіть за межами Австралії цей випадок є передвісником того, куди рухаються випробування ШІ-розпізнавання облич у публічному просторі: тихі запуски, виправдані статистикою безпеки, із запобіжниками приватності, які часто додають постфактум, а не вбудовують із самого початку.

Зазвичай ви не можете відмовитися від живої системи розпізнавання облич у публічному місці, коли вона вже активна у вашому районі, і саме тому прозорість і публічне обговорення настільки важливі до запуску таких систем, а не після.

Практичні висновки

  • Перевірте, чи ваша місцева поліція або міська рада опублікували інформацію про будь-які випробування розпізнавання облич — поточні чи заплановані — та пошукайте процес громадського зворотного зв’язку чи консультацій.
  • Підтримуйте вимоги щодо чіткої політики зберігання та видалення даних щоразу, коли для публічних місць пропонують розпізнавання облич або інші біометричні інструменти.
  • Наполягайте на незалежному аудиті точності та упередженості будь-якої системи ШІ-спостереження ще до її розширення за межі пілотного етапу.
  • Слідкуйте за тим, як біометричні дані, зібрані для однієї мети, наприклад для правоохоронних цілей, можуть згодом передаватися іншим відомствам або приватним компаніям.

Дискусія навколо випробувань ШІ-розпізнавання облич лише посилюватиметься, оскільки дедалі більше міст тестуватимуть подібні системи. Залишатися поінформованими про те, як розгортаються ці програми, і вимагати прозорості, коли її бракує, — один із найпрактичніших способів, у який громадськість може впливати на подальше використання цієї технології.