Испытание системы распознавания лиц в реальном времени, о котором большинство жителей так и не узнали

То, что называют первым в Австралии случаем, полиция Западной Австралии начиная с июня незаметно развернула в Перте и Фримантле камеры распознавания лиц в реальном времени на базе искусственного интеллекта. За одну неделю испытаний система отсканировала более 130 000 лиц, сформировала 33 предупреждения и привела к 18 арестам. Полиция также заявила, что технология помогла выявить 21 зарегистрированного сексуального преступника в этом районе и установить с ними контакт.

Масштаб сканирования примечателен сам по себе, но наибольшее внимание привлекло то, как это происходило: жителям, проходившим по этим улицам, не сообщали, что их сканируют. Не было ни информационных табличек, ни периода общественных консультаций, ни четкого механизма отказа. Многие австралийцы впервые узнали о программе из новостей уже постфактум, а не из уведомлений полиции или местных властей.

Почему отсутствие уведомления имеет значение

Системы распознавания лиц работают, снимая изображения людей в общественных местах и сравнивая их с базой данных, часто в режиме реального времени. Когда этот процесс идет без публичного уведомления, люди теряют возможность осознанно решать, куда им ходить, с кем их могут увидеть и как их передвижения могут регистрироваться и перекрестно сопоставляться. Защитники приватности и эксперты в области права указывают, что это подрывает базовый принцип надзора за слежкой: люди, как правило, должны знать, когда и как за ними ведется наблюдение, особенно со стороны государственных органов.

Испытания также дали как минимум одно подтвержденное ложное опознание — напоминание о том, что даже сложные ИИ-системы могут ошибаться в идентификации людей, порой с последствиями от неудобных до серьезных. Риски ложного опознания к тому же распределены неравномерно: инструменты распознавания лиц имеют хорошо задокументированную историю более высоких показателей ошибок для определенных демографических групп, что вызывает вопросы не только о приватности, но и о равенстве.

Полиция Западной Австралии представила результаты как успех с точки зрения общественной безопасности: аресты, выявленные правонарушители, сформированные предупреждения. Однако защитники приватности утверждают, что для подлинной оценки затрат и выгод необходима прозрачность правил испытаний: как долго хранятся видеозаписи и данные совпадений, кто имеет к ним доступ, передаются ли они другим ведомствам и что происходит с биометрическими данными десятков тысяч людей, которых отсканировали, но которые не имели отношения ни к какому расследованию.

Более широкий тренд сбора биометрических данных

Это испытание не существует в вакууме. Правительства и частные компании по всему миру все чаще обращаются к биометрической проверке — будь то распознавание лиц для полиции, биометрический контроль в аэропортах или системы проверки возраста, которые сканируют лица, чтобы оценить возраст пользователя, прежде чем предоставить доступ к определенному контенту или услугам. Каждая из этих систем поднимает один и тот же ключевой вопрос: сколько биометрических данных позволено собирать отдельно взятой системе и как долго их следует хранить? Читатели, которым интересно, как эти компромиссы проявляются в другом, но смежном контексте, могут посмотреть, как законы о проверке возраста по всему миру уже вызывают аналогичные споры о биометрическом сканировании, хранении данных и согласии, часто при гораздо меньшей осведомленности общества, чем можно было бы предположить исходя из масштабов технологии.

Испытание полиции Западной Австралии — полезный пример именно потому, что показывает, что происходит, когда биометрическое наблюдение переходит из политических дискуссий в реальное применение. Во многих случаях технология работала как задумано, но отсутствие четкого публичного уведомления, независимого аудиторского следа и формальных механизмов отказа показывает, насколько быстро возможности могут опережать надзор.

Что это значит для вас

Если вы живете в Перте или Фримантле или приезжаете туда, возможно, вас уже отсканировали без вашего ведома, и та же практика может распространиться на другие города, поскольку аналогичные пилотные программы рассматриваются и в других местах. Даже за пределами Австралии этот случай — предвестие того, куда движутся испытания распознавания лиц с ИИ в общественных местах: тихие запуски, оправданные статистикой безопасности, а меры защиты приватности нередко добавляются постфактум, а не закладываются изначально.

Как правило, вы не можете отказаться от работающей в реальном времени системы распознавания лиц в общественном месте, если она уже действует в вашем районе, — именно поэтому прозрачность и общественное обсуждение так важны до запуска таких систем, а не после.

Практические выводы

  • Проверьте, публиковала ли ваша местная полиция или городской совет информацию о текущих или планируемых испытаниях распознавания лиц, и ищите возможность общественного отклика или консультаций.
  • Поддерживайте требования четкой политики хранения и удаления данных во всех случаях, когда для общественных пространств предлагаются распознавание лиц или другие биометрические инструменты.
  • Добивайтесь независимого аудита точности и предвзятости любой системы ИИ-наблюдения до того, как она будет расширена за пределы пилотного этапа.
  • Следите за тем, как биометрические данные, собранные для одной цели, например для полицейской работы, могут впоследствии передаваться другим ведомствам или частным компаниям.

Разговоры вокруг испытаний распознавания лиц с ИИ будут становиться только громче по мере того, как все больше городов тестирует подобные системы. Оставаться информированным о том, как разворачиваются такие программы, и требовать прозрачности там, где ее нет, — один из самых практичных способов, с помощью которых общество может влиять на то, как эта технология будет использоваться в дальнейшем.