Сообщения о том, что армия Израиля загрузила миллионы изображений палестинцев в Amazon Web Services (AWS), поставили Amazon под пристальное внимание. Центральный вопрос — много ли значат гарантии Amazon в области распознавания лиц, которые продвигает AWS, когда данные контролирует государственный заказчик. Ответ важен далеко за пределами этого конкретного случая, поскольку он говорит о том, насколько вообще кто-либо контролирует изображения, хранящиеся в облачной инфраструктуре крупных технологических компаний.

Этот материал придерживается того, что было сообщено. Исходная публикация, опубликованная Biometric Update, кратка, и многие детали нам недоступны, поэтому мы избегаем догадок о конкретных подробностях.

Что сообщения говорят о загрузке изображений в AWS

Согласно публикации, армия Израиля загрузила миллионы изображений палестинцев в AWS. В материале это подаётся как повод усомниться в гарантиях Amazon в области распознавания лиц, то есть в политиках и технических ограничениях, которые, по словам компании, регулируют использование её биометрических инструментов.

В исходном резюме не уточняется, как собирались изображения, как они обрабатывались и что Amazon ответила. Мы не будем заполнять эти пробелы предположениями. Ясно одно — пристальное внимание: крупного облачного провайдера спрашивают, работают ли его заявленные защиты на практике, когда данные держит государственный заказчик.

Где гарантии Amazon в области распознавания лиц оказываются недостаточными

Гарантии в облачных компаниях обычно принимают форму политик допустимого использования, условий контрактов и ограничений на уровне продуктов. Это обещания о том, как заказчики должны себя вести. Они не то же самое, что технические средства контроля, делающие злоупотребление невозможным.

Это различие — суть спора. Политика может гласить, что инструмент нельзя использовать для определённых видов слежки, но правоприменение зависит от того, знает ли провайдер, что заказчик делает с хранимыми данными. Облачные провайдеры обычно размещают контент от имени заказчиков, и государственное ведомство, управляющее собственными системами, может ограничить видимость провайдера. Применимо ли это здесь — вопрос, который сообщения ставят, а не решают.

Есть также история обеспокоенности по поводу продуктов Amazon для сопоставления лиц. Иск жителя Миссури о ложном аресте, освещённый в нашей статье о том, как на Amazon Rekognition подали в суд из-за ложного ареста жителя Миссури, показывает, как ошибки распознавания лиц могут обернуться реальным вредом для людей.

Почему биометрическими данными в облаке трудно управлять

Биометрические данные отличаются от пароля. Вы не можете изменить своё лицо, если база данных использована неправомерно или раскрыта. Как только изображения загружены на крупную облачную платформу, несколько вещей становятся сложными:

  • Расползание целей: данные, собранные по одной причине, позже можно повторно проанализировать для другой, и людям на изображениях об этом редко сообщают.
  • Масштаб: миллионы изображений можно просматривать гораздо быстрее, чем любой человек смог бы их проверить.
  • Дистанция от субъекта: люди на фотографиях не являются заказчиком, поэтому у них нет ни контракта, ни панели управления, ни способа возразить.
  • Ограничения провайдера: компания, размещающая данные, может обещать гарантии, но заказчик решает, как данные используются изо дня в день.

Последний пункт — тот, на который эта история обращает внимание. Гарантии, написанные провайдером, имеют значение, только если они применяются к заказчику, в том числе к могущественному.

Что это значит для вас

Большинство читателей не находятся в положении людей, описанных в этих сообщениях, и обстоятельства очень разные. Тем не менее принцип применим широко: фотографии, которые вы храните онлайн, могут сканироваться, группироваться и сопоставляться системами, которые вы не контролируете. Ваши изображения на крупных платформах могут находиться на такой же облачной инфраструктуре, регулируемой политиками, которые вы не можете проверить.

Это не значит, что нужно паниковать. Это значит, что к данным о лице следует относиться как к чувствительным и ограничивать, сколько их существует в местах, которые вы не можете контролировать.

Как ограничить собственную подверженность риску с данными о лице

Несколько практических шагов снижают вашу подверженность риску:

  1. Проверьте настройки тегирования фотографий. Отключите автоматическое тегирование и подсказки по лицам в социальных сетях, где это возможно.
  2. Отключите группировку по лицам. Многие приложения для фото по умолчанию группируют изображения по лицам. Проверьте настройки и отключите эту функцию, если она вам не нужна.
  3. Проверьте облачное хранилище. Посмотрите, какие сервисы хранят ваши фотографии, удалите старые альбомы, которые вам больше не нужны, и проверьте, у кого есть доступ к общему содержимому.
  4. Рассмотрите хранилище со сквозным шифрованием. При таком типе хранилища провайдер не может прочитать ваши файлы, что ограничивает возможности автоматического анализа.
  5. Думайте перед публикацией. Публичные изображения легко собрать. Ужесточите настройки конфиденциальности и избегайте загрузки фотографий лиц в высоком разрешении, когда в этом нет необходимости.

Главное

Сообщения об изображениях израильских военных в AWS не дают нам всех ответов, но подчёркивают устойчивую проблему: гарантии Amazon в области распознавания лиц, которые предлагает AWS, сильны ровно настолько, насколько силён их контроль после того, как данные оказываются у заказчика. Вы не можете контролировать, что делают правительства или крупные заказчики с облачной инфраструктурой, но вы можете контролировать свои настройки фотографий и то, где хранятся ваши изображения. Начните с проверки тегирования, группировки по лицам и разрешений на хранение на этой неделе, а также прочитайте наш материал об иске о ложном аресте с Amazon Rekognition — конкретный пример того, что поставлено на карту, когда распознавание лиц даёт сбой.