Новый комментарий на Security Boulevard ставит вопрос, на который суды и законодатели едва начали отвечать: если ИИ читает все электронные письма, но ни один человек их не видит, считается ли это государственной слежкой? В материале утверждается, что ИИ может усилить защиту по Четвертой поправке — или сделать массовую слежку дешевле, чем когда-либо. Его главный тезис короток и точен: Конституции нужны правила и для машин.

Этот пост — разъяснение Четвертой поправки в контексте ИИ-слежки для неюристов. В нем рассказывается, что означает этот вопрос, что поправка делает и чего не делает, и какие инструменты помогают на практике.

Четвертая поправка и ИИ-слежка: считается ли чтение только машиной?

Центральная загадка комментария — слово «увидел». Традиционное мышление о приватности часто исходит из того, что момент вторжения наступает, когда сообщение читает человек. Если программное обеспечение сканирует сообщение, ничего не помечает и удаляет его, некоторые утверждают, что приватность никого не была нарушена, поскольку ни один человек ничего не узнал.

Контраргумент состоит в том, что само сканирование и есть вторжение. Система, обрабатывающая содержание всех коммуникаций, в реальном смысле их прочитала, даже если результат — всего лишь оценка или отметка. Комментарий представляет это как открытый, а не решенный вопрос, и это честная позиция. Нам неизвестно правило в исходном материале, которое разрешает его.

Ставки касаются не только того, что видит машина. Они касаются и того, что происходит потом: что помечается, кто это проверяет, как долго хранятся данные и становится ли отметка основанием для дальнейшего расследования.

Что Четвертая поправка охватывает в цифровых коммуникациях

Четвертая поправка защищает людей от необоснованных обысков и изъятий. Согласно обзору Cornell Law School, она лежит в основе законодательства об ордерах на обыск, прослушивании и других формах государственного вторжения. Простыми словами, она ограничивает то, что может делать государство, и обычно подталкивает должностных лиц к получению ордера на основании причин.

Есть важные ограничения, которые стоит понимать:

  • Она сдерживает государство, а не компании. Поправка применяется к действиям государства. Частный поставщик электронной почты, сканирующий сообщения в соответствии со своими собственными условиями обслуживания, — это иная правовая ситуация, чем то же самое со стороны государственного органа.
  • Данные, хранящиеся у третьих лиц, — серая зона. Суды долго бились над тем, на какую приватность можно рассчитывать в информации, которую вы передаете поставщику услуг. Электронная почта и облачное хранилище находятся прямо в центре этого спора.
  • Машины не были в мыслях у составителей. Текст говорит об обысках и изъятиях, и применение его к автоматизированным системам, анализирующим данные в масштабе, требует толкования.

Смысл комментария в том, что эти доктрины строились вокруг людей-следователей с ограниченным временем и бюджетами. Выдержат ли они, когда чтением занимается программное обеспечение, — нерешенная часть.

Почему ИИ делает массовое сканирование дешевле и проще

Слежка исторически была ограничена стоимостью. Чтение сообщений требовало людей, а люди дороги. Это трение служило неформальной защитой приватности, поскольку следователям приходилось выбирать цели.

ИИ меняет это уравнение. Система, способная читать и интерпретировать текст, в принципе может делать это в отношении огромных объемов коммуникации за долю стоимости человеческой проверки. Это та половина предупреждения комментария, которая говорит о «дешевле, чем когда-либо».

Другая половина — обнадеживающая: те же инструменты можно построить так, чтобы минимизировать доступ людей к личным данным или автоматически обеспечивать соблюдение правовых ограничений, например отфильтровывая все, что выходит за рамки ордера. Технология не решает, какой из результатов мы получим. Это решают правила, надзор и проектные решения.

Мы видели, как инструменты ИИ, интерпретирующие личные данные, порождают собственные проблемы. Наш материал о функции Codex Chronicle от OpenAI, которая захватывает и интерпретирует недавнее содержимое экрана, — конкретный пример ИИ, работающего с тем, что отображается на вашем дисплее. Это инструмент частного сектора, а не государственная слежка, но он показывает, как легко ИИ может интерпретировать личную информацию. Более широкая тенденция автоматизации ИИ работы, которая когда-то требовала людей, заметна и в сфере безопасности, как в нашем отчете о автономном ИИ-вымогателе.

Что это значит для вас: шифрование, ограничения VPN и отчеты о прозрачности

Вы не можете переписать конституционную доктрину со своего телефона, но можете сократить объем читаемого содержимого, доступного для сканирования.

Используйте сквозное шифрование в мессенджерах. При сквозном шифровании ключи есть только у вас и получателя. Поставщик услуг передает сообщение, но не может его прочитать, а значит, ему нечего сканировать на своих серверах или передавать в читаемом виде. Это самая сильная повседневная защита от машинного чтения содержания сообщений. Она не защищает от того, у кого есть доступ к вашему устройству или к устройству другого человека.

Понимайте, чего VPN не делает. VPN шифрует соединение между вашим устройством и VPN-сервером и скрывает ваш IP-адрес от сайтов, которые вы посещаете. Он не скрывает содержание вашей электронной почты от вашего поставщика почтовых услуг и не скрывает ваши файлы от компании облачного хранения. Если вы входите в стандартный почтовый аккаунт, поставщик по-прежнему видит ваши сообщения. VPN полезен для сетевой приватности, но он не щит от сканирования содержимого сервисами, которыми вы пользуетесь.

Проверяйте отчеты о прозрачности. Многие поставщики публикуют отчеты о государственных запросах на данные. Их чтение показывает, как часто компания получает запросы и как она на них отвечает. Поставщик, который ничего не публикует, дает вам меньше оснований для оценки.

Проверяйте, чем вы делитесь с инструментами ИИ. Функции, которые читают ваш экран, входящие сообщения или документы, могут быть удобны, но они расширяют то, что может видеть сервис. Проверьте настройки и политику хранения данных, прежде чем включать их.

Ключевые выводы

  • Вопрос о том, считается ли чтение только машиной слежкой, остается открытым, и в комментарии утверждается, что нужны четкие правила для машин.
  • Четвертая поправка сдерживает действия государства, и ее применение к автоматизированному крупномасштабному анализу все еще прорабатывается.
  • ИИ снижает стоимость сканирования коммуникаций, что устраняет традиционный практический барьер для массовой слежки.
  • Сквозное шифрование в мессенджерах ограничивает то, что могут читать поставщики. VPN не скрывает содержание сообщений от вашего поставщика электронной почты или облачного сервиса.
  • Проверяйте отчеты о прозрачности и настройки любого инструмента ИИ, который может видеть ваши личные данные.

Спор о Четвертой поправке и ИИ-слежке, вероятно, будет разворачиваться в судах и законодательных органах годами. А пока выбирайте зашифрованные мессенджеры для конфиденциальных разговоров, сохраняйте реалистичные ожидания относительно того, что покрывает VPN, и читайте отчеты о прозрачности ваших поставщиков, прежде чем доверять им свои данные.