Новая функция OpenAI считывает ваш экран для формирования памяти ИИ

OpenAI выпустила функцию под названием Chronicle для своего ИИ-ассистента Codex, и принцип её работы привлёк внимание исследователей безопасности. Chronicle захватывает и интерпретирует недавнюю активность на экране, используя увиденное для формирования контекста и памяти ИИ. Идея состоит в том, что Codex становится более полезным со временем, понимая, над чем вы работали. Однако последствия для конфиденциальности достаточно серьёзны, и эксперты настоятельно рекомендуют пользователям тщательно взвесить всё перед тем, как включать эту функцию.

Основная проблема OpenAI Codex Chronicle проста: ваш экран содержит гораздо больше информации, чем просто та задача, с которой вы хотите получить помощь от ИИ. На нём могут быть открытые документы, вкладки браузера, переписка по электронной почте, учётные данные для входа, внутренние бизнес-данные или личная медицинская информация. Когда инструмент предназначен для считывания и интерпретации всего этого, принципиально важным становится вопрос о том, куда эти данные передаются, как долго они хранятся и кто имеет к ним доступ.

Чем обеспокоены эксперты по безопасности

Специалисты по безопасности высказали ряд конкретных опасений относительно таких функций, как Chronicle, предполагающих непрерывный или периодический захват экрана.

Во-первых, возникает вопрос передачи данных. Чтобы модель ИИ могла обработать то, что отображается на вашем экране, эти визуальные данные, как правило, необходимо отправить на удалённые серверы. Даже при надёжном шифровании при передаче данные оказываются где-то за пределами вашего устройства. Это создаёт точки уязвимости, которых попросту не существует, когда ваша работа остаётся локальной.

Во-вторых, существует проблема охвата. У большинства пользователей нет точного представления о том, что именно отображается на их экране в каждый конкретный момент. Фоновые окна, баннеры уведомлений, автозаполненные поля форм и превью на панели задач — всё это может содержать конфиденциальную информацию, о которой пользователь активно не задумывается. Инструмент, пассивно захватывающий состояние экрана, неизбежно будет собирать данные, которыми пользователь никогда не собирался делиться.

В-третьих, существует риск агрегирования. Отдельные снимки экрана могут казаться безобидными по отдельности, но последовательность захватов экрана на протяжении дней или недель формирует детальный профиль рабочих привычек, проектов, переписки и, возможно, личной жизни человека. Такого рода агрегированные данные значительно более чувствительны, чем любое отдельное изображение.

Что это означает для вас

Если вы используете Codex или рассматриваете такую возможность, Chronicle стоит воспринимать с осознанной осторожностью, а не пассивным принятием. Вот несколько практических моментов, которые стоит учесть:

Понимайте, на что вы соглашаетесь. Прежде чем включать какую-либо функцию ИИ, считывающую экран, внимательно прочитайте политику конфиденциальности. Обращайте особое внимание на формулировки о сроках хранения данных, на то, используются ли снимки экрана для обучения будущих моделей, и на то, как выглядит доступ третьих сторон.

Думайте о конфиденциальности в сети. Когда данные с вашего экрана передаются на удалённый сервер, они проходят через вашу сеть. Использование VPN шифрует этот трафик на сетевом уровне, что означает: ваш интернет-провайдер и все, кто отслеживает вашу локальную сеть, не смогут видеть, что именно передаётся. Это существенный уровень защиты, особенно в общих или публичных сетях.

Следите за утечками DNS. Даже когда данные на уровне приложения зашифрованы, DNS-запросы могут раскрыть, к каким сервисам вы подключаетесь. Использование DNS-резолвера, ориентированного на конфиденциальность, совместно с VPN устраняет эту уязвимость и не позволяет вашим паттернам использования браузера и сервисов раскрываться на сетевом уровне.

Разграничивайте активность на экране. Если вы решите использовать Chronicle, рассмотрите возможность работы с ним только в специально отведённом рабочем пространстве или профиле браузера, не содержащем конфиденциальной информации. Восприятие инструментов ИИ как имеющих доступ ко всему, что открыто на вашем компьютере, — это практическое изменение мышления, которое снижает риск непреднамеренного раскрытия данных.

Проверяйте корпоративные политики. Если вы работаете в организации, инструменты ИИ с захватом экрана могут нарушать соглашения об обработке данных, обязательства по конфиденциальности клиентов или внутренние политики безопасности. Проверьте это перед тем, как включать что-либо, считывающее ваш экран в профессиональном контексте.

Уровни защиты конфиденциальности по-прежнему важны при работе с инструментами ИИ

Существует распространённое предположение, что поскольку инструменты ИИ являются сложными и поддерживаются крупными компаниями, они также по своей природе безопасны с точки зрения конфиденциальности. Это предположение не выдерживает критики. Чем более способным становится инструмент ИИ — особенно тот, который считывает ваш экран, отслеживает вашу активность или формирует постоянную память, — тем важнее становится поддержание независимых средств защиты конфиденциальности.

VPN, зашифрованный DNS, локальный контроль данных и вдумчивое управление разрешениями — это не просто инструменты для людей, озабоченных хакерами. Это практические меры для всех, кто передаёт конфиденциальные данные любому удалённому сервису, включая ИИ-ассистентов. Chronicle является хорошим напоминанием о том, что поверхность для раскрытия данных продолжает расширяться по мере того, как эти инструменты становятся более мощными.

Правильная реакция — не отказываться от инструментов ИИ полностью, а использовать их с той же гигиеной конфиденциальности, которую вы применяли бы к любому сервису, обрабатывающему личные или профессиональные данные. Проверяйте разрешения, понимайте потоки данных и используйте средства защиты на сетевом уровне, чтобы сохранять контроль над тем, что покидает ваше устройство и куда направляется.