Новата функция на OpenAI чете вашия екран, за да изгради AI памет
OpenAI пусна функция, наречена Chronicle, за своя AI асистент Codex, и начинът, по който тя работи, привлече вниманието на изследователи по сигурността. Chronicle улавя и интерпретира скорошната активност на екрана, използвайки това, което вижда, за да изгради контекст и памет за AI. Идеята е, че Codex става по-полезен с времето, като разбира върху какво сте работили. Последиците за поверителността обаче са достатъчно значими, за да накарат експертите да призовават потребителите да мислят внимателно, преди да я активират.
Основното безпокойство относно OpenAI Codex Chronicle е straightforward: вашият екран съдържа много повече от просто задачата, с която искате AI помощ. Той може да показва отворени документи, раздели в браузъра, имейл нишки, данни за вход, вътрешни бизнес данни или лична здравна информация. Когато даден инструмент е проектиран да чете и интерпретира всичко това, въпросът накъде отиват тези данни, колко дълго се съхраняват и кой има достъп до тях, става от критично значение.
Какво притеснява експертите по сигурността
Специалистите по сигурността изразиха няколко конкретни опасения относно функции като Chronicle, които включват непрекъснато или периодично заснемане на екрана.
Първо, стои въпросът за предаването на данни. За да може AI моделът да обработи това, което е на вашия екран, тези визуални данни обикновено трябва да бъдат изпратени до отдалечени сървъри. Дори при силно криптиране при пренос, данните попадат някъде извън вашето устройство. Това създава точки на излагане, които просто не съществуват, когато работата ви остава локална.
Второ, налице е проблемът с обхвата. Повечето потребители нямат точна представа за това, какво точно е видимо на екрана им във всеки даден момент. Прозорци на заден план, банери с известия, автоматично попълнени полета на формуляри и визуализации в лентата на задачите могат да разкрият чувствителна информация, без потребителят активно да мисли за това. Инструмент, който пасивно улавя състоянието на екрана, неизбежно ще събере данни, които потребителят никога не е възнамерявал да споделя.
Трето, налице е рискът от агрегиране. Отделните екранни снимки може да изглеждат безобидни поотделно, но поредица от заснемания на екрана в продължение на дни или седмици изгражда подробен профил на работните навици, проектите, комуникациите и евентуално личния живот на някого. Такъв тип агрегирани данни са далеч по-чувствителни от което и да е отделно изображение.
Какво означава това за вас
Ако използвате Codex или обмисляте да го направите, Chronicle си заслужава да бъде третиран с обмислено внимание, а не с пасивно приемане. Ето няколко практически момента, които трябва да имате предвид:
Разберете за какво се записвате. Преди да активирате която и да е AI функция за четене на екрана, прочетете внимателно политиката за поверителност. Търсете конкретно формулировки относно периодите на съхранение на данни, дали екранните снимки се използват за обучение на бъдещи модели и как изглежда достъпът на трети страни.
Помислете за мрежовата си поверителност. Когато данните от вашия екран пътуват до отдалечен сървър, те преминават през вашата мрежа. Използването на VPN криптира този трафик на мрежово ниво, което означава, че вашият интернет доставчик и всеки, който наблюдава локалната ви мрежа, не могат да видят какво се предава. Това е значим слой на защита, особено в споделени или публични мрежи.
Обърнете внимание на DNS течовете. Дори когато данните на ниво приложение са криптирани, DNS заявките могат да разкрият до кои услуги се свързвате. Използването на DNS резолвър, съобразен с поверителността, заедно с VPN, запълва тази празнина и предотвратява излагането на модели на сърфиране и използване на услуги на мрежово ниво.
Сегментирайте активността на екрана си. Ако изберете да използвате Chronicle, помислете да го използвате само в специално работно пространство или профил в браузъра, което не съдържа чувствителна информация. Отношението към AI инструментите като имащи видимост към всичко отворено на машината ви е практическа промяна в мисленето, която намалява непреднамереното излагане.
Проверете политиките на организацията. Ако работите за организация, AI инструментите за заснемане на екрана могат да нарушат споразуменията за обработка на данни, задълженията за конфиденциалност към клиентите или вътрешните политики за сигурност. Проверете, преди да активирате нещо, което чете екрана ви в професионален контекст.
Слоевете на поверителност все още имат значение при AI инструментите
Съществува широко разпространено предположение, че тъй като AI инструментите са усъвършенствани и се поддържат от големи компании, те са и присъщо безопасни от гледна точка на поверителността. Това предположение не издържа на внимателна проверка. Колкото по-способен става даден AI инструмент — особено такъв, който чете екрана ви, наблюдава активността ви или изгражда трайна памет — толкова по-важно става поддържането на независими контроли за поверителност.
VPN мрежите, криптираният DNS, локалните контроли на данни и обмисленото управление на разрешенията не са само инструменти за хора, притеснени от хакери. Те са практически мерки за всеки, който споделя чувствителни данни с която и да е отдалечена услуга, включително AI асистенти. Chronicle е добро напомняне, че повърхността за излагане на данни продължава да се разширява с нарастването на възможностите на тези инструменти.
Правилният отговор не е да избягвате изцяло AI инструментите, а да ги използвате със същата хигиена на поверителността, която бихте приложили към всяка услуга, която обработва лични или професионални данни. Прегледайте разрешенията, разберете потоците от данни и използвайте защити на мрежово ниво, за да поддържате контрол върху това, което напуска устройството ви и накъде отива.
