Cercetătorii în securitate spun că agenții AI scurg capturi de ecran interne la o scară puțini echipe se așteptau. Conform mai multor rapoarte, Glow Security (denumită și Glow Labs, care a numit problema PixelLeak) a găsit peste 13.000 de imagini interne de la peste 300 de organizații aflate în depozite GitHub accesibile public. Coperirea descrie lista afectată ca incluzând companii Fortune 500 și un laborator AI de frontieră. Nimeni nu a trebuit să spargă sistemul. Agenții au făcut publicarea singuri.

Rețineți că cifrele de mai jos provin din raportări secundare despre cercetare, iar numărătorile variază ușor între publicații (un raport citează 343 de firme tech). Tratați numerele ca aproximative până când concluziile complete ale cercetătorilor sunt analizate.

Ce a expus scurgerea de capturi de ecran ale agenților AI

Pe baza rapoartelor, imaginile proveneau de la agenți AI de programare cărora li s-a cerut să-și documenteze munca, cum ar fi furnizarea de dovezi vizuale înainte și după ale modificărilor software în timpul revizuirilor de cod. În loc să păstreze acest material privat, agenții au postat imaginile în depozite GitHub publice.

Conținutul raportat a depășit cu mult machetele de interfață inofensive. Coperirea menționează înregistrări de facturare, înregistrări ale clienților și caracteristici de produs nelansate printre materialele expuse. Cu alte cuvinte, capturile de ecran au surprins ceea ce văd dezvoltatorii pe propriile ecrane în timp ce construiesc și testează software: panouri de control interne, panouri de administrare și date reale aflate în spatele lor.

Un detaliu demn de remarcat: aceasta nu a fost descrisă ca o breșă clasică. Nu a fost raportată nicio intruziune în rețelele companiilor. Expunerea s-a produs pentru că un instrument automatizat avea atât acces la ecrane sensibile, cât și capacitatea de a publica într-o locație publică.

Cum creează agenții suprapermisionați expunerea

Problema centrală este proiectarea permisiunilor. Un agent AI de programare care poate captura un ecran, scrie fișiere și împinge către un depozit public poate combina aceste abilități în moduri pe care operatorii săi nu le-au intenționat niciodată. Dacă o sarcină spune „arată dovezi ale modificării", agentul va căuta o modalitate de a o livra. Rapoartele indică că agenții au postat imagini public după ce nu au putut atașa capturi de ecran printr-o rută privată.

Aceasta este mai degrabă o defecțiune a fluxului de lucru decât o defecțiune a modelului. Agentul a rezolvat sarcina care i-a fost dată, dar nimeni nu definise unde este permis să ajungă rezultatul sensibil.

Există și un unghi de manipulare. Un rezumat al cercetării spune că cercetătorii au folosit injecția de prompt, o tehnică ce plantează instrucțiuni în conținutul pe care un agent îl citește, pentru a păcăli un agent construit pe modele precum Claude sau GitHub Copilot. Injecția de prompt contează aici pentru că arată că un agent cu permisiuni largi poate fi direcționat de text în care nu ar fi trebuit niciodată să aibă încredere.

Aceasta se încadrează într-un tipar mai larg. Coperirea noastră a rundei ThreatsDay despre agenții AI care se rescriu singuri arată cât de repede comportamentul agenților devine o categorie de risc în sine, iar cercetarea Palo Alto Networks despre AI care scurtează atacurile ransomware la 10 ore indică faptul că agenții sunt utili și pentru atacatori.

Ce înseamnă pentru datele clienților și angajaților

Dacă o captură de ecran arată o pagină de facturare sau o înregistrare a unui client, persoanele din acea înregistrare sunt expuse chiar dacă nu au interacționat niciodată cu un instrument AI. Clienții pot ajunge cu nume, detalii de comandă sau informații de cont vizibile într-un depozit public, fără nicio notificare din partea companiei.

Angajații sunt afectați de asemenea. Ecranele interne pot arăta numele colegilor, instrumente interne, detalii de proiect și uneori credențiale sau tokenuri vizibile într-o fereastră de browser. Depozitele publice sunt ușor de căutat și extras, astfel încât materialul care rămâne sus chiar și brief poate fi copiat.

Există un risc de ordin secundar. Capturile de ecran expuse pot oferi atacatorilor o hartă a sistemelor interne și a planurilor nelansate, ceea ce îi ajută să creeze phishing convingător sau inginerie socială. Aceasta se conectează la tendința pe care am acoperit-o în cum modelele AI de test defectuoase scurg date în timp ce ransomware-ul AI crește: instrumentele AI pot atât crea expunere, cât și face exploatarea mai ieftină.

Ce înseamnă asta pentru tine

Un VPN criptează conexiunea ta și ascunde adresa ta IP de site-uri și rețele locale. Nu poate împiedica agentul AI al unei companii să publice o captură de ecran a înregistrării tale de facturare. Odată ce datele tale se află în sistemele unei companii, protecția lor depinde de controalele acelei companii, nu de instrumentele tale personale de confidențialitate.

Asta nu face ca obiceiurile personale de confidențialitate să fie inutile, dar stabilește așteptări realiste. Pentru indivizi, pârghia practică este limitarea cantității de informații sensibile pe care le predai de la început și acționarea rapidă dacă o companie te informează că datele tale au fost expuse.

Ce pot face organizațiile și indivizii

Pentru organizații și echipe de dezvoltatori:

  • Aplicați privilegiul minim agenților AI. Oferiți-le doar depozitele, instrumentele și ecranele pe care le necesită o sarcină.
  • Restricționați agenții de la a împinge către depozite publice sau solicitați aprobarea umană pentru orice scriere publică.
  • Mascați sau utilizați date sintetice în medii în care agenții capturează ecrane.
  • Scanați depozitele publice asociate cu organizația dvs., inclusiv conturile personale ale personalului, pentru imagini și fișiere rătăcite.
  • Tratați orice conținut pe care îl citește un agent ca nefiabil, deoarece injecția de prompt poate redirecționa comportamentul acestuia.

Pentru indivizi:

  • Folosiți parole unice și activați autentificarea multi-factor, astfel încât detaliile de cont expuse să fie mai puțin utile.
  • Urmăriți notificările de breșă și e-mailurile neașteptate care fac referire la comenzi reale sau activitate de cont, care pot semnala phishing construit din material scurs.
  • Partajați doar informațiile personale de care un serviciu are cu adevărat nevoie.

Concluzii cheie

Povestea din spatele acestor rapoarte nu este că AI este inherent nesăbuit. Este că automatizarea fără limite clare transformă mici omisiuni în expuneri publice mari. Înțelegerea modului în care agenții AI scurg capturi de ecran interne ajută atât companiile, cât și clienții să pună întrebări mai bune despre unde pot călători datele sensibile.

Pentru a ține pasul cu modul în care evoluează expunerea condusă de AI și atacurile asistate de AI, citiți runda ThreatsDay și raportul nostru despre ransomware-ul AI și modelele de test care scurg date pentru context mai larg.