Zenity descoperă vulnerabilități zero-click în Claude, ChatGPT Atlas

Hackingul AI zero-click pentru browsere lovește Claude și ChatGPT Atlas

Cercetătorii de securitate de la Zenity au dezvăluit două tehnici de hacking AI pentru browsere, de tip zero-click, capabile să deturneze extensia Chrome a lui Anthropic, Claude, și browserul ChatGPT Atlas de la OpenAI. Spre deosebire de atacurile de phishing tradiționale, care necesită ca utilizatorul să dea clic pe un link malițios sau să deschidă un atașament, aceste metode ar funcționa pur și simplu dacă agentul AI citește un e-mail sau o postare pe X special concepute, fără a fi nevoie de nicio interacțiune din partea utilizatorului, dincolo de faptul că AI-ul face ceea ce a fost proiectat să facă: navighează conținut în numele tău.

Această distincție contează. Hackingul AI zero-click pentru browsere mută suprafața de atac de la utilizatorul uman către agentul AI însuși. Dacă un asistent primește permisiunea de a-ți citi inboxul, de a rezuma pagini web sau de a întreprinde acțiuni într-o sesiune de browser, orice conținut pe care îl întâlnește devine un potențial mecanism de livrare pentru instrucțiuni ascunse. Cercetarea Zenity, așa cum a relatat SecurityWeek, arată că atât Claude în Chrome, cât și ChatGPT Atlas au fost vulnerabile la acest tip de manipulare.

Cum ar funcționa atacurile

Extensiile de browser AI și browserele agentice precum Atlas sunt concepute să citească, să interpreteze și să acționeze pe baza conținutului de pe web, inclusiv e-mailuri, postări pe rețele sociale și text încorporat în pagini. Această funcționalitate este întregul argument de vânzare al acestor instrumente. Dar înseamnă, de asemenea, că AI-ul nu poate distinge întotdeauna între o instrucțiune legitimă din partea utilizatorului său și o instrucțiune ascunsă îngropată într-o pagină web, în corpul unui e-mail sau într-o postare din rețelele sociale pe care o procesează.

Această clasă de vulnerabilitate este adesea numită injecție de prompturi. Un atacator creează conținut care pare inofensiv pentru un cititor uman, dar conține text special conceput pentru a fi interpretat ca o comandă de către modelul AI. Când browserul sau extensia AI procesează acel conținut ca parte a unei sarcini de rutină (rezumarea unui fir de e-mail, verificarea unui site web, navigarea unei cronologii), poate fi păcălit să execute instrucțiuni pe care utilizatorul nu le-a aprobat niciodată.

Potrivit relatării, descoperirile Zenity merg dincolo de doar două bug-uri izolate. Compania a examinat un set mai larg de slăbiciuni în browserele AI, iar munca sa se adaugă unui corp tot mai mare de cercetări care arată că instrumentele de navigare agentică, încă noi pe piață, sunt analizate pentru lacune de securitate înainte ca apărarea lor să se maturizeze pe deplin. Acest lucru reflectă un tipar întâlnit în altă parte în securitatea software, unde defectele zero-day din platforme de încredere sunt exploatate înainte ca patch-urile să recupereze decalajul, așa cum s-a văzut în cazuri precum hackeri sponsorizați de statul rus care exploatează un zero-day Zimbra pentru a viza conturi de e-mail legate de NATO.

De ce contează acest lucru pentru confidențialitate

Asistenții de browser AI sunt comercializați ca instrumente de productivitate: îți citesc e-mailurile, îți rezumă filele și pot chiar să întreprindă acțiuni precum completarea formularelor sau navigarea pe site-uri în locul tău. Acest nivel de acces este exact ceea ce face hackingul AI zero-click pentru browsere atât de îngrijorător din punctul de vedere al confidențialității. Dacă un atacator poate deturna procesul decizional al AI-ului prin conținutul pe care acesta îl întâlnește pur și simplu, el poate obține un punct de sprijin în tot ceea ce AI-ul are permisiunea să vadă sau să facă, fără a fi nevoie vreodată ca victima să dea clic pe ceva.

Acesta este un model de amenințare fundamental diferit de atacurile de furt de credențiale sau de livrare de malware cu care majoritatea oamenilor sunt obișnuiți să se protejeze. Nu se bazează pe păcălirea unei persoane; se bazează pe păcălirea software-ului care acționează în numele acelei persoane. Dinamici similare s-au manifestat și în alte contexte în care software-ul local de încredere devine o țintă, cum ar fi atunci când un instrument legitim de securitate bancară coreeană a fost transformat într-un vector de atac printr-o exploatare zero-day. Firul comun: instrumentele concepute pentru a ajuta utilizatorii pot fi reutilizate de atacatori atunci când limitele lor de încredere nu sunt etanșe.

Ce înseamnă acest lucru pentru tine

Dacă folosești extensii de browser AI sau instrumente de navigare agentică precum Claude în Chrome sau ChatGPT Atlas, această dezvăluire este un memento să te gândești cu atenție la ce permisiuni le acorzi. Aceste instrumente sunt puternice tocmai pentru că pot citi și acționa asupra conținutului în mod automat, dar aceeași automatizare elimină un strat de judecată umană care servea drept verificare naturală împotriva manipulării.

Pentru moment, răspunsul practic este prudența, nu panica. Limitează sfera de acces pe care o oferi agenților de browser AI, în special pentru conturi sensibile precum e-mailul sau platformele financiare. Menține aceste extensii și browsere la zi, deoarece vânzătorii aplică, de obicei, patch-uri pentru vulnerabilitățile dezvăluite după ce cercetătorii le raportează în mod responsabil. Și fii conștient că conținutul de la expeditori sau conturi necunoscute, chiar dacă pare un text obișnuit, ar putea fi conceput pentru ochii unui AI, mai degrabă decât pentru ai tăi.

Idei principale

• Hackingul AI zero-click pentru browsere permite atacatorilor să deturneze agenți AI precum Claude în Chrome și ChatGPT Atlas fără niciun clic din partea utilizatorului, pur și simplu prin e-mailuri sau postări pe rețele sociale special concepute.
• Tehnica exploatează modul în care agenții AI procesează și acționează asupra conținutului, o clasă de vulnerabilitate cunoscută sub numele de injecție de prompturi.
• Revizuiește și limitează ce permisiuni acorzi asistenților de browser AI, în special în ceea ce privește accesul la e-mail și la conturi.
• Menține instrumentele de browser AI actualizate și urmărește patch-urile de securitate lansate de vânzători după această dezvăluire.
• Tratează agenții AI ca pe o altă parte a suprafeței tale de atac, nu doar ca pe o funcție de confort, atunci când îți evaluezi poziția de confidențialitate personală sau organizațională.