Nollaklikkaus tekoälyselaimen hakkerointi iskee Claudeen ja ChatGPT Atlakseen
Zenityn tietoturvatutkijat ovat paljastaneet kaksi nollaklikkaukseen perustuvaa tekoälyn selainhakkerointitekniikkaa, joilla voidaan kaapata Anthropicin Claude Chrome-laajennuksessa ja OpenAI:n ChatGPT Atlas -selaimessa. Toisin kuin perinteiset tietojenkalasteluhyökkäykset, jotka edellyttävät käyttäjää klikkaamaan haitallista linkkiä tai avaamaan liitetiedoston, nämä menetelmät toimivat kertoman mukaan pelkästään siten, että tekoälyagentti lukee muokatun sähköpostin tai X-julkaisun – käyttäjältä ei vaadita muuta vuorovaikutusta kuin se, mitä tekoäly tekee juuri sitä varten: selailee sisältöä puolestasi.
Tämä ero on merkittävä. Nollaklikkauksella tapahtuva tekoälyselaimen hakkerointi siirtää hyökkäyspinnan pois ihmiskäyttäjältä itse tekoälyagentille. Jos avustajalle on annettu lupa lukea sähköpostisi, tiivistää verkkosivuja tai suorittaa toimintoja selainistunnon sisällä, mikä tahansa sen kohtaama sisältö voi muuttua mahdolliseksi piilotettujen ohjeiden toimitustavaksi. Zenityn tutkimus, josta SecurityWeek uutisoi, osoittaa, että sekä Claude Chromessa että ChatGPT Atlas olivat alttiita tällaiselle manipuloinnille.
Kuinka hyökkäykset kertoman mukaan toimivat
Tekoälyselainlaajennukset ja agenttimaiset selaimet, kuten Atlas, on suunniteltu lukemaan, tulkitsemaan ja toimimaan verkon sisällön – kuten sähköpostien, somejulkaisujen ja upotetun sivutekstin – perusteella. Juuri tämä toiminnallisuus on näiden työkalujen koko myyntivaltti. Mutta se tarkoittaa myös, ettei tekoäly aina pysty erottamaan käyttäjän antamaa laillista ohjetta piilotetusta käskystä, joka on upotettu sen käsiteltävänä olevaan verkkosivuun, sähköpostiviestiin tai somejulkaisuun.
Tätä haavoittuvuusluokkaa kutsutaan usein kehoteinjektioksi. Hyökkääjä laatii sisältöä, joka näyttää ihmisen silmin harmittomalta, mutta sisältää tekstiä, joka on erityisesti suunniteltu tulkittavaksi tekoälymallin komennoksi. Kun tekoälyselain tai -laajennus käsittelee tuon sisällön osana rutiinitehtävää (sähköpostiketjun tiivistäminen, verkkosivuston tarkistaminen, aikajanan selaaminen), se voidaan huijata suorittamaan ohjeita, joita käyttäjä ei ole koskaan hyväksynyt.
Raportoinnin mukaan Zenityn löydökset ulottuvat kahta yksittäistä bugia laajemmalle. Yritys on tutkinut laajempaa joukkoa tekoälyselainten heikkouksia, ja sen työ täydentää kasvavaa tutkimuskokonaisuutta, joka osoittaa, että agenttimaisia selaintyökaluja – jotka ovat vielä markkinoilla uusia – tutkitaan tietoturva-aukkojen varalta ennen kuin niiden suojaukset ovat ehtineet kypsyä täysin. Tämä heijastelee kaavaa, joka on nähty muualla ohjelmistoturvallisuudessa, jossa luotettujen alustojen nollapäivähaavoittuvuuksia hyödynnetään ennen kuin korjaukset ehtivät perässä, kuten tapauksissa, joissa venäläiset valtiolliset hakkerit käyttivät Zimbra-nollapäivähaavoittuvuutta Natoon kytköksissä oleviin sähköpostitileihin.
Miksi tällä on merkitystä yksityisyydensuojan kannalta
Tekoälyselainavustajia markkinoidaan tuottavuustyökaluina: ne lukevat sähköpostisi, tiivistävät välilehtesi ja voivat jopa suorittaa toimintoja, kuten lomakkeiden täyttämistä tai sivustoilla navigointia puolestasi. Juuri tämä pääsyoikeustaso tekee nollaklikkauksella tapahtuvasta tekoälyselaimen hakkeroinnista niin huolestuttavaa yksityisyydensuojan näkökulmasta. Jos hyökkääjä pystyy kaappaamaan tekoälyn päätöksentekoprosessin pelkästään sen kohtaaman sisällön kautta, hän saa mahdollisen jalansijan kaikkeen siihen, mitä tekoälyllä on lupa nähdä tai tehdä, ilman että uhrin tarvitsee koskaan klikata mitään.
Tämä on perustavanlaatuisesti erilainen uhkamalli kuin tunnusten varastamiseen tai haittaohjelmien toimitukseen perustuvat hyökkäykset, joita vastaan useimmat ihmiset ovat tottuneet suojautumaan. Se ei perustu ihmisen huijaamiseen, vaan sen ohjelmiston huijaamiseen, joka toimii ihmisen puolesta. Vastaavaa dynamiikkaa on nähty muissa yhteyksissä, joissa luotettavasta paikallisesta ohjelmistosta tulee kohde – esimerkiksi silloin, kun laillinen korealainen pankkitietoturvatyökalu muutettiin hyökkäysvektoriksi nollapäivähaavoittuvuuden kautta. Yhteinen tekijä: käyttäjiä auttamaan suunnitellut työkalut voivat päätyä hyökkääjien käyttöön, kun niiden luottamusrajat eivät ole ilmatiiviit.
Mitä tämä tarkoittaa sinulle
Jos käytät tekoälyselainlaajennuksia tai agenttimaisia selaintyökaluja, kuten Claude Chromessa tai ChatGPT Atlas, tämä paljastus on muistutus pohtia tarkkaan, millaisia käyttöoikeuksia niille myönnät. Nämä työkalut ovat tehokkaita juuri siksi, että ne pystyvät lukemaan ja toimimaan sisällön perusteella automaattisesti, mutta juuri tuo automaatio poistaa inhimillisen harkinnan kerroksen, joka on aiemmin toiminut luonnollisena esteenä manipuloinnille.
Toistaiseksi käytännöllinen vastaus on varovaisuus, ei paniikki. Rajoita tekoälyselainagenttien käyttöaluetta erityisesti arkaluonteisilla tileillä, kuten sähköposti- tai talouspalveluissa. Pidä nämä laajennukset ja selaimet päivitettyinä, sillä toimittajat yleensä korjaavat paljastetut haavoittuvuudet, kun tutkijat raportoivat niistä vastuullisesti. Ja ole tietoinen siitä, että tuntemattomien lähettäjien tai tilien sisältö – vaikka se näyttäisikin tavalliselta tekstiltä – voi olla laadittu tekoälyn silmiä, ei omiasi, varten.
Keskeiset huomiot
- Nollaklikkauksella tapahtuva tekoälyselaimen hakkerointi mahdollistaa sen, että hyökkääjät kaappaavat tekoälyagentteja, kuten Claude Chromessa ja ChatGPT Atlas, ilman käyttäjän klikkausta – pelkästään muokattujen sähköpostien tai somejulkaisujen avulla.
- Tekniikka hyödyntää sitä, miten tekoälyagentit käsittelevät sisältöä ja toimivat sen perusteella – haavoittuvuusluokka, jota kutsutaan kehoteinjektioksi.
- Tarkista ja rajoita tekoälyselainavustajille myöntämiäsi oikeuksia erityisesti sähköposti- ja tiliyhteyksien osalta.
- Pidä tekoälyselaintyökalut ajan tasalla ja seuraa toimittajien tietoturvapäivityksiä tämän paljastuksen jälkeen.
- Kohtele tekoälyagentteja osana hyökkäyspintaasi, ei pelkkänä mukavuustoimintona, kun arvioit henkilökohtaista tai organisaatiosi tietosuoja-asemaa.
