Tekoälyllä toimiva kiristyshaittaohjelmaryhmä palaa uuden aseen kanssa

JadePuffer, aiemmin dokumentoitu uhkatoimija, joka toteutti ensimmäisen suuren kielimallin avulla päästä päähän suoritetun kiristyshaittaohjelmakampanjan, on palannut uuden työkalun kanssa. Infosecurity Magazinen mukaan ryhmän seurantakampanja on ottanut käyttöön ENCFORGE-nimisen lukitsijan, joka on rakennettu tuhoamaan tekoälymallien artefakteja sen sijaan, että se pelkästään salaisi tavallisia tiedostoja ja tietokantoja.

Tällä on merkitystä, sillä se merkitsee muutosta kohdevalinnassa. Aiemmat kiristyshaittaohjelmaoperaatiot, mukaan lukien JadePufferin alkuperäinen kampanja, keskittyivät tuotantotietokantojen salaamiseen ja lunnaiden vaatimiseen niiden palauttamisesta. Sysdigin alkuperäinen dokumentaatio JadePuffer-hyökkäyksestä kuvaili agenttimaista toimijaa, joka hyödynsi Langflow-alustaa ja suoritti tunkeutumisen vähäisellä ihmisen valvonnalla. ENCFORGE näyttää laajentavan samaa automatisoitua lähestymistapaa, mutta uudella tavoitteella: tuhota koulutetut mallit, painokertoimet ja konfiguraatiotiedostot, joihin organisaatiot luottavat tekoälyjärjestelmiensä pyörittämisessä.

Miksi tekoälymallien kohdistaminen muuttaa laskelmaa

Perinteinen kiristyshaittaohjelma pitää dataa panttivankina. Tekoälymallien artefaktien tuhoaminen on erilaista kiristystä. Koulutetut mallit edustavat usein kuukausien laskenta-aikaa, huolellisesti kuratoitua koulutusdataa ja hienosäätötyötä, joita ei voi yksinkertaisesti palauttaa rutiinivarmuuskopiosta, jollei varmuuskopiointia ole suunniteltu erityisesti mallin palauttamista silmällä pitäen. Yrityksille, jotka ovat rakentaneet asiakasrajapinnassa toimivia tekoälytyökaluja, sisäistä automaatiota tai tietojenkäsittelyputkia näiden mallien ympärille, niiden menettäminen kokonaan voi olla tuhoisampaa kuin yksittäisen tietokannan menettäminen, sillä mallin rakentaminen alusta vie aikaa, jota toimivalla yrityksellä ei usein ole.

Esille kannattaa nostaa myös yksityisyysulottuvuus. Monet yritysten käyttämät tekoälymallit on koulutettu tai hienosäädetty aineistoilla, jotka sisältävät asiakastietoja, olipa kyse sitten tukikeskusteluista, käyttäytymisdatasta tai palvelun personointiin käytetyistä henkilötiedoista. Kun kiristyshaittaohjelmaoperaattorit kohdistavat iskunsa näiden mallien ympärillä olevaan infrastruktuuriin, joko salaamalla niihin liittyvät tietokannat tai nyt tuhoamalla itse mallit, infrastruktuurin läpi virtaavat henkilötiedot altistuvat sekä vuotoriskille että katoamiselle. Kuluttajilla on harvoin näkyvyyttä siihen, mitkä toimittajat pyörittävät tekoälyjärjestelmiä heidän tiedoillaan, mikä tekee tällaisesta hyökkäyksestä ulkopuolelta vaikeammin havaittavan ja yksilön vaikeammin ennakoitavan.

Osa laajempaa autonomisten hyökkäysten kuviota

JadePufferin paluu ENCFORGE:n kanssa sopii trendiin, jota tietoturvatutkijat ovat seuranneet tarkasti tänä vuonna. Riippumattomat havainnot ensimmäisestä täysin autonomisesta tekoälyllä toteutetusta kiristyshaittaohjelmahyökkäyksestä osoittivat, että tekoälyagentti kykeni skannaamaan haavoittuvuuksia, tunkeutumaan järjestelmään ja toteuttamaan kiristysyrityksen ilman, että ihmisoperaattori ohjasi jokaista vaihetta reaaliajassa. Tällä ennakkotapauksella on merkitystä tässä, koska se viittaa siihen, ettei JadePuffer ole yksittäinen kokeilu. Se on toimija, joka on kehittänyt omia työkalujaan siirtyen tietokantasalauksesta erityisesti tekoälyinfrastruktuuria vastaan suunniteltuun lukitsijaan. Kun yhä useammat organisaatiot ottavat käyttöön tekoälyalustoja, kuten Langflow’ta ja vastaavia orkestrointityökaluja, tällaisen kampanjan hyökkäyspinta vain kasvaa – teema, jota on käsitelty hiljattaisissa tietoturvakatsauksissa, joissa seurataan kiristyshaittaohjelmia ja tekoälypohjaisia hyökkäyksiä muiden nousevien uhkien rinnalla.

Mitä tämä tarkoittaa sinulle

Useimmat lukijat eivät itse pyöritä tekoälymallien käyttöönottoa, mutta heijastevaikutukset ulottuvat IT-osastoja laajemmalle. Jos yritys, jonka kanssa olet tekemisissä, oli se sitten vähittäiskauppias, terveydenhuollon tarjoaja tai rahoituspalvelu, käyttää tekoälyjärjestelmiä, joihin isketään tällaisella hyökkäyksellä, seurauksiin voi kuulua palvelukatkoksia, viivästynyttä tukea tai pahimmassa tapauksessa niiden tietojen paljastuminen, joilla malleja on koulutettu tai joiden parissa ne ovat toimineet. Tekoälyinfrastruktuuriin kohdistuva kiristyshaittaohjelma on toistaiseksi yritysten välinen ongelma, mutta infrastruktuurin sisällä oleva kuluttajadata antaa näille hyökkäyksille niiden vipuvoiman.

Organisaatioille, jotka rakentavat tai käyttävät tekoälyjärjestelmiä, tämä on selvä signaali siitä, että mallien artefaktit tarvitsevat saman varmuuskopiointikurin, pääsynhallinnan ja valvonnan kuin mikä tahansa muukin kriittinen omaisuus. Oletus siitä, että koulutettu malli on kertakäyttöinen tai helposti korvattavissa, ei ole enää turvallinen.

Käytännön toimet

  • Jos hallinnoit tekoälyinfrastruktuuria, varmista, että mallien painokertoimet ja koulutusartefaktit varmuuskopioidaan erillään tuotantojärjestelmistä, offline- tai muuttumattomina kopioina.
  • Tarkista tekoälyorkestrointialustojen käyttöoikeudet; agenttimaiset kiristyshaittaohjelmakampanjat ovat hyödyntäneet esiin jätettyjä tai väärin konfiguroituja työkaluja jalansijan saamiseksi.
  • Kuluttajana kysy palveluntarjoajilta, miten ne suojaavat tekoälyjärjestelmiä, jotka käsittelevät tietojasi, erityisesti arkaluonteisia henkilö- tai taloustietoja käsittelevissä palveluissa.
  • Pysy valppaana palveluhäiriöiden tai käyttämiesi yritysten tietomurtoilmoitusten varalta; tekoälytaustajärjestelmiin kohdistuva kiristyshaittaohjelma voi viivästyttää palautumista pidempään kuin tyypillinen käyttökatko.

JadePufferin kehittyminen tietokantakiristyksestä tekoälymallien tuhoamiseen on muistutus siitä, että kiristyshaittaohjelmaoperaattorit sopeutuvat nopeasti sinne, missä arvo – ja vipuvoima – on keskittynyt. Kun tekoälyjärjestelmistä tulee yhä useampien yritysten ydininfrastruktuuria, niiden suojaamisesta on tultava olennainen osa kaikkien turvallisuusasentoa, ei jälkikäteen lisättävä ajatus.