Mitä Encforge tekee eri tavalla kuin perinteiset kiristyshaittaohjelmat
Useimmat kiristyshaittaohjelmat noudattavat yhä tuttua kaavaa: salaavat tiedostoja, jättävät lunnaita koskevan lunastusviestin ja odottavat maksua. Encforge, JadePufferina tunnetun uhkatoimijan uusin työkalu, rikkoo tämän kaavan kohdistamalla hyökkäyksen hyvin tiettyyn omaisuuserien luokkaan: tekoälymalleihin ja niiden kouluttamiseen käytettyihin tietoaineistoihin.
Sysdigin tutkimuksen mukaan Encforge rakennettiin omistautuneeksi, räätälöidyksi työkaluksi sen sijaan, että olisi käytetty uudelleen valmista salausohjelmaa. Tällä erottelulla on merkitystä. Sen sijaan, että Encforge kävisi läpi palvelinta ja lukitsisi mitä tahansa löytämiään tiedostoja, se näyttää olevan suunniteltu tunnistamaan ja salaamaan erityisesti koneoppimisen tuotoksia – sellaista dataa, jonka kokoaminen voi viedä organisaatiolta kuukausia tai vuosia ja jota ei usein voida nopeasti luoda uudelleen tai palauttaa yksinkertaisesta varmuuskopiorutiinista.
Sysdigin tutkijat yhdistivät Encforgen samaan operaattoriin aiemman kampanjan takana. Tämä perustui lunnasvaatimuksessa olevaan päällekkäiseen kielenkäyttöön ja erityisesti siihen, että hyökkääjä palasi samaan vaarantuneeseen Langflow-instanssiin sen jälkeen, kun ensimmäinen raportti ryhmän toiminnasta oli julkaistu. Tuo paluuvierailu on pieni mutta paljastava yksityiskohta: se osoittaa operaattorin aktiivisesti seuraavan oman kampanjansa turvallisuusuutisointia ja mukautuvan sen mukaisesti.
Kuinka JadePufferin hyökkäykset kehittyivät niin nopeasti
Sysdigin löydöksissä silmiinpistävintä on muutoksen nopeus. JadePufferin aiempi operaatio, joka dokumentoitiin aiemmin JadePufferin ensimmäiseksi ENCFORGE-kampanjaksi, oli suhteellisen kehittymätön, tietokantoihin keskittynyt häiriötekijä. Muutamassa viikossa sama toimija oli siirtynyt tuosta hauraasta, puoliautomaattisesta lähestymistavasta räätälöidyn salaustyökalun käyttöön, joka kohdistui suoraan tekoälyinfrastruktuuriin.
Sysdigin analyysi viittaa siihen, ettei tämä ollut sattumaa vaan tarkoituksellinen iteraatio. Operaattori näyttää oppineen ensimmäisen hyökkäyksen puutteista, hylänneen tekniikat, jotka oli helppo havaita tai häiritä, ja korvanneen ne kestävämmillä, omistautuneilla työkaluilla. He näyttävät myös tehneen harkitun muutoksen kohdevalinnassa siirtyen kohti dataluokkaa, joka tarjoaa suuremman kiristysvivun kuin tyypillinen tietokanta.
Tällainen nopea, palautteeseen perustuva evoluutio on epätavallista kiristyshaittaohjelmien operaattoreille, jotka yleensä iteroivat kuukausien, eivät viikkojen, aikajänteellä. Se viittaa pieneen, ketterään operaatioon, joka kokeilee lähes reaaliajassa ja käyttää julkista raportointia omasta toiminnastaan signaalina siitä, mitä korjata seuraavaksi.
Miksi tekoälymallit ja tietoaineistot ovat nyt kiristyskohteita
Tämän muutoksen taustalla oleva logiikka on selkeä, kun miettii, mitä tekoälymallit ja koulutusdata-aineistot todella edustavat organisaatiolle. Toisin kuin asiakastietokanta, joka voidaan joskus rekonstruoida muista tiedoista, koulutettu malli tai kuratoitu tietoaineisto heijastaa usein huomattavaa, toistamatonta investointia aikaa, laskentatehoa ja erikoistunutta työvoimaa. Pääsyn menettäminen siihen, tai sen joutuminen varastetuksi ja uhatuksi julkisella levityksellä, voi olla paljon häiritsevämpää kuin tavallinen tiedostojen salaustapahtuma.
Tämä tekee ML-putkista houkuttelevan kiristyskohteen. Malleja rakentavat tai hienosäätävät organisaatiot tallentavat usein dataa ja mallien painoarvot palvelimille, jotka ovat mukavuussyistä alttiina internetille – oli kyseessä sitten kehitysympäristö, sisäinen työkalu kuten Langflow tai jaettu tallennusämpäri. Jos näitä järjestelmiä ei ole asianmukaisesti segmentoitu ja niiden pääsyä hallittu, niistä tulee helppoja kohteita juuri sellaiselle opportunistiselle skannaukselle, joka johti JadePufferin alkusijaintiin.
Toimet ML-putkesi ja arkaluontoisten tietojesi suojaamiseksi
Hyvä uutinen on, että ML-infrastruktuurin puolustamisen perusteet eivät eroa radikaalisti tavanomaisesta turvallisuushygieniasta – niitä on vain sovellettava määrätietoisesti järjestelmiin, joita joskus kohdellaan kokeellisina tai matalan prioriteetin kohteina.
- Pidä ML-työkalut ja orkestrointialustat päivitettyinä ja vältä niiden altistamista suoraan julkiselle internetille.
- Segmentoi verkot siten, että kehitys- ja datatiede-ympäristöt eivät pääse vapaasti tuotantojärjestelmiin, ja päinvastoin.
- Säilytä mallien painoarvot ja tietoaineistot versioiduilla, offline- tai muuttumattomilla varmuuskopioilla, joihin kiristyshaittaohjelmat eivät pääse käsiksi tai joita ne eivät voi ylikirjoittaa.
- Rajoita ML-putkien käyttämiä käyttöoikeustietoja ja API-avaimia samalla tarkkuudella kuin tuotannon salaisuuksiin sovelletaan.
- Käytä VPN:ää tai yksityistä verkkoyhteyttä kaikkeen ML-infrastruktuurin etähallintaan, mikä vähentää altistumista opportunistiselle, koko internetin kattavalle skannaukselle, joka usein edeltää näitä hyökkäyksiä.
Mitä tämä tarkoittaa sinulle
Jos työskentelet koneoppimisjärjestelmien parissa – olitpa sitten datatieteilijä, IT-järjestelmänvalvoja tai tekoälyaloitetta valvova liiketoimintajohtaja – Encforge on muistutus siitä, että mallejasi tukeva infrastruktuuri ansaitsee saman tarkastelun kuin mikä tahansa muu kriittinen liiketoimintajärjestelmä. Nopea kehitys tietokantoihin keskittyneestä hyökkäyksestä räätälöityyn, tekoälyyn kohdistuvaan kiristyshaittaohjelmaan osoittaa, että hyökkääjät aktiivisesti kartoittavat tätä aluetta ja mukautuvat nopeasti sen mukaan, mikä toimii.
Vaikka organisaatiosi ei pyörittäisikään laajamittaisia tekoälyoperaatioita, laajempi opetus pätee: mikä tahansa internetiin päin oleva työkalu, matalan kynnyksen tekoälyalustasta aina yksinkertaiseen sisäiseen kojelautaan, voi muodostua sisäänpääsypisteeksi, jos se jätetään päivittämättä tai segmentoimatta arkaluontoisemmista järjestelmistä.
Tärkeimmät opit
Encforge havainnollistaa, kuinka nopeasti kiristyshaittaohjelmien operaattorit voivat sopeutua, kun he löytävät lupaavan uuden kohdeluokan. Kaikille, jotka hallinnoivat ML-infrastruktuuria, prioriteetti on nyt näkyvyys ja eristäminen: tiedä, mitkä tekoälytyökalut ja tietoaineistot ovat alttiina, rajoita niiden ulottuvuutta muuhun verkkoosi ja kohtele etäyhteyttä niihin samalla varovaisuudella, jota soveltaisit mihin tahansa arkaluontoiseen tuotantojärjestelmään. Työkalujen, kuten Langflow'n, altistumisen tarkistaminen, verkon segmentoinnin tiukentaminen ja VPN:ien tai yksityisten kulunvalvontaratkaisujen käyttö hallinnollisiin yhteyksiin ovat käytännöllisiä askeleita, jotka vähentävät merkittävästi todennäköisyyttä joutua seuraavaksi opportunistiseksi kohteeksi.
