Hyökkääjät ovat rakentaneet LLMjackingia varten suunnitellun tekoälyagentin Help Net Securityn raportin mukaan. Agentti ottaa haltuunsa paljastuneet tekoälymallit ja käyttää niitä tunnistetietojen varastamiseen ja kryptovaluutan louhintaan. Kustannukset lankeavat uhrille. Kaikille, jotka ajavat itse isännöityä mallia tai joilla on maksullinen tekoälyn API-avain, LLMjackingin paljastamat tekoälymallit ovat nyt käytännön riski, joka kannattaa ymmärtää.

Mikä LLMjacking on ja miten agentti toimii

LLMjacking tarkoittaa suuren kielimallin (LLM) kaappaamista, jonka joku muu omistaa tai josta maksaa. Sen sijaan, että hyökkääjä ostaisi laskentatehoa tai API-käyttöoikeutta, hän löytää mallin, joka on saavutettavissa, tai avaimen, joka on vuotanut, ja käyttää sitä ilmaiseksi. Uhri maksaa laskun.

Uutta tässä on automaatio. Raportointi kuvaa tätä tarkoitusta varten rakennettua tekoälyagenttia. Sen sijaan, että ihminen etsisi käsin väärin konfiguroituja palveluita, ohjelmisto hoitaa löytämisen ja haltuunoton. Raportoidut tavoitteet ovat tunnistetietojen varastaminen ja kryptovaluutan louhinta, ja molemmat tekevät kaapatusta mallista suoraa voittoa hyökkääjälle.

Lähde kuvaa työkalua vain ylätasolla, emmekä aio spekuloida sitä pidemmälle. Laajempi pointti pätee silti: kun löytäminen ja hyödyntäminen on automatisoitu, paljastuneen palvelun ei tarvitse olla kiinnostava tullakseen löydetyksi. Sen tarvitsee vain olla saavutettavissa.

Miten paljastuneet tekoälyavaimet ja -palvelut kaapataan

Ehdotettu kaava on suoraviivainen. Agentti skannaa paljastuneita tekoälymalleja ja API-päätepisteitä ja ottaa sitten hallintaansa sen, mitä löytää. Kaksi altistumisen tyyppiä on tärkein:

  • Paljastuneet päätepisteet. Itse isännöity malli tai tekoälyrajapinta, joka on saavutettavissa internetistä, usein kätevän asetuksen, edelleenohjatun portin tai puuttuvan kirjautumisen vuoksi.
  • Paljastuneet tunnistetiedot. API-avaimet paikoissa, joissa niiden ei pitäisi olla, kuten koodivarastoissa, jaetuissa konfiguraatiotiedostoissa tai vanhoissa projekteissa, joita kukaan ei muista.

Kun hyökkääjällä on kumpi tahansa, malli työskentelee hänelle. Laskenta pyörii sinun laitteistollasi tai tililläsi, ja käyttö näkyy laskullasi tai hidastaa konettasi.

Tunnistetietojen varastamisen näkökulma lisää toisen huolenaiheen kerroksen. Kaapattu tekoälypalvelu ei ole vain ilmainen resurssi. Siitä voi myös tulla keino kerätä lisää tunnistetietoja, minkä vuoksi yhdestä unohdetusta avaimesta voi tulla laajempi ongelma.

Mitä tämä tarkoittaa sinulle

Jos käytät tekoälyä vain kuluttajien chat-sovelluksen kautta, suora altistumisesi on rajallinen. Riski kasvaa, kun teet enemmän seuraavista:

  • Ajat malleja kotona. Kotipalvelinharrastajat, jotka isännöivät paikallisia LLM:iä, verkkoliittymiä tai automaatiotyökaluja, ovat ilmeisimpiä kohteita. Todentamaton tekoälypalvelu edelleenohjatussa portissa on juuri sellainen asia, jonka löytämiseen automatisoitu skanneri on rakennettu.
  • Sinulla on API-avaimia. Kehittäjillä ja harrastajilla, jotka yhdistävät tekoälypalveluita skripteihin, selainlaajennuksiin tai sivuhankkeisiin, voi olla avaimia hajallaan useissa paikoissa.
  • Käytät tunnistetietoja uudelleen. Jos kaapattu järjestelmä paljastaa salasanan, jota käytät muualla, vahinko leviää tekoälypalvelun ulkopuolelle. Uudelleenkäyttö muuttaa yksittäisen vaarantumisen moniksi.

Taloudellinen puoli on myös helppo jättää huomaamatta. Kryptovaluutan louhinta ja raskas mallin käyttö kuluttavat resursseja hiljaa. Saatat huomata sen vasta, kun lasku nousee, laitteistosi käy kuumana tai palveluntarjoaja merkitsee epätavallista toimintaa.

Tämä sopii laajempaan trendiin. Hyökkääjät käyttävät tekoälyä yhä enemmän hyökkäyksellisesti, eivät vain kohteena. Juttumme siitä, miten venäläiset hakkerit käyttivät Claude-tekoälyä havaittujen haittaohjelmien uudelleenrakentamiseen, osoittaa saman siirtymän kohti tekoälyavusteisia työkaluja hyökkääjien puolella.

Miten API-avaimet, verkkonäkyvyys ja kotipalvelinasetukset suojataan

Mikään näistä vaiheista ei ole eksoottinen. Useimmat ovat perushygieniaa sovellettuna uudentyyppiseen palveluun.

Kohtele API-avaimia kuin salasanoja.

  1. Listaa jokainen tekoälypalvelu, josta maksat tai jonka olet yhdistänyt projektiin.
  2. Kierrätä avaimet, joita et enää tunnista tai joita et ole käyttänyt äskettäin, ja poista tarpeettomat.
  3. Pidä avaimet poissa koodivarastoista ja jaetuista asiakirjoista. Käytä sen sijaan ympäristömuuttujia tai salasananhallintaa.
  4. Aseta palveluntarjoajasi salliessa kulutusrajat ja käyttöhälytykset, jotta kaapattu avain huomataan nopeasti.
  5. Käytä erillistä avainta jokaiselle projektille, jotta yksi vuoto ei paljasta kaikkea.

Vähennä verkkonäkyvyyttä.

  1. Tarkista reitittimesi portinedelleenohjaussäännöt ja poista ne, joita et muista luoneesi.
  2. Älä paljasta itse isännöityjä tekoälyliittymiä suoraan internetiin. Jos tarvitset etäkäyttöä, laita ne VPN:n tai muun hallitsemasi todennetun tunnelin taakse.
  3. Ota todennus käyttöön jokaisessa ajamassasi tekoälyn verkkoliittymässä tai API:ssa, vaikka se olisi vain kotiverkossasi.
  4. Pidä malliohjelmisto ja sen riippuvuudet ajan tasalla.

Tarkkaile varoitusmerkkejä.

  1. Odottamattomat kulut tai käytön piikit tekoälytilillä.
  2. Jatkuva korkea CPU- tai GPU-kuormitus, kun et aja mitään.
  3. Lokit, jotka näyttävät pyyntöjä osoitteista, joita et tunnista.

Korjaa tunnistetietojen uudelleenkäyttö. Käytä yksilöllisiä salasanoja jokaisessa palvelussa ja ota monivaiheinen todennus käyttöön, missä se on saatavilla. Jos kaapattu palvelu joskus paljastaa salasanan, yksilölliset tunnistetiedot pitävät seuraukset rajattuina.

Keskeiset huomiot

Raportti on lyhyt, mutta opetus on selvä. LLMjackingin paljastamista tekoälymalleista on tulossa automatisoitu, skaalautuva toiminta, ja siitä maksavat paljastuneiden avainten ja palvelimien omistajat. Sinun ei tarvitse lopettaa tekoälytyökalujen käyttöä. Sinun täytyy tietää, missä avaimesi ovat ja mitä verkkosi paljastaa.

Käytä tänään muutama minuutti tekoälyn API-avaimiesi tarkastamiseen, ajamiesi itse isännöityjen tekoälypalveluiden tarkistamiseen ja reitittimesi portinedelleenohjaussääntöjen läpikäymiseen. Jos haluat lisätietoa siitä, miten hyökkääjät hyödyntävät tekoälyä, lue juttumme tekoälyavusteisesta haittaohjelmakehityksestä.