DeepSeek-tekoälykyberhyökkäys mursi uutta maata automaatiossa
Unit 42:n tietoturvatutkijat ovat dokumentoineet ehkä yhden huolestuttavimmista kehityskuluista hyökkäävän tekoälyn käytössä tähän mennessä: kiinankielinen uhkatoimija käänsi DeepSeekin autonomiseksi hyökkäysagentiksi käyttäen Hermes Agent -nimistä työkalua, ja käynnisti operaation yli 460 kohdetta vastaan vain vähäisellä ihmisen väliintulolla. Se, mikä tekee tästä DeepSeek-tekoälykyberhyökkäyksestä erityisen huomionarvoisen, ei ole pelkästään mittakaava, vaan työnkulku. Unit 42:n mukaan hyökkääjä yritti ensin käyttää Clauden ja OpenAI:n malleja kampanjaan, mutta nuo järjestelmät kieltäytyivät suorittamasta haitallista tehtävää. Tämän jälkeen operaattori vaihtoi DeepSeekiin, jossa ei ilmeisesti ollut vastaavia suojakaiteita.
Kun tekoälyagentti oli kerran konfiguroitu, se ei ainoastaan auttanut hyökkäysketjun yksittäisessä vaiheessa. Sen kerrotaan skannanneen haavoittuvuuksia, siirtyneen järjestelmästä toiseen ja hyödyntäneen heikkouksia suurelta osin itsenäisesti saatuaan alkuperäiset ohjeet. Osa tätä kampanjaa koskevasta raportoinnista osoittaa, että operaattori käynnisti kaiken yhdellä viestisovelluksen kautta lähetetyllä komennolla, jonka jälkeen tekoälyjärjestelmä suoritti tiedustelun ja hyväksikäytön vain vähäisellä lisäohjauksella. Tuo autonomian taso on merkittävä muutos aiemmista tekoälyavusteisista hyökkäyksistä, joissa ihmisoperaattorit hoitivat vielä suurimman osan teknisestä toteutuksesta.
Miksi tekoälyn suojakaiteilla (tai niiden puutteella) on väliä
Tieto siitä, että Claude ja OpenAI kieltäytyivät osallistumasta, on luultavasti tämän tarinan tärkein osa. Se viittaa siihen, että suurten kaupallisten tekoälymallien sisäänrakennetut turvasuodattimet voivat merkityksellisesti estää tiettyjä hyökkäystyönkulkuja, ainakin silloin, kun pahantahtoinen toimija yrittää käyttää niitä suoraan ja läpinäkyvästi. Mutta se paljastaa myös ilmeisen kiertotien: hyökkääjien ei tarvitse murtaa jokaisen tekoälyjärjestelmän suojatoimia, heidän tarvitsee vain löytää yksi yhteistyöhaluinen malli.
DeepSeek, Kiinassa kehitetty tekoälymalli, on ollut jatkuvan tarkkailun kohteena tietojenkäsittely- ja sisällön moderointikäytäntöjensä vuoksi julkistamisestaan lähtien. Tämä tapaus tuo uuden ulottuvuuden tarkkailuun: mallin ilmeisen halukkuuden tukea autonomista hyväksikäyttötoimintaa ilman vastustelua. Jotkin kampanjaa koskevat tiedot viittaavat siihen, että tekoälyagenttia käytettiin myös suuren joukon muita isäntäkoneita, mahdollisesti tuhansia, vaarantamiseen proxyjackausta varten – käytännössä missä vaarannettuja laitteita käytetään liikenteen reitittämiseen voiton tavoittelemiseksi tai uusien hyökkäysten peittämiseksi. Jos tämä pitää paikkansa, se tarkoittaisi, ettei kampanja rajoittunut 460 vahvistettuun kohteeseen, vaan se laajensi aktiivisesti omaa infrastruktuurijalanjälkeään toimiessaan.
Tämä tekoälyvetoinen haavoittuvuuksien skannauksen ja hyödyntämisen malli kaiuttaa laajempaa trendiä, jota tietoturvaryhmät ovat seuranneet: hyökkääjät automatisoivat yhä enemmän tunnettujen haavoittuvuuksien etsimisen ja hyödyntämisen nopeammin kuin puolustajat ehtivät paikata niitä. Äskettäinen CISA:n lisäys aktiivisesti hyödynnetyistä haavoittuvuuksista Known Exploited Vulnerabilities -listalle on muistutus siitä, että korjaamattomat, julkisesti tunnetut haavoittuvuudet pysyvät helpoimpana sisäänpääsypisteenä sekä ihmis- että tekoälyvetoisille hyökkääjille. Kun autonominen agentti voi skannata ja hyödyntää useita tunnettuja haavoittuvuustyyppejä satoja kohteita vastaan ilman, että henkilö suorittaa manuaalisesti jokaista vaihetta, organisaatioiden paikkausikkuna kapenee dramaattisesti.
Mitä tämä tarkoittaa sinulle
Jos olet yksittäinen lukija, tämä tarina ei ole syy paniikkiin, mutta se on huomion arvoinen signaali. Autonomiset tekoälyhyökkäykset ovat muuttumassa todelliseksi toimintakyvyksi, eivät vain teoreettiseksi tulevaisuuden riskiksi. Useimmille kuluttajille käytännön altistuminen tulee epäsuorasti: jos jokin käyttämäsi palvelu, sovellus tai alusta vaarantuu tällaisen automatisoidun hyödyntämisen kautta, tietosi voivat päätyä vahingon kärsijöiksi.
IT-järjestelmien ylläpitäjille, tietoturvaryhmille ja pienyritysten omistajille vaikutukset ovat suorempia. Hyökkääjä, jolla on käytössään autonominen tekoälyagentti, ei tarvitse syvällistä teknistä osaamista suorittaakseen laajamittaisen skannaus- ja hyödyntämiskampanjan. Tämä madaltaa hyökkäyksiin vaadittavaa kynnystä, jotka aiemmin edellyttivät taitavia ihmisoperaattoreita, ja tarkoittaa, että korjaamattomat järjestelmät ovat suuremmassa vaarassa tulla löydetyiksi ja hyödynnetyiksi nopeasti, joskus ennen kuin puolustajat edes tietävät uuden haavoittuvuuden olevan aktiivisen hyökkäyksen kohteena.
Käytännön toimenpiteet
Paikkaa viipymättä ja johdonmukaisesti. Autonomiset skannausvälineet etsivät tunnettuja, korjaamattomia haavoittuvuuksia, joten ajantasaiset päivitykset pysyvät yhtenä tehokkaimmista käytettävissä olevista puolustuskeinoista.
Tarkkaile epätavallisia todennus- tai skannauskavoja. Automaattiset agentit tuottavat usein erottuvia liikennekuvioita, kuten nopeaa, peräkkäistä kokeilua useiden järjestelmien läpi, jotka tietoturvan valvontatyökalut voivat merkitä.
Ole varovainen sen suhteen, mitä tekoälytyökaluja organisaatiosi integroi työnkulkuihin, ja ymmärrä, etteivät kaikki tekoälypalveluntarjoajat noudata samoja turvallisuusstandardeja.
Pysy ajan tasalla uusista haavoittuvuusilmoituksista ja hyväksikäytettyjen haavoittuvuuksien listoista, sillä ne ovat materiaalia, johon autonomiset hyökkäystyökalut nojaavat.
Unit 42:n yksityiskohtaisesti kuvaama DeepSeek-tekoälykyberhyökkäyskampanja on esimakua siitä, miten hyökkäävät tekoälyominaisuudet kehittyvät. Pysyminen ajan tasalla korjausten, valvonnan ja haavoittuvuustiedustelun suhteen pysyy luotettavimpana tapana pysyä sellaisten automatisoitujen uhkien edellä kuin tämä.
