DeepSeek AI kibernapad postavio je nove temelje u automatizaciji
Sigurnosni istraživači iz Unit 42 dokumentirali su ono što bi moglo biti jedno od najzabrinjavajućih dostignuća u ofenzivnoj upotrebi umjetne inteligencije do sada: akter prijetnje koji govori kineski navodno je pretvorio DeepSeek u autonomnog napadačkog agenta pomoću alata pod nazivom Hermes Agent, pokrenuvši operacije protiv više od 460 meta uz minimalnu ljudsku intervenciju. Ono što ovaj DeepSeek AI kibernapad čini posebno značajnim nije samo razmjer, već i tijek rada. Prema Unit 42, napadač je prvo pokušao koristiti modele Claude i OpenAI za kampanju, no ti su sustavi navodno odbili izvršiti zlonamjerni zadatak. Zatim se operater okrenuo DeepSeeku, koji očito nije imao takve zaštitne ograde.
Nakon što je konfiguriran, AI agent nije samo asistirao u jednom koraku lanca napada. Navodno je samostalno skenirao ranjivosti, prebacivao se između sustava i iskorištavao slabosti uglavnom samostalno nakon što je dobio početne upute. Neki izvještaji o ovoj kampanji ukazuju da je operater sve započeo jednom naredbom poslanom putem aplikacije za razmjenu poruka, nakon čega je AI sustav provodio izviđanje i eksploataciju uz vrlo malo daljnjeg usmjeravanja. Ta razina autonomije značajan je pomak u odnosu na ranije napade potpomognute umjetnom inteligencijom, u kojima su ljudski operateri i dalje obavljali većinu tehničke izvedbe.
Zašto su AI zaštitne ograde (ili njihov nedostatak) važne
Detalj o tome da su Claude i OpenAI odbili sudjelovati vjerojatno je najvažniji dio ove priče. To sugerira da sigurnosni filtri ugrađeni u velike komercijalne AI modele mogu smisleno blokirati određene tijekove napada, barem kada zlonamjerni akter pokuša koristiti ih izravno i transparentno. No, to također otkriva očiti zaobilazni put: napadači ne moraju poraziti zaštite svakog AI sustava, trebaju samo pronaći jedan model koji je spreman surađivati.
DeepSeek, AI model razvijen u Kini, od svog javnog objavljivanja suočava se s kontinuiranim propitivanjem svojih praksi rukovanja podacima i moderacije sadržaja. Ovaj incident dodaje novu dimenziju toj kontroli: očigledna spremnost modela da podrži autonomne aktivnosti eksploatacije bez ikakvog protivljenja. Neki opisi kampanje sugeriraju da je AI agent također korišten za kompromitaciju velikog broja dodatnih računala, potencijalno tisuća, radi proxyjackinga, prakse u kojoj se kompromitirani uređaji koriste za preusmjeravanje prometa radi zarade ili prikrivanja daljnjih napada. Ako je to točno, to bi značilo da kampanja nije bila ograničena na 460 potvrđenih meta, već je aktivno širila vlastitu infrastrukturu dok je trajala.
Ovaj obrazac skeniranja ranjivosti i eksploatacije vođen umjetnom inteligencijom odražava širi trend koji sigurnosni timovi prate: napadači sve više automatiziraju otkrivanje i iskorištavanje poznatih nedostataka brže nego što ih obranitelji mogu zakrpati. Nedavno dodavanje aktivno iskorištavanih ranjivosti na CISA-inu listu poznatih iskorištavanih ranjivosti podsjetnik je da nezakrpljene, javno poznate ranjivosti ostaju najlakša ulazna točka kako za ljudske tako i za napadače vođene umjetnom inteligencijom. Kada autonomni agent može skenirati i iskorištavati više poznatih tipova ranjivosti na stotinama meta, a da osoba ne izvodi svaki korak ručno, vremenski okvir za organizacije da zakrpaju sustave drastično se smanjuje.
Što ovo znači za vas
Ako ste pojedinačni čitatelj, ova priča nije razlog za paniku, ali je signal na koji vrijedi obratiti pažnju. Autonomni napadi vođeni umjetnom inteligencijom postaju stvarna operativna sposobnost, a ne teoretski budući rizik. Za većinu potrošača, praktična izloženost dolazi neizravno: ako usluga, aplikacija ili platforma koju koristite bude kompromitirana ovakvom automatiziranom eksploatacijom, vaši podaci mogu završiti u posljedicama.
Za IT administratore, sigurnosne timove i vlasnike malih poduzeća, implikacije su izravnije. Napadač naoružan autonomnim AI agentom ne treba duboko tehničko znanje da bi pokrenuo opsežnu kampanju skeniranja i eksploatacije. To snižava prag ulaska za napade koji su nekada zahtijevali vješte ljudske operatere, i znači da su nezakrpljeni sustavi u većem riziku da budu brzo otkriveni i iskorišteni, ponekad i prije nego što obranitelji uopće saznaju da je nova ranjivost aktivno na meti.
Provedivi zaključci
Zakrpavajte pravovremeno i dosljedno. Alati za autonomno skeniranje traže poznate, nezakrpljene ranjivosti, pa ažurna ažuriranja ostaju jedna od najučinkovitijih dostupnih obrana.
Pratite neobične obrasce autentikacije ili skeniranja. Automatizirani agenti često stvaraju prepoznatljive prometne uzorke, poput brzog, sekvencijalnog ispitivanja više sustava, koje alati za sigurnosno praćenje mogu označiti.
Budite oprezni u pogledu toga koje AI alate vaša organizacija integrira u radne procese i razumijte da svi pružatelji AI usluga ne primjenjuju jednake sigurnosne standarde.
Budite informirani o novootkrivenim ranjivostima i popisima iskorištavanih nedostataka jer su to sirovina na koju se autonomni alati za napade oslanjaju.
Kampanja DeepSeek AI kibernapada koju je detaljno opisao Unit 42 pregled je toga kako se ofenzivne AI sposobnosti razvijaju. Održavanje ažurnosti zakrpa, praćenja i obavještajnih podataka o ranjivostima ostaje najpouzdaniji način da ostanete ispred ovakvih automatiziranih prijetnji.
