Umjetna inteligencija preoblikuje hakerske napade pod pokroviteljstvom države

Sigurnosni istraživači oglašavaju uzbunu zbog nove faze u sjevernokorejskim cyber operacijama: sve veće upotrebe umjetne inteligencije kako bi napadi bili brži, uvjerljiviji i teže ih je otkriti. Prema riječima stručnjaka citiranih u nedavnom izvješću, umjetna inteligencija više nije samo prečac za sastavljanje phishing e-poruka. Utkana je u više faza životnog ciklusa napada, od izviđanja do izvršenja, dajući hakerskim skupinama pod pokroviteljstvom države sposobnosti koje su prije zahtijevale znatno više vremena, vještine i ručnog truda.

Ova promjena je važna jer su sjevernokorejske hakerske operacije povijesno bile snalažljive, ali ograničenih resursa, oslanjajući se na strpljiv, ručni društveni inženjering kako bi prevarile žrtve. Alati umjetne inteligencije mijenjaju tu računicu. Zadaci koji su prije iskusnom operativcu uzimali sate – istraživanje mete, prilagođavanje mamca, dotjerivanje jezika da zvuči prirodno i vjerodostojno – sada se mogu automatizirati ili ubrzati. Rezultat su napadi koji se lakše prilagođavaju većem broju meta, a pritom izgledaju dotjeranije i personaliziranije nego prije.

Izvan phishinga: Širi alatni pribor

Iako phishing e-poruke ostaju omiljena taktika, zabrinutost koju ističu stručnjaci jest da se umjetna inteligencija sve šire primjenjuje duž cijelog lanca napada. To može uključivati korištenje umjetne inteligencije za pomoć pri izgradnji ili doradi zlonamjernog koda, za ubrzavanje istraživanja potencijalnih meta i za generiranje sadržaja koji se primatelju čini vjerodostojnijim. Zajednička nit je da umjetna inteligencija snižava prag za brzu izradu uvjerljivih, dobro osmišljenih materijala, što je upravo ono što društveni inženjering čini učinkovitim.

Za obične korisnike i organizacije to znači suptilnu, ali važnu promjenu: stari savjet da se pazi na nespretnu gramatiku, generičke pozdrave ili očigledno lažne adrese pošiljatelja postaje manje pouzdan. Kada napadači mogu na zahtjev generirati tečne, kontekstualno osviještene poruke, vizualni i jezični signali za uzbunu koji su nekada upozoravali ljude počinju nestajati.

Implikacije na privatnost nadilaze početnu točku kontakta. Ako napadi potpomognuti umjetnom inteligencijom uspiju kompromitirati sustav, daljnje posljedice mogu nalikovati drugim probojima o kojima se nedavno pisalo. Incidenti poput potvrđenog curenja djelomičnih brojeva kartica tvrtke Origin Energy pokazuju kako jedan uspješan upad može razotkriti osobne i financijske podatke koji ostaju rizik za pogođene klijente dugo nakon što je početni napad obuzdan. Napadi poboljšani umjetnom inteligencijom ne mijenjaju nužno koji su podaci ugroženi, ali mogu povećati koliko često se organizacije i pojedinci suočavaju s uvjerljivim pokušajima da se do njih dođe.

Zašto ovo izaziva nove brige za privatnost

Korištenje umjetne inteligencije od strane aktera pod pokroviteljstvom države također se uklapa u širu raspravu o tome koliko se osobnih i biometrijskih podataka uopće prikuplja i pohranjuje. Kako vlade i institucije šire digitalne identitetske sustave, skupovi podataka dostupni napadačima, kao i poticaj da ih napadnu, rastu. Rasprave poput one o planu Karnatake za povezivanje društvenih medija s Aadhaar identifikacijskim sustavom naglašavaju kako sustavi provjere identiteta, čak i kada su dizajnirani za legitimne svrhe poput provjere dobi, stvaraju centralizirane riznice osjetljivih informacija. Svaki sustav koji objedinjuje osobne podatke postaje privlačnija meta nakon što se u igri pojave dobro opremljeni napadači opremljeni umjetnom inteligencijom.

Vrijedi ovdje biti realan: umjetna inteligencija ne daje napadačima nove supermoći, već prije uklanja trenje. Taktike – phishing, krađa vjerodajnica, postavljanje zlonamjernog softvera – nisu nove. Ono što se promijenilo jest brzina i dotjeranost kojom ih se može provesti te obim pokušaja koje jedna skupina može generirati.

Što to znači za vas

Za većinu ljudi praktični rizik nije ciljana operacija nacionalne države, već šira normalizacija obmana potpomognutih umjetnom inteligencijom. Kako te tehnike sazrijevaju, isti alati i obrasci obično se prelijevaju na niže razine kibernetičkog kriminala, ciljajući obične potrošače i mala poduzeća. To znači da bi phishing e-poruka, lažna ponuda za posao ili hitna "sigurnosna uzbuna" koju primite sljedeće godine mogla biti primjetno teža za razlikovati od legitimne.

Dobra vijest je da osnove dobre digitalne higijene i dalje vrijede, samo su sada još važnije. Provjera zahtjeva putem zasebnog kanala, skepticizam prema hitnosti i neupotreba istih lozinki na različitim uslugama i dalje su učinkovite obrane čak i protiv pokušaja dotjeranih umjetnom inteligencijom.

Biti korak ispred prijetnji pojačanih umjetnom inteligencijom

Dok umjetna inteligencija nastavlja preoblikovati cyber napade, uključujući one povezane sa sjevernokorejskim hakerskim operacijama, naglasak za pojedince i organizacije trebao bi biti na procesu, a ne samo na prepoznavanju obrazaca. Nekoliko konkretnih koraka može pomoći:

  • Omogućite višefaktorsku autentifikaciju gdje god je ponuđena, tako da sama uvjerljiva phishing poruka ne može otključati račun.
  • Neočekivane zahtjeve za novcem, vjerodajnicama ili osjetljivim podacima provjerite poznatom, neovisnom metodom kontakta umjesto izravnog odgovaranja.
  • Održavajte softver i sigurnosne alate ažuriranima, budući da zlonamjerni softver potpomognut umjetnom inteligencijom još uvijek treba nezakrpanu ranjivost da bi uspio.
  • Tretirajte hitnost i pritisak u porukama kao crvenu zastavicu bez obzira na to koliko dotjerano pisanje izgleda.

Umjetna inteligencija mijenja alate koje napadači koriste, ali ne i temeljni cilj: navesti nekoga da pogriješi. Ostati promišljen, a ne reagirati impulzivno, ostaje najbolja obrana od sjevernokorejskih hakerskih kampanja i šireg vala cyber prijetnji vođenih umjetnom inteligencijom koje ih slijede.