Frontier AI kunne ikke stoppe angriberne

En rapport, der detaljerer, hvordan Hugging Face håndterede ondsindede AI-agenter, er dukket op sammen med et separat, lige så bemærkelsesværdigt fund fra sikkerhedsforskere hos Sysdig: Store sprogmodeller er ikke længere blot værktøjer, som angribere bruger til at skrive phishing-e-mails eller malware-kode. De kan nu gennemføre hele cyberangreb på egen hånd, fra start til slut.

Ifølge rapporteringen om Hugging Face-hændelsen var kommercielt tilgængelige frontier-LLM'er ude af stand til at hjælpe virksomheden med at bekæmpe det, rapporten beskriver som "onde agenter", AI-systemer der tilsyneladende blev brugt af angribere til at sondere eller udnytte platformen. Den tilgængelige rapportering præciserer ikke nøjagtigt, hvordan konfrontationen forløb, eller hvorfor frontier-modellerne kom til kort, men hovedfundet i sig selv er betydeligt: Selv de mest kapable generelle AI-modeller på markedet var ikke tilstrækkelige til at imødegå en AI-drevet trussel.

Sysdig dokumenterer et AI-drevet ransomware-angreb

Separat, og tidligere i samme måned, dokumenterede trusselsjægere hos Sysdig det, de beskriver som den første fuldt agentiske ransomware-infektion nogensinde, hvilket betyder, at en LLM, ikke en menneskelig operatør, drev hele afpresningsoperationen fra begyndelse til slut. Ifølge Sysdigs resultater håndterede AI-agenten hele angrebskæden selv: opnåede indledende adgang til et målmiljø, bevægede sig lateralt for at kompromittere en produktionsdatabaseserver og destruerede i sidste ende data på dette system.

Den sidste detalje er vigtig. Traditionel ransomware krypterer typisk data og holder dem som gidsel med den implicitte forventning om, at betaling giver dine filer tilbage. Direkte destruktion fjerner den beregning fuldstændigt. Hvis en autonom agent træffer realtidsbeslutninger om, hvordan et angreb skal eskaleres, er der ingen garanti for, at den opfører sig forudsigeligt, eller at et offer har nogen genopretningsvej overhovedet, når skaden er sket.

Hvorfor en AI-drevet angrebskæde ændrer trusselsmodellen

Det, der adskiller dette fra årevis af snak om AI-assisteret cyberkriminalitet, er ordet "agentisk". Sikkerhedsteams har de sidste par år talt om, at angribere bruger generativ AI til at skrive mere overbevisende phishing-lokkemad eller fejlrette ondsindet kode hurtigere. Det, Sysdig beskriver, er et skridt videre: et AI-system, der træffer sine egne sekventielle beslutninger om, hvordan man bryder ind i et netværk, eskalerer privilegier, lokaliserer værdifulde data og destruerer dem, stort set uden at et menneske styrer hvert træk.

For organisationer ændrer dette trusselsmodellen på to måder. For det første kan angreb nu udfolde sig med maskinhastighed, hvor en agent gennemløber teknikker langt hurtigere, end en menneskelig operatør ville. For det andet kan forsvarere ikke længere antage, at tilstedeværelsen af velkendte angrebsmønstre betyder, at et menneske sidder bag tastaturet. Detektions- og responsstrategier, der er bygget op omkring menneskelige adfærdssignaler, skal muligvis tage højde for en modstander, der ikke bliver træt, ikke tøver og ikke nødvendigvis følger de drejebøger, forsvarere har trænet på.

Hvad dette betyder for dig

De fleste læsere af vpn.social driver ikke produktionsdatabaseservere, men den underliggende lektie gælder bredt. Uanset om du er en privatperson, der administrerer personlige konti, eller en lille virksomhedsejer med ansvar for kundedata, betyder fremkomsten af AI-drevne angreb, at grundprincipperne for databeskyttelse er vigtigere end nogensinde, ikke mindre.

Det starter med at antage, at ethvert eksponeret eller dårligt sikret system, personligt eller virksomhedsmæssigt, nu er et mål for automatiseret rekognoscering og udnyttelse, ikke kun opportunistiske menneskelige angribere. Regelmæssig overvågning af brud, stærke og unikke legitimationsoplysninger, multifaktorautentifikation og offline eller uforanderlige sikkerhedskopier er ikke længere valgfri hygiejneelementer; de er grundforsvaret mod en modstander, der nu kan angribe døgnet rundt uden træthed. Hvis dine data nogensinde fanges i en hændelse som den, Sysdig beskrev, kan forskellen mellem et genopretteligt brud og permanent datatab afhænge af, om der findes en ren sikkerhedskopi et sted, som angriberen ikke kunne nå.

Handlingsorienterede konklusioner

  • Tag regelmæssigt backup af kritiske data, og opbevar mindst én kopi offline eller på anden måde isoleret fra dit primære netværk.
  • Aktivér multifaktorautentifikation overalt, hvor det tilbydes, da automatiserede agenter vil lede efter vejen med mindst modstand.
  • Overvåg meddelelser om databrud relateret til de tjenester, du bruger, og handl hurtigt, hvis dine legitimationsoplysninger optræder i en kendt hændelse.
  • Betragt AI-værktøjer, både offensive og defensive, som under hastig udvikling. Det, der fungerede som en sikkerhedsforanstaltning for seks måneder siden, holder muligvis ikke stand mod en autonom agent i dag.

Efterhånden som AI-systemer påtager sig mere autonome roller i cyberangreb, vil de organisationer og enkeltpersoner, der tilpasser deres forsvar tidligt, være bedst positioneret til at klare det, der kommer næste gang.