Huntress-forskere rapporterer at angripere misbruker ChatGPTs Custom GPT-funksjon for å utgi seg for å være AI-produkter og lure folk til å installere en sofistikert trojaner for fjern tilgang (RAT). Funnet er en nyttig påminnelse om at et kjent og pålitelig grensesnitt kan bære med seg en trussel. Denne kampanjen med skadelig programvare via tilpasset GPT og trojaner for fjern tilgang er ikke avhengig av en feil på datamaskinen din. Den er avhengig av at du tror på chattevinduet foran deg.
Hvordan lokkemiddelet med tilpasset GPT fungerer
Tilpassede GPT-er er skreddersydde versjoner av ChatGPT som hvem som helst kan bygge og publisere. Denne åpenheten er det som gjør funksjonen nyttig, og det er også det angriperne utnytter. Ifølge Huntress bygger trusselaktørene tilpassede GPT-er som utgir seg for å være legitime AI-produkter, og deretter leder de besøkende mot å installere skadelig programvare.
Kildeartikkelen er kortfattet om de tekniske detaljene, så det er verdt å skille mellom det som er bekreftet og det som ikke er det. Den bekreftede delen er kjernemønsteret: en tilpasset GPT utgir seg for å være et AI-produkt, og offeret blir overtalt til å installere en RAT. Annen dekning av den samme aktiviteten beskriver at lokkemiddelet når folk gjennom sponsede Google-resultater og bruker ClickFix-lignende taktikker, der en bruker blir lurt til å kjøre PowerShell-kommandoer selv. Denne detaljen kommer fra sekundær rapportering, så behandle den som kontekst snarere enn den endelige sannheten.
Den røde tråden er at offeret gjør jobben. I stedet for å utnytte programvare, leverer angriperen en overbevisende historie og et sett med instruksjoner, og brukeren utfører dem.
Hva en trojaner for fjern tilgang kan gjøre med enheten din
En trojaner for fjern tilgang gir en angriper en skjult måte å kontrollere en maskin på avstand. Når en først kjører, kan personen bak den ofte handle som om de satt ved tastaturet ditt. Sikkerhetsleverandører beskriver vanligvis RAT-funksjoner som å inkludere:
- Vise og kopiere filer
- Overvåke aktivitet og lese meldinger
- Fangе tastetrykk og påloggingsinformasjon
- Aktivere webkamera eller mikrofon
- Installere ytterligere skadelig programvare
Nøyaktig hvilke av disse en gitt RAT støtter, avhenger av varianten, og Huntress beskriver denne som sofistikert. Det praktiske budskapet er at en RAT-infeksjon sjelden er en bagatell. Fordi den kan kjøre stille, merker du kanskje ikke at noe er galt mens lagrede passord, arbeidsdokumenter og øktdata er eksponert.
For alle som bruker en jobbdatamaskin, strekker innsatsen seg utover personopplysninger. En kompromittert enhet kan bli et fotfeste inn i selskapets kontoer og systemer.
Hvorfor pålitelige AI-plattformer er overbevisende leveringskanaler
Folk har brukt år på å lære å mistenke merkelige e-postvedlegg og ukjente nedlastingssider. Langt færre har lært å stille spørsmål ved et chattegrensesnitt som ligger på en velkjent AI-plattform. En tilpasset GPT vises i det samme miljøet som folk allerede bruker for å skrive e-poster eller oppsummere dokumenter, og den konteksten låner bort troverdighet.
Det er noen grunner til at dette fungerer godt for angripere:
- Kjente omgivelser. Siden ser ut og føles som den ekte tjenesten, så mistanken holdes lav.
- Samtalepress. En chatbot kan svare på innvendinger, høres hjelpsom ut og lede en person gjennom stegene ett om gangen.
- Merkevareimitasjon. Å kalle en tilpasset GPT opp etter et AI-produkt folk vil prøve, gir lokkemiddelet et klart publikum.
Dette passer inn i et bredere mønster der AI-verktøy trekkes inn i angripernes verktøykasse. For bredere kontekst ser vår dekning av Anthropics 154-siders rapport om AI-bygget skadelig programvare og null-dager på hvordan misbruk av AI utvikler seg utover ett enkelt triks.
Hvordan vurdere AI-verktøy før du installerer noe
Du trenger ikke å unngå AI-verktøy. Du trenger noen vaner som avbryter denne typen angrep.
- Still spørsmål ved enhver forespørsel om å laste ned eller kjøre programvare. En chatteassistent som ber deg installere et program, eller lime inn kommandoer i PowerShell eller en terminal, fortjener umiddelbar mistanke.
- Gå direkte til kilden. Hvis du vil ha et bestemt AI-produkt, skriv inn den offisielle adressen selv eller bruk leverandørens egne kanaler i stedet for å klikke på et sponset søkeresultat.
- Sjekk hvem som bygde det. En tilpasset GPT er publisert av en enkeltperson eller organisasjon, ikke nødvendigvis av merkevaren i navnet. Se på opplysningene om skaperen før du stoler på den.
- Lim aldri inn kommandoer du ikke forstår. Hvis du ikke kan forklare hva en kommando gjør, ikke kjør den.
- Hold sikkerhetsprogramvaren oppdatert. Endepunktbeskyttelse kan fange opp en nyttelast selv når lokkemiddelet fungerer.
Hva dette betyr for deg
Hvis du bruker ChatGPT, er ikke plattformen i seg selv problemet. Risikoen er at enhver offentlig tilpasset GPT kan si hva som helst, inkludert å påstå å være noe den ikke er. Å være på et pålitelig nettsted gjør ikke innholdet pålitelig.
Hvis du allerede har fulgt instruksjoner fra en tilpasset GPT for å installere programvare eller kjøre kommandoer, koble enheten fra nettverket, kjør en full skanning med anerkjent sikkerhetsprogramvare, og endre viktige passord fra en annen, ren enhet. Hvis det er en jobbdatamaskin, si umiddelbart fra til IT- eller sikkerhetsteamet ditt. De kan undersøke på måter en enkeltperson ikke kan.
Konklusjonen
Kampanjen med skadelig programvare via tilpasset GPT og trojaner for fjern tilgang som Huntress beskriver, viser hvordan angripere tilpasser seg der folk allerede legger sin tillit. Behandle ethvert AI-verktøy som ber deg laste ned eller kjøre programvare med mistanke, verifiser utgiveren, og nå produkter gjennom offisielle kanaler. For å se hvordan disse truslene passer inn i det større bildet, les sammendraget vårt av Anthropics trusseletterretningsrapport om misbruk av AI.
