Huntress-forskare rapporterar att angripare missbrukar ChatGPT:s funktion för anpassade GPT:er för att utge sig för att vara AI-produkter och lura människor att installera en sofistikerad trojan för fjärråtkomst (RAT). Upptäckten är en nyttig påminnelse om att ett välbekant, betrott gränssnitt kan bära på ett hot. Den här kampanjen med skadlig programvara via anpassade GPT:er och trojaner för fjärråtkomst utnyttjar inte en sårbarhet i din dator. Den utnyttjar att du litar på chattfönstret framför dig.
Hur lockbetet med skadlig programvara via anpassade GPT:er fungerar
Anpassade GPT:er är skräddarsydda versioner av ChatGPT som vem som helst kan bygga och publicera. Den öppenheten är det som gör funktionen användbar, och det är också det som angripare utnyttjar. Enligt Huntress bygger hotaktörerna anpassade GPT:er som utger sig för att vara legitima AI-produkter och sedan styr besökare mot att installera skadlig programvara.
Källartikeln är kortfattad om de tekniska detaljerna, så det är värt att skilja på vad som är bekräftat och vad som inte är det. Den bekräftade delen är kärnmönstret: en anpassad GPT utger sig för att vara en AI-produkt, och offret övertalas att installera en RAT. Annan bevakning av samma aktivitet beskriver att lockbetet når människor via sponsrade Google-resultat och använder taktiker i ClickFix-stil, där en användare lockas att själv köra PowerShell-kommandon. Den detaljen kommer från sekundär rapportering, så behandla den som kontext snarare än som sista ordet.
Den gemensamma nämnaren är att offret gör arbetet. I stället för att utnyttja programvara levererar angriparen en övertygande historia och en uppsättning instruktioner, och användaren utför dem.
Vad en trojan för fjärråtkomst kan göra med din enhet
En trojan för fjärråtkomst ger en angripare ett dolt sätt att styra en maskin på avstånd. När en väl körs kan personen bakom den ofta agera som om den satt vid ditt tangentbord. Säkerhetsleverantörer beskriver vanligtvis RAT-funktioner som att de omfattar:
- Visa och kopiera filer
- Övervaka aktivitet och läsa meddelanden
- Fånga tangenttryckningar och inloggningsuppgifter
- Aktivera en webbkamera eller mikrofon
- Installera ytterligare skadlig programvara
Exakt vilka av dessa en given RAT stöder beror på varianten, och Huntress beskriver den här som sofistikerad. Den praktiska slutsatsen är att en RAT-infektion sällan är en bagatell. Eftersom den kan köras tyst kanske du inte märker något fel medan sparade lösenord, arbetsdokument och sessionsdata exponeras.
För alla som använder en arbetslaptop sträcker sig insatserna bortom personuppgifter. En komprometterad enhet kan bli ett fotfäste in i företagskonton och system.
Varför betrodda AI-plattformar blir övertygande leveranskanaler
Människor har i åratal lärt sig att misstro underliga e-postbilagor och obekanta nedladdningssidor. Långt färre har lärt sig att ifrågasätta ett chattgränssnitt som finns på en välkänd AI-plattform. En anpassad GPT visas i samma miljö som människor redan använder för att skriva e-post eller sammanfatta dokument, och den kontexten lånar ut trovärdighet.
Det finns några skäl till att detta fungerar bra för angripare:
- Välbekant omgivning. Sidan ser ut och känns som den riktiga tjänsten, så misstänksamheten hålls låg.
- Konversationellt tryck. En chattbot kan svara på invändningar, låta hjälpsam och lotsa en person genom stegen ett i taget.
- Varumärkesimitation. Att döpa en anpassad GPT efter en AI-produkt som människor vill prova ger lockbetet en färdig publik.
Detta passar in i ett bredare mönster där AI-verktyg dras in i angriparens verktygslåda. För bredare kontext tittar vår bevakning av Anthropics 154-sidiga rapport om AI-byggd skadlig programvara och zero-days på hur AI-missbruk utvecklas bortom ett enskilt trick.
Hur du granskar AI-verktyg innan du installerar något
Du behöver inte undvika AI-verktyg. Du behöver några vanor som avbryter den här typen av attack.
- Ifrågasätt varje begäran om att ladda ner eller köra programvara. En chattassistent som ber dig installera ett program, eller att klistra in kommandon i PowerShell eller en terminal, förtjänar omedelbar misstanke.
- Gå direkt till källan. Om du vill ha en specifik AI-produkt, skriv den officiella adressen själv eller använd leverantörens egna kanaler i stället för att klicka på ett sponsrat sökresultat.
- Kontrollera vem som byggde den. En anpassad GPT publiceras av en individ eller organisation, inte nödvändigtvis av varumärket i dess namn. Titta på skaparens uppgifter innan du litar på den.
- Klistra aldrig in kommandon du inte förstår. Om du inte kan förklara vad ett kommando gör, kör det inte.
- Håll säkerhetsprogramvaran uppdaterad. Endpoint-skydd kan fånga en nyttolast även när lockbetet fungerar.
Vad detta betyder för dig
Om du använder ChatGPT är plattformen i sig inte problemet. Risken är att vilken offentlig anpassad GPT som helst kan säga vad som helst, inklusive att påstå sig vara något den inte är. Att vara på en betrodd webbplats gör inte innehållet pålitligt.
Om du redan har följt instruktioner från en anpassad GPT för att installera programvara eller köra kommandon, koppla bort enheten från nätverket, kör en fullständig genomsökning med pålitlig säkerhetsprogramvara och byt viktiga lösenord från en annan, ren enhet. Om det är en arbetsmaskin, berätta för din IT- eller säkerhetsavdelning direkt. De kan undersöka på sätt som en enskild person inte kan.
Slutsatsen
Kampanjen med skadlig programvara via anpassade GPT:er och trojaner för fjärråtkomst som Huntress beskriver visar hur angripare anpassar sig till var människor redan placerar sitt förtroende. Behandla alla AI-verktyg som ber dig ladda ner eller köra programvara med misstanke, verifiera utgivaren och nå produkter via officiella kanaler. För att se hur dessa hot passar in i den större bilden, läs vår sammanfattning av Anthropics hotunderrättelserapport om AI-missbruk.
