ChatGPTs delningslänkar används som vapen för att sprida falsk driftstörningsskadeprogram

En nyligen dokumenterad attackkampanj utnyttjar en förtroendefunktion som är inbyggd direkt i ChatGPT. Hotaktörer använder ChatGPTs delningsbara konversationslänkar för att vara värd för övertygande falska driftstörningssidor, som sedan omdirigerar besökare till att ladda ner skadeprogram förklätt som den officiella ChatGPT-skrivbordsapplikationen. Tekniken är ett tydligt exempel på hur kampanjer med falska ChatGPT-driftstörningssidor kan vända en legitim plattformsfunktion mot dess egna användare.

Det som gör denna attack ovanligt trovärdig är leveransmekanismen. Eftersom det skadliga innehållet är placerat på en äkta ChatGPT-delnings-URL (under domänen chat.openai.com) slipper det den omedelbara misstänksamhet som många användare skulle tillämpa mot en okänd phishing-domän. Användare som klickar på vad som verkar vara en delad konversation visas istället en övertygande sida som påstår att tjänsten ligger nere, tillsammans med en uppmaning att ladda ner en skrivbordsklient som en tillfällig lösning.

Hur angripare förvandlar ChatGPTs delningslänkar till skadeprogramssidor

ChatGPT tillåter användare att generera delningsbara länkar till sina konversationer. Dessa länkar är offentliga som standard när de väl har skapats, vilket innebär att vem som helst med webbadressen kan se innehållet. Angripare skapar dessa länkar för att visa utformat innehåll som imiterar ett officiellt driftstörningsmeddelande från OpenAI.

Den falska sidan kräver inget intrång i OpenAI:s infrastruktur över huvud taget. Angriparen använder helt enkelt ChatGPT:s eget gränssnitt för att bygga en konversation som, när den visas som en delad länk, ser ut som en tjänstestatus- eller underhållsvarning. Därifrån leder sidan användarna mot en nedladdning av vad som framställs som en fristående ChatGPT-skrivbordsapp, som i själva verket är en skadlig nyttolast.

Detta tillvägagångssätt är särskilt effektivt eftersom angriparen utnyttjar två saker samtidigt: den visuella legitimiteten hos en webbadress som liknar openai.com och det sociala trycket från en upplevd driftstörning. Användare som förlitar sig på ChatGPT för arbete eller dagliga uppgifter är förberedda på att agera snabbt när de tror att tjänsten är otillgänglig.

Varför integritetsmedvetna användare och VPN-användare är främsta måltavlor för AI-tema-phishing

Integritetsmedvetna användare och de som förlitar sig på VPN tror ofta att de är bättre skyddade mot phishing-kampanjer. I detta fall kan det antagandet slå tillbaka mot dem. Eftersom den skadliga länken kommer från en äkta, betrodd domän kan VPN-nivåns trafikfiltrering och till och med vissa webbläsarbaserade säkerhetsverktyg missa att flagga webbadressen.

Utöver det medför AI-plattformar redan en betydande integritetsexponering som sträcker sig långt bortom en enskild skadeprogramskampanj. Ny forskning har visat att AI-system kan användas för att avmaskera anonyma sociala mediekonton, en påminnelse om att riskerna kring AI-verktyg är bredare och mer komplexa än de flesta användare inser. Någon som noggrant skyddar sin identitet online men installerar en skadlig nyttolast i tron att det är en legitim app lämnar ifrån sig långt mer än de avsåg.

AI-tema-lockbeten blir också mer effektiva i takt med att fler människor integrerar verktyg som ChatGPT i sina dagliga arbetsflöden. Ju mer oumbärligt ett verktyg känns, desto mer brådskande upplevs ett "driftstörnings"-meddelande, och brådska är ett av phishingens mest pålitliga vapen.

Varningsflaggor: Att upptäcka en falsk driftstörnings- eller nedladdningssida innan du klickar

Även när en webbadress ser legitim ut finns det beteendemässiga och visuella signaler som bör väcka skepsis:

  • Oväntade nedladdningsuppmaningar. ChatGPT kräver ingen skrivbordsapp för att använda webbtjänsten. Varje sida som uppmanar dig att ladda ner programvara för att komma åt ChatGPT under en driftstörning är fabricerad. OpenAI har officiella skrivbordsappar som distribueras genom verifierade kanaler, inte genom delade konversationslänkar.
  • Driftstörningsmeddelanden som bara du kan se. Verkliga driftstörningar meddelas offentligt på OpenAI:s statussida och via deras officiella sociala mediekonton. Om någon skickar en delad länk till dig som påstår att tjänsten ligger nere men tjänsten fungerar bra för andra, är sidan bedräglig.
  • Brådska och begränsade alternativ. Falska driftstörningssidor presenterar ofta en enda lösning (den skadliga nedladdningen) utan att länka till någon officiell supportdokumentation eller statusuppdateringar.
  • Kontext som inte stämmer. En ChatGPT-delningslänk bör innehålla en konversationsavskrift. Om du öppnar en delad länk och ser ett polerat driftstörningsmeddelande istället för en chattråd, är det en stark indikation på manipulation.

Hur man verifierar legitima ChatGPT-nedladdningar och kommunikation

Den säkraste regeln när det gäller programnedladdningar är att gå direkt till källan, och endast källan. För ChatGPT-skrivbordsapplikationer innebär det att navigera till openai.com direkt via din webbläsare istället för att klicka på någon länk, oavsett om den verkar komma från en vän, en delad länk eller ett sökresultat.

För tjänstestatus, bokmärk OpenAI:s officiella statussida (status.openai.com) och kontrollera den direkt om du misstänker en driftstörning istället för att lita på ett statusmeddelande inbäddat i en delad länk. Ingen legitim plattform bäddar in sina egna driftstörningsmeddelanden i en användarskapsad innehålls-URL.

Om du får en ChatGPT-delningslänk från någon, förhandsgranska webbadressen innan du klickar. En äkta delningslänk bör visa en konversation. Om den visar något annat än en chattråd, stäng sidan omedelbart och interagera inte med några nedladdningsknappar.

Vad detta betyder för dig

Denna kampanj är en påminnelse om att betrodda plattformar kan bli attackytor när hotaktörer hittar kreativa sätt att missbruka deras egna funktioner. Du behöver inte en komprometterad server eller en falsk domän för att övertygande leverera skadeprogram. Ibland räcker det med en legitim innehållsdelningsfunktion.

För alla som använder AI-verktyg regelbundet är slutsatsen enkel: behandla oväntade nedladdningsuppmaningar med samma skepsis som du skulle tillämpa på en bilaga från en okänd avsändare. Verifiera driftstörningar via officiella kanaler och installera aldrig programvara som härrör från en delad konversationslänk.

Riskerna kring AI-plattformar är inte begränsade till enbart phishing. Som tas upp i forskning om hur AI nu kan avmaskera anonyma sociala mediekonton, innebär ett skiktat förhållningssätt till integritet att tänka bortom enskilda incidenter och förstå den fulla attackytan som dessa verktyg exponerar. Goda vanor inkluderar att använda en ansedd säkerhetssvit, hålla din webbläsare och ditt operativsystem uppdaterade och att vara skeptisk mot varje oombedd nedladdningsuppmaning, oavsett hur bekant källans webbadress ser ut.