Huntressin tutkijat raportoivat, että hyökkääjät väärinkäyttävät ChatGPT:n Custom GPT -ominaisuutta tekeytyäkseen AI-tuotteiksi ja huijatakseen ihmisiä asentamaan kehittyneen etäkäyttötroijalaisen (RAT). Löytö on hyödyllinen muistutus siitä, että tuttu ja luotettu käyttöliittymä voi kantaa uhkaa. Tämä Custom GPT -haittaohjelma-etäkäyttötroijalainen-kampanja ei nojaa tietokoneesi haavoittuvuuteen. Se nojaa siihen, että uskot edessäsi olevaan chat-ikkunaan.
Miten Custom GPT -haittaohjelmasyötti toimii
Custom GPT:t ovat räätälöityjä versioita ChatGPT:stä, joita kuka tahansa voi rakentaa ja julkaista. Tämä avoimuus tekee ominaisuudesta hyödyllisen, ja sitä hyökkääjät myös hyödyntävät. Huntressin mukaan uhkatoimijat rakentavat Custom GPT:itä, jotka esiintyvät laillisina AI-tuotteina, ja ohjaavat sitten kävijöitä asentamaan haittaohjelmia.
Lähdeartikkeli on niukka teknisten yksityiskohtien osalta, joten on syytä erottaa vahvistettu tieto siitä, mikä ei ole vahvistettua. Vahvistettu osa on ydinmalli: Custom GPT esiintyy AI-tuotteena, ja uhri suostutellaan asentamaan RAT. Muu samaa toimintaa koskeva uutisointi kuvaa syötin tavoittavan ihmisiä sponsoroitujen Google-tulosten kautta ja käyttävän ClickFix-tyylisiä taktiikoita, joissa käyttäjä houkutellaan itse suorittamaan PowerShell-komentoja. Tämä yksityiskohta tulee toissijaisesta raportoinnista, joten sitä tulee pitää taustatietona eikä lopullisena totuutena.
Yhteinen piirre on, että uhri tekee työn. Sen sijaan, että hyökkääjä hyödyntäisi ohjelmistoa, hän tarjoaa vakuuttavan tarinan ja joukon ohjeita, ja käyttäjä toteuttaa ne.
Mitä etäkäyttötroijalainen voi tehdä laitteellesi
Etäkäyttötroijalainen antaa hyökkääjälle piilotetun tavan hallita konetta etäältä. Kun sellainen on käynnissä, sen takana oleva henkilö voi usein toimia kuin istuisi näppäimistölläsi. Tietoturvayritykset kuvaavat RAT-ominaisuuksiin tyypillisesti kuuluvan:
- Tiedostojen katselu ja kopiointi
- Toiminnan seuranta ja viestien lukeminen
- Näppäilyn ja tunnistetietojen tallentaminen
- Verkkokameran tai mikrofonin aktivoiminen
- Lisähaittaohjelmien asentaminen
Se, mitkä näistä tietyistä ominaisuuksista tietty RAT tukee, riippuu kannasta, ja Huntress kuvailee tätä kehittyneeksi. Käytännön johtopäätös on, että RAT-tartunta on harvoin vähäinen harmi. Koska se voi toimia hiljaa, et välttämättä huomaa mitään vialla, samalla kun tallennetut salasanat, työasiakirjat ja istuntotiedot ovat vaarassa.
Kaikille työkannettavaa käyttäville panokset ulottuvat henkilökohtaisten tietojen ulkopuolelle. Vaarantunut laite voi muodostua jalansijaksi yrityksen tileihin ja järjestelmiin.
Miksi luotetut AI-alustat tekevät vakuuttavia jakelukanavia
Ihmiset ovat vuosien ajan oppineet epäluottamaan outoja sähköpostiliitteitä ja tuntemattomia lataussivustoja. Paljon harvemmat ovat oppineet kyseenalaistamaan chat-käyttöliittymän, joka sijaitsee tunnetulla AI-alustalla. Custom GPT näkyy samassa ympäristössä, jota ihmiset jo käyttävät sähköpostien luonnosteluun tai asiakirjojen tiivistämiseen, ja tämä konteksti antaa lainattua uskottavuutta.
On muutamia syitä, miksi tämä toimii hyvin hyökkääjille:
- Tuttu ympäristö. Sivu näyttää ja tuntuu oikealta palvelulta, joten epäilys pysyy matalana.
- Keskustelupaine. Chatbot voi vastata vastaväitteisiin, kuulostaa avuliaalta ja opastaa henkilöä vaihe vaiheelta.
- Brändin jäljittely. Custom GPT:n nimeäminen AI-tuotteen mukaan, jota ihmiset haluavat kokeilla, antaa syötille valmiin yleisön.
Tämä sopii laajempaan malliin, jossa AI-työkaluja vedetään hyökkääjän työkalupakkiin. Laajempaa taustaa varten kattavuutemme Anthropicin 154-sivuisesta raportista AI-rakennettuihin haittaohjelmiin ja zero-day-haavoittuvuuksiin tarkastelee, miten AI:n väärinkäyttö kehittyy yhden tempun ulkopuolelle.
Miten AI-työkalut tarkistetaan ennen asentamista
Sinun ei tarvitse välttää AI-työkaluja. Tarvitset muutamia tapoja, jotka keskeyttävät tämänkaltaisen hyökkäyksen.
- Kyseenalaista kaikki pyynnöt ladata tai suorittaa ohjelmistoja. Chat-avustaja, joka pyytää sinua asentamaan ohjelman tai liittämään komentoja PowerShelliin tai terminaaliin, ansaitsee välittömän epäilyn.
- Mene suoraan lähteelle. Jos haluat tietyn AI-tuotteen, kirjoita virallinen osoite itse tai käytä toimittajan omia kanavia sen sijaan, että klikkaisit sponsoroitua hakutulosta.
- Tarkista, kuka sen rakensi. Custom GPT:n on julkaissut yksilö tai organisaatio, ei välttämättä nimessä oleva brändi. Katso tekijän tiedot ennen kuin luotat siihen.
- Älä koskaan liitä komentoja, joita et ymmärrä. Jos et osaa selittää, mitä komento tekee, älä suorita sitä.
- Pidä tietoturvaohjelmistot ajan tasalla. Päätepisteen suojaus voi havaita hyötykuorman, vaikka syötti toimisi.
Mitä tämä tarkoittaa sinulle
Jos käytät ChatGPT:tä, alusta itsessään ei ole ongelma. Riski on siinä, että mikä tahansa julkinen Custom GPT voi sanoa mitä tahansa, mukaan lukien väittää olevansa jotain, mitä se ei ole. Luotetulla sivustolla oleminen ei tee sisällöstä luotettavaa.
Jos olet jo noudattanut Custom GPT:n ohjeita ohjelmiston asentamiseksi tai komentojen suorittamiseksi, irrota laite verkosta, suorita täysi skannaus hyvämaineisella tietoturvaohjelmistolla ja vaihda tärkeät salasanat toiselta puhtaalta laitteelta. Jos kyseessä on työkone, kerro siitä välittömästi IT- tai tietoturvatiimillesi. He voivat tutkia tavoilla, joihin yksittäinen henkilö ei pysty.
Yhteenveto
Huntressin kuvaama Custom GPT -haittaohjelma-etäkäyttötroijalainen-kampanja osoittaa, miten hyökkääjät sopeutuvat sinne, missä ihmiset jo luottavat. Suhtaudu epäluuloisesti mihin tahansa AI-työkaluun, joka pyytää sinua lataamaan tai suorittamaan ohjelmistoja, varmista julkaisija ja hanki tuotteet virallisten kanavien kautta. Nähdäksesi, miten nämä uhat sopivat suurempaan kuvaan, lue yhteenvetomme Anthropicin uhkatietoraportista AI:n väärinkäytöstä.
