Peneliti Huntress melaporkan bahwa penyerang menyalahgunakan fitur Custom GPT milik ChatGPT untuk menyamar sebagai produk AI dan menjebak orang agar memasang remote access trojan (RAT) yang canggih. Temuan ini menjadi pengingat berguna bahwa antarmuka yang familier dan tepercaya dapat membawa ancaman. Kampanye malware Custom GPT remote access trojan ini tidak bergantung pada celah di komputer Anda. Kampanye ini bergantung pada Anda yang mempercayai jendela obrolan di depan Anda.
Cara kerja umpan malware Custom GPT
Custom GPT adalah versi ChatGPT yang disesuaikan dan dapat dibuat serta dipublikasikan oleh siapa saja. Keterbukaan itulah yang membuat fitur ini berguna, dan itulah juga yang dieksploitasi penyerang. Menurut Huntress, pelaku ancaman membuat Custom GPT yang menyamar sebagai produk AI yang sah, lalu mengarahkan pengunjung untuk memasang malware.
Artikel sumbernya singkat soal detail teknis, jadi penting untuk memisahkan apa yang sudah dikonfirmasi dari yang belum. Bagian yang dikonfirmasi adalah pola intinya: sebuah Custom GPT menyamar sebagai produk AI, dan korban dibujuk untuk memasang RAT. Liputan lain atas aktivitas yang sama menggambarkan umpan ini menjangkau orang melalui hasil pencarian Google bersponsor dan menggunakan taktik bergaya ClickFix, di mana pengguna dibujuk untuk menjalankan perintah PowerShell sendiri. Detail itu berasal dari pemberitaan sekunder, jadi anggap saja sebagai konteks, bukan kata akhir.
Benang merahnya adalah korban yang melakukan pekerjaannya. Alih-alih mengeksploitasi perangkat lunak, penyerang menyediakan cerita yang meyakinkan dan serangkaian instruksi, lalu pengguna menjalankannya.
Apa yang bisa dilakukan remote access trojan pada perangkat Anda
Remote access trojan memberi penyerang cara tersembunyi untuk mengendalikan mesin dari jarak jauh. Begitu RAT berjalan, orang di baliknya sering kali dapat bertindak seolah-olah mereka duduk di depan keyboard Anda. Vendor keamanan umumnya mendeskripsikan kemampuan RAT meliputi:
- Melihat dan menyalin file
- Memantau aktivitas dan membaca pesan
- Menangkap penekanan tombol dan kredensial
- Mengaktifkan webcam atau mikrofon
- Memasang malware tambahan
Yang mana dari kemampuan ini yang didukung RAT tertentu bergantung pada variannya, dan Huntress mendeskripsikan RAT ini sebagai canggih. Intinya, infeksi RAT jarang hanya gangguan kecil. Karena RAT dapat berjalan diam-diam, Anda mungkin tidak menyadari ada yang salah sementara kata sandi tersimpan, dokumen kerja, dan data sesi terekspos.
Bagi siapa pun yang menggunakan laptop kerja, taruhannya melampaui data pribadi. Perangkat yang terkompromi dapat menjadi pijakan masuk ke akun dan sistem perusahaan.
Mengapa platform AI tepercaya menjadi saluran pengiriman yang meyakinkan
Orang-orang telah menghabiskan bertahun-tahun belajar untuk tidak mempercayai lampiran email yang mencurigakan dan situs unduhan yang tidak dikenal. Jauh lebih sedikit yang belajar mempertanyakan antarmuka obrolan yang berada di platform AI terkenal. Custom GPT muncul di dalam lingkungan yang sama yang sudah digunakan orang untuk menyusun email atau merangkum dokumen, dan konteks itu memberi kredibilitas pinjaman.
Ada beberapa alasan mengapa ini berhasil dengan baik bagi penyerang:
- Lingkungan yang familier. Halaman itu tampak dan terasa seperti layanan asli, sehingga kecurigaan tetap rendah.
- Tekanan percakapan. Chatbot dapat menjawab keberatan, terdengar membantu, dan menuntun seseorang melalui langkah-langkah satu per satu.
- Penyamaran merek. Memberi nama Custom GPT dengan nama produk AI yang ingin dicoba orang memberi umpan ini audiens yang siap pakai.
Ini sesuai dengan pola yang lebih luas di mana alat AI ditarik ke dalam perangkat penyerang. Untuk konteks yang lebih luas, liputan kami tentang laporan 154 halaman Anthropic tentang malware dan zero-day buatan AI membahas bagaimana penyalahgunaan AI berkembang melampaui satu trik tunggal.
Cara memeriksa alat AI sebelum memasang apa pun
Anda tidak perlu menghindari alat AI. Anda perlu beberapa kebiasaan yang menghentikan serangan semacam ini.
- Pertanyakan setiap permintaan untuk mengunduh atau menjalankan perangkat lunak. Asisten obrolan yang meminta Anda memasang program, atau menempelkan perintah ke PowerShell atau terminal, patut langsung dicurigai.
- Kunjungi sumbernya secara langsung. Jika Anda menginginkan produk AI tertentu, ketik sendiri alamat resminya atau gunakan saluran milik vendor itu sendiri daripada mengklik hasil pencarian bersponsor.
- Periksa siapa yang membuatnya. Custom GPT dipublikasikan oleh individu atau organisasi, belum tentu oleh merek yang ada di namanya. Lihat detail pembuatnya sebelum memercayainya.
- Jangan pernah menempelkan perintah yang tidak Anda pahami. Jika Anda tidak dapat menjelaskan apa yang dilakukan sebuah perintah, jangan jalankan.
- Selalu perbarui perangkat lunak keamanan. Perlindungan endpoint dapat menangkap payload bahkan ketika umpan berhasil.
Apa Artinya Bagi Anda
Jika Anda menggunakan ChatGPT, platform itu sendiri bukanlah masalahnya. Risikonya adalah Custom GPT publik mana pun dapat mengatakan apa saja, termasuk mengklaim sebagai sesuatu yang bukan dirinya. Berada di situs tepercaya tidak membuat kontennya dapat dipercaya.
Jika Anda sudah mengikuti instruksi dari Custom GPT untuk memasang perangkat lunak atau menjalankan perintah, putuskan perangkat dari jaringan, jalankan pemindaian penuh dengan perangkat lunak keamanan yang bereputasi baik, dan ganti kata sandi penting dari perangkat lain yang bersih. Jika itu mesin kerja, segera beri tahu tim TI atau keamanan Anda. Mereka dapat menyelidiki dengan cara yang tidak bisa dilakukan individu.
Intinya
Kampanye malware Custom GPT remote access trojan yang dideskripsikan Huntress menunjukkan bagaimana penyerang beradaptasi dengan tempat orang sudah menaruh kepercayaannya. Perlakukan alat AI apa pun yang meminta Anda mengunduh atau menjalankan perangkat lunak dengan curiga, verifikasi penerbitnya, dan akses produk melalui saluran resmi. Untuk melihat bagaimana ancaman ini masuk ke dalam gambaran yang lebih besar, baca ringkasan kami tentang laporan intelijen ancaman Anthropic soal penyalahgunaan AI.
