Penyerang telah membangun agen AI yang dirancang untuk LLMjacking, menurut laporan dari Help Net Security. Agen tersebut mengambil alih model AI yang terekspos dan menggunakannya untuk mencuri kredensial serta menambang mata uang kripto. Biaya ditanggung korban. Bagi siapa pun yang menjalankan model self-hosted atau memiliki kunci API AI berbayar, LLMjacking yang mengekspos model AI kini menjadi risiko nyata yang perlu dipahami.
Apa Itu LLMjacking dan Bagaimana Agen Ini Bekerja
LLMjacking adalah pembajakan large language model (LLM) yang dimiliki atau dibayar oleh orang lain. Alih-alih membeli komputasi atau akses API, penyerang menemukan model yang dapat dijangkau atau kunci yang bocor, lalu menggunakannya secara gratis. Korban yang membayar tagihannya.
Yang baru di sini adalah otomasinya. Laporan tersebut menjelaskan sebuah agen AI yang dibangun untuk tujuan ini. Alih-alih seseorang mencari layanan yang salah konfigurasi secara manual, perangkat lunak yang melakukan pencarian dan pengambilalihan. Tujuan yang dilaporkan adalah mencuri kredensial dan menambang mata uang kripto, yang keduanya mengubah model yang dibajak menjadi keuntungan langsung bagi penyerang.
Sumber tersebut menjelaskan alat ini hanya pada tingkat umum, dan kami tidak akan berspekulasi lebih jauh. Poin yang lebih luas tetap berlaku: ketika penemuan dan eksploitasi diotomatisasi, layanan yang terekspos tidak perlu menarik untuk ditemukan. Ia hanya perlu dapat dijangkau.
Bagaimana Kunci dan Layanan AI yang Terekspos Dibajak
Pola yang disarankan cukup lugas. Sebuah agen memindai model AI dan endpoint API yang terekspos, lalu mengambil kendali atas apa yang ditemukannya. Dua jenis eksposur paling penting:
- Endpoint yang terekspos. Model self-hosted atau antarmuka AI yang dapat dijangkau dari internet, sering kali karena pengaturan yang praktis, port yang diteruskan, atau tidak adanya login.
- Kredensial yang terekspos. Kunci API yang berada di tempat yang seharusnya tidak, seperti repositori kode, file konfigurasi bersama, atau proyek lama yang tidak diingat siapa pun.
Setelah penyerang memiliki salah satunya, model bekerja untuk mereka. Komputasi berjalan di perangkat keras atau akun Anda, dan penggunaannya muncul di tagihan Anda atau memperlambat mesin Anda.
Sisi pencurian kredensial menambah lapisan kekhawatiran kedua. Layanan AI yang dibajak bukan hanya sumber daya gratis. Ia juga bisa menjadi cara untuk mengumpulkan lebih banyak kredensial, itulah sebabnya satu kunci yang terlupakan dapat berubah menjadi masalah yang lebih luas.
Apa Artinya Bagi Anda
Jika Anda hanya menggunakan AI melalui aplikasi obrolan konsumen, eksposur langsung Anda terbatas. Risiko tumbuh saat Anda melakukan lebih banyak dari hal berikut:
- Anda menjalankan model di rumah. Penggemar server rumahan yang menghosting LLM lokal, antarmuka web, atau alat otomatisasi adalah target paling jelas. Layanan AI tanpa autentikasi pada port yang diteruskan adalah jenis hal yang dirancang untuk ditemukan oleh pemindai otomatis.
- Anda memegang kunci API. Pengembang dan penghobi yang menghubungkan layanan AI ke skrip, ekstensi peramban, atau proyek sampingan mungkin memiliki kunci yang tersebar di beberapa tempat.
- Anda menggunakan ulang kredensial. Jika sistem yang dibajak mengekspos kata sandi yang Anda gunakan di tempat lain, kerusakan menyebar melampaui layanan AI. Penggunaan ulang mengubah satu kompromi menjadi banyak.
Sisi finansialnya juga mudah terlewat. Penambangan mata uang kripto dan penggunaan model yang berat mengonsumsi sumber daya secara diam-diam. Anda mungkin hanya menyadarinya ketika tagihan melonjak, perangkat keras Anda menjadi panas, atau penyedia menandai aktivitas tidak biasa.
Ini sejalan dengan tren yang lebih luas. Penyerang semakin banyak menggunakan AI secara ofensif, bukan hanya menargetkannya. Liputan kami tentang bagaimana peretas Rusia menggunakan Claude AI untuk membangun ulang malware yang terdeteksi menunjukkan pergeseran yang sama menuju perkakas berbantuan AI di sisi penyerang.
Cara Mengunci Kunci API, Eksposur Jaringan, dan Pengaturan Server Rumahan
Tidak satu pun dari langkah-langkah ini yang eksotis. Sebagian besar adalah higiene dasar yang diterapkan pada jenis layanan yang lebih baru.
Perlakukan kunci API seperti kata sandi.
- Daftar setiap layanan AI yang Anda bayar atau hubungkan ke proyek.
- Rotasi kunci yang tidak lagi Anda kenali atau belum digunakan baru-baru ini, dan hapus yang tidak Anda butuhkan.
- Jauhkan kunci dari repositori kode dan dokumen bersama. Gunakan variabel lingkungan atau pengelola kata sandi sebagai gantinya.
- Di mana penyedia Anda mengizinkannya, tetapkan batas pengeluaran dan peringatan penggunaan agar kunci yang dibajak cepat diketahui.
- Gunakan kunci terpisah untuk setiap proyek agar satu kebocoran tidak mengekspos semuanya.
Kurangi eksposur jaringan.
- Periksa router Anda untuk aturan port-forwarding dan hapus aturan yang tidak Anda ingat pernah dibuat.
- Jangan mengekspos antarmuka AI self-hosted langsung ke internet. Jika Anda memerlukan akses jarak jauh, letakkan di belakang VPN atau terowongan terautentikasi lain yang Anda kendalikan.
- Aktifkan autentikasi untuk setiap antarmuka web AI atau API yang Anda jalankan, bahkan jika hanya berada di jaringan rumah Anda.
- Jaga perangkat lunak model dan dependensinya tetap diperbarui.
Amati tanda-tanda peringatan.
- Biaya atau lonjakan penggunaan tak terduga pada akun AI.
- Beban CPU atau GPU tinggi yang berkelanjutan saat Anda tidak menjalankan apa pun.
- Log yang menunjukkan permintaan dari alamat yang tidak Anda kenali.
Perbaiki penggunaan ulang kredensial. Gunakan kata sandi unik untuk setiap layanan dan aktifkan autentikasi multi-faktor jika tersedia. Jika layanan yang dibajak pernah mengekspos kata sandi, kredensial unik menjaga dampaknya tetap terkendali.
Poin Penting
Laporannya singkat, tetapi pelajarannya jelas. LLMjacking yang mengekspos model AI menjadi aktivitas otomatis yang dapat diskalakan, dan yang membayarnya adalah pemilik kunci dan server yang terekspos. Anda tidak perlu berhenti menggunakan alat AI. Anda perlu tahu di mana kunci Anda berada dan apa yang diekspos jaringan Anda.
Hari ini, luangkan beberapa menit untuk mengaudit kunci API AI Anda, periksa layanan AI self-hosted yang Anda jalankan, dan tinjau aturan port-forwarding router Anda. Jika Anda ingin konteks lebih lanjut tentang bagaimana penyerang memanfaatkan AI, baca artikel kami tentang pengembangan malware berbantuan AI.
