Peretas Rusia Gunakan Prompt Nuklir Palsu untuk Mengelabui Pemindai AI

Peretas Rusia Mempersenjatai Pengaman AI Melawan Alat Keamanan

Kampanye malware yang baru dilaporkan dan dikaitkan dengan peretas Rusia telah mengambil pendekatan yang tidak biasa untuk menghindari deteksi: menyematkan permintaan senjata nuklir palsu di dalam skrip VBS berbahaya. Tujuannya bukan untuk membangun senjata, melainkan untuk membingungkan sistem AI yang semakin sering digunakan untuk menganalisis kode yang mencurigakan. Dengan menyisipkan bahasa yang meniru permintaan informasi senjata nuklir, para penyerang tampaknya mencoba memicu pengaman yang tertanam dalam model AI, menyebabkan sistem tersebut menolak untuk memproses atau menganalisis file secara penuh.

Taktik ini menyoroti ketegangan yang semakin besar dalam keamanan siber: seiring semakin banyak tim keamanan yang mengandalkan alat AI untuk menriase dan menganalisis malware dalam skala besar, para penyerang belajar untuk mengeksploitasi mekanisme pengaman yang justru dirancang untuk membuat alat tersebut dapat dipercaya.

Cara Kerja Trik Prompt Senjata Nuklir Palsu

Pengaman AI ada untuk alasan yang baik. Model bahasa besar dilatih untuk menolak permintaan yang dapat memfasilitasi bahaya di dunia nyata, termasuk instruksi terperinci yang terkait dengan senjata pemusnah massal. Ketika alat keamanan berbantuan AI memindai file, alat tersebut biasanya membaca konten, termasuk teks yang tertanam, sebagai bagian dari proses analisisnya.

Dengan menanamkan bahasa yang menyerupai permintaan senjata nuklir di dalam skrip VBS, para peretas tampaknya mengandalkan perilaku penolakan bawaan model AI untuk aktif. Alih-alih menandai file sebagai malware, AI mungkin berhenti sejenak, menolak untuk melanjutkan analisis, atau menghasilkan penilaian yang tidak lengkap atau tidak dapat diandalkan. Pada dasarnya, konten berbahaya menjadi semacam umpan, menggunakan pelatihan etis AI itu sendiri untuk melawannya.

Ini bukanlah kelemahan yang unik pada satu vendor atau produk tertentu. Ini mencerminkan tantangan yang lebih luas: pengaman biasanya dirancang seputar moderasi konten dan pencegahan bahaya, bukan penghindaran yang bersifat adversarial selama analisis malware teknis. Ketika dua tujuan tersebut berbenturan, para penyerang mendapatkan celah.

Mengapa Ini Penting untuk Analisis Keamanan Berbasis AI

Tim keamanan telah dengan cepat mengadopsi alat AI untuk membantu menyortir volume besar file mencurigakan, upaya phishing, dan skrip yang mereka temui setiap hari. Alat-alat ini menjanjikan triase yang lebih cepat dan dapat menandai pola yang mungkin terlewatkan oleh analis manusia. Namun insiden ini mengingatkan bahwa sistem AI yang digunakan dalam alur kerja keamanan membawa permukaan serangan mereka sendiri, sesuatu yang tidak dirancang untuk diantisipasi oleh deteksi malware tradisional.

Jika model AI dapat dimanipulasi untuk melewatkan atau melunakkan analisisnya hanya karena sebuah file mengandung kata-kata pemicu tertentu, itu adalah titik buta yang signifikan. Ini juga menimbulkan pertanyaan tentang seberapa besar organisasi harus mengandalkan analisis berbasis AI tanpa pengawasan manusia, terutama untuk keputusan berisiko tinggi seperti apakah sebuah file aman untuk dibuka atau dieksekusi.

Jenis taktik ini sesuai dengan pola yang lebih luas di mana para penyerang menyesuaikan teknik mereka dengan siapa pun, atau apa pun, yang melakukan pertahanan. Seperti operator ransomware telah mengalihkan target rekayasa sosial mereka ke manajer karir pertengahan alih-alih eksekutif, penulis malware kini menyesuaikan teknik penghindaran mereka dengan sistem spesifik, termasuk model AI, yang berdiri di antara mereka dan target mereka.

Apa Artinya Ini Bagi Anda

Bagi sebagian besar pengguna individu, teknik spesifik ini menargetkan infrastruktur keamanan perusahaan daripada perangkat pribadi secara langsung. Anda tidak mungkin menemukan trik skrip VBS tertentu ini di komputer Anda sendiri dengan cara yang memengaruhi kebiasaan browsing atau email harian Anda. Tetapi pelajaran mendasarnya berlaku secara luas: alat otomatis, baik pemindai malware berbasis AI, filter spam, atau perangkat lunak antivirus, tidaklah sempurna, dan para penyerang secara aktif meneliti cara untuk mengeksploitasi titik buta mereka.

Jika tempat kerja Anda menggunakan alat keamanan berbantuan AI, ini adalah momen yang tepat untuk bertanya bagaimana alat tersebut divalidasi dan apakah analis manusia masih meninjau file yang ditandai atau tidak ditandai. Bagi individu, intinya lebih umum: jangan berasumsi bahwa karena sebuah file tidak ditandai oleh pemindai otomatis, file tersebut otomatis aman. Pertahanan berlapis, skeptisisme terhadap skrip atau lampiran yang tidak terduga, dan kebersihan keamanan dasar tetap sama pentingnya seperti sebelumnya.

Poin-Poin Praktis yang Dapat Diambil

• Hindari membuka file VBS, skrip, atau dokumen dengan makro yang tidak diminta, terlepas dari apakah pemindaian otomatis telah membersihkannya.
• Jika Anda mengelola alat keamanan di tempat kerja, tanyakan apakah analisis malware berbantuan AI mencakup peninjauan manusia cadangan untuk file yang memicu penolakan atau pemindaian tidak lengkap.
• Pertahankan lapisan deteksi tradisional, seperti antivirus berbasis tanda tangan dan pemantauan jaringan, di samping alat AI yang lebih baru, alih-alih menggantinya sepenuhnya.
• Tetap terinformasi tentang bagaimana para penyerang beradaptasi dengan pertahanan berbasis AI, karena teknik seperti ini kemungkinan akan berkembang daripada hilang.

Seiring AI menjadi semakin tertanam dalam alur kerja keamanan siber, insiden seperti ini menunjukkan bahwa pengaman yang dimaksudkan untuk menjaga sistem AI tetap aman juga dapat menjadi target itu sendiri. Tetap terinformasi tentang taktik baru yang muncul ini, dan mempertahankan pertahanan berlapis yang ditinjau manusia, tetap menjadi cara terbaik untuk tetap berada di depan para penyerang yang terus-menerus mencari kelemahan baru untuk dieksploitasi.