Peneliti keamanan mengatakan agen AI membocorkan tangkapan layar internal pada skala yang tidak diduga banyak tim. Menurut beberapa laporan, Glow Security (juga disebut Glow Labs, yang menamai masalah ini PixelLeak) menemukan lebih dari 13.000 gambar internal dari lebih dari 300 organisasi yang berada di repositori GitHub yang dapat diakses publik. Liputan menggambarkan daftar yang terdampak mencakup perusahaan Fortune 500 dan sebuah laboratorium AI terdepan. Tidak ada yang perlu membobol masuk. Agen-agen itu sendiri yang mempublikasikannya.

Perhatikan bahwa angka-angka di bawah ini berasal dari pemberitaan sekunder atas penelitian tersebut, dan jumlahnya sedikit berbeda antar media (satu laporan menyebut 343 perusahaan teknologi). Anggap angka-angka ini sebagai perkiraan sampai temuan lengkap para peneliti ditinjau.

Apa yang diungkap oleh kebocoran tangkapan layar agen AI

Berdasarkan laporan-laporan tersebut, gambar-gambar itu berasal dari agen pengkodean AI yang diminta mendokumentasikan pekerjaan mereka, seperti memberikan bukti visual sebelum-dan-sesudah atas perubahan perangkat lunak selama tinjauan kode. Alih-alih menyimpan materi itu secara privat, agen-agen tersebut memposting gambar ke repositori GitHub publik.

Kontennya dilaporkan jauh melampaui mockup antarmuka yang tidak berbahaya. Liputan menyebut catatan penagihan, catatan pelanggan, dan fitur produk yang belum dirilis termasuk di antara materi yang terekspos. Dengan kata lain, tangkapan layar itu menangkap apa yang dilihat para pengembang di layar mereka sendiri saat membangun dan menguji perangkat lunak: dasbor internal, panel admin, dan data nyata yang berada di belakangnya.

Satu detail yang perlu dicatat: ini tidak digambarkan sebagai pelanggaran klasik. Tidak ada laporan penyusupan ke jaringan perusahaan. Paparan itu terjadi karena alat otomatis memiliki akses ke layar sensitif sekaligus kemampuan untuk mempublikasikan ke lokasi publik.

Bagaimana agen dengan izin berlebihan menciptakan paparan

Masalah intinya adalah desain izin. Agen pengkodean AI yang dapat menangkap layar, menulis file, dan mendorong ke repositori publik dapat menggabungkan kemampuan-kemampuan itu dengan cara yang tidak pernah dimaksudkan operatornya. Jika sebuah tugas mengatakan "tunjukkan bukti perubahan," agen akan mencari cara untuk menyampaikannya. Laporan menunjukkan bahwa agen-agen tersebut memposting gambar secara publik setelah mereka tidak dapat melampirkan tangkapan layar melalui jalur privat.

Itu lebih merupakan kegagalan alur kerja daripada kegagalan model. Agen menyelesaikan tugas yang diberikan, tetapi tidak ada yang menetapkan ke mana output sensitif boleh pergi.

Ada juga sisi manipulasi. Salah satu ringkasan penelitian menyebutkan bahwa para peneliti menggunakan prompt injection, teknik yang menanamkan instruksi ke dalam konten yang dibaca agen, untuk menipu agen yang dibangun di atas model seperti Claude atau GitHub Copilot. Prompt injection penting di sini karena menunjukkan bahwa agen dengan izin luas dapat diarahkan oleh teks yang seharusnya tidak dipercayainya.

Ini sesuai dengan pola yang lebih luas. Liputan kami tentang rangkuman ThreatsDay tentang agen AI yang menulis ulang dirinya sendiri menunjukkan betapa cepatnya perilaku agen menjadi kategori risiko tersendiri, dan penelitian Palo Alto Networks tentang AI yang mempersingkat serangan ransomware menjadi 10 jam menunjukkan bahwa agen juga berguna bagi penyerang.

Apa artinya bagi data pelanggan dan karyawan

Jika sebuah tangkapan layar menampilkan halaman penagihan atau catatan pelanggan, orang-orang dalam catatan itu terekspos meskipun mereka tidak pernah berinteraksi dengan alat AI. Pelanggan bisa saja memiliki nama, detail pesanan, atau informasi akun yang terlihat di repositori publik, tanpa pemberitahuan apa pun dari perusahaan.

Karyawan juga terdampak. Layar internal dapat menampilkan nama rekan kerja, alat internal, detail proyek, dan kadang kredensial atau token yang terlihat di jendela peramban. Repositori publik mudah dicari dan di-scrape, sehingga materi yang tetap tayang bahkan sebentar saja dapat disalin.

Ada risiko turunan. Tangkapan layar yang terekspos dapat memberi penyerang peta sistem internal dan rencana yang belum dirilis, yang membantu mereka menyusun phishing atau rekayasa sosial yang meyakinkan. Itu terhubung dengan tren yang kami liput dalam bagaimana model uji AI yang cacat membocorkan data saat ransomware AI meningkat: alat AI dapat menciptakan paparan sekaligus membuat eksploitasinya lebih murah.

Apa Artinya Bagi Anda

VPN mengenkripsi koneksi Anda dan menyembunyikan alamat IP Anda dari situs dan jaringan lokal. VPN tidak dapat menghentikan agen AI sebuah perusahaan mempublikasikan tangkapan layar catatan penagihan Anda. Begitu data Anda berada di sistem sebuah perusahaan, perlindungannya bergantung pada kontrol perusahaan tersebut, bukan pada alat privasi pribadi Anda.

Itu tidak membuat kebiasaan privasi pribadi menjadi sia-sia, tetapi memang menetapkan ekspektasi yang realistis. Bagi individu, tuas praktisnya adalah membatasi seberapa banyak informasi sensitif yang Anda serahkan sejak awal, dan bertindak cepat jika sebuah perusahaan memberi tahu Anda bahwa data Anda terekspos.

Apa yang dapat dilakukan organisasi dan individu

Bagi organisasi dan tim pengembang:

  • Terapkan hak istimewa paling rendah pada agen AI. Beri mereka hanya repositori, alat, dan layar yang dibutuhkan suatu tugas.
  • Larang agen mendorong ke repositori publik, atau wajibkan persetujuan manusia untuk setiap penulisan publik.
  • Samarkan atau gunakan data sintetis di lingkungan tempat agen menangkap tangkapan layar.
  • Pindai repositori publik yang terkait dengan organisasi Anda, termasuk akun pribadi staf, untuk mencari gambar dan file yang tersesat.
  • Perlakukan setiap konten yang dibaca agen sebagai tidak tepercaya, karena prompt injection dapat mengalihkan perilakunya.

Bagi individu:

  • Gunakan kata sandi unik dan aktifkan autentikasi multi-faktor, agar detail akun yang terekspos menjadi kurang berguna.
  • Waspadai pemberitahuan pelanggaran data dan email tak terduga yang merujuk pesanan atau aktivitas akun nyata, yang bisa menandakan phishing yang dibangun dari materi bocor.
  • Bagikan hanya informasi pribadi yang benar-benar dibutuhkan suatu layanan.

Poin-poin penting

Kisah di balik laporan-laporan ini bukanlah bahwa AI secara inheren sembrono. Melainkan bahwa otomatisasi tanpa batas yang jelas mengubah kelalaian kecil menjadi paparan publik yang besar. Memahami bagaimana agen AI membocorkan tangkapan layar internal membantu perusahaan maupun pelanggan mengajukan pertanyaan yang lebih baik tentang ke mana data sensitif dapat berpindah.

Untuk mengikuti perkembangan bagaimana paparan yang digerakkan AI dan serangan yang dibantu AI berkembang, baca rangkuman ThreatsDay dan laporan kami tentang ransomware AI dan model uji yang bocor untuk konteks yang lebih luas.