Sebuah komentar baru di Security Boulevard mengajukan pertanyaan yang baru mulai dijawab oleh pengadilan dan pembuat undang-undang: jika AI membaca email semua orang tetapi tidak ada manusia yang pernah melihatnya, apakah itu masih merupakan pengawasan pemerintah? Tulisan tersebut berargumen bahwa AI dapat memperkuat perlindungan Amandemen Keempat, atau dapat membuat pengawasan massal lebih murah dari sebelumnya. Pesan intinya singkat dan tajam: Konstitusi juga membutuhkan aturan untuk mesin.

Postingan ini adalah panduan Amandemen Keempat dalam pengawasan AI yang dijelaskan untuk non-pengacara. Ini mencakup apa arti pertanyaan tersebut, apa yang dilakukan dan tidak dilakukan oleh amandemen itu, dan alat mana yang membantu Anda dalam praktik.

Amandemen Keempat dalam pengawasan AI dijelaskan: apakah pembacaan hanya oleh mesin dihitung?

Teka-teki utama dalam komentar tersebut adalah tentang kata "dilihat." Pemikiran tradisional tentang privasi sering mengasumsikan bahwa seseorang yang membaca pesan Anda adalah momen terjadinya intrusi. Jika perangkat lunak memindai pesan, tidak menandai apa pun, dan membuangnya, beberapa pihak berargumen tidak ada privasi yang dilanggar karena tidak ada manusia yang mengetahui apa pun.

Argumen baliknya adalah bahwa pemindaian itu sendiri adalah intrusi. Sistem yang memproses konten komunikasi semua orang, dalam arti nyata, telah membacanya, bahkan jika outputnya hanya berupa skor atau tanda. Komentar tersebut membingkai ini sebagai pertanyaan terbuka daripada yang sudah terselesaikan, dan itulah posisi yang jujur. Kami tidak mengetahui adanya aturan dalam materi sumber yang menyelesaikannya.

Taruhannya bukan hanya tentang apa yang dilihat mesin. Ini juga tentang apa yang terjadi setelahnya: apa yang ditandai, siapa yang meninjaunya, berapa lama data disimpan, dan apakah suatu tanda menjadi dasar untuk penyelidikan lebih lanjut.

Apa yang dicakup Amandemen Keempat dalam komunikasi digital

Amandemen Keempat melindungi orang dari penggeledahan dan penyitaan yang tidak wajar. Menurut ikhtisar Cornell Law School, ini adalah dasar hukum tentang surat perintah penggeledahan, penyadapan, dan bentuk-bentuk intrusi pemerintah lainnya. Secara sederhana, ini membatasi apa yang dapat dilakukan pemerintah, dan umumnya mendorong pejabat untuk mendapatkan surat perintah berdasarkan causa.

Ada batasan penting yang perlu dipahami:

  • Ini membatasi pemerintah, bukan perusahaan. Amandemen ini berlaku untuk tindakan pemerintah. Penyedia email swasta yang memindai pesan berdasarkan ketentuan layanannya sendiri adalah situasi hukum yang berbeda dari badan pemerintah yang melakukan hal yang sama.
  • Data yang dipegang pihak ketiga adalah area abu-abu. Pengadilan telah lama bergulat dengan seberapa besar privasi yang dapat Anda harapkan dalam informasi yang Anda serahkan kepada penyedia layanan. Email dan penyimpanan cloud berada tepat di tengah perdebatan itu.
  • Mesin tidak ada dalam pikiran para perancang. Teksnya berbicara tentang penggeledahan dan penyitaan, dan menerapkannya pada sistem otomatis yang menganalisis data dalam skala besar memerlukan interpretasi.

Poin komentar tersebut adalah bahwa doktrin-doktrin ini dibangun seputar penyelidik manusia dengan waktu dan anggaran yang terbatas. Apakah doktrin tersebut bertahan ketika perangkat lunak yang melakukan pembacaan adalah bagian yang belum terselesaikan.

Mengapa AI membuat pemindaian massal lebih murah dan lebih mudah

Pengawasan secara historis dibatasi oleh biaya. Membaca pesan membutuhkan orang, dan orang itu mahal. Gesekan itu bertindak sebagai perlindungan privasi informal, karena penyelidik harus memilih target.

AI mengubah persamaan itu. Sistem yang dapat membaca dan menafsirkan teks dapat, pada prinsipnya, melakukannya di seluruh volume komunikasi yang sangat besar dengan sebagian kecil dari biaya tinjauan manusia. Itulah bagian "lebih murah dari sebelumnya" dari peringatan komentar tersebut.

Bagian lainnya adalah yang penuh harapan: alat yang sama dapat dibangun untuk meminimalkan paparan manusia terhadap data pribadi, atau untuk menegakkan batasan hukum secara otomatis, misalnya dengan menyaring apa pun di luar cakupan surat perintah. Teknologi tidak menentukan hasil mana yang kita dapatkan. Aturan, pengawasan, dan pilihan desain yang menentukannya.

Kita telah melihat bagaimana alat AI yang menafsirkan data pribadi menimbulkan kekhawatiran tersendiri. Liputan kami tentang fitur Codex Chronicle OpenAI, yang menangkap dan menafsirkan konten layar terkini, adalah contoh konkret AI yang bekerja dengan apa yang ada di layar Anda. Ini adalah alat sektor swasta, bukan pengawasan pemerintah, tetapi ini menunjukkan betapa mudahnya AI menafsirkan informasi pribadi. Tren yang lebih luas dari AI yang mengotomatiskan pekerjaan yang dulunya membutuhkan orang juga terlihat dalam keamanan, seperti dalam laporan kami tentang ransomware AI otonom.

Apa Artinya Bagi Anda: enkripsi, batasan VPN, dan laporan transparansi

Anda tidak dapat menulis ulang doktrin konstitusional dari ponsel Anda, tetapi Anda dapat mengurangi berapa banyak konten yang dapat dibaca yang tersedia untuk dipindai.

Gunakan perpesanan terenkripsi end-to-end. Dengan enkripsi end-to-end, hanya Anda dan penerima yang memegang kunci. Penyedia layanan membawa pesan tetapi tidak dapat membacanya, yang berarti tidak ada yang dapat dipindai oleh penyedia di servernya atau diserahkan dalam bentuk yang dapat dibaca. Ini adalah perlindungan sehari-hari terkuat terhadap pembacaan konten pesan oleh mesin. Ini tidak melindungi terhadap seseorang yang memiliki akses ke perangkat Anda atau perangkat orang lain.

Pahami apa yang tidak dilakukan VPN. VPN mengenkripsi koneksi antara perangkat Anda dan server VPN serta menyembunyikan alamat IP Anda dari situs yang Anda kunjungi. Ini tidak menyembunyikan konten email Anda dari penyedia email Anda, dan tidak menyembunyikan file Anda dari perusahaan penyimpanan cloud. Jika Anda masuk ke akun email standar, penyedia tetap melihat pesan Anda. VPN berguna untuk privasi jaringan, tetapi bukan perisai terhadap pemindaian konten oleh layanan yang Anda gunakan.

Periksa laporan transparansi. Banyak penyedia menerbitkan laporan tentang permintaan data pemerintah. Membacanya memberi tahu Anda seberapa sering suatu perusahaan menerima permintaan dan bagaimana ia merespons. Penyedia yang tidak menerbitkan apa pun memberi Anda lebih sedikit untuk dievaluasi.

Tinjau apa yang Anda bagikan dengan alat AI. Fitur yang membaca layar, kotak masuk, atau dokumen Anda bisa nyaman, tetapi memperluas apa yang dapat dilihat oleh layanan. Periksa pengaturan dan kebijakan penyimpanan data sebelum mengaktifkannya.

Poin-poin utama

  • Pertanyaan apakah pembacaan hanya oleh mesin dihitung sebagai pengawasan masih terbuka, dan komentar tersebut berargumen bahwa aturan yang jelas untuk mesin diperlukan.
  • Amandemen Keempat membatasi tindakan pemerintah, dan penerapannya pada analisis otomatis berskala besar masih dalam proses penyelesaian.
  • AI menurunkan biaya pemindaian komunikasi, yang menghilangkan hambatan praktis tradisional terhadap pengawasan massal.
  • Perpesanan terenkripsi end-to-end membatasi apa yang dapat dibaca penyedia. VPN tidak menyembunyikan konten pesan dari penyedia email atau cloud Anda.
  • Periksa laporan transparansi dan pengaturan alat AI apa pun yang dapat melihat data pribadi Anda.

Debat Amandemen Keempat dalam pengawasan AI yang dijelaskan kemungkinan akan berlangsung di pengadilan dan legislatif selama bertahun-tahun. Sementara itu, pilih perpesanan terenkripsi untuk percakapan sensitif, pertahankan ekspektasi realistis tentang apa yang dicakup VPN, dan baca laporan transparansi penyedia Anda sebelum Anda mempercayai mereka dengan data Anda.