Novi komentar na Security Boulevardu postavlja pitanje na koje su sudovi i zakonodavci tek počeli odgovarati: ako AI čita svačiju e-poštu, ali je nikad ne vidi nijedan čovjek, je li to još uvijek vladin nadzor? U tekstu se tvrdi da bi AI mogao ojačati zaštitu Četvrtog amandmana ili bi mogao masovni nadzor učiniti jeftinijim nego ikad. Njegova je glavna poruka kratka i oštra: Ustav treba pravila i za strojeve.

Ovaj je post vodič kroz Četvrti amandman i AI nadzor objašnjen za ne-pravnike. Pokriva što pitanje znači, što amandman čini i što ne čini te koji alati vam pomažu u praksi.

Četvrti amandman i AI nadzor objašnjeni: računa li se čitanje samo stroja?

Središnja zagonetka komentara odnosi se na riječ "vidjeti". Tradicionalno razmišljanje o privatnosti često pretpostavlja da je trenutak zadiranja onaj kada osoba čita vašu poruku. Ako softver skenira poruku, ništa ne označi i odbaci je, neki tvrde da ničija privatnost nije povrijeđena jer nijedan čovjek ništa nije saznao.

Protuargument je da je samo skeniranje zadiranje. Sustav koji obrađuje sadržaj svačijih komunikacija ih je, u stvarnom smislu, pročitao, čak i ako je rezultat samo ocjena ili oznaka. Komentar to prikazuje kao otvoreno pitanje, a ne kao riješeno, i to je iskrena pozicija. Nismo upoznati s pravilom u izvornom materijalu koje bi ga riješilo.

Ulog nije samo ono što stroj vidi. Tu je i ono što se događa poslije: što se označava, tko to pregledava, koliko se dugo podaci čuvaju i postaje li oznaka osnova za daljnju istragu.

Što Četvrti amandman pokriva u digitalnim komunikacijama

Četvrti amandman štiti ljude od nerazumnih pretraga i oduzimanja. Prema pregledu Pravnog fakulteta Sveučilišta Cornell, on je osnova prava o sudskim nalozima za pretragu, prisluškivanju i drugim oblicima vladinog zadiranja. Jednostavno rečeno, ograničava što vlada može činiti i općenito usmjerava dužnosnike prema pribavljanju naloga utemeljenog na osnovanom razlogu.

Postoje važna ograničenja koja vrijedi razumjeti:

  • Ograničava vladu, ne tvrtke. Amandman se primjenjuje na vladino djelovanje. Privatni pružatelj e-pošte koji skenira poruke prema vlastitim uvjetima korištenja pravno je različita situacija od vladine agencije koja čini isto.
  • Podaci koje drže treće strane sivo su područje. Sudovi se dugo bore s pitanjem koliko privatnosti možete očekivati u informacijama koje predajete pružatelju usluge. E-pošta i pohrana u oblaku nalaze se točno u toj raspravi.
  • Sastavljači nisu imali strojeve na umu. Tekst govori o pretragama i oduzimanjima, a primjena toga na automatizirane sustave koji analiziraju podatke u velikom opsegu zahtijeva tumačenje.

Poanta komentara je da su te doktrine izgrađene oko ljudskih istražitelja s ograničenim vremenom i proračunom. Održe li se kada softver obavlja čitanje, neriješeni je dio.

Zašto AI čini masovno skeniranje jeftinijim i lakšim

Nadzor je povijesno bio ograničen troškom. Čitanje poruka zahtijevalo je ljude, a ljudi su skupi. To je trenje djelovalo kao neformalna zaštita privatnosti jer su istražitelji morali birati mete.

AI mijenja tu jednadžbu. Sustav koji može čitati i tumačiti tekst može to, u načelu, činiti na golemim količinama komunikacije uz djelić troška ljudskog pregleda. To je ona "jeftinije nego ikad" polovica upozorenja iz komentara.

Druga polovica je ona s nadom: isti alati mogli bi se izgraditi tako da smanje izloženost ljudi privatnim podacima ili da automatski provode zakonska ograničenja, primjerice filtriranjem svega izvan dosega naloga. Tehnologija ne odlučuje koji ćemo ishod dobiti. Pravila, nadzor i dizajnerske odluke odlučuju.

Vidjeli smo kako AI alati koji tumače osobne podatke donose vlastite brige. Naše izvještavanje o OpenAI-ovoj značajci Codex Chronicle, koja snima i tumači nedavni sadržaj zaslona, konkretan je primjer AI-ja koji radi s onim što je na vašem zaslonu. To je alat privatnog sektora, a ne vladin nadzor, ali pokazuje kako AI lako može tumačiti osobne informacije. Širi trend AI-ja koji automatizira posao koji je nekad zahtijevao ljude vidljiv je i u sigurnosti, kao u našem izvješću o autonomnom AI ransomwareu.

Što to znači za vas: enkripcija, ograničenja VPN-a i izvješća o transparentnosti

Ne možete prepisati ustavnu doktrinu sa svog telefona, ali možete smanjiti količinu čitljivog sadržaja koji je dostupan za skeniranje.

Koristite end-to-end enkriptirane poruke. Uz end-to-end enkripciju, samo vi i primatelj držite ključeve. Pružatelj usluge prenosi poruku, ali je ne može pročitati, što znači da pružatelj nema što skenirati na svojim poslužiteljima ni predati u čitljivom obliku. To je najjača svakodnevna zaštita od strojnog čitanja sadržaja poruka. Ne štiti od nekoga tko ima pristup vašem uređaju ili uređaju druge osobe.

Razumijte što VPN ne čini. VPN enkriptira vezu između vašeg uređaja i VPN poslužitelja i skriva vašu IP adresu od stranica koje posjećujete. Ne skriva sadržaj vaše e-pošte od vašeg pružatelja e-pošte i ne skriva vaše datoteke od tvrtke za pohranu u oblaku. Ako se prijavite na standardni račun e-pošte, pružatelj i dalje vidi vaše poruke. VPN je koristan za mrežnu privatnost, ali nije štit od skeniranja sadržaja od strane usluga koje koristite.

Provjerite izvješća o transparentnosti. Mnogi pružatelji objavljuju izvješća o vladinim zahtjevima za podatke. Čitanjem saznajete koliko često tvrtka prima zahtjeve i kako na njih odgovara. Pružatelj koji ne objavljuje ništa daje vam manje toga za procjenu.

Preispitajte što dijelite s AI alatima. Značajke koje čitaju vaš zaslon, pretinac e-pošte ili dokumente mogu biti praktične, ali proširuju ono što usluga može vidjeti. Provjerite postavke i politike zadržavanja podataka prije nego što ih uključite.

Ključni zaključci

  • Pitanje računa li se čitanje samo stroja kao nadzor ostaje otvoreno, a komentar tvrdi da su potrebna jasna pravila za strojeve.
  • Četvrti amandman ograničava vladino djelovanje, a njegova primjena na automatiziranu analizu velikog opsega još se razrađuje.
  • AI snižava trošak skeniranja komunikacija, čime uklanja tradicionalnu praktičnu prepreku masovnom nadzoru.
  • End-to-end enkriptirane poruke ograničavaju što pružatelji mogu pročitati. VPN ne skriva sadržaj poruka od vašeg pružatelja e-pošte ili oblaka.
  • Provjerite izvješća o transparentnosti i postavke svakog AI alata koji može vidjeti vaše osobne podatke.

Rasprava o Četvrtom amandmanu i AI nadzoru vjerojatno će se godinama odvijati na sudovima i u zakonodavnim tijelima. U međuvremenu, odaberite enkriptirane poruke za osjetljive razgovore, zadržite realna očekivanja o tome što VPN pokriva i pročitajte izvješća o transparentnosti svojih pružatelja prije nego im povjerite svoje podatke.