Μια νομική πρόκληση στην αστυνομική επιτήρηση με τεχνητή νοημοσύνη
Ακτιβιστές ψηφιακών δικαιωμάτων και φοιτητικοί ηγέτες στην Ινδία οδήγησαν την κυβέρνηση του πρωθυπουργού Ναρέντρα Μόντι στο δικαστήριο για τη χρήση τεχνητής νοημοσύνης για την παρακολούθηση πρόσφατων νεανικών διαδηλώσεων στο Νέο Δελχί. Η φοιτήτρια ακτιβίστρια Aishe Ghosh κατέθεσε προσφυγή στο Ανώτερο Δικαστήριο του Δελχί ζητώντας από τους δικαστές να κηρύξουν αντισυνταγματική τη χρήση μαζικής επιτήρησης με τεχνητή νοημοσύνη από την αστυνομία εναντίον διαδηλωτών.
Η προσφυγή επικεντρώνεται σε αναφορές ότι η Αστυνομία του Δελχί ανέπτυξε τεχνολογία αναγνώρισης προσώπου, συμπεριλαμβανομένων εξειδικευμένων βαν επιτήρησης εξοπλισμένων με κάμερες τεχνητής νοημοσύνης, σε χώρους διαδηλώσεων. Σύμφωνα με τις περιγραφές της υπόθεσης, αυτή η τεχνολογία χρησιμοποιήθηκε για την αναγνώριση και παρακολούθηση ατόμων που συμμετείχαν σε αυτό που έχει περιγραφεί ως μία από τις μεγαλύτερες νεανικές διαδηλώσεις που έχει δει η πόλη τα τελευταία χρόνια. Η προσφυγή υποστηρίζει ότι η σάρωση των προσώπων διαδηλωτών εν αγνοία τους ή χωρίς τη συγκατάθεσή τους, και η χρήση αυτών των δεδομένων για τη δημιουργία προφίλ των παρευρισκομένων, παραβιάζει τη νομική γραμμή που προστατεύει τους πολίτες από αδικαιολόγητη κυβερνητική παρέμβαση.
Αυτή η υπόθεση βασίζεται άμεσα σε προηγούμενη προσφυγή που καλύφθηκε στο ρεπορτάζ μας για την προσφυγή που αμφισβητεί την επιτήρηση διαδηλωτών με τεχνητή νοημοσύνη, η οποία ζητούσε από το δικαστήριο να αποφανθεί ότι η μαζική παρακολούθηση διαδηλωτών παραβιάζει τις συνταγματικές προστασίες. Μαζί, αυτές οι νομικές ενέργειες αποτελούν μία από τις πιο άμεσες προκλήσεις μέχρι σήμερα για τον τρόπο με τον οποίο οι ινδικές αρχές χρησιμοποιούν εργαλεία τεχνητής νοημοσύνης για την αστυνόμευση της δημόσιας διαφωνίας.
Γιατί η αναγνώριση προσώπου σε διαδηλώσεις προκαλεί ανησυχία
Η αναγνώριση προσώπου και η επιτήρηση με τεχνητή νοημοσύνη δεν είναι νέα εργαλεία για τις αρχές επιβολής του νόμου, αλλά η χρήση τους σε πολιτικές διαδηλώσεις ενέχει διακριτούς κινδύνους. Όταν οι κάμερες καταγράφουν και αναγνωρίζουν τα πρόσωπα όλων στο πλήθος, συμπεριλαμβανομένων ανθρώπων που δεν έχουν διαπράξει κανένα έγκλημα και απλώς ασκούν το δικαίωμά τους στο συνέρχεσθαι, η τεχνολογία δημιουργεί ουσιαστικά ένα μόνιμο αρχείο πολιτικής συμμετοχής.
Οι υπερασπιστές των πολιτικών ελευθεριών που υποστηρίζουν την προσφυγή υποστηρίζουν ότι αυτού του είδους η μαζική παρακολούθηση μπορεί να περιορίσει την ελεύθερη έκφραση. Οι άνθρωποι μπορεί να το σκεφτούν δύο φορές πριν συμμετάσχουν σε μια διαδήλωση, μια συγκέντρωση ή ακόμα και μια δημόσια συνάντηση εάν πιστεύουν ότι η παρουσία τους θα καταγραφεί, θα αντιστοιχιστεί με μια βάση δεδομένων και ενδεχομένως θα χρησιμοποιηθεί εναντίον τους αργότερα. Η προσφυγή το παρουσιάζει αυτό ως ζήτημα πυρήνα της ιδιωτικής ζωής και συνταγματικό ζήτημα και όχι ως μια στενή τεχνική διαμάχη για ένα αστυνομικό εργαλείο.
Η υπόθεση αναδεικνύει επίσης μια ευρύτερη ένταση που εκτυλίσσεται σε δημοκρατίες σε όλο τον κόσμο: οι κυβερνήσεις έχουν όλο και περισσότερο πρόσβαση σε ισχυρή τεχνολογία αναγνώρισης, ενώ τα νομικά πλαίσια που διέπουν τη χρήση της συχνά υστερούν σημαντικά. Η Ινδία, όπως και πολλές άλλες χώρες, δεν διαθέτει ακόμη ολοκληρωμένη νομοθεσία που να αντιμετωπίζει συγκεκριμένα πώς μπορεί να χρησιμοποιηθεί η αναγνώριση προσώπου από την αστυνομία κατά τη διάρκεια δημόσιων διαδηλώσεων, γεγονός που εξηγεί εν μέρει γιατί οι ακτιβιστές στρέφονται στα δικαστήρια για να θέσουν όρια.
Τι θα μπορούσε να σημαίνει η δικαστική υπόθεση για το μέλλον
Η τελική απόφαση του Ανώτερου Δικαστηρίου του Δελχί θα μπορούσε να δημιουργήσει ένα σημαντικό προηγούμενο, όχι μόνο για την Ινδία αλλά και για το πώς άλλες κυβερνήσεις δικαιολογούν παρόμοια εργαλεία επιτήρησης. Εάν το δικαστήριο ταχθεί με το μέρος της Ghosh και των συνυπογραφόντων της προσφυγής, θα μπορούσε να αναγκάσει την Αστυνομία του Δελχί και άλλες υπηρεσίες επιβολής του νόμου να περιορίσουν ή να προσθέσουν αυστηρότερη εποπτεία στη χρήση της παρακολούθησης με τεχνητή νοημοσύνη σε δημόσιες συγκεντρώσεις. Εάν το δικαστήριο αποφανθεί υπέρ της κυβέρνησης, μπορεί ουσιαστικά να επικυρώσει ευρείες εξουσίες επιτήρησης κατά τη διάρκεια διαδηλώσεων, μια απόφαση που άλλες δικαιοδοσίες θα μπορούσαν να επικαλεστούν ως δικαιολογία για τα δικά τους προγράμματα αστυνόμευσης με τεχνητή νοημοσύνη.
Και τα δύο αποτελέσματα είναι πιθανό να παρακολουθηθούν στενά από διεθνείς ομάδες ψηφιακών δικαιωμάτων, δεδομένου του πόσες κυβερνήσεις πειραματίζονται με την αναγνώριση προσώπου, την προγνωστική αστυνόμευση και άλλα συστήματα παρακολούθησης που βασίζονται στην τεχνητή νοημοσύνη σε δημόσιους χώρους.
Τι σημαίνει αυτό για εσάς
Αν και αυτή η υπόθεση εκτυλίσσεται στην Ινδία, τα υποκείμενα ζητήματα είναι σχετικά για οποιονδήποτε ανησυχεί για την ιδιωτικότητα στους δημόσιους χώρους οπουδήποτε στον κόσμο. Εργαλεία επιτήρησης που βασίζονται στην τεχνητή νοημοσύνη, όπως κάμερες αναγνώρισης προσώπου, υιοθετούνται από αστυνομικά τμήματα και δημοτικές αρχές παγκοσμίως, συχνά με περιορισμένη δημόσια συζήτηση για το πού πρέπει να τεθούν τα όρια.
Εάν συμμετέχετε σε διαδηλώσεις, συγκεντρώσεις ή άλλες δημόσιες εκδηλώσεις, αξίζει να κατανοήσετε ότι σε πολλές δικαιοδοσίες η εικόνα σας μπορεί νόμιμα να καταγραφεί και, όλο και περισσότερο, να αντιστοιχιστεί με βάσεις δεδομένων χρησιμοποιώντας τεχνητή νοημοσύνη. Αυτό δεν σημαίνει ότι πρέπει να αποφύγετε τη συμμετοχή στην πολιτική ζωή, αλλά σημαίνει ότι πρέπει να γνωρίζετε το ψηφιακό αποτύπωμα που μπορεί να αφήσει η δημόσια δραστηριότητα και να μένετε ενημερωμένοι για τις προστασίες που υπάρχουν (ή δεν υπάρχουν) εκεί που ζείτε.
Βασικά σημεία
- Η φοιτήτρια ακτιβίστρια Aishe Ghosh προσέφυγε στο Ανώτερο Δικαστήριο του Δελχί για να κηρύξει αντισυνταγματική την αστυνομική επιτήρηση διαδηλωτών με τεχνητή νοημοσύνη, μετά από αναφορές για βαν αναγνώρισης προσώπου που αναπτύχθηκαν σε πρόσφατες διαδηλώσεις στο Νέο Δελχί.
- Η υπόθεση βασίζεται σε προηγούμενη νομική πρόκληση που ζητούσε από το δικαστήριο να κρίνει παράνομη τη μαζική επιτήρηση διαδηλωτών και η έκβασή της θα μπορούσε να διαμορφώσει τον τρόπο με τον οποίο θα ρυθμιστούν τα εργαλεία αστυνόμευσης με τεχνητή νοημοσύνη στο μέλλον.
- Η αναγνώριση προσώπου σε διαδηλώσεις εγείρει ανησυχίες για τον περιορισμό της ελεύθερης έκφρασης, καθώς οι συμμετέχοντες μπορεί να φοβηθούν ότι θα αναγνωριστούν και θα παρακολουθηθούν απλώς και μόνο επειδή ασκούν το δικαίωμά τους στο συνέρχεσθαι.
- Η απόφαση είναι πιθανό να παρακολουθηθεί στενά από υπερασπιστές των ψηφιακών δικαιωμάτων παγκοσμίως, καθώς οι κυβερνήσεις παντού παλεύουν με το πώς να ρυθμίσουν την επιτήρηση με τεχνητή νοημοσύνη σε δημόσιους χώρους.
- Η ενημέρωση σχετικά με τους τοπικούς νόμους επιτήρησης και τις προστασίες της ψηφιακής ιδιωτικότητας είναι ένα πρακτικό βήμα που μπορούν να κάνουν τα άτομα καθώς αυτές οι τεχνολογίες γίνονται πιο διαδεδομένες.
