Μια βρετανική εποπτική αρχή για την αστυνομία προειδοποίησε ότι σφάλματα στην αναγνώριση προσώπου θα μπορούσαν να θέσουν εθνοτικές μειονότητες σε κίνδυνο παράνομης σύλληψης. Σύμφωνα με την The Guardian, οι επιθεωρητές διαπίστωσαν ότι ορισμένοι αστυνομικοί ενήργησαν βάσει πιθανών αντιστοιχίσεων από αναδρομικές αναζητήσεις αναγνώρισης προσώπου χωρίς να κάνουν αρκετούς πρόσθετους ελέγχους. Το εύρημα ενισχύει την αυξανόμενη ανησυχία για περιπτώσεις παράνομων συλλήψεων λόγω αναγνώρισης προσώπου στο Ηνωμένο Βασίλειο και εγείρει ένα πρακτικό ερώτημα: τι προστατεύει ένα άτομο όταν το λογισμικό δείχνει το λάθος πρόσωπο;

Το άρθρο πηγής είναι σύντομο, επομένως αυτή η ανάρτηση περιορίζεται σε ό,τι έχει αναφερθεί και εξηγεί προσεκτικά το ευρύτερο πλαίσιο.

Τι διαπίστωσαν οι επιθεωρητές για την αναδρομική αναγνώριση προσώπου

Η αναδρομική αναγνώριση προσώπου διαφέρει από τα ζωντανά συστήματα, τα οποία σαρώνουν πρόσωπα σε πραγματικό χρόνο καθώς οι άνθρωποι περνούν μπροστά από μια κάμερα. Σε μια αναδρομική αναζήτηση, η αστυνομία λαμβάνει μια εικόνα ενός προσώπου που την ενδιαφέρει, όπως ένα στιγμιότυπο από κλειστό κύκλωμα τηλεόρασης, και τη συγκρίνει με μια βάση δεδομένων εικόνων για να παράγει πιθανές αντιστοιχίσεις.

Η λέξη-κλειδί είναι «πιθανές». Μια αντιστοίχιση από λογισμικό είναι μια ένδειξη, όχι μια ταυτοποίηση. Σύμφωνα με το ρεπορτάζ της The Guardian, οι επιθεωρητές διαπίστωσαν ότι ορισμένοι αστυνομικοί αντιμετώπισαν αυτά τα αποτελέσματα ως λόγο για δράση χωρίς να πραγματοποιήσουν αρκετούς περαιτέρω ελέγχους. Στην πράξη, αυτό σημαίνει ότι μια πιθανή αντιστοίχιση μπορεί να έλαβε μεγαλύτερη βαρύτητα από όση της αναλογούσε πριν από μια σύλληψη.

Πρόκειται για πρόβλημα διαδικασίας όσο και για πρόβλημα τεχνολογίας. Ακόμη και ένας αλγόριθμος με καλές επιδόσεις παράγει ψευδείς αντιστοιχίσεις, επομένως οι έλεγχοι που εκτελούν οι άνθρωποι στη συνέχεια αποτελούν την κύρια salvaguardia κατά των σφαλμάτων.

Γιατί οι εθνοτικές μειονότητες αντιμετωπίζουν υψηλότερο κίνδυνο από σφάλματα αντιστοίχισης

Η προειδοποίηση της εποπτικής αρχής επισημαίνει συγκεκριμένα τον κίνδυνο για τις εθνοτικές μειονότητες. Η ανησυχία είναι ότι τα σφάλματα αντιστοίχισης δεν κατανέμονται ομοιόμορφα στον πληθυσμό. Εάν ένα σύστημα είναι πιο πιθανό να παράγει ψευδείς αντιστοιχίσεις για ορισμένες ομάδες, τότε αυτές οι ομάδες αντιμετωπίζουν μεγαλύτερη πιθανότητα να επισημανθούν εσφαλμένα ως ύποπτοι.

Συνδυάστε το αυτό με ανεπαρκή έλεγχο και ο κίνδυνος πολλαπλασιάζεται. Μια ψευδής αντιστοίχιση που εξετάζεται σωστά εντοπίζεται έγκαιρα. Μια ψευδής αντιστοίχιση που γίνεται αποδεκτή χωρίς αμφισβήτηση μπορεί να οδηγήσει σε αστυνομικό έλεγχο, σύλληψη ή και χειρότερα. Η ανησυχία της εποπτικής αρχής είναι ο συνδυασμός: επιρρεπής σε σφάλματα αντιστοίχιση συν αδύναμη επαλήθευση.

Αυτός είναι επίσης ο λόγος για τον οποίο οι λεπτομέρειες του τρόπου διεξαγωγής και αναθεώρησης μιας αναζήτησης έχουν σημασία. Ποιος εξετάζει τη λίστα υποψηφίων, ποια άλλα στοιχεία απαιτούνται και πώς αντιμετωπίζονται οι διαφωνίες διαμορφώνουν όλα το κατά πόσον ένα λάθος φτάνει σε ένα πραγματικό πρόσωπο.

Πού υστερούν οι salvaguardie και οι νομικοί κανόνες του Ηνωμένου Βασιλείου

Τα ευρήματα των επιθεωρητών υποδηλώνουν ότι οι salvaguardie υπάρχουν στα χαρτιά αλλά δεν εφαρμόζονται πάντα με συνέπεια στην πράξη. Αυτό το κενό είναι μέρος του λόγου για τον οποίο η κυβέρνηση εξετάζει τους κανόνες. Καλύψαμε το σχέδιό της να αυστηροποιήσει το νομικό πλαίσιο στο άρθρο μας για τους κανόνες αναγνώρισης προσώπου της βρετανικής αστυνομίας που προκλήθηκαν από τις κάμερες της Oxford Street, και τα ευρήματα της εποπτικής αρχής ενισχύουν την επιχειρηματολογία για σαφέστερα, εκτελεστά πρότυπα τόσο στις αναδρομικές όσο και στις ζωντανές αναζητήσεις.

Η τεκμηρίωση είναι ένα σημείο όπου μπορεί κανείς να δει πώς υποτίθεται ότι λειτουργούν οι salvaguardie. Το Υπουργείο Εσωτερικών έχει δημοσιεύσει μια εκτίμηση απορρήτου για τη ζωντανή αναγνώριση προσώπου στην επιβολή της μεταναστευτικής νομοθεσίας, την οποία συνοψίσαμε στην εξέτασή μας της εκτίμησης απορρήτου LFR του Υπουργείου Εσωτερικών. Η ανάγνωση τέτοιων εγγράφων δείχνει ποιους κινδύνους αναγνωρίζουν οι αρχές και ποια μέτρα μετριασμού υπόσχονται. Το ζητούμενο είναι κατά πόσον αυτές οι υποσχέσεις τηρούνται στην πράξη, κάτι που ακριβώς εξετάζουν επιθεωρήσεις όπως αυτή.

Αξίζει επίσης να σημειωθεί ότι η αναγνώριση προσώπου δεν περιορίζεται στην αστυνομία. Και οι λιανοπωλητές τη χρησιμοποιούν, και τα ίδια ερωτήματα σχετικά με την ακρίβεια και την προσφυγή ισχύουν. Η κάλυψή μας για τις ειδοποιήσεις Facewatch και τους Βρετανούς αγοραστές εξετάζει αυτή την πλευρά της εικόνας.

Ποια είναι τα δικαιώματά σας αν σας ταυτοποιήσουν λανθασμένα

Το άρθρο πηγής δεν παραθέτει ατομικά ένδικα μέσα, επομένως τα παρακάτω αποτελούν γενική καθοδήγηση και όχι νομική συμβουλή.

  • Ρωτήστε ποια είναι η βάση. Αν σας σταματήσουν ή σας συλλάβουν, μπορείτε να ρωτήσετε γιατί. Αν εμπλέκεται αναγνώριση προσώπου, ρωτήστε αν υπάρχουν άλλα στοιχεία που σας συνδέουν με το περιστατικό.
  • Ζητήστε τα δεδομένα σας. Βάσει της νομοθεσίας προστασίας δεδομένων του Ηνωμένου Βασιλείου, μπορείτε γενικά να υποβάλετε αίτημα πρόσβασης υποκειμένου για να δείτε προσωπικά δεδομένα που κατέχει ένας οργανισμός για εσάς, αν και η αστυνομία μπορεί μερικές φορές να εφαρμόσει εξαιρέσεις.
  • Κρατήστε αρχείο. Σημειώστε ημερομηνίες, ώρες, τοποθεσίες και τα ονόματα ή τους αριθμούς των αστυνομικών που εμπλέκονται.
  • Ζητήστε συμβουλή. Ένας δικηγόρος ή ένας οργανισμός που ειδικεύεται στις πολιτικές ελευθερίες μπορεί να σας εξηγήσει τις επιλογές σας για καταγγελίες ή αμφισβητήσεις.
  • Υποβάλετε καταγγελία. Μπορείτε να υποβάλετε καταγγελία στην αστυνομική δύναμη που εμπλέκεται και να κλιμακώσετε εάν δεν μείνετε ικανοποιημένοι.

Για περιβάλλοντα λιανικής, ο οδηγός μας για τα δικαιώματά σας στο απόρρητο λιανικής σχετικά με τις σαρώσεις Facewatch καλύπτει πώς να αμφισβητήσετε και να αμφισβητήσετε μια επισήμανση.

Τι σημαίνει αυτό για εσάς

Οι περισσότεροι άνθρωποι δεν θα αντιστοιχιστούν ποτέ λανθασμένα, αλλά ο κίνδυνος δεν κατανέμεται ισότιμα, και η προειδοποίηση της εποπτικής αρχής υπενθυμίζει ότι ένα αποτέλεσμα λογισμικού είναι μόνο τόσο αξιόπιστο όσο οι έλεγχοι πίσω από αυτό. Ένα VPN δεν θα κρύψει το πρόσωπό σας από μια κάμερα στον δρόμο, επομένως οι πραγματικές προστασίες εδώ είναι νομικές και διαδικαστικές: εποπτεία, διαφάνεια και το δικαίωμα αμφισβήτησης σφαλμάτων.

Αν ανησυχείτε, παρακολουθήστε πώς εξελίσσονται οι κανόνες. Προσέξτε αν η νέα νομοθεσία θέτει σαφείς απαιτήσεις για ανθρώπινη επαλήθευση πριν από την ανάληψη δράσης βάσει αντιστοίχισης και αν συνεχίζεται η ανεξάρτητη επιθεώρηση.

Βασικά συμπεράσματα

Ο κίνδυνος παράνομης σύλληψης λόγω αναγνώρισης προσώπου στο Ηνωμένο Βασίλειο εξαρτάται από το κατά πόσον η επαλήθευση συμβαδίζει με την τεχνολογία. Μέχρι να συμβεί αυτό, το να γνωρίζετε τα δικαιώματά σας είναι η καλύτερη πρακτική προστασία σας.