Μια δοκιμή ζωντανής αναγνώρισης προσώπου που οι περισσότεροι κάτοικοι δεν έμαθαν ποτέ

Σε αυτό που περιγράφεται ως κάτι πρωτοφανές για την Αυστραλία, η Αστυνομία της Δυτικής Αυστραλίας ανέπτυξε αθόρυβα ζωντανές κάμερες αναγνώρισης προσώπου με τεχνητή νοημοσύνη στο Περθ και το Φρίμαντλ από τον Ιούνιο. Μέσα σε μία μόλις εβδομάδα δοκιμής, το σύστημα είχε σαρώσει περισσότερα από 130.000 πρόσωπα, παράγοντας 33 ειδοποιήσεις και οδηγώντας σε 18 συλλήψεις. Η αστυνομία ανέφερε επίσης ότι η τεχνολογία βοήθησε στον εντοπισμό και την επικοινωνία με 21 καταγεγραμμένους σεξουαλικούς παραβάτες στην περιοχή.

Η κλίμακα της σάρωσης είναι από μόνη της αξιοσημείωτη, αλλά αυτό που έχει προσελκύσει τη μεγαλύτερη προσοχή είναι ο τρόπος που συνέβη: οι κάτοικοι που περπατούσαν σε αυτούς τους δρόμους δεν ενημερώθηκαν ότι σαρώνονταν. Δεν υπήρξε εκστρατεία ενημέρωσης με πινακίδες, δεν υπήρξε περίοδος δημόσιας διαβούλευσης και δεν υπήρξε σαφής μηχανισμός εξαίρεσης. Για πολλούς Αυστραλούς, το πρώτο που έμαθαν για το πρόγραμμα ήταν μέσα από την κάλυψη των ειδήσεων εκ των υστέρων και όχι από κάποια ενημέρωση της αστυνομίας ή της τοπικής αυτοδιοίκησης.

Γιατί έχει σημασία η έλλειψη ενημέρωσης

Τα συστήματα αναγνώρισης προσώπου λειτουργούν καταγράφοντας εικόνες ανθρώπων σε δημόσιους χώρους και συγκρίνοντάς τες με μια βάση δεδομένων, συχνά σε πραγματικό χρόνο. Όταν αυτή η διαδικασία εκτελείται χωρίς δημόσια ειδοποίηση, οι άνθρωποι χάνουν τη δυνατότητα να κάνουν συνειδητές επιλογές σχετικά με το πού πηγαίνουν, με ποιους εμφανίζονται ή πώς μπορεί να καταγράφονται και να διασταυρώνονται οι κινήσεις τους. Οι υποστηρικτές της ιδιωτικότητας και νομικοί εμπειρογνώμονες έχουν επισημάνει ότι αυτό υπονομεύει μια βασική αρχή της εποπτείας της παρακολούθησης: οι άνθρωποι θα πρέπει γενικά να γνωρίζουν πότε και πώς παρακολουθούνται, ειδικά από κρατικούς φορείς.

Η δοκιμή παρήγαγε επίσης τουλάχιστον μία επιβεβαιωμένη εσφαλμένη ταυτοποίηση, μια υπενθύμιση ότι ακόμη και τα πιο εξελιγμένα συστήματα τεχνητής νοημοσύνης μπορούν να ταυτοποιήσουν λανθασμένα ανθρώπους, μερικές φορές με συνέπειες που κυμαίνονται από άβολες έως σοβαρές. Οι κίνδυνοι εσφαλμένης ταυτοποίησης δεν κατανέμονται ομοιόμορφα· τα εργαλεία αναγνώρισης προσώπου έχουν καλά τεκμηριωμένο ιστορικό υψηλότερων ποσοστών σφάλματος για ορισμένες δημογραφικές ομάδες, γεγονός που εγείρει ζητήματα ισότητας παράλληλα με εκείνα της ιδιωτικότητας.

Η Αστυνομία της Δυτικής Αυστραλίας έχει παρουσιάσει τα αποτελέσματα με όρους επιτυχιών για τη δημόσια ασφάλεια, συλλήψεων που πραγματοποιήθηκαν, παραβατών που ταυτοποιήθηκαν και ειδοποιήσεων που δημιουργήθηκαν. Όμως οι οργανώσεις προστασίας της ιδιωτικότητας υποστηρίζουν ότι μια πραγματική αξιολόγηση κόστους-οφέλους απαιτεί διαφάνεια σχετικά με τους κανόνες της δοκιμής: πόσο καιρό διατηρούνται το υλικό και τα δεδομένα αντιστοίχισης, ποιος μπορεί να έχει πρόσβαση σε αυτά, αν κοινοποιούνται σε άλλες υπηρεσίες και τι συμβαίνει με τα βιομετρικά δεδομένα των δεκάδων χιλιάδων ανθρώπων που σαρώθηκαν αλλά δεν είχαν καμία σχέση με κάποια έρευνα.

Το ευρύτερο μοτίβο συλλογής βιομετρικών δεδομένων

Αυτή η δοκιμή δεν υπάρχει σε απομόνωση. Κυβερνήσεις και ιδιωτικές εταιρείες σε όλο τον κόσμο στρέφονται όλο και περισσότερο στη βιομετρική επαλήθευση, είτε μέσω αναγνώρισης προσώπου για αστυνόμευση, βιομετρικών ελέγχων στα αεροδρόμια είτε συστημάτων επαλήθευσης ηλικίας που σαρώνουν πρόσωπα για να εκτιμήσουν την ηλικία ενός χρήστη πριν επιτρέψουν την πρόσβαση σε συγκεκριμένο περιεχόμενο ή υπηρεσίες. Κάθε ένα από αυτά τα συστήματα εγείρει ένα παρόμοιο βασικό ερώτημα: πόσα βιομετρικά δεδομένα θα πρέπει να επιτρέπεται να συλλέγει οποιοδήποτε μεμονωμένο σύστημα και για πόσο καιρό θα πρέπει να διατηρούνται; Οι αναγνώστες που ενδιαφέρονται για το πώς αυτές οι ανταλλαγές εκτυλίσσονται σε ένα διαφορετικό αλλά σχετικό πλαίσιο μπορούν να δουν πώς οι νόμοι επαλήθευσης ηλικίας σε όλο τον κόσμο προκαλούν ήδη παρόμοιες συζητήσεις σχετικά με τη βιομετρική σάρωση, τη διατήρηση δεδομένων και τη συναίνεση, συχνά με πολύ λιγότερη δημόσια επίγνωση από όση θα υποδήλωνε η εμβέλεια της τεχνολογίας.

Η δοκιμή της Αστυνομίας της Δυτικής Αυστραλίας αποτελεί χρήσιμη μελέτη περίπτωσης ακριβώς επειδή δείχνει τι συμβαίνει όταν η βιομετρική παρακολούθηση μετακινείται από τη συζήτηση πολιτικής στη ζωντανή εφαρμογή. Η τεχνολογία λειτούργησε όπως προβλεπόταν σε πολλές περιπτώσεις, αλλά η απουσία σαφούς δημόσιας ειδοποίησης, ανεξάρτητης διαδρομής ελέγχου ή επίσημων επιλογών εξαίρεσης δείχνει πόσο γρήγορα η δυνατότητα μπορεί να ξεπεράσει την εποπτεία.

Τι σημαίνει αυτό για εσάς

Αν ζείτε ή επισκέπτεστε το Περθ ή το Φρίμαντλ, μπορεί να έχετε ήδη σαρωθεί χωρίς να το γνωρίζετε, και η ίδια δυναμική θα μπορούσε να επεκταθεί και σε άλλες πόλεις καθώς παρόμοια πιλοτικά προγράμματα εξετάζονται αλλού. Ακόμη και εκτός Αυστραλίας, αυτή η υπόθεση αποτελεί μια πρόγευση του πού κατευθύνονται οι δοκιμές αναγνώρισης προσώπου με τεχνητή νοημοσύνη σε δημόσιους χώρους: αθόρυβες εφαρμογές που δικαιολογούνται με στατιστικά ασφάλειας, με εγγυήσεις ιδιωτικότητας που συχνά προστίθενται εκ των υστέρων αντί να ενσωματώνονται από την αρχή.

Γενικά δεν μπορείτε να εξαιρεθείτε από ένα ζωντανό δημόσιο σύστημα αναγνώρισης προσώπου μόλις αυτό ενεργοποιηθεί στην περιοχή σας, και αυτό ακριβώς καθιστά τη διαφάνεια και τον δημόσιο διάλογο τόσο σημαντικά πριν τεθούν σε λειτουργία αυτά τα συστήματα, όχι μετά.

Πρακτικά βήματα

  • Ελέγξτε αν η τοπική αστυνομία ή το δημοτικό συμβούλιο έχει δημοσιεύσει πληροφορίες για τυχόν δοκιμές αναγνώρισης προσώπου, τρέχουσες ή προγραμματισμένες, και αναζητήστε κάποια διαδικασία δημόσιας ανατροφοδότησης ή διαβούλευσης.
  • Υποστηρίξτε αιτήματα για σαφείς πολιτικές διατήρησης και διαγραφής δεδομένων όποτε προτείνεται η αναγνώριση προσώπου ή άλλα βιομετρικά εργαλεία για δημόσιους χώρους.
  • Πιέστε για ανεξάρτητους ελέγχους ακρίβειας και μεροληψίας σε οποιοδήποτε σύστημα επιτήρησης με τεχνητή νοημοσύνη πριν επεκταθεί πέρα από τη φάση πιλότου.
  • Μείνετε ενημερωμένοι για το πώς βιομετρικά δεδομένα που συλλέγονται για έναν σκοπό, όπως η αστυνόμευση, θα μπορούσαν αργότερα να κοινοποιηθούν σε άλλες υπηρεσίες ή ιδιωτικές εταιρείες.

Η συζήτηση γύρω από τις δοκιμές αναγνώρισης προσώπου με τεχνητή νοημοσύνη θα γίνεται όλο και πιο έντονη καθώς περισσότερες πόλεις δοκιμάζουν παρόμοια συστήματα. Η ενημέρωση σχετικά με τον τρόπο ανάπτυξης αυτών των προγραμμάτων και η απαίτηση διαφάνειας όταν δεν υπάρχει, είναι ένας από τους πιο πρακτικούς τρόπους με τους οποίους το κοινό μπορεί να επηρεάσει το πώς θα χρησιμοποιηθεί αυτή η τεχνολογία στο μέλλον.