Ένα Κινούμενο Σχέδιο με Σοβαρό Νόημα
Όταν ένας σατιρικός γελοιογράφος βάζει στο στόχαστρο την τεχνολογία αναγνώρισης προσώπου στα σούπερ μάρκετ, αξίζει να σταματήσουμε και να αναρωτηθούμε τι πραγματικά υποδεικνύει το αστείο. Το strip "First Dog on the Moon" του Guardian, που δημοσιεύτηκε με τον τίτλο "Κύμα εγκληματικότητας στα καταστήματα;! Η τοποθέτηση τεχνολογίας αναγνώρισης προσώπου παντού θα το λύσει," σατιρίζει την ιδέα ότι οι αυστραλιανοί λιανεμπορικοί κολοσσοί Coles και Woolworths μπορούν να λύσουν την κλοπή απλώς γεμίζοντας τα καταστήματα με κάμερες και βιομετρικό λογισμικό. Το αστείο πετυχαίνει γιατί βασίζεται σε κάτι πραγματικό: οι αλγόριθμοι αναγνώρισης προσώπου έχουν τεκμηριωμένες προκαταλήψεις, και οι εταιρείες που τους χρησιμοποιούν ουσιαστικά ζητούν από το κοινό να εμπιστευτεί ότι δεν θα κάνουν κακή χρήση μιας τεχνολογίας που είναι γνωστό ότι κάνει λάθη.
Αυτή είναι η ένταση στην καρδιά αυτής της ιστορίας. Οι λιανέμποροι παρουσιάζουν την αναγνώριση προσώπου ως μια απλή αναβάθμιση ασφαλείας, έναν τρόπο να εντοπίζουν γνωστούς παραβάτες πριν φτάσουν στο ταμείο. Αλλά η τεχνολογία δεν λειτουργεί σε κενό. Σκανάρει, αποθηκεύει και αντιστοιχίζει τα πρόσωπα κάθε πελάτη που μπαίνει από την πόρτα, είτε έχει ποτέ θεωρηθεί ύποπτος για οτιδήποτε είτε όχι.
Γιατί Η Προκατάληψη στην Αναγνώριση Προσώπου Έχει Σημασία στο Λιανεμπόριο
Τα συστήματα αναγνώρισης προσώπου έχουν τεκμηριωμένο ιστορικό άνισης απόδοσης σε διαφορετικές δημογραφικές ομάδες. Μελέτες και ανεξάρτητες δοκιμές όλα αυτά τα χρόνια έχουν επανειλημμένα διαπιστώσει ότι τα ποσοστά σφαλμάτων δεν κατανέμονται ισότιμα, πράγμα που σημαίνει ότι ορισμένοι καταναλωτές είναι στατιστικά πιο πιθανό να αναγνωριστούν λανθασμένα από άλλους. Σε ένα περιβάλλον λιανικής, μια λανθασμένη αντιστοίχιση δεν δημιουργεί απλώς μια ενοχλητική ειδοποίηση. Μπορεί να σημαίνει ότι ένας πελάτης σταματάται, ανακρίνεται ή του ζητείται να φύγει από ένα κατάστημα στο οποίο δεν έχει κάνει τίποτα κακό.
Η υπόσχεση των σούπερ μάρκετ ότι θα χρησιμοποιήσουν αυτή την τεχνολογία υπεύθυνα δεν αλλάζει το υποκείμενο πρόβλημα ακρίβειας. Μια εταιρική δέσμευση για αποφυγή κατάχρησης είναι μια πολιτική υπόσχεση, όχι μια τεχνική λύση. Ο αλγόριθμος εξακολουθεί να κάνει τα ίδια στατιστικά σφάλματα ανεξάρτητα από το πόσο προσεκτικά δηλώνει μια εταιρεία ότι θα ρυθμίσει τη χρήση του. Αυτό ακριβώς το κενό σατιρίζει το κινούμενο σχέδιο: την αναντιστοιχία μεταξύ ενός ελαττωματικού εργαλείου και της σίγουρης γλώσσας που χρησιμοποιείται για να το πουλήσει ως λύση.
Τα Δεδομένα Αποθηκεύονται Κάπου, και Αυτό Είναι Επίσης Ένας Κίνδυνος
Πέρα από τη λανθασμένη αναγνώριση, υπάρχει και ένα δεύτερο επίπεδο ανησυχίας που συχνά λαμβάνει λιγότερη προσοχή: πού πηγαίνουν τα βιομετρικά δεδομένα μόλις συλλεχθούν. Τα συστήματα αναγνώρισης προσώπου απαιτούν την αποθήκευση βιομετρικών προτύπων, εικόνων ή αρχείων καταγραφής αντιστοιχίσεων, και οποιαδήποτε βάση δεδομένων αυτού του τύπου γίνεται στόχος. Οι λιανέμποροι δεν είναι παραδοσιακά οργανισμοί με προτεραιότητα την ασφάλεια στον βαθμό που είναι οι τράπεζες ή οι τηλεπικοινωνιακές εταιρείες, και το ευρύτερο μοτίβο ευπάθειας των επιχειρήσεων αξίζει να το έχουμε κατά νου. Ρεπορτάζ για βρετανούς κατασκευαστές που επλήγησαν από κυβερνοεπιθέσεις διαπίστωσε ότι ένα μεγάλο ποσοστό βιομηχανικών επιχειρήσεων παραβιάστηκε τον περασμένο χρόνο ενώ πολλές παρέμεναν απροετοίμαστες, μια υπενθύμιση ότι τομείς εκτός της παραδοσιακής τεχνολογίας συχνά υποστελεχώνονται σε πόρους για τις απαιτήσεις ασφαλείας των δεδομένων που πλέον κατέχουν. Μια αλυσίδα σούπερ μάρκετ που αποθηκεύει βιομετρικά πρότυπα εκατομμυρίων πελατών αναλαμβάνει παρόμοια έκθεση, είτε έχει την υποδομή να την υποστηρίξει είτε όχι.
Υπάρχει επίσης ένα μοτίβο που αξίζει να σημειωθεί σχετικά με το πώς η τεχνολογία επαλήθευσης εισάγεται με σίγουρες υποσχέσεις που δεν ισχύουν πάντα υπό έλεγχο. Οι ρυθμιστικές αρχές έχουν εγείρει παρόμοια ερωτήματα αλλού, όπως όταν η Ofcom ξεκίνησε έρευνα για τα συστήματα ελέγχου ηλικίας του TikTok μετά από ανησυχίες ότι οι έλεγχοι δεν λειτουργούσαν όπως διαφημίζονταν. Η αναγνώριση προσώπου στο λιανεμπόριο ακολουθεί παρόμοιο σενάριο: μια τεχνολογία εισάγεται ως λύση σε ένα πραγματικό πρόβλημα, συνοδευόμενη από διαβεβαιώσεις για υπεύθυνη χρήση, ενώ τα ζητήματα ακρίβειας και εποπτείας παραμένουν σε μεγάλο βαθμό άλυτα.
Τι Σημαίνει Αυτό Για Εσάς
Αν ψωνίζετε σε ένα κατάστημα που χρησιμοποιεί αναγνώριση προσώπου, το πρόσωπό σας σκανάρεται και ενδέχεται να αντιστοιχίζεται με μια βάση δεδομένων κάθε φορά που μπαίνετε, ανεξάρτητα από το αν έχετε κάνει ποτέ κάτι λάθος. Είναι απίθανο να σας πουν ποιο συγκεκριμένο σύστημα χρησιμοποιείται, πόσο καιρό διατηρούνται τα δεδομένα σας ή τι δυνατότητες ένστασης έχετε αν χαρακτηριστείτε λανθασμένα. Οι εταιρικές υποσχέσεις για υπεύθυνη χρήση δεν είναι εκτελέσιμες εγγυήσεις, και δεν αντιμετωπίζουν τα ζητήματα ακρίβειας των αλγορίθμων που είναι εγγενή στην ίδια την τεχνολογία.
Αυτό δεν σημαίνει ότι κάθε χρήση της αναγνώρισης προσώπου είναι κακόβουλη ή ότι κάθε καταναλωτής διατρέχει σημαντικό κίνδυνο. Αλλά σημαίνει ότι το βάρος της απόδειξης θα πρέπει να βαρύνει τις εταιρείες που χρησιμοποιούν αυτή την τεχνολογία, όχι τους πελάτες που περνούν μπροστά από τις κάμερές τους. Η εμπιστοσύνη σε οποιοδήποτε σύστημα που διαχειρίζεται ευαίσθητα προσωπικά δεδομένα, βιομετρικά ή άλλα, θα πρέπει να υποστηρίζεται από επαληθεύσιμες πρακτικές και όχι από καθησυχαστικές δηλώσεις. Αυτό είναι το ίδιο κριτήριο που αξίζει να εφαρμόζεται σε οποιαδήποτε υπηρεσία διαχειρίζεται τα δεδομένα σας, συμπεριλαμβανομένων των ανεξάρτητα ελεγμένων πρακτικών ασφαλείας και όχι των ανεπιβεβαίωτων ισχυρισμών καλής συμπεριφοράς.
Συμπεράσματα για τους Καταναλωτές
Δώστε προσοχή στις πινακίδες στις εισόδους των καταστημάτων που αναφέρουν τη χρήση τεχνολογίας επιτήρησης ή αναγνώρισης προσώπου, και μην διστάσετε να ρωτήσετε το προσωπικό ή την εταιρική εξυπηρέτηση πελατών τι δεδομένα συλλέγονται και πόσο καιρό διατηρούνται. Αν πιστεύετε ότι έχετε αναγνωριστεί λανθασμένα, ζητήστε επίσημη επανεξέταση αντί να αποδεχθείτε μια απόφαση επί τόπου. Και γενικότερα, να έχετε κατά νου ότι η υπόσχεση μιας εταιρείας να χρησιμοποιήσει την τεχνολογία αναγνώρισης προσώπου υπεύθυνα δεν είναι το ίδιο με την απόδειξη ότι το σύστημα λειτουργεί δίκαια. Καθώς αυτή η τεχνολογία εξαπλώνεται σε όλο και περισσότερους καθημερινούς χώρους, από τα σούπερ μάρκετ μέχρι τα μέσα μαζικής μεταφοράς, τα ερωτήματα που θέτει ένα σατιρικό κινούμενο σχέδιο αξίζει να τα παίρνουμε εξίσου σοβαρά με οποιαδήποτε επίσημη πολιτική συζήτηση.
