Γιαγιά από το Τενεσί μηνύει για 10 εκατομμύρια δολάρια μετά από λάθος αναγνώριση προσώπου με τεχνητή νοημοσύνη

Μια Παράνομη Σύλληψη Βασισμένη στην Εικασία μιας Μηχανής

Μια γιαγιά από το Τενεσί μηνύει για 10 εκατομμύρια δολάρια αφού λέει ότι μια υποτιθέμενη αντιστοίχιση με αναγνώριση προσώπου μέσω τεχνητής νοημοσύνης την οδήγησε στο να κατηγορηθεί ψευδώς για εγκλήματα τραπεζικής κλοπής στη Βόρεια Ντακότα και να κρατηθεί για έξι μήνες. Η υπόθεση, που αναφέρθηκε για πρώτη φορά από το ABC News, εγείρει καίρια ερωτήματα σχετικά με το πόση εμπιστοσύνη πρέπει να δίνουν τα αστυνομικά τμήματα σε εργαλεία αυτοματοποιημένης ταυτοποίησης, όταν οι συνέπειες ενός λάθους μπορούν να σημάνουν μήνες στη φυλακή για έναν αθώο άνθρωπο.

Σύμφωνα με το ρεπορτάζ, η γυναίκα συνδέθηκε με εγκλήματα τραπεζικής απάτης που λέει ότι δεν διέπραξε, αφού λογισμικό αναγνώρισης προσώπου συνέδεσε την εικόνα της με υλικό από κάμερες παρακολούθησης. Πέρασε μισό χρόνο σε κράτηση πριν καταρρεύσει η υπόθεση εναντίον της, και τώρα επιδιώκει αγωγή ζητώντας 10 εκατομμύρια δολάρια σε αποζημιώσεις για τη δοκιμασία που υπέστη.

Πώς Συμβαίνουν τα Λάθη Αναγνώρισης Προσώπου

Τα συστήματα αναγνώρισης προσώπου λειτουργούν συγκρίνοντας μια φωτογραφία ή καρέ βίντεο με μια βάση δεδομένων εικόνων και παράγοντας ένα σκορ πιθανότητας για μια αντιστοίχιση. Αυτό το σκορ είναι μια στατιστική εκτίμηση, όχι βεβαιότητα. Όταν οι ανακριτές ή οι εισαγγελείς αντιμετωπίζουν το αποτέλεσμα ενός αλγορίθμου ως αδιαμφισβήτητη απόδειξη αντί ως ένα στοιχείο μεταξύ πολλών, ο κίνδυνος ψευδούς κατηγορίας αυξάνεται απότομα.

Αυτά τα συστήματα έχουν τεκμηριωμένα κενά ακρίβειας ανάλογα με την ποιότητα της εικόνας, τον φωτισμό, τη γωνία της κάμερας και τη δημογραφική σύνθεση των δεδομένων εκπαίδευσης που χρησιμοποιήθηκαν για την κατασκευή τους. Ένα κοκκώδες στιγμιότυπο από κάμερα παρακολούθησης, μια μερική λήψη προφίλ ή μια ασυνήθιστη έκφραση μπορούν όλα να ωθήσουν έναν αλγόριθμο προς ένα ψευδώς θετικό αποτέλεσμα. Όταν αυτή η ελαττωματική αντιστοίχιση γίνει η βάση για ένα ένταλμα σύλληψης, το βάρος της απόδειξης της αθωότητας μετατοπίζεται στο άτομο που κατηγορείται ψευδώς, συχνά με συνέπειες που αλλάζουν τη ζωή, όπως οι έξι μήνες κράτησης που περιγράφονται σε αυτή την υπόθεση.

Το Διακύβευμα της Ιδιωτικότητας και των Πολιτικών Ελευθεριών

Αυτή η αγωγή αποτελεί μέρος ενός ευρύτερου μοτίβου ανησυχίας σχετικά με το πώς οι υπηρεσίες επιβολής του νόμου αναπτύσσουν την αναγνώριση προσώπου χωρίς συνεπή εθνικά πρότυπα, εποπτεία ή απαιτήσεις διαφάνειας. Σε αντίθεση με μια αντιστοίχιση δακτυλικών αποτυπωμάτων ή DNA, η οποία συνήθως υφίσταται αυστηρή εγκληματολογική επικύρωση πριν χρησιμοποιηθεί στο δικαστήριο, τα αποτελέσματα αναγνώρισης προσώπου μπορούν να παραχθούν ακαριαία και να εφαρμοστούν με πολύ λιγότερο έλεγχο στο πεδίο.

Το υποκείμενο ζήτημα είναι ζήτημα δεδομένων και συναίνεσης. Οι περισσότεροι άνθρωποι των οποίων τα πρόσωπα καταλήγουν σε αυτά τα συστήματα αντιστοίχισης δεν συμφώνησαν ποτέ να χρησιμοποιηθούν οι εικόνες τους με αυτόν τον τρόπο. Φωτογραφίες που αντλούνται από βάσεις δεδομένων αδειών οδήγησης, μέσα κοινωνικής δικτύωσης ή δημόσιες κάμερες παρακολούθησης μπορούν όλες να τροφοδοτήσουν εργαλεία αναγνώρισης χωρίς τη γνώση του ατόμου. Όταν ένας αλγόριθμος αστοχεί, το άτομο που βλάπτεται συχνά δεν έχει ιδέα ότι τα βιομετρικά του δεδομένα ήταν ακόμη μέρος της διαδικασίας μέχρι να βρεθεί ήδη αντιμέτωπο με ποινικές κατηγορίες.

Αυτή η έλλειψη διαφάνειας αντικατοπτρίζει συζητήσεις που γίνονται σε άλλους τομείς της ψηφιακής πολιτικής, όπου το βασικό ερώτημα είναι ποιος ελέγχει τη ροή των προσωπικών δεδομένων και υπό ποιους κανόνες. Όπως οι συζητήσεις γύρω από την ουδετερότητα του δικτύου επικεντρώνονται στη διασφάλιση δίκαιης και ίσης μεταχείρισης των πληροφοριών που κινούνται μέσω δικτύων, η συζήτηση για την αναγνώριση προσώπου επικεντρώνεται στη διασφάλιση δίκαιης και υπόλογης μεταχείρισης των προσωπικών βιομετρικών δεδομένων που κινούνται μέσω συστημάτων επιβολής του νόμου.

Τι Σημαίνει Αυτό για Εσάς

Οι περισσότεροι άνθρωποι δεν θα αντιμετωπίσουν ποτέ μια παράνομη σύλληψη που συνδέεται με αναγνώριση προσώπου, αλλά αυτή η υπόθεση είναι μια υπενθύμιση ότι τα βιομετρικά δεδομένα που συλλέγονται για έναν σκοπό μπορούν να καταλήξουν να χρησιμοποιούνται με τρόπους που τα άτομα δεν είχαν ποτέ προβλέψει ή συναινέσει. Το πρόσωπό σας, σε αντίθεση με έναν κωδικό πρόσβασης, δεν μπορεί να αλλάξει αν κακοποιηθεί ή αντιστοιχιστεί λανθασμένα από ένα ελαττωματικό σύστημα.

Αν ζείτε ή εργάζεστε σε μια περιοχή όπου τα αστυνομικά τμήματα χρησιμοποιούν τεχνολογία αναγνώρισης προσώπου, αξίζει να κατανοήσετε ποιες τοπικές πολιτικές, αν υπάρχουν, διέπουν αυτή τη χρήση. Ορισμένες δικαιοδοσίες απαιτούν ανθρώπινη επισκόπηση πριν μια αλγοριθμική αντιστοίχιση μπορεί να οδηγήσει σε σύλληψη, ενώ άλλες όχι. Το να γνωρίζετε αν αυτές οι διασφαλίσεις υπάρχουν στην κοινότητά σας μπορεί να σας βοηθήσει να υποστηρίξετε ισχυρότερες προστασίες αν λείπουν.

Για άτομα που ανησυχούν για το δικό τους βιομετρικό αποτύπωμα, η επισκόπηση των ρυθμίσεων απορρήτου στις πλατφόρμες κοινωνικής δικτύωσης, η κατανόηση του ποιες κυβερνητικές βάσεις δεδομένων αποθηκεύουν τη φωτογραφία σας και η ενημέρωση σχετικά με την τοπική και πολιτειακή νομοθεσία για την αναγνώριση προσώπου είναι πρακτικά βήματα. Ομάδες υπεράσπισης και νομοθέτες σε αρκετές πολιτείες έχουν ήδη πιέσει για περιορισμούς ή απαγορεύσεις στη χρήση της τεχνολογίας από την αστυνομία, και η δημόσια πίεση έχει ιστορικά αποτελέσει καθοριστικό παράγοντα σε αυτές τις αλλαγές πολιτικής.

Η Ευρύτερη Εικόνα

Αυτή η αγωγή των 10 εκατομμυρίων δολαρίων είναι πιθανό να προσελκύσει συνεχή προσοχή καθώς κινείται μέσα από το νομικό σύστημα, και προστίθεται σε ένα αυξανόμενο σύνολο υποθέσεων που αμφισβητούν τον τρόπο με τον οποίο χρησιμοποιούνται τα εργαλεία αναγνώρισης προσώπου μέσω τεχνητής νοημοσύνης σε ποινικές έρευνες. Όποιο κι αν είναι το αποτέλεσμα, η υπόθεση υπογραμμίζει μια απλή αλήθεια: η τεχνολογία που διαφημίζεται ως ερευνητική συντόμευση φέρει πραγματικό ανθρώπινο κόστος όταν αποτυγχάνει, και αυτό το κόστος πλήττει σκληρότερα τους ανθρώπους που είναι λιγότερο εξοπλισμένοι για να αντισταθούν.

Καθώς τα εργαλεία αναγνώρισης προσώπου γίνονται πιο κοινά στην αστυνόμευση, το να μένετε ενημερωμένοι για το πώς λειτουργούν αυτά τα συστήματα, πού αποθηκεύονται τα βιομετρικά σας δεδομένα και ποιες προστασίες υπάρχουν στην περιοχή σας είναι ένας από τους πιο πρακτικούς τρόπους να προστατεύσετε τον εαυτό σας από το να γίνετε ο επόμενος προειδοποιητικός τίτλος.