Η Uber αντιμετωπίζει πρόστιμο 825 εκατομμυρίων ευρώ βάσει GDPR, συνδεδεμένο με μια πρακτική που πιθανότατα ακούγεται οικεία σε όποιον έχει αποκλειστεί ποτέ από έναν λογαριασμό χωρίς εξήγηση: αυτόματη αναστολή οδηγών βάσει αλγοριθμικών αποφάσεων, χωρίς κανένας άνθρωπος να έχει εξετάσει ποτέ την υπόθεση. Η ποινή είναι ένα από τα μεγαλύτερα πρόστιμα προστασίας προσωπικών δεδομένων των τελευταίων ετών και φέρνει στο προσκήνιο ένα δικαίωμα που οι περισσότεροι χρήστες του διαδικτύου δεν γνωρίζουν ότι έχουν: το δικαίωμα να μην υπόκεινται σε καθαρά αυτοματοποιημένες αποφάσεις που επιφέρουν πραγματικές συνέπειες.
Τι Έκανε η Uber: Αλγοριθμικές Αναστολές Χωρίς Ανθρώπινη Αξιολόγηση
Στο επίκεντρο αυτής της υπόθεσης βρίσκεται το σύστημα της Uber για την απενεργοποίηση οδηγών. Σύμφωνα με τις ρυθμιστικές αρχές, οι οδηγοί μπορούσαν να ανασταλούν, και στην πράξη να χάσουν το εισόδημά τους, βασιζόμενοι εξ ολοκλήρου σε αυτοματοποιημένες αξιολογήσεις της δραστηριότητάς τους, ενδείξεων απάτης, βαθμολογιών ή άλλων σημείων δεδομένων, χωρίς κανένας άνθρωπος να παρέμβει για να επιβεβαιώσει ότι η απόφαση ήταν δίκαιη ή έστω ακριβής. Για έναν εργαζόμενο σε πλατφόρμα (gig worker), μια αναστολή δεν είναι μια μικρή ταλαιπωρία. Μπορεί να σημαίνει άμεση απώλεια του βιοπορισμού, συχνά με ελάχιστη σαφήνεια για το γιατί συνέβη ή πώς μπορεί να ασκηθεί έφεση.
Αυτή δεν είναι μια ιστορία για έναν μοναδικό αλγόριθμο που έκανε λάθος. Αφορά μια δομική επιλογή: τη δημιουργία ενός συστήματος όπου οι μηχανές λαμβάνουν αποφάσεις με σημαντικές συνέπειες και οι άνθρωποι είναι προαιρετικοί. Αυτή η διάκριση έχει τεράστια σημασία βάσει της ευρωπαϊκής νομοθεσίας περί προστασίας δεδομένων και είναι ο λόγος που το πρόστιμο έφτασε τα εκατοντάδες εκατομμύρια ευρώ αντί για μια προειδοποιητική επιστολή. Οι αναγνώστες που θέλουν το πλήρες ρυθμιστικό υπόβαθρο, συμπεριλαμβανομένου του πώς υπολογίστηκε η ποινή και τι διαπίστωσε η ολλανδική αρχή, μπορούν να δουν το αρχικό πρόστιμο GDPR της ολλανδικής ρυθμιστικής αρχής κατά της Uber για περισσότερες λεπτομέρειες σχετικά με την υπόθεση.
Πώς το Άρθρο 22 του GDPR Προστατεύει από Αυτοματοποιημένες Αποφάσεις
Το νομικό θεμέλιο για αυτό το πρόστιμο βρίσκεται στο Άρθρο 22 του GDPR, μια διάταξη που δίνει στα άτομα το δικαίωμα να μην υπόκεινται σε απόφαση που βασίζεται αποκλειστικά σε αυτοματοποιημένη επεξεργασία, όταν αυτή η απόφαση παράγει νομικά αποτελέσματα ή επηρεάζει σημαντικά με παρόμοιο τρόπο. Η απώλεια πρόσβασης στην κύρια πηγή εισοδήματός σας πληροί σαφώς αυτές τις προϋποθέσεις.
Ο κανόνας δεν απαγορεύει εντελώς την αυτοματοποίηση. Οι εταιρείες μπορούν να χρησιμοποιούν αλγορίθμους για να επισημαίνουν ζητήματα, να βαθμολογούν τον κίνδυνο ή να κατηγοριοποιούν υποθέσεις. Αυτό που απαιτεί το GDPR είναι ότι όταν μια απόφαση έχει σοβαρές συνέπειες, ένας άνθρωπος πρέπει να συμμετέχει ουσιαστικά, κάποιος με την εξουσία και τις πληροφορίες να ακυρώσει πραγματικά τη μηχανή, όχι απλώς να επικυρώνει τυπικά το αποτέλεσμά της. Οι ρυθμιστικές αρχές αντιμετωπίζουν ολοένα και περισσότερο το «ένα άτομο πάτησε έγκριση» ως ανεπαρκές, εάν αυτό το άτομο δεν είχε ποτέ πραγματική ευκαιρία να ερευνήσει ή να αντιστρέψει το αποτέλεσμα. Η υπόθεση της Uber υποδεικνύει ότι αυτό το κενό, μεταξύ του να υπάρχει ένας άνθρωπος στη διαδικασία στα χαρτιά και του να υπάρχει στην πράξη, είναι ακριβώς εκεί όπου οι εταιρείες μπαίνουν σε μπελάδες.
Πέρα από την Εργασία σε Πλατφόρμες: Shadowbanning, Αποκλεισμοί Λογαριασμών και Αιτήματα Διαγραφής Δεδομένων
Ενώ αυτό το πρόστιμο αφορά μια εταιρεία μεταφορών, το υποκείμενο ζήτημα εκτείνεται πολύ πέρα από την εργασία σε πλατφόρμες. Οι πλατφόρμες κοινωνικής δικτύωσης χρησιμοποιούν αυτοματοποιημένα συστήματα για να κάνουν shadowban σε λογαριασμούς ή να αφαιρούν περιεχόμενο. Οι τράπεζες και οι πάροχοι πληρωμών χρησιμοποιούν αλγορίθμους για να δεσμεύουν λογαριασμούς λόγω υπόνοιας απάτης. Οι υπηρεσίες ροής και οι αγορές αποκλείουν αυτόματα χρήστες για επισημασμένη συμπεριφορά. Ακόμη και τα αιτήματα διαγραφής δεδομένων και πρόσβασης, βασικά δικαιώματα GDPR, συχνά διεκπεραιώνονται από αυτοματοποιημένα συστήματα που μπορούν να απορρίψουν σιωπηλά ένα νόμιμο αίτημα χωρίς καμία ανθρώπινη αξιολόγηση.
Σε καθένα από αυτά τα σενάρια, εφαρμόζεται η ίδια ένταση: ευκολία και κλίμακα για την εταιρεία, σε αντίθεση με τη δέουσα διαδικασία και τη διαφάνεια για το άτομο. Οι περισσότεροι χρήστες δεν σκέφτονται ποτέ να ρωτήσουν αν ένας άνθρωπος εξέτασε την απόφαση που τους επηρέασε, κυρίως επειδή οι πλατφόρμες σπάνια το αποκαλύπτουν. Το πρόστιμο της Uber σηματοδοτεί ότι οι ρυθμιστικές αρχές αρχίζουν να αντιμετωπίζουν αυτή την αδιαφάνεια ως κίνδυνο συμμόρφωσης, όχι απλώς ως ενόχληση για την εξυπηρέτηση πελατών.
Τι Σημαίνει Αυτό για Εσάς
Αν έχετε ποτέ ανασταλεί, αποκλειστεί ή απορριφθεί από μια εφαρμογή ή πλατφόρμα χωρίς σαφή εξήγηση, υπάρχει μεγάλη πιθανότητα ένας αλγόριθμος να έλαβε αυτή την απόφαση με ελάχιστη ή καθόλου ανθρώπινη εποπτεία. Βάσει GDPR, αν βρίσκεστε στην ΕΕ ή τα δεδομένα σας επεξεργάζεται μια εταιρεία που δραστηριοποιείται εκεί, γενικά έχετε το δικαίωμα να ζητήσετε εξήγηση για αυτοματοποιημένες αποφάσεις που σας επηρεάζουν σημαντικά, να αμφισβητήσετε την απόφαση και να ζητήσετε ουσιαστική ανθρώπινη επανεξέταση. Οι εταιρείες που δραστηριοποιούνται σε αυτόν τον τομέα είναι νομικά υποχρεωμένες να ενσωματώνουν αυτή τη βαλβίδα ασφαλείας, ακόμη κι αν δεν διαφημίζεται εμφανώς.
Αυτή η υπόθεση αναδεικνύει επίσης την πρακτική αξία του να είστε προσεκτικοί σχετικά με το πόσο έλεγχο παραδίδετε σε πλατφόρμες που βασίζονται σε μεγάλο βαθμό σε αυτοματοποιημένη επιβολή. Η κατανόηση των δικαιωμάτων σας σχετικά με τις αυτοματοποιημένες αποφάσεις βάσει GDPR δεν είναι απλώς μια αφηρημένη νομική έννοια, είναι ένα εργαλείο που μπορείτε πραγματικά να επικαλεστείτε όταν μια εφαρμογή σας αποκλείει ή ένας αλγόριθμος επισημαίνει τον λογαριασμό σας.
Βασικά Συμπεράσματα
Αν βρεθείτε στην άλλη άκρη μιας αυτοματοποιημένης αναστολής, αποκλεισμού ή απόρριψης, αξίζει να αναλάβετε δράση αντί να υποθέσετε ότι η απόφαση είναι οριστική. Ζητήστε γραπτή εξήγηση για το πώς λήφθηκε η απόφαση και αν την εξέτασε άνθρωπος. Αναφερθείτε ρητά στα δικαιώματά σας βάσει GDPR εάν η εταιρεία υπόκειται στη νομοθεσία της ΕΕ και υποβάλετε καταγγελία στην αρμόδια αρχή προστασίας δεδομένων εάν δεν λάβετε ικανοποιητική απάντηση. Κρατήστε αρχεία των επικοινωνιών σας με την πλατφόρμα, καθώς ένα τεκμηριωμένο μοτίβο αυτοματοποιημένων αποφάσεων χωρίς ανθρώπινη αξιολόγηση είναι ακριβώς το είδος αποδεικτικών στοιχείων που οδήγησε στο πρόστιμο των 825 εκατομμυρίων ευρώ στην Uber. Καθώς όλο και περισσότερο μέρος της καθημερινής ζωής φιλτράρεται μέσω αλγορίθμων, το να γνωρίζετε αυτά τα δικαιώματα και να τα χρησιμοποιείτε, είναι ένας από τους πιο ξεκάθαρους τρόπους να αντισταθείτε όταν η μηχανή κάνει λάθος.
