Ολλανδική Ρυθμιστική Αρχή Επιβάλλει Πρόστιμο 966 εκατ. Δολαρίων στην Uber για Παραβίαση GDPR

Πρόστιμο-Ρεκόρ για Αυτοματοποιημένες Απολύσεις

Η Ολλανδική Αρχή Προστασίας Δεδομένων (AP) αποφάσισε να επιβάλει πρόστιμο στην Uber ύψους 825 εκατ. ευρώ, περίπου 966 εκατ. δολαρίων, σύμφωνα με έγγραφο που εξετάστηκε από το Reuters. Το πρόστιμο προκύπτει από την πρακτική της Uber να απενεργοποιεί τους λογαριασμούς οδηγών μέσω αυτοματοποιημένων συστημάτων, μια διαδικασία που, όπως λένε οι ρυθμιστικές αρχές, παραβίασε τους ευρωπαϊκούς κανόνες προστασίας δεδομένων. Το ρεπορτάζ του Reuters, που βασίζεται σε εσωτερική τεκμηρίωση, αποτελεί ένα από τα μεγαλύτερα γνωστά πρόστιμα που έχουν επιβληθεί βάσει του Γενικού Κανονισμού Προστασίας Δεδομένων (GDPR) της Ευρωπαϊκής Ένωσης και φέρνει στο προσκήνιο ένα πρόστιμο για αυτοματοποιημένη λήψη αποφάσεων βάσει GDPR άνευ προηγουμένου κλίμακας.

Στο επίκεντρο της υπόθεσης βρίσκεται ένα παράπονο που είναι γνώριμο στους εργαζόμενους της οικονομίας των μικροεπαγγελμάτων (gig economy): οδηγοί που είδαν τους λογαριασμούς τους να αναστέλλονται ή να τερματίζονται με ελάχιστες εξηγήσεις, κάτι που φαινόταν να πυροδοτείται από έναν αλγόριθμο και όχι από έναν άνθρωπο που εξετάζει την υπόθεση. Όταν το βιοποριστικό ενός ανθρώπου εξαρτάται από μια εφαρμογή, μια αυτοματοποιημένη απενεργοποίηση μπορεί να μοιάζει λιγότερο με επιχειρηματική απόφαση και περισσότερο με διαγραφή από ένα σύστημα που κανείς δεν μπορεί να αμφισβητήσει.

Πώς το Άρθρο 22 του GDPR Περιορίζει τις Αυτοματοποιημένες Αποφάσεις

Ο GDPR περιλαμβάνει συγκεκριμένες προστασίες έναντι αποφάσεων που λαμβάνονται "αποκλειστικά με αυτοματοποιημένη επεξεργασία", όταν αυτές οι αποφάσεις παράγουν νομικά αποτελέσματα ή επηρεάζουν σημαντικά με παρόμοιο τρόπο ένα άτομο. Η απώλεια πρόσβασης σε μια πλατφόρμα που παρέχει το εισόδημά σου πληροί σαφώς την προϋπόθεση του σημαντικού αντικτύπου. Στο πλαίσιο αυτό, οι εταιρείες γενικά χρειάζονται νόμιμη βάση για να βασίζονται σε πλήρως αυτοματοποιημένη λήψη αποφάσεων και πρέπει να παρέχουν στα ενδιαφερόμενα άτομα έναν τρόπο να λαμβάνουν ανθρώπινη επανεξέταση, να εκφράζουν την άποψή τους και να προσβάλλουν το αποτέλεσμα.

Ο κανόνας υπάρχει επειδή τα αυτοματοποιημένα συστήματα μπορεί να είναι αδιαφανή. Ένας οδηγός που απενεργοποιείται από έναν αλγόριθμο συχνά δεν έχει σαφή διαδρομή για να καταλάβει γιατί συνέβη, ποια δεδομένα το πυροδότησαν ή πώς να ασκήσει έφεση. Οι ρυθμιστικές αρχές αντιμετωπίζουν ολοένα και περισσότερο αυτή την αδιαφάνεια ως πρόβλημα από μόνη της, όχι απλώς ως παρενέργεια των αποτελεσματικών επιχειρηματικών λειτουργιών. Η απόφαση της ολλανδικής AP κατά της Uber υποδηλώνει ότι όταν μια εταιρεία αυτοματοποιεί αποφάσεις υψηλού ρίσκου σχετικά με λογαριασμούς ή εισοδήματα ανθρώπων χωρίς επαρκή διαφάνεια και ανθρώπινη εποπτεία, οι οικονομικές συνέπειες μπορεί να είναι σοβαρές.

Γιατί Αυτό Έχει Σημασία Πέρα από τις Υπηρεσίες Μεταφοράς

Είναι δελεαστικό να εκλάβει κανείς αυτό ως μια ιστορία που αφορά αποκλειστικά την επιστασιακή εργασία (gig work), αλλά το υποκείμενο ζήτημα εκτείνεται πολύ πέρα από τις εφαρμογές μεταφοράς. Οποιαδήποτε πλατφόρμα χρησιμοποιεί αυτοματοποιημένα συστήματα για να λαμβάνει αποφάσεις σχετικά με χρήστες, είτε πρόκειται για σήμανση λογαριασμών για απάτη, απόρριψη αιτήσεων δανείου, προσαρμογή ασφαλίστρων ή φιλτράρισμα υποψηφίων για θέσεις εργασίας, αντιμετωπίζει την ίδια βασική απαίτηση: τα άτομα που επηρεάζονται από αυτές τις αποφάσεις έχουν δικαιώματα, συμπεριλαμβανομένου του δικαιώματος να γνωρίζουν ότι μια απόφαση ήταν αυτοματοποιημένη και του δικαιώματος να την προσβάλουν.

Η κλίμακα αυτού του προστίμου στέλνει ένα μήνυμα σε εταιρείες πολύ πέρα από τον κλάδο των μεταφορών. Καθώς όλο και περισσότερες υπηρεσίες βασίζονται σε αλγορίθμους για να διαχειρίζονται τα πάντα, από την ασφάλεια λογαριασμών έως την επιλεξιμότητα πελατών, οι ρυθμιστικές αρχές φαίνονται διατεθειμένες να επιβάλουν την ιδέα ότι η αυτοματοποίηση δεν καταργεί τη λογοδοσία. Αν μη τι άλλο, ανεβάζει τον πήχη, επειδή ένα σύστημα "μαύρου κουτιού" που δεν μπορεί να εξηγήσει τον εαυτό του είναι πιο δύσκολο να υπερασπιστεί κανείς από έναν ανθρώπινο λήπτη αποφάσεων που μπορεί τουλάχιστον να διατυπώσει τη συλλογιστική του.

Τι Σημαίνει Αυτό για Εσάς

Αν ποτέ σου έχει ανασταλεί ένας λογαριασμός σε εφαρμογή, απορρίφθηκε μια αίτηση δανείου ή περιορίστηκε μια υπηρεσία με μια αόριστη αυτοματοποιημένη ειδοποίηση, αυτή η υπόθεση είναι μια υπενθύμιση ότι μπορεί να έχεις περισσότερα περιθώρια προσφυγής από όσα υποδηλώνει η διεπαφή. Βάσει GDPR, τα άτομα στην ΕΕ (και συχνά εκείνα των οποίων τα δεδομένα επεξεργάζονται από εταιρείες με έδρα ή δραστηριότητα στην ΕΕ) μπορούν να ρωτήσουν αν μια απόφαση που τα επηρεάζει ήταν αυτοματοποιημένη, να ζητήσουν ανθρώπινη επανεξέταση και να προσβάλουν το αποτέλεσμα. Ακόμη και εκτός ΕΕ, η πίεση που δημιουργούν αποφάσεις όπως αυτή τείνει να ωθεί τις εταιρείες προς σαφέστερες πολιτικές και καλύτερες διαδικασίες έφεσης παγκοσμίως, καθώς η διατήρηση ξεχωριστών συστημάτων για διαφορετικές περιοχές είναι συχνά πιο δαπανηρή από το να ανεβάσουν τα πρότυπα παντού.

Αυτή είναι επίσης μια καλή στιγμή να σκεφτείς το ευρύτερο αποτύπωμα των προσωπικών σου δεδομένων. Κάθε εφαρμογή που δημιουργεί προφίλ της συμπεριφοράς σου, είτε για να εγκρίνει μια διαδρομή, να χορηγήσει πίστωση ή να εξατομικεύσει μια διαφήμιση, λαμβάνει αποφάσεις βασισμένες σε δεδομένα που εσύ παρείχες, συχνά χωρίς πλήρη ορατότητα στο πώς σταθμίζονται αυτά τα δεδομένα.

Βασικά Συμπεράσματα για τους Αναγνώστες

Αν βασίζεσαι σε πλατφόρμες ευκαιριακής εργασίας, χρηματοοικονομικές εφαρμογές ή οποιαδήποτε υπηρεσία που χρησιμοποιεί αυτοματοποιημένες αποφάσεις λογαριασμού, σκέψου μερικά συγκεκριμένα βήματα. Εξέτασε τις πολιτικές απορρήτου και τους όρους χρήσης των εφαρμογών που χρησιμοποιείς τακτικά για να δεις αν αποκαλύπτουν αυτοματοποιημένη λήψη αποφάσεων. Αν ποτέ απενεργοποιηθείς, απορριφθείς ή επισημανθείς από έναν αλγόριθμο, ζήτα απευθείας από την εταιρεία ανθρώπινη επανεξέταση, καθώς ο GDPR και παρόμοιοι νόμοι σε άλλες δικαιοδοσίες απαιτούν όλο και περισσότερο αυτή την επιλογή. Και μείνε σε εγρήγορση για το πόσα προσωπικά δεδομένα παραδίδεις σε εφαρμογές που λαμβάνουν αποφάσεις με συνέπειες, γιατί ένα πρόστιμο-ρεκόρ για αυτοματοποιημένη λήψη αποφάσεων βάσει GDPR, όπως αυτό, δείχνει ότι οι ρυθμιστικές αρχές παρακολουθούν στενά, ακόμη κι αν οι μεμονωμένοι χρήστες συχνά δεν έχουν την πλήρη εικόνα.