Η Uber αντιμετωπίζει μία από τις μεγαλύτερες ποινές προστασίας δεδομένων που έχουν επιβληθεί ποτέ στην Ευρώπη. Η Ολλανδική Αρχή Προστασίας Δεδομένων (Autoriteit Persoonsgegevens) έχει επιβάλει στην εταιρεία μεταφοράς επιβατών πρόστιμο 825 εκατομμυρίων ευρώ, περίπου 966 εκατομμυρίων δολαρίων, σχετικά με τη χρήση αυτοματοποιημένων συστημάτων για την αναστολή λογαριασμών οδηγών. Η ποινή κατατάσσεται ως το δεύτερο μεγαλύτερο πρόστιμο που έχει επιβληθεί ποτέ βάσει του Γενικού Κανονισμού Προστασίας Δεδομένων (GDPR), υπογραμμίζοντας πόσο σοβαρά αντιμετωπίζουν οι ευρωπαϊκές ρυθμιστικές αρχές τη λήψη αλγοριθμικών αποφάσεων που επηρεάζουν τα προς το ζην των ανθρώπων.

Τι διαπίστωσε η Ολλανδική Ρυθμιστική Αρχή

Σύμφωνα με την Ολλανδική Αρχή Προστασίας Δεδομένων, η Uber βασιζόταν σε αυτοματοποιημένο λογισμικό για να επισημαίνει και να αναστέλλει λογαριασμούς οδηγών, μια διαδικασία που στερούσε από τους οδηγούς τη δυνατότητα να εργάζονται στην πλατφόρμα, μερικές φορές χωρίς επαρκή ανθρώπινη εξέταση ή σαφή διαδρομή για την αμφισβήτηση της απόφασης. Οι κυρώσεις επιβολής του GDPR αυτής της κλίμακας είναι σπάνιες, και το μέγεθος αυτού του προστίμου υποδηλώνει ότι οι ρυθμιστικές αρχές θεωρούν τις αυτοματοποιημένες απενεργοποιήσεις λογαριασμών σοβαρό ζήτημα προστασίας δεδομένων, όχι απλώς διαφορά εξυπηρέτησης πελατών. Όπως αναφέρεται λεπτομερώς στην προηγούμενη κάλυψη του προστίμου απαγόρευσης GDPR της Uber, η ποινή απορρέει άμεσα από τον τρόπο με τον οποίο οι αλγόριθμοι της εταιρείας επεξεργάζονταν προσωπικά δεδομένα για να λαμβάνουν αποφάσεις με σημαντικές συνέπειες για τους οδηγούς χωρίς επαρκή διαφάνεια ή έλεγχο.

Η υπόθεση αναδεικνύει μια επαναλαμβανόμενη ένταση στην οικονομία των πλατφορμών: οι εταιρείες βασίζονται όλο και περισσότερο σε αυτοματοποιημένα συστήματα για να διαχειρίζονται μεγάλα εργατικά δυναμικά σε κλίμακα, αλλά τα ίδια αυτά συστήματα μπορούν να λαμβάνουν αποφάσεις που αλλάζουν τη ζωή, όπως να κόβουν το εισόδημα κάποιου, με ελάχιστη ορατότητα στο πώς ή γιατί λήφθηκε μια απόφαση.

Γιατί οι αυτοματοποιημένες αναστολές προκαλούν έλεγχο GDPR

Ο GDPR παρέχει στα άτομα συγκεκριμένα δικαιώματα όσον αφορά την αυτοματοποιημένη λήψη αποφάσεων. Βάσει του κανονισμού, τα άτομα έχουν γενικά το δικαίωμα να μην υπόκεινται σε απόφαση που βασίζεται αποκλειστικά σε αυτοματοποιημένη επεξεργασία όταν αυτή η απόφαση παράγει νομικά αποτελέσματα ή παρόμοια σημαντικές συνέπειες για αυτά. Η αναστολή του λογαριασμού ενός οδηγού, και κατά συνέπεια της δυνατότητάς του να κερδίζει εισόδημα, εμπίπτει σαφώς σε αυτή την κατηγορία.

Οι ρυθμιστικές αρχές έχουν σταθερά αντιταχθεί σε εταιρείες που χρησιμοποιούν αλγόριθμους μαύρου κουτιού για να λαμβάνουν τέτοιου είδους αποφάσεις χωρίς να παρέχουν στα ενδιαφερόμενα άτομα ουσιαστική ευκαιρία για ανθρώπινη εξέταση ή εξήγηση της απόφασης. Αυτό το πρόστιμο κατά της Uber εντάσσεται στο ευρύτερο μοτίβο επιβολής του GDPR που στοχεύει αυτοματοποιημένα συστήματα που δεν διαθέτουν διαφάνεια, παρά στην επιβολή ποινών για παραβιάσεις δεδομένων ή περιστατικά hacking.

Για μια εταιρεία που δραστηριοποιείται σε δεκάδες ευρωπαϊκές αγορές, ένα πρόστιμο αυτού του μεγέθους, το δεύτερο μεγαλύτερο πρόστιμο GDPR στην καταγραφή, είναι σαφές μήνυμα ότι οι αρχές προστασίας δεδομένων είναι διατεθειμένες να επιβάλλουν απότομες οικονομικές συνέπειες όταν διαπιστώνεται ότι αυτοματοποιημένες διαδικασίες παραβιάζουν τα δικαιώματα των ατόμων.

Τι σημαίνει αυτό για εσάς

Αν οδηγείτε για μια πλατφόρμα οικονομίας των ευέλικτων εργασιών, συνεργάζεστε με οποιαδήποτε υπηρεσία που χρησιμοποιεί αυτοματοποιημένη διαχείριση λογαριασμών, ή απλώς χρησιμοποιείτε εφαρμογές που λαμβάνουν αλγοριθμικές αποφάσεις για εσάς, αυτή η υπόθεση είναι μια υπενθύμιση ότι έχετε δικαιώματα βάσει της νομοθεσίας περί απορρήτου όσον αφορά την αυτοματοποιημένη λήψη αποφάσεων. Στην ΕΕ, αυτό περιλαμβάνει το δικαίωμα να ζητήσετε ανθρώπινη παρέμβαση, να εκφράσετε την άποψή σας και να αμφισβητήσετε μια απόφαση που λαμβάνεται αποκλειστικά από αλγόριθμο.

Ακόμα κι αν δεν είστε οδηγός ή εργαζόμενος σε πλατφόρμες ευέλικτων εργασιών, η απόφαση έχει σημασία επειδή ενισχύει πόσο σοβαρά αντιμετωπίζουν οι ρυθμιστικές αρχές την προστασία των δεδομένων σε σχέση με αυτοματοποιημένα συστήματα γενικά, όχι μόνο παραβιάσεις ή hacking. Οι εταιρείες που βασίζονται σε αλγόριθμους για τη διαχείριση λογαριασμών, συνδρομών ή υπηρεσιών αντιμετωπίζουν πλέον πραγματικό οικονομικό κίνδυνο εάν αυτά τα συστήματα λειτουργούν χωρίς επαρκή διαφάνεια ή ανθρώπινη εποπτεία.

Για τους καθημερινούς χρήστες, αυτή είναι επίσης μια καλή στιγμή να εξετάσετε πόσο έλεγχο έχετε πάνω στα δικά σας δεδομένα και στην κατάσταση του λογαριασμού σας σε πλατφόρμες που χρησιμοποιείτε τακτικά. Η κατανόηση της διαδικασίας ένστασης μιας εταιρείας, και το κατά πόσον ένας άνθρωπος εξετάζει τις αυτοματοποιημένες αποφάσεις, μπορεί να σας βοηθήσει να αποφύγετε να βρεθείτε σε παρόμοια διαφορά.

Βασικά συμπεράσματα

Το πρόστιμο της Uber είναι μια ορόσημο στιγμή για την επιβολή του GDPR και προσφέρει μερικά πρακτικά μαθήματα για τους αναγνώστες:

  • Γνωρίστε τα δικαιώματά σας: βάσει GDPR, μπορείτε να ζητήσετε ανθρώπινη εξέταση οποιασδήποτε αυτοματοποιημένης απόφασης που σας επηρεάζει σημαντικά.
  • Αν μια πλατφόρμα αναστείλει ή περιορίσει τον λογαριασμό σας, ρωτήστε συγκεκριμένα αν η απόφαση ήταν αυτοματοποιημένη και ζητήστε εξήγηση.
  • Κρατήστε αρχεία με τη δραστηριότητα του λογαριασμού σας και οποιαδήποτε επικοινωνία με μια πλατφόρμα σε περίπτωση που χρειαστεί να αμφισβητήσετε μια αυτοματοποιημένη απόφαση.
  • Παρακολουθήστε τις περαιτέρω εξελίξεις, καθώς αυτό το πρόστιμο μπορεί να ωθήσει άλλες ρυθμιστικές αρχές στην Ευρώπη να εξετάσουν παρόμοια αυτοματοποιημένα συστήματα που χρησιμοποιούν άλλες εταιρείες.

Καθώς οι ρυθμιστικές αρχές συνεχίζουν να δοκιμάζουν τα όρια του GDPR απέναντι σε ισχυρά αυτοματοποιημένα συστήματα, υποθέσεις όπως αυτή είναι πιθανό να διαμορφώσουν τον τρόπο με τον οποίο οι πλατφόρμες σχεδιάζουν τους αλγόριθμούς τους και πόση διαφάνεια οφείλουν στους ανθρώπους που επηρεάζονται από αυτούς.