تواجه أوبر غرامة قدرها 825 مليون يورو بموجب اللائحة العامة لحماية البيانات (GDPR) مرتبطة بممارسة قد تبدو مألوفة لأي شخص تم حظره من حسابه دون تفسير: تعليق السائقين تلقائيًا بناءً على قرارات خوارزمية، دون أن يراجع أي إنسان القضية. وتُعد هذه الغرامة واحدة من أكبر الغرامات المتعلقة بالخصوصية في الذاكرة الحديثة، وتسلط الضوء على حق لا يدرك معظم مستخدمي الإنترنت أنهم يمتلكونه، وهو الحق في عدم الخضوع لقرارات آلية بحتة تحمل عواقب حقيقية.
ما الذي فعلته أوبر: تعليقات خوارزمية دون مراجعة بشرية
في قلب هذه القضية يوجد نظام أوبر لتعليق حسابات السائقين. وفقًا للجهات التنظيمية، يمكن تعليق السائقين، وبالتالي فقدان دخلهم، بالكامل بناءً على تقييمات آلية لنشاطهم أو إشارات الاحتيال أو التقييمات أو نقاط بيانات أخرى، دون أن يتدخل أي شخص للتأكد من أن القرار كان عادلًا أو حتى دقيقًا. بالنسبة لعامل الاقتصاد المؤقت، فإن التعليق ليس مجرد إزعاج بسيط. بل يمكن أن يعني خسارة فورية لمصدر الرزق، غالبًا دون وضوح كبير حول سبب حدوث ذلك أو كيفية الاستئناف عليه.
هذه ليست قصة عن خوارزمية مارقة واحدة ارتكبت خطأً. إنها قصة عن خيار هيكلي: بناء نظام حيث تتخذ الآلات قرارات ذات عواقب ويكون البشر خيارًا إضافيًا. هذا التمييز مهم للغاية بموجب قانون الخصوصية الأوروبي، ولهذا السبب وصلت الغرامة إلى مئات الملايين من اليورو بدلاً من رسالة إنذار. القراء الذين يرغبون في الاطلاع على الخلفية التنظيمية الكاملة، بما في ذلك كيفية حساب الغرامة وما وجدته السلطة الهولندية، يمكنهم مراجعة الغرامة الأصلية للسلطة الهولندية ضد أوبر بموجب اللائحة العامة لحماية البيانات لمزيد من التفاصيل حول القضية.
كيف تحمي المادة 22 من اللائحة العامة لحماية البيانات من القرارات الآلية
الأساس القانوني لهذه الغرامة يكمن في المادة 22 من اللائحة العامة لحماية البيانات (GDPR)، وهو حكم يمنح الأفراد الحق في عدم الخضوع لقرار يعتمد فقط على المعالجة الآلية عندما ينتج عن هذا القرار آثار قانونية أو يؤثر عليهم بشكل مماثل وهام. فقدان الوصول إلى مصدر دخلك الأساسي يندرج بوضوح ضمن هذا السياق.
القاعدة لا تحظر الأتمتة بشكل مطلق. يمكن للشركات استخدام الخوارزميات لتحديد المشكلات أو تقييم المخاطر أو فرز الحالات. ما تتطلبه اللائحة العامة لحماية البيانات هو أنه عندما يكون للقرار عواقب خطيرة، يجب أن يكون هناك إنسان مشارك بشكل هادف، شخص لديه السلطة والمعلومات ليتجاوز الآلة فعليًا، وليس فقط المصادقة على مخرجاتها بشكل شكلي. وقد تعاملت الجهات التنظيمية بشكل متزايد مع "موافقة شخص ما بالنقر" على أنها غير كافية إذا لم تتاح لهذا الشخص فرصة حقيقية للتحقيق في النتيجة أو عكسها. قضية أوبر تشير إلى أن هذه الفجوة، بين وجود إنسان في الحلقة على الورق ووجود واحد في الممارسة الفعلية، هي بالضبط المكان الذي تقع فيه الشركات في المشاكل.
ما بعد اقتصاد العمل المؤقت: الحظر الصامت، وحظر الحسابات، وطلبات حذف البيانات
بينما تتعلق هذه الغرامة بشركة نقل الركاب، فإن القضية الأساسية تمتد إلى ما هو أبعد بكثير من اقتصاد العمل المؤقت. تستخدم منصات التواصل الاجتماعي أنظمة آلية للحظر الصامت للحسابات أو إزالة المحتوى. تستخدم البنوك ومعالجات الدفع خوارزميات لتجميد الحسابات بسبب اشتباه في الاحتيال. تفرض خدمات البث والأسواق عبر الإنترنت حظرًا تلقائيًا على المستخدمين بسبب سلوكيات معلَّمة. حتى طلبات حذف البيانات والوصول إليها، وهي حقوق أساسية بموجب اللائحة العامة لحماية البيانات، غالبًا ما تتم معالجتها بواسطة أنظمة آلية يمكنها رفض طلب مشروع بصمت دون أي مراجعة بشرية.
في كل من هذه السيناريوهات، ينطبق التوتر نفسه: الراحة والحجم للشركة، مقابل الإجراءات القانونية الواجبة والشفافية للفرد. معظم المستخدمين لا يفكرون أبدًا في سؤال ما إذا كان إنسان قد راجع القرار الذي أثر عليهم، ويرجع ذلك إلى حد كبير إلى أن المنصات نادرًا ما تكشف عن ذلك. غرامة أوبر تشير إلى أن الجهات التنظيمية بدأت تعامل هذا التعتيم كمخاطر امتثال، وليس مجرد إزعاج لخدمة العملاء.
ما يعنيه هذا بالنسبة لك
إذا سبق أن تم تعليقك أو حظرك أو رفض طلبك من قبل تطبيق أو منصة دون تفسير واضح، فهناك احتمال كبير أن خوارزمية اتخذت هذا القرار مع إشراف بشري ضئيل أو معدوم. بموجب اللائحة العامة لحماية البيانات، إذا كنت في الاتحاد الأوروبي أو تمت معالجة بياناتك من قبل شركة تعمل هناك، يحق لك عمومًا طلب شرح للقرارات الآلية التي تؤثر عليك بشكل كبير، والاعتراض على القرار، وطلب مراجعة بشرية هادفة. الشركات العاملة في هذا المجال ملزمة قانونًا ببناء صمام الأمان هذا، حتى لو لم يكن معلنًا بشكل واضح.
كما تثير هذه القضية القيمة العملية للحذر بشأن مقدار السيطرة التي تسلمها للمنصات التي تعتمد بشكل كبير على الإنفاذ الآلي. فهم حقوقك في القرارات الآلية بموجب اللائحة العامة لحماية البيانات ليس مجرد مفهوم قانوني مجرد، بل هو أداة يمكنك استخدامها فعليًا عندما يقفلك تطبيق أو تعلّم خوارزمية حسابك.
النقاط الرئيسية
إذا وجدت نفسك في مواجهة تعليق أو حظر أو رفض آلي، فمن الجدير اتخاذ إجراء بدلاً من افتراض أن القرار نهائي. اطلب شرحًا مكتوبًا لكيفية اتخاذ القرار وما إذا كان إنسان قد راجعه. استشهد بحقوقك بموجب اللائحة العامة لحماية البيانات صراحةً إذا كانت الشركة خاضعة لقانون الاتحاد الأوروبي، وقدم شكوى إلى سلطة حماية البيانات ذات الصلة إذا لم تحصل على رد مرضٍ. احتفظ بسجلات لاتصالاتك مع المنصة، لأن النمط الموثق من القرارات الآلية غير المراجعة هو بالضبط نوع الأدلة التي أدت إلى غرامة أوبر البالغة 825 مليون يورو. مع مرور المزيد من الحياة اليومية عبر الخوارزميات، فإن معرفة هذه الحقوق واستخدامها هي واحدة من أوضح الطرق للرد عندما تخطئ الآلة.
