غرامة قياسية لعمليات الفصل الخوارزمي

قررت هيئة حماية البيانات الهولندية (AP) فرض غرامة على أوبر تبلغ 825 مليون يورو، أي ما يعادل تقريبًا 966 مليون دولار، وفقًا لوثيقة اطلعت عليها رويترز. وتأتي الغرامة بسبب ممارسة أوبر المتمثلة في إلغاء تنشيط حسابات السائقين من خلال أنظمة آلية، وهي عملية يقول المنظمون إنها خالفت قواعد حماية البيانات الأوروبية. ويعد تقرير رويترز، المبني على وثائق داخلية، واحدًا من أكبر الغرامات المعروفة الصادرة بموجب اللائحة العامة لحماية البيانات (GDPR) في الاتحاد الأوروبي، ويلقي الضوء على غرامة غير مسبوقة تتعلق باتخاذ القرارات الآلية بموجب اللائحة.

في قلب القضية شكوى مألوفة من عمال اقتصاد الوظائف المؤقتة: سائقون وجدوا حساباتهم موقوفة أو منتهية بتفسير ضئيل، ويبدو أن السبب يعود إلى خوارزمية وليس إلى مراجع بشري. عندما يعتمد رزق الشخص على تطبيق، فإن الإلغاء الآلي قد يبدو أقل كونه قرارًا تجاريًا وأكثر كونه محوًا من قبل نظام لا يمكن لأحد أن يسائله.

كيف تقيد المادة 22 من اللائحة العامة لحماية البيانات القرارات الآلية

تتضمن اللائحة العامة لحماية البيانات (GDPR) حماية محددة ضد القرارات المتخذة "بشكل حصري على أساس المعالجة الآلية" عندما تنتج تلك القرارات آثارًا قانونية أو تأثيرات مشابهة كبيرة على الشخص. فقدان الوصول إلى منصة توفر دخلك يعد بوضوح تأثيرًا كبيرًا. في إطار هذه القواعد، يتعين على الشركات عمومًا أن يكون لديها أساس قانوني للاعتماد على اتخاذ القرار الآلي بالكامل، ويجب أن توفر للأفراد المتأثرين وسيلة للحصول على مراجعة بشرية، والتعبير عن وجهة نظرهم، والطعن في النتيجة.

هذه القاعدة موجودة لأن الأنظمة الآلية يمكن أن تكون غير شفافة. فالسائق الذي يتم إلغاء تنشيطه بواسطة خوارزمية غالبًا لا يملك مسارًا واضحًا لفهم سبب حدوث ذلك، أو ما هي البيانات التي أدت إليه، أو كيفية الاستئناف. وقد بدأ المنظمون بشكل متزايد في التعامل مع هذا الغموض كمشكلة بحد ذاتها، وليس مجرد أثر جانبي لعمليات تجارية فعّالة. قرار الهيئة الهولندية بشأن أوبر يشير إلى أنه عندما تقوم شركة بأتمتة قرارات عالية المخاطر بشأن حسابات الأشخاص أو دخلهم دون شفافية كافية وإشراف بشري، فقد تكون العواقب المالية شديدة.

لماذا يهم هذا الأمر أبعد من خدمات نقل الركاب

قد يكون من المغري قراءة هذا كقصة خاصة بأعمال الوظائف المؤقتة، لكن القضية الأساسية تمتد إلى ما هو أبعد بكثير من تطبيقات نقل الركاب. أي منصة تستخدم أنظمة آلية لاتخاذ قرارات بشأن المستخدمين، سواء كان ذلك الإبلاغ عن حسابات للاحتيال، أو رفض طلبات القروض، أو تعديل أقساط التأمين، أو تصفية المرشحين للوظائف، تواجه نفس المتطلب الأساسي: الأشخاص المتأثرون بتلك القرارات لديهم حقوق، بما في ذلك الحق في معرفة أن القرار كان آليًا والحق في الطعن فيه.

حجم هذه الغرامة يرسل إشارة إلى الشركات خارج قطاع النقل تمامًا. مع اعتماد المزيد من الخدمات على الخوارزميات لإدارة كل شيء بدءًا من أمان الحسابات إلى أهلية العملاء، يبدو أن المنظمين مستعدون لفرض فكرة أن الأتمتة لا تلغي المساءلة. إذا كان هناك أي شيء، فإنها ترفع السقف، لأن نظام الصندوق الأسود الذي لا يمكنه شرح نفسه يصعب الدفاع عنه مقارنةً بصانع قرار بشري يمكنه على الأقل توضيح منطقه.

ماذا يعني هذا بالنسبة لك

إذا سبق لك أن أوقف تطبيق حسابك، أو رُفض طلب قرض، أو قُيدت خدمة بإشعار آلي غامض، فهذه القضية تذكير بأنه قد يكون لديك خيارات أكثر مما يوحي به الواجهة. بموجب اللائحة العامة لحماية البيانات، يمكن للأفراد في الاتحاد الأوروبي (وغالبًا أولئك الذين تتم معالجة بياناتهم من قبل شركات مقرها في الاتحاد الأوروبي أو تخدمه) أن يسألوا عما إذا كان القرار الذي أثر عليهم آليًا، وطلب مراجعة بشرية، والطعن في النتيجة. حتى خارج الاتحاد الأوروبي، فإن الضغط الناتج عن أحكام مثل هذا الحكم يميل إلى دفع الشركات نحو سياسات أوضح وعمليات استئناف أفضل على المستوى العالمي، حيث أن الاحتفاظ بأنظمة منفصلة لمناطق مختلفة غالبًا ما يكون أكثر تكلفة من رفع المعايير في كل مكان.

هذه أيضًا لحظة جيدة للتفكير في البصمة الأوسع لبياناتك الشخصية. كل تطبيق يرسم صورة عن سلوكك، سواء للموافقة على رحلة، أو تمديد ائتمان، أو تخصيص إعلان، يتخذ قرارات بناءً على بيانات قدمتها، غالبًا دون رؤية كاملة لكيفية وزن تلك البيانات.

خلاصات للقراء

إذا كنت تعتمد على منصات الوظائف المؤقتة، أو التطبيقات المالية، أو أي خدمة تستخدم قرارات حسابات آلية، ففكر في بعض الخطوات الملموسة. راجع سياسات الخصوصية وشروط الخدمة للتطبيقات التي تستخدمها بانتظام لمعرفة ما إذا كانت تكشف عن اتخاذ قرارات آلية. إذا تم إلغاء تنشيطك أو رفضك أو الإبلاغ عنك بواسطة خوارزمية في أي وقت، فاطلب من الشركة مباشرة مراجعة بشرية، نظرًا لأن اللائحة العامة لحماية البيانات والقوانين المماثلة في ولايات قضائية أخرى تتطلب هذا الخيار بشكل متزايد. وابقَ متيقظًا لكمية البيانات الشخصية التي تسلمها للتطبيقات التي تتخذ قرارات مهمة، لأن غرامة قياسية بموجب اللائحة العامة لحماية البيانات تتعلق باتخاذ القرارات الآلية مثل هذه تُظهر أن المنظمين يراقبون عن كثب، حتى لو كان المستخدمون الأفراد غالبًا لا يحصلون على الصورة الكاملة.