بين البيانات والقرارات، تسأل الجهات التنظيمية الهولندية عن مدى حرية الخوارزميات في التأثير على سبل عيش البشر

يمكن أن تبدو القرارات التي تتخذها الحواسيب خفيفة الوزن تقريبًا. قد لا يكون هناك حديث، ولا اجتماع، ولا شخص يجلس عبر المكتب. ومع ذلك، بالنسبة لشخص يعتمد سبل عيشه على الوصول إلى منصة رقمية، يمكن أن تحمل قرار آلي واحد وزن يوم عمل كامل.

فرضت هيئة حماية البيانات الهولندية غرامة على أوبر بقيمة 825 مليون يورو (966 مليون دولار) بسبب تعليقها الآلي لحسابات السائقين، وفقًا لقرار تمت مراجعته من قبل رويترز. قالت الجهات التنظيمية إن السائقين لم يتم إبلاغهم بشكل كافٍ عن كيفية اتخاذ القرارات الآلية. وقد اعترضت أوبر على بعض جوانب القرار وقالت إنها ستستأنف.

تسلط هذه القضية الضوء على ميزة متزايدة في مكان العمل الحديث: القرارات التي كانت تتخذها الأشخاص أصبحت بشكل متزايد مدعومة أو تؤدى بواسطة البرمجيات. يمكن للمنصات معالجة كميات هائلة من المعلومات والاستجابة تقريبًا على الفور، مما يجعل الإدارة الآلية جذابة للشركات التي تعمل على نطاق واسع.

ومع ذلك، بالنسبة للسائقين، يمكن أن تكون العواقب فورية. فقدان الوصول إلى حساب يمكن أن يعني فقدان الوصول إلى الدخل. وهذا يجعل الشرح المحيط بقرار آلي مهمًا بشكل خاص، خاصة عندما يعتقد الفرد أن القرار غير صحيح.

تمنح قواعد حماية البيانات الأوروبية الأفراد حقوقًا تتعلق باستخدام المعلومات الشخصية وبعض أشكال اتخاذ القرار الآلي. توضح القضية الهولندية كيف يمكن أن تصبح هذه القواعد ذات صلة عندما تتجاوز الخوارزميات التوصيات وتبدأ في التأثير على قدرة الناس على العمل.

الغرامة ملحوظة بشكل خاص بسبب حجمها. وصفت رويترز أنها ثاني أكبر عقوبة من نوعها، مما يضع القضية بين أبرز المواجهات الأخيرة في أوروبا بين سلطات حماية البيانات ومنصة تكنولوجية كبرى.

تتجاوز القضية الأساسية خدمات النقل. تُستخدم الخوارزميات بشكل متزايد في التوظيف، والتأمين، والخدمات المالية، والإعلانات، واكتشاف الاحتيال، وإدارة العملاء. كل تطبيق يثير تساؤلات حول المعلومات المستخدمة، وكيفية الوصول إلى القرارات، وما إذا كان بإمكان الناس الطعن في النتيجة.

ليست الأتمتة نفسها بالضرورة هي القلق المركزي. يمكن للبرمجيات التعامل مع كميات كبيرة من المعلومات بشكل أسرع من البشر ويمكن أن تحدد الأنماط التي قد تفوتها البشر. تصبح المسألة أكثر تعقيدًا عندما تلتقي الكفاءة بعواقب بشرية.

بالنسبة لشركات التكنولوجيا، يمكن أن تصبح الشفافية أيضًا تحديًا تشغيليًا. قد تتضمن الخوارزميات العديد من نقاط البيانات والنماذج المتغيرة باستمرار، مما يجعل من الصعب تقديم شرح بسيط لكل قرار. ومع ذلك، تؤكد الجهات التنظيمية بشكل متزايد أن التعقيد لا يزيل الحاجة إلى المساءلة.

يأتي القرار الهولندي في إطار جهد أوروبي أوسع لوضع قواعد حول الذكاء الاصطناعي، والمنصات الرقمية، والبيانات الشخصية. مع تزايد قدرة البرمجيات، يصبح الحد الفاصل بين الأداة الآلية وصانع القرار الآلي أكثر أهمية.

لذلك، تقع قضية أوبر ضمن انتقال تكنولوجي أكبر بكثير. قد يرى السائق الذي ينظر إلى هاتفه إشعارًا فقط، ولكن وراء ذلك الإشعار يمكن أن يكون هناك شبكة معقدة من البيانات، والبرمجيات، والقواعد الشركات. في هولندا، وضعت الجهات التنظيمية تذكيرًا ماليًا كبيرًا بجانب تلك العملية غير المرئية، مما يبرز أن القرارات الرقمية لا تزال يمكن أن تكون لها عواقب ملموسة جدًا.