بين الخوارزميات والمساءلة، تفرض الجهات التنظيمية الهولندية غرامة كبيرة على القرارات الآلية التي تؤثر على العمال

يمكن للخوارزمية أن تتخذ قرارًا في أقل من ثانية. ومع ذلك، فإن العواقب بالنسبة للشخص المتأثر بذلك القرار يمكن أن تستمر لفترة أطول بكثير. في هولندا، أدت قضية تنظيمية تتعلق بأوبر إلى تسليط الضوء بشكل غير عادي على ذلك التوازن الهادئ بين البرمجيات والعمل البشري.

قررت الهيئة الهولندية لحماية البيانات فرض غرامة قدرها 825 مليون يورو، أو حوالي 966 مليون دولار، على شركة أوبر بسبب استخدام الشركة للأنظمة الآلية لتعطيل حسابات السائقين دون إبلاغهم بشكل كافٍ عن القرارات، وفقًا لقرار تنظيمي تم مراجعته من قبل رويترز.

تتعلق العقوبة بالطريقة التي تم بها استخدام الأنظمة الآلية في إدارة السائقين. عندما تحدد التكنولوجيا ما إذا كان يمكن لشخص ما الاستمرار في العمل على منصة معينة، تصبح الأسئلة حول الشفافية أكثر أهمية مما قد تكون عليه بالنسبة لنظام توصية عادي.

بالنسبة للعمال، يمكن أن يكون للتعليق الآلي تأثير مالي فوري. قد يفقد السائق الذي يفقد الوصول إلى حسابه فجأة القدرة على قبول الرحلات وكسب الدخل. لذلك، يصبح فهم سبب حدوث القرار جزءًا مهمًا من تحدي أو تصحيح ذلك القرار.

تضع القواعد الأوروبية لحماية البيانات تركيزًا قويًا على حقوق الأفراد المتعلقة بالمعلومات الشخصية واتخاذ القرارات الآلية. يجب على الشركات التي تستخدم كميات كبيرة من البيانات الشخصية أن تأخذ في الاعتبار ليس فقط كيفية جمع تلك المعلومات، ولكن أيضًا كيفية استخدام الأنظمة الآلية لها للتأثير على حياة الناس.

تعكس القضية الهولندية تغييرًا أوسع في العلاقة بين شركات التكنولوجيا والجهات التنظيمية. أصبحت الخوارزميات متجذرة في التوظيف والمدفوعات والنقل والتأمين والإعلانات وخدمة العملاء. مع تزايد قدرة هذه الأنظمة، تزداد الحكومات في فحص العمليات المخفية وراء قراراتها.

المسألة ليست بالضرورة ما إذا كان يجب أن توجد الأتمتة. يمكن للأنظمة الآلية معالجة المعلومات بشكل أسرع بكثير من البشر ويمكن أن تساعد الشركات في إدارة العمليات التي تشمل آلاف أو ملايين المستخدمين. السؤال هو كيف يجب أن تعمل تلك الأنظمة عندما تؤثر القرارات التي تتخذها على دخل الناس أو الوصول إلى الخدمات أو حياتهم المهنية.

تأتي قضية أوبر أيضًا في وقت تصبح فيه الذكاء الاصطناعي والأتمتة مركزية بشكل متزايد في صناعة التكنولوجيا. تستخدم الشركات الخوارزميات لتقليل التكاليف، واكتشاف الاحتيال، وتحسين الطرق، واتخاذ القرارات التشغيلية. كل تطبيق جديد يخلق نقطة أخرى حيث يجب موازنة الكفاءة مع الشفافية.

حجم الغرامة الهولندية ملحوظ. أفادت رويترز أن الغرامة البالغة 825 مليون يورو ستكون ثاني أكبر غرامة تُفرض بموجب اللائحة العامة لحماية البيانات في أوروبا.

بالنسبة للشركات التي تعمل عبر أوروبا، يمكن أن تصبح حالات مثل هذه نقاط مرجعية مهمة. قد تصمم الشركة نظامًا آليًا من أجل الكفاءة، لكن البيئة القانونية تطلب بشكل متزايد ما المعلومات التي يتلقاها المستخدمون حول النظام وما الفرص المتاحة لهم لفهم أو تحدي قراراته.

لذلك، يتجاوز الحكم الهولندي منصة نقل واحدة. إنه يعكس لحظة أوسع حيث تنتقل البرمجيات من كونها أداة تساعد الناس إلى أن تصبح نظامًا يمكنه اتخاذ قرارات ذات عواقب بنفسه. في هولندا، وضعت الجهات التنظيمية الآن علامة مالية كبيرة بجانب تلك الانتقال، مذكّرة شركات التكنولوجيا بأن المنطق غير المرئي للخوارزمية يمكن أن يكون له عواقب مرئية جدًا.