قالت المنصة الإعلامية (يوراكتيف) المتخصصة فى الشؤون الأوروبية ، اليوم السبت ، أن الحكم الذى أصدرته ، اول أمس ، محكمة العدل التابعة للاتحاد الأوروبي بشأن المادة المتعلقة باتخاذ القرارات الفردية الآلية ، بعد سنوات من دخول اللائحة العامة لحماية البيانات (GDPR) حيز التنفيذ ، وقد يكون له تداعيات كبيرة على صناديق الضمان الاجتماعي ومؤسسات الائتمان.
وقضت محكمة العدل التابعة للاتحاد الأوروبي بأن اتخاذ أي قرار يستخدم أنظمة التصنيف باستخدام البيانات الشخصية هو أمر غير قانوني.
وأوضحت جابرييلا زانفير فورتونا، نائبة رئيس الخصوصية، لـ /يوراكتيف/ أن هذا القرار الذي اتخذته محكمة العدل الأوروبية يوضح أن اللائحة العامة لحماية البيانات تحتوي على حظر على إخضاع الأفراد لعملية صنع القرار الآلي التي لها تأثير كبير عليهم.
وبين عامي 2018 و2021، اجتاحت هولندا فضيحة - أدت إلى استقالة حكومة مارك روته الثالثة - بشأن خوارزمية تسجيل خاطئة دفع استخدامها السلطات الضريبية إلى اتهام آلاف الأشخاص المظلومين بالاحتيال على خطة إعانات رعاية الأطفال.
وقضت المحكمة يوم /الخميس/ الماضى بحظر أي نوع من التصنيف الآلي إذا كان له تأثير كبير على حياة الأشخاص. ويتعلق الحكم بشركة الشوفا القابضة ، وهي أكبر وكالة ائتمانية خاصة في ألمانيا، والتي تقوم بتصنيف الأشخاص على أساس جدارتهم الائتمانية.
وفقًا للحكم، فإن "تسجيل" SCHUFA ينتهك اللائحة العامة لحماية البيانات إذا أسند عملاء SCHUFA - مثل البنوك - دورًا "حاسمًا" إليه في قراراتهم التعاقدية.
وقد يكون لهذا القرار عواقب وخيمة. وفي فرنسا، استخدم الصندوق الوطني لإعانات الأسرة (CNAF) خوارزمية "تسجيل" المخاطر الآلية منذ عام 2010، استنادا إلى عمليات فحص المنازل في حالة الاشتباه في الاحتيال.
وأفادت صحيفتا /لوموند/ و/لايت هاوس ريبورتس/ أن خوارزمية "التنقيب عن البيانات" الخاصة بـ "CNAF" تقوم بتحليل وتسجيل 8ر13 مليون أسرة كل شهر من أجل تحديد أولويات الفحوصات.
وتستخدم خوارزمية :CNAF" حوالي أربعين معيارًا استنادًا إلى البيانات الشخصية التي يتم تعيين معامل المخاطرة لها، مع تصنيف جميع المستفيدين بين صفر و واحد كل شهر. كلما اقتربت النتيجة النهائية للمستفيدين من 1، زاد احتمال حصولهم على فحص للمنزل.
وصرح باستيان لو كويريك، المحامي في /La Quadrature du Net /، لـ /يوراكتيف/ : "حقيقة أن /CNAF/ تستخدم درجة تلقائية لجميع المستفيدين منها، ونظرًا للأهمية الغالبة لهذه النتيجة في بقية العملية، فإن هذه النتيجة لها تأثيرات كبيرة على حياة الناس وبالتالي يجب أن تقع ضمن إطار قرار محكمة العدل الأوروبية، أي أن تكون محظورة، ما لم يسمح القانون الفرنسي بذلك، مع الالتزام الصارم باللائحة العامة لحماية البيانات.
وأضاف :"بمعنى آخر، سيكون نظام التسجيل غير قانوني إذا لم يكن مصرحًا به بشكل محدد بموجب القانون الفرنسي وإذا لم يمتثل بشكل صارم لقواعد حماية البيانات في الاتحاد الأوروبي.
من جانبه، أشار فيليب لاتومبي، النائب الفرنسي الوسطي (MoDem) وعضو "CNIL"، إلى أنه يرى خوارزمية :CNAF" كنظام لتقييم المخاطر، يقوم بتصفية الأشخاص على أساس بياناتهم، والتي تبين أنها بيانات شخصية، وذلك بهدف المنظمة: تقديم مساعدات للمحتاجين.
وتابع لاتومبي قائلاً: "إذا كان كل معيار يتم أخذه على حدة قد يبدو منطقياً لمكافحة الاحتيال، فإن مجموع المعايير يمكن أن يكون تمييزياً إذا كانت مترابطة".
قال لا تومبي إن وضع /CNAF/ "أثار مسألة الشفافية الخوارزمية في ParcoursSup"، بوابة الحكومة الفرنسية المصممة لتخصيص الأماكن في الجامعات الفرنسية ودورات التعليم العالي الأخرى.
ويسمح القانون العام لحماية البيانات (GDPR) للمؤسسات العامة والخاصة فقط باستخدام خوارزميات استخراج البيانات في ثلاث حالات: موافقة صريحة من الأفراد، أو الضرورة التعاقدية، أو الالتزام القانوني.
وعلاوة على ذلك، إذا كانت الحكومة ترغب في توفير أساس قانوني لسلطات إنفاذ القانون لاستخدام خوارزميات التسجيل، فسوف تحتاج القوانين الوطنية إلى بناء شرعيتها على قوانين الاتحاد الأوروبي وميثاق الاتحاد الأوروبي والحقوق الأساسية للاتحاد الأوروبي.
وبموجب لائحة الاتحاد الأوروبي بشأن الذكاء الاصطناعي، وهو القانون الأوروبي القادم الأكثر أهمية الذي ينظم الذكاء الاصطناعي، سيتم اعتبار أنظمة الذكاء الاصطناعي التي تهدف إلى تحديد الوصول إلى الخدمات العامة "عالية المخاطر" وتخضع لنظام صارم من حيث إدارة المخاطر وإدارة البيانات.