يمكن أن يكون للتمييز أسباب عديدة: التحيز أو الكراهية أو ضعف القوانين. تلتزم مفوضة مكافحة التمييز بحماية المواطنين من التمييز الناجم عن الذكاء الاصطناعي. وقد عُثر على مثال على ذلك في هولندا.
لوائح قانونية للحماية
دعت المفوضة الاتحادية لمكافحة التمييز، فيردا أتامان، إلى وضع لوائح قانونية للحماية من التمييز من خلال إجراءات رقمية. “الرقمنة والذكاء الاصطناعي والخوارزميات تجعل أشياء كثيرة أسهل – للأسف أيضا التمييز”، قالت أتامان في برلين أمس. وطالبت المفوضة، الحكومة الاتحادية باستخدام الإصلاح المخطط له لقانون المساواة في المعاملة العامة (AGG) لحماية الناس من مخاطر التمييز الرقمي.
زيادة الاعتماد على الذكاء الاصطناعي
في المستقبل، ستتخذ الأنظمة الآلية أو الذكاء الاصطناعي بشكل متزايد قرارات مهمة للأشخاص في الحياة اليومية. وكأمثلة، استشهدت أتامان بطلبات العمل أو القروض أو التأمين أو المزايا الحكومية. وحذرت من أن ما يبدو موضوعيا للوهلة الأولى يمكن أن يعزز في الواقع التحيزات والقوالب النمطية، وقدمت رأيا قانونيا يرى أن قابلية القرارات الآلية للأخطاء مشكلة رئيسية مُحذرة من “التمييز من خلال الإحصاءات”.
جودة القرارات الآلية
وفقا للدراسة، تعتمد جودة القرارات الآلية على البيانات التي يتم إدخالها في النظام. وما إذا كانت خالية من الأخطاء أو مناسبة، أو لا يمكن فهمها من قبل المتقدمين للحصول على خدمة ما. ومع ذلك، يجب أن يكون الناس قادرين على الثقة في أنهم لن يتعرضوا للحرمان بسبب الذكاء الاصطناعي، كما طالبت أتامان بأن يكونوا قادرين على الدفاع عن أنفسهم إذا حدث ذلك.
خوارزمية تمييزية في هولندا!
أمثلة من بلدان أخرى تظهر ما يمكن أن يحدث. ففي هولندا، وفقا لأتامان، طُلب من 20 ألف من الآباء خطأ، سداد إعانة الطفل تحت التهديد بالغرامات. كانت الخوارزمية التمييزية في البرنامج مسؤولة جزئيا: تأثر الآباء ذوو الخلفية المهاجرة بشكل خاص! تم تصويرهم على أنهم محتالون وكان من المفترض أن يسددوا عشرات الآلاف من اليورو.
ودعت أتامان إلى إدراج “العمل من خلال أنظمة صنع القرار الآلية” في قانون مكافحة التمييز باعتباره عيبا. ويجب إلزام مشغلي أنظمة الذكاء الاصطناعي بتقديم معلومات حول البيانات المستخدمة وكيفية عمل أنظمتهم الذكية. وفي حالة الشك، لابد من اللجوء إلى القضاء.
المصدر
