الآن وغداً

  بالشراكة مع:



الاقتصادي – الآن وغداً:

بقلم: ألكسندرا ريف جيفنز

 

تحليل أداة التوظيف تعابير الوجه ونبرة الصوت لتقييم مقابلات الفيديو الخاصة بالمرشحين للوظائف، وتفيد إحدى الدراسات أن خوارزمية "شركة فيسبوك" تعرض تلقائياً إعلانات الوظائف للمستخدمين استناداً إلى استدلالات حول نوعهم الاجتماعي وعرقهم. كما تعمل أدوات التعرف على الوجوه بصورة أقل دقة على الأشخاص من أصحاب البشرة الداكنة. مع ظهور المزيد من حالات التحيز الخوارزمي في العناوين الرئيسية، بدأ صناع السياسات في الاستجابة، ولكن خلال تناول هذه المشكلة الجوهرية، يتم تجاهل ناحية لا تقل أهمية، ألا وهي التأثير المؤذي لهذا التحيّز على الأشخاص ذوي الاحتياجات الخاصة.

هناك عدد لا بأس به من الأشخاص ذوي الاحتياجات الخاصة، أي هناك شخص من بين كل أربعة أشخاص في الولايات المتحدة على سبيل المثال، ولكن يوجد العديد من الأشكال المختلفة لتلك الاحتياجات، ما يجعل من الصعب اكتشاف التحيز وإثباته والعمل على حله.

في مجال التوظيف على سبيل المثال، تحدد الأدوات الجديدة التي تعتمد على الخوارزمية الصفات المميزة التي يتشارك فيها الموظفون الحاليون و"الناجحون" في الشركة، ثم تبحث عن تلك الصفات عند تقييمها للتعيينات الجديدة. ولكن نظراً لأن النموذج يتعامل مع الصفات غير الممثلة بالقدر الكافي باعتبارها صفات "غير مرغوب فيها"، وتحصل بالتالي على أهمية أقل، فإن الأشخاص ذوي الاحتياجات الخاصة، حالهم حال الفئات المهمشة الأخرى، يتعرضون لاحتمال الاستبعاد تلقائياً.

برز أحد الأمثلة الشهيرة على ذلك عندما عملت "شركة أمازون" على تدريب خوارزمية لمسح السيرة الذاتية عن طريق تحليل تلك التي تلقتها الشركة على مدار السنوات العشر الماضية. وفي ضوء العدد المرتفع للرجال الذين يتقدمون للعمل في "شركة أمازون" بصورة غير متكافئة مقارنة بالنساء، فإن الخوارزمية تعلمت تخفيض درجة السير الذاتية التي تشمل مفردات مثل "النساء" أو مشتقاتها، مثل "رئيسة نادي الشطرنج النسائي"، أو التي تتضمن مفردات مثل شهادة من "كلية للنساء". عملت الشركة بعد ذلك على تصحيح الأداة، لكن الدرس كان واضحاً، إذا كانت بيانات التدريب الخاصة بالخوارزمية تفتقر إلى التنوع، فيمكنها ترسيخ أنماط الاستبعاد الموجودة بطرق مؤذية للغاية.

تعدّ هذه المشكلة معقدة على نحو خاص عندما يتعلق الأمر بالأشخاص ذوي الاحتياجات الخاصة. على الرغم من أن هناك عدداً كبيراً من الأشخاص الذين يعانون من احتياجات خاصة، تتألف المجتمعات وفقاً للإحصاءات من مجموعات صغيرة متعددة من الأشخاص الذين تظهر احتياجاتهم بطرق مختلفة. عندما تدرس خوارزمية التوظيف تعابير وجوه المرشحين أثناء مقابلات الفيديو، أو أدائهم أثناء لعبة على الإنترنت، فقد يواجه الشخص المكفوف حواجز تختلف عن تلك التي يواجهها الشخص الذي يعاني من عدم القدرة على التنقل أو صعوبات في الإدراك. وإذا كان نموذج تدريب الخوارزمية في "شركة أمازون" قد أضاء على النساء، فمن الصعب تخيل أن تلك الخوارزمية تمثل بكفاءة التنوع الكامل لتجارب الاحتياجات الخاصة. ويعدّ هذا صحيحاً بصورة خاصة عندما يواجه ذوو الاحتياجات الخاصة الاستبعاد من صفوف القوى العاملة لفترة طويلة، بسبب العقبات الهيكلية الراسخة، والقوالب النمطية للأشخاص الأكثر قدرة وغيرها من العوامل.

على الرغم من هذه التحديات، تسوق بعض شركات توريد أدوات التوظيف المستندة إلى الذكاء الاصطناعي منتجاتها على أنها قد "خضعت للتدقيق لتجنب التحيز"، وتسعى إلى طمأنة أصحاب العمل من أجل مواجهة المخاوف المتزايدة. لكن العديد من هذه الشركات تعتمد على إرشادات قديمة نشرتها "لجنة تكافؤ فرص العمل في الولايات المتحدة" (U.S. Equal Employment Opportunity Commission) في السبعينيات من القرن الماضي. توضح هذه الإرشادات ما يسمى بـ"قاعدة الأربعة أخماس" (four-fifths rule)، والتي تتطلع إلى معرفة ما إذا كان اختبار التعيين يختار مجموعة "محمية" معينة بمعدل أقل من نظيرها من الأغلبية الموجودة (على سبيل المثال، يجري تدقيق ما إذا اختيرت المرشحات بمعدل نجاح 80% أو أقل مقارنة بمعدل النجاح للرجال، أو ما إذا كان المرشحون من أصحاب البشرة السمراء قد اختيروا بمعدل نجاح قدره 80% أو أقل مقارنة بمعدل نجاح أقرانهم). إذا اكتشف التدقيق أن إحدى الخوارزميات تفشل في "قاعدة الأربعة أخماس"، فإنه يعدلها لتحقيق تكافؤ أفضل، وتقدم الشركة أداتها على أنها "خضعت للتدقيق لتجنب التحيز". لكن هذا النهج المبسط يتجاهل تنوع مجتمعنا، والأهم من ذلك، يتناول الفئات المبسطة فقط (والمحددة من قبل الولايات المتحدة) فيما يتعلق بالعرق والانتماء الإثني.

يتضح الخطأ في هذا النهج إذا أخذنا في الاعتبار الأشخاص ذوي الاحتياجات الخاصة، إذ تجعل الأشكال المتنوعة للاحتياجات الخاصة من المستحيل تقريباً اكتشاف التأثير المؤذي لنوع التدقيق الذي تستخدمه الشركات حالياً، ولإظهار ذلك من خلال الدلالة الإحصائية على سبيل المثال، فإن الأشخاص الذين يتشكل مرض التوحد لديهم بطريقة معينة يكونون أقل نجاحاً في الاختبار من الآخرين. ببساطة، لا توجد نقاط بيانات كافية لمعرفة مدى تأثر المرشحين الذين تختلف حالات مرض التوحد لديهم، خاصة وأن العديد من الأشخاص يختارون عدم الكشف عن حالاتهم. يدعو البعض إلى حل مشكلة البيانات هذه من خلال جمع معلومات أكثر تفصيلاً عن حالات المرشحين للوظائف، إلا أن جمع المزيد من المعلومات يثير مخاوفهم الخاصة والمختلفة والحقيقية للغاية بشأن الخصوصية والتمييز.

كما تنشأ هذه المشكلات لدى الآخرين على حد سواء، مثل الأشخاص الذين عملوا على تهميش أولئك الذين يقعون خارج تعريفات الولايات المتحدة فيما يخص العرق والانتماء الإثني، والذين ينتمون إلى مجتمعات مهمشة متعددة ومتداخلة. لاحظ القادة في "شركة أمازون" بسهولة نقص عدد النساء الذين يجتازون مسح السير الذاتية بنجاح، واتخذوا تدابير بشأن ذلك، لكن ينبغي السؤال ما إذا كانت الأداة التي كانت تخفض درجة النساء من صاحبات البشرة السمراء، أو التي لا تعترف بالكلية الرائدة في البلاد للطلاب الصم كمؤسسة مرموقة للتعليم العالي، قد جرى اكتشافها بالسرعة ذاتها تقريباً، إن وجدت.

إذاً، كيف يمكننا تصحيح المسار؟ أحد الدروس التي تعلمناها هو أننا لا نستطيع الاعتماد على الوعود المبسطة للتدقيق الإحصائي لحل مشكلة التحيز الخوارزمي. يحتاج أصحاب العمل والشركات الموردة إلى البحث بصورة أعمق لتقييم التأثيرات الواقعية لأي أداة تعتمد على الخوارزمية قبل تطبيقها. وبدلاً من النظر فقط إلى كيفية أداء مجموعات معينة في عملية الاختيار (التي تفترض عن طريق الخطأ أن البيانات الكافية متوفرة)، ينبغي على أصحاب العمل الاستفسار حول المتغيرات الفعلية التي يجري أخذها في الاعتبار، ومراعاتها في الخوارزميات نفسها.

خلال فعل ذلك، ينبغي على أصحاب العمل طرح بعض الأسئلة الأساسية، مثل، هل يقيم اختبار التوظيف العوامل التي ترتبط حقاً بالوظيفة قيد النظر؟ هل يقيم المرشحون على أساس جدارتهم الفردية بدلاً من الاستدلالات حول الاحتياجات الخاصة؟ هل صمم الاختبار وجرى مراجعته من قبل أشخاص اختبروا تجارب متنوعة، لتحديد المعوقات المحتملة؟ هل جرى إيصال معلومات كافية للمرشحين حول المنهجية المتبعة لمعرفة ما إذا كان ينبغي عليهم السعي للحصول على مكان لهم في الاختبار، وهل تتوفر أماكن معقولة، وهل يتم منحهم أهمية متساوية؟ إن العديد من هذه الالتزامات منصوص عليها بالفعل في قوانين التوظيف الأميركية والقانون الخاص بالأميركيين من ذوي الاحتياجات الخاصة، وينبغي على أصحاب العمل والشركات الموردة تطبيقها، بما في ذلك طرح السؤال الأساسي حول ما إذا كان ينبغي عليهم استخدام الاختبار أساساً.

ينبغي على صانعي السياسة الانتباه إلى هذه المسألة أيضاً، كما ينبغي على "لجنة تكافؤ فرص العمل" تحديث إرشاداتها القديمة بشأن أدوات اختيار الموظفين (أي مصدر فكرة "قاعدة الأربعة أخماس")، بالإضافة إلى ذلك، يجب على المشرعين الانخراط في العمل الهادف لدعم قوانين الحقوق المدنية الأميركية للاستجابة إلى التغير التكنولوجي. وعلى نطاق أوسع، فقد حان الوقت لأن يسعى المجتمع المتنامي الذي يعمل على عدالة الخوارزميات إلى التأكيد بصورة أكبر على وجهات نظر ذوي الاحتياجات الخاصة أنفسهم، والمجتمعات المهمشة الأخرى التي يثير تباينها تحديات واضحة أمام الجهود الرامية لاكتشاف التحيز ومعالجته.

من الجدير بالذكر أن السناتورة الأميركية إليزابيث وارين قد اتخذت مؤخراً خطوة رئيسية لإدراج عدالة الخوارزميات في برنامجها الخاص بحقوق الأشخاص ذوي الاحتياجات الخاصة، وبدأ الخبراء في الانخراط بطرق أكثر صرامة. ولكن مع توسع استخدام أدوات الخوارزميات، نحن بحاجة إلى النظر في التأثير على جميع الأفراد، والتصدي بصورة فاعلة للتأثيرات المؤذية لهذه التقنيات التي تحدث على أرض الواقع.

 

تنويه هذه المقالة تنشر حصرياً بالتعاون بين الاقتصادي.كوم ومشروع فيوتشر تنس (Future Tense) المبادرة بين موقع سليت (SLATE) ومركز أميركا الجديدة للفكر (NEW AMERICA) وجامعة ولاية أريزونا (ASU). جميع الحقوق محفوظة.


error: المحتوى محمي , لفتح الرابط في تاب جديد الرجاء الضغط عليه مع زر CTRL أو COMMAND