الآن وغداً

  بالشراكة مع:



الاقتصادي – الآن وغداً:

بقلم: آرون ماك

 

أخطأت أداة أمازون في التعرف على نائب ولاية جورجيا، جون لويس، بالإضافة إلى خمسة آخرين من أعضاء الكونغرس ذوي البشرة السمراء، نيكولاس كام/أ ف ب/ غيتي إيميجز.

أصدر الاتحاد الأميركي للحريات المدنية (ACLU) مؤخراً تقريراً يكشف أنّ أداة التعرف على الوجوه التابعة لشركة أمازون المعروفة باسم ريكوغنيشن (Rekognition) أخطأت في تمييز وجه 28 عضواً من الكونغرس وحددتهم كمجرمين.

اشترى أعضاء من الاتحاد أداة ريكوغنيشن التي تعرضها أمازون للعامة وأدخلوا صوراً عامة لجميع أعضاء "مجلس النواب" و"مجلس الشيوخ" لفحصها في قاعدة بيانات النظام التي تشمل 25,000 صورة لأشخاص معتقلين ارتكبوا جرائم. لم تكلف هذه التجربة بالكامل سوى 12.33 دولاراً أميركياً، وهو المبلغ الذي وصفه جيك سنو، محامي الاتحاد، في تدوينة نشرها أنه "أقل من سعر بيتزا كبيرة الحجم".

وبلغت نسبة النواب غير البيض من بين النواب الذين أخطأ النظام في التعرف عليهم 40%، رغم أنهم لا يمثلون سوى 20% من أعضاء الكونغرس. ومن بين هؤلاء النواب ستة من أعضاء كتلة النواب السود بالكونغرس (Congressional Black Caucus)، منهم جون لويس، نائب جورجيا، وبوبي راش، نائب إلينوي. ويشير سنو في تدوينته: "توضح هذه النتائج لماذا يتعين على الكونغرس الانضمام إلى الاتحاد الأميركي للحريات المدنية في المطالبة بوقف استخدام أنظمة مراقبة الوجوه في جهات إنفاذ القانون". ومن المعروف عن أنظمة التعرف على الوجوه أنها تخطئ في التعرف على النساء والأشخاص ذوي البشرة السمراء. ومع أنّ بعض الشركات التي تنتج هذه البرامج حاولت الاستجابة لهذه المسألة من خلال إجراء اختبارات لقياس التحيز العام فيها، إلا أنّ "أمازون" تجاهلت نشر أي بيانات في هذا الشأن.

صرح فرانك لوبيوندو، نائب نيوجيرسي، وأحد نواب المجلس الذين أخطأت الأداة في التعرف عليهم، لمجلة سلايت (Slate): "لم يبد أمراً لطيفاً أبداً" ورفض التعليق بأكثر من ذلك. وأصدر لويس غوتيريز، نائب إلينوي، الذي أخطأت الأداة في التعرف عليه كذلك بياناً أطول قال فيه:

هل أنتم متأكدون أنّ أمازون لا تخاطب سوى دونالد ترامب و تاكر كارلسون و بريتبارت؟ لأنهم يعتقدون أنّ جميع اللاتينيين مجرمون.

ولكن في إشارة أكثر جدية، قال:

إذا لم تثبت فعالية هذه التقنية وثبت وجود تحيز منهجي ضد أصحاب البشرة الملونة، فسوف تكون مصدراً للأذى ولن تساعد جهات إنفاذ القانون أو أي مستخدم آخر. وعليّ أن أقر بأنني لست متفاجئاً. نعم، أنا محبط ولكن لست متفاجئاً.

كما صرح راؤول جريجالفا، نائب أريزونا، أحد النواب الذين أخطأت الأداة في التعرف عليهم أيضاً، لمجلة سلايت، قائلاً:

"إذا فشل برنامج التعرف على الوجوه في التعرف بشكل صحيح على 28 شخصية عامة، فكيف نتوقع منه التعرف بشكل دقيق على ملايين الأميركيين؟ لديّ مخاوف جادة تتعلق بالخصوصية والسلامة العامة لأن هذه الأداة بدأ بالفعل تسويقها لدوائر الشرطة في أنحاء البلاد دون وجود مدخلات عامة أو تحليلات تفصيلية لآثارها السلبية. نحن بحاجة لمعرفة المزيد من المعلومات حول هذه التقنية قبل أن نقدم لجهات إنفاذ القانون أداة يمكن استخدامها لترهيب المهاجرين وتسهيل التعاملات السلبية للشرطة وتقويض وسائل حماية الخصوصية الهامة".

وانتهت الشرطة في مدينة أورلاندو بولاية فلوريدا الشهر الماضي من برنامجها التجريبي الذي يعتمد على أداة ريكوغنيشن، إذ قامت دائرة الشرطة باختبار البرنامج لتحديد ما إذا كان بإمكانه التعرف على أفراد شرطة يظهرون في بث فيديو مباشر عبر ثمان كاميرات مراقبة. واستخدمت الشرطة في ولاية ميريلاند مؤخراً أداة أخرى مشابهة للتعرف على هوية الشخص الذي أطلق النار على مقر صحيفة كابيتال غازيت (Capital Gazette) في يونيو (حزيران) الماضي. ويستخدم أحد مكاتب مأموري الشرطة في ولاية أوريغون برنامجاً مشابهاً كذلك للتعرف على المشتبه بهم منذ عام تقريباً.

وأعرب ناشطون وأعضاء في الكونغرس وحتى موظفون لدى شركة أمازون عن مخاوفهم المتعلقة بالخصوصية والتمييز العنصري المرتبطة باستخدام هذه البرامج. وفي مايو (أيار) أرسلت أكثر من 40 جماعة حقوق مدنية خطاباً إلى الرئيس التنفيذي لـ"شركة أمازون"، جيف بيزوس، يطالبون فيه بوقف عرض أداة ريكوغنيشن على الحكومات، معللين ذلك بأنه "من حق الناس التمتع بحرية السير في الشوارع دون مراقبة من الحكومة".

وفي الوقت ذاته تقريباً، أرسلت كتلة النواب السود بالكونغرس خطاباً إلى "شركة أمازون" يحثون فيه على توخي الحذر في تطوير البرنامج قائلين: "إننا نشعر بالقلق إزاء ما قد يسببه هذا النوع من الذكاء الاصطناعي من آثار سلبية خطيرة غير متعمدة على الأميركيين ذوي الأصل الأفريقي والمهاجرين غير الموثقين والمتظاهرين". وبعد ذلك، وقّع مؤخراً أكثر من 100 موظف في "شركة أمازون" خطاباً طالبوا فيه بيزوس بوقف بيع أداة ريكوغنيشن إلى جهات إنفاذ القانون، والذي ورد فيه: "سوف تصبح هذه الأداة أداةً قوية إضافية لمراقبة الموطنين في الدولة، ما يؤدي في نهاية المطاف إلى إيذاء الفئات الأشد تهميشاً وضعفاً".

وأصدرت "أمازون" بياناً لموقع بيزنس إنسايدر (Business Insider) تجادل فيه بشأن إعدادات الدقة التي استخدمها الاتحاد الأميركي للحريات المدنية خلال الاختبار الذي أجراه:

"لقد رأينا عملاء يستخدمون ميزات تحليل الصور ومقاطع الفيديو التي تقدمها أداة أمازون ريكوغنيشن بطريقة تعود بفائدة جوهرية على كل من المجتمع (على سبيل المثال، التصدي للمتاجرة بالبشر، وإعادة الأطفال المفقودين إلى ذويهم، وإنشاء تطبيقات تعليمية للأطفال) والمؤسسات (تعزيز الجوانب الأمنية من خلال توثيق الهوية متعدد العوامل، أو إيجاد الصور بطريقة أسهل، أو منع سرقة الطرود البريدية). ومازلنا متحمسين بشأن ما يمكن أن يقدمه تحليل الصور ومقاطع الفيديو من خير في العالم، بما في ذلك القطاع العام وجهات إنفاذ القانون. وفيما يتعلق بالاختبار الذي أجراه الاتحاد الأميركي للحريات المدنية مؤخراً على أداة أمازون ريكوغنيشن، فإننا نرى أنّه كان يمكن الحصول على نتائج أفضل من خلال اتباع أفضل الممارسات المتعلقة بإعدادات الدقة (وهي النسبة المئوية لاحتمالية عثور الأداة على تطابق) المستخدمة في الاختبار. وبينما تعتبر نسبة 80% مقبولة للتعرف على صور النقانق أو المقاعد أو الحيوانات أو غيرها من استخدامات وسائل التواصل الاجتماعي، إلا أنها لا تعتبر مناسبة للتعرف على أفراد ذوي قدر غير كبير من التيقن. ونحن نوصي عملاءنا بضبط الدقة على 95% على الأقل عند استخدام نظام التعرف على الوجوه في أنشطة إنفاذ القانون".

تنويه هذه المقالة تنشر حصرياً بالتعاون بين الاقتصادي.كوم ومشروع فيوتشر تنس (Future Tense) المبادرة بين موقع سليت (SLATE) ومركز أميركا الجديدة للفكر (NEW AMERICA) وجامعة ولاية أريزونا (ASU). جميع الحقوق محفوظة.


error: المحتوى محمي , لفتح الرابط في تاب جديد الرجاء الضغط عليه مع زر CTRL أو COMMAND