اختبر الاتحاد الأمريكي للحريات المدنية ACLU نظام التعرف على الوجه Rekognition الخاص بشركة أمازون Amazon، وكانت النتائج غير جيدة.
لاختبار دقة النظام، فحص اتحاد ACLU وجوه جميع أعضاء الكونجرس الأمريكي البالغ عددهم 535 شخصاً وتمت مقارنتهم مع قاعدة بيانات مؤلفة من 25 ألف شخص متهم أو له سوابق إجرامية.
بالطبع لم يكن أي من أعضاء الكونجرس في قاعدة البيانات، ولكن نظام أمازون حدد 28 عضواً في الكونجرس كحالة تطابق واعتبرهم مجرمين.
حيث أثار هذا الأمر الكثير من الضجة حول دقة النظام المستخدم وإمكانية استعماله بشكل واقعي في مراكز الشرطة للمساعدة على تحديد المطلوبين والمجرمين.
وقال الاتحاد في بيان رسمي حول نتائج الاختبار أن نظام Rekognition للتعرف على الوجوه وبغض النظر عن نتائجه سواء كانت دقيقة أو لا، فإنه من الممكن أن يكلف الناس حريتهم أو حتى حياتهم.
ويتابع البيان بمطالبة الكونجرس بأخذ هذه التهديدات التي كشفت عنها نتائج الاختبار على محمل الجد، ونوّه إلى ضرورة فرض حظر على استخدام النظام في مؤسسات القانون.
من جتهتا، ردّت شركة أمازون على هذا الاختبار من خلال المتحدث باسمها والذي قال أن نتائج الاختبار غير الجيدة كانت بسبب المعايرة الضعيفة.
حيث تم إجراء الاختبار باستخدام عتبة الثقة الافتراضية لنظام التعرف على الوجوه والتي تبلغ 80%، بينما توصي أمازون بضرورة أن تكون النسبة ليست أقل من 95% في وكالات ومؤسسات فرض القانون.
ويتابع المتحدث باسم الشركة من خلال توضيحه بأن استخدام النظام بنسبة عتبة ثقة 80% هو أمر مفيد لتحديد التطابق بين الحيوانات والأشياء الساكنة، أما بالنسبة للبشر وفي حالات حساسة مثل القبض على المجرمين فإن تلك النسبة غير مقبولة.
لكن نتائج الاختبار لم تكشف فقط عن الأداء السيء في مطابقة الوجوه، بل أشارت إلى مشكلة أخرى يعاني منا نظام أمازون وهي العنصرية.
إنها مشكلة عامة متواجدة بنسب مختلفة في أنظمة التعرف على الوجوه حول العالم، حيث تفشل أو تعطي تلك الأنظمة نتائج أقل دقة فيما يخص الأشخاص أصحاب البشرة السمراء.
حيث أن 11 شخصاً من الأشخاص الـ28 الذين حددهم نظام أمازون على أنهم مجرمين كانوا من ذوي البشرة السمراء، وهي نسبة كبيرة إذا علمنا أن فقط 20% من أعضاء الكونجرس يمتلكون بشرة سمراء.
وتسبب هذا الاختبار برد فعل كبير من ثلاثة أعضاء في الكونجرس بعد فترة وجيزة من نشر نتائجه، حيث وقّع هؤلاء الأعضاء الثلاثة على رسالة مفتوحة إلى Jeff Bezos الرئيس التنفيذي لشركة أمازون.
وطالبوا بتقديم إجابات مقنعة حول النتائج الأخيرة، بالإضافة إلى تقديم أجوبة حول إمكانية استخدام هذا النظام بشكل فعال بالنسبة للأطفال الذين تقل أعمارهم عن 13 عاماً.
