قالت شركة IBM أمس أنها لن توفر أو تطور تقنية التعرف على الوجه للاستخدام العام لتشجيع الاستخدام المسؤول للتكنولوجيا من قبل الجهات المختصة بإنفاذ القانون (مثل الشرطة). رغم أن الشركة كانت لاعباً كبيراً في هذا المجال لسنوات حيث كانت تقدم العديد من الحلول في مجال القانون.
في رسالة إلى الكونجرس، تناول الرئيس التنفيذي لشركة IBM ، آرفيند كريشنا Arvind Krishna، وفاة جورج فلويد George Floyd ، وأحمود أربيري Ahmaud Arbery ، وبرونا تايلور Breonna Taylor، وقال إن الشركة ترغب في العمل مع المسؤولين لتحقيق المساواة العرقية.
اقترح كريشنا Krishna أنه يجب أن تكون هناك تغييرات رئيسية في السياسة من خلال إعادة إصلاح الشرطة، والاستخدام المسؤول للتكنولوجيا، وتوسيع المهارات والفرص التعليمية.
تحقيقاً لهذه الغاية، قال إن IBM لن تقدم تكنولوجيا التعرف على الوجه للأغراض العامة حيث يمكن استخدامها للمراقبة الجماعية:
تعارض شركة IBM بشدة ولن تتغاضى عن استخدامات أي تقنية -بما في ذلك تقنية التعرف على الوجه التي يقدمها منتجون آخرون- للمراقبة الجماعية، والتنميط العرقي، وانتهاك حقوق الإنسان والحريات الأساسية، أو أي غرض لا يتوافق مع قيمنا ومبادئ الثقة لدينا والشفافية. نعتقد الآن أنه الوقت المناسب لبدء حوار وطني حول ما إذا كان ينبغي استخدام تكنولوجيا التعرف على الوجه من قبل وكالات إنفاذ القانون المحلية وكيف.
كان التعرف على الوجه المستخدَم للمراقبة مصدر قلق لخبراء الخصوصية. في وقت سابق من هذا العام، فقد تحدث تقرير صحيفة نيويورك تايمز عن Clearview AI ، وهي شركة قامت بتطوير نظام التعرف على الوجه من خلال مسح ملايين المواقع وبيع التقنية لمئات من وكالات إنفاذ القانون. يمكن أن تؤدي ادعاءات الشركة الخاطئة عن الدقة إلى العديد من النتائج الخاطئة.
في آذار، اعترفت الهند بأنها استخدمت تقنية التعرف على الوجه لتحديد المخربين الذين شاركوا في الاضطرابات في العاصمة نيودلهي أثناء زيارة الرئيس الأمريكي دونالد ترامب للبلاد.
وفي العام الماضي، ذكرت صحيفة Indian Express أن شرطة دلهي سجلت لقطات للاحتجاجات ضد قانون تعديل المواطنة المثير للجدل في الهند، وقامت بمسحه عبر برنامج التعرف على الوجه.
بصرف النظر عن ذلك، تشتهر الصين بالتطفل على مواطنيها من خلال العديد من تقنيات المراقبة، والتي تشمل أدوات التعرف على الوجه.
في عام 2019 ، نشر المعهد الوطني للمعايير والتكنولوجيا (NIST) دراسة قالت إن أنظمة التعرف على الوجه لديها معدل أعلى من الإيجابيات الزائفة للوجوه الآسيوية والأفريقية الأمريكية مقارنة بالوجوه القوقازية.
تشير جميع هذه الأمثلة إلى التحيز المحتمل، وخطر المراقبة الجماعية، والتنميط المستهدف من خلال التعرف على الوجه. في العام الماضي، أصدرت شركة IBM مجموعة بيانات ضخمة من وجوه متنوعة مصدرها Flickr لتقليل التحيز في الذكاء الاصطناعي.
لكن تقريراً من NBC اكتشف أن الشركة فشلت في إخطار الأشخاص في تلك الصور باستخدام صورهم لهذا الغرض.
في حين أن انسحاب IBM من تطبيق الذكاء الاصطناعي للأغراض العامة من أجل المساواة العرقية هو خطوة جديرة بالثناء، يجب عليها القيام بأكثر من ذلك بكثير.
هناك الكثير من الشركات التي تقدم بدائل لحلول IBM. لذا، سيحتاج عملاق التكنولوجيا إلى المشاركة بنشاط في الحد من التحيز وتشكيل السياسة التي ستوقف استخدام تقنية التعرف على الوجه لأغراض المراقبة.
يمكنك قراءة الرسالة الكاملة للرئيس التنفيذي لشركة IBM هنا.