ذكرت دراسة للمعهد الوطني للمعايير والتكنولوجيا الأمريكي أن الكثير من أنظمة التعرف على ملامح الوجه رقميا، تجد صعوبة في تحديد هوية المواطنين من أصول أفريقية أو آسيوية أو السكان الأصليين، مقارنة بتحديد هوية الأمريكيين من أصول أوروبية.
وأشارت الدراسة إلى ارتفاع نسبة الإجابة الخطأ عندما تتم مطابقة صورة وجه من ذوي الأصول الأفريقية أو الآسيوية أو من السكان الأصليين بصورة لنفس الشخص على قاعدة بيانات. وتستخدم هذه التقنية المعروفة باسم مطابقة واحد بواحد في بعض الأعمال مثل فتح شاشة هاتف ذكي أو فحص كلمة مرور.
شملت الدراسة 189 لوغاريتما «برنامج تحليل بيانات» للتعرف على ملامح الوجه من 99 شركة تكنولوجيا كبرى.
وذكر المعهد أن شركة أمازون للتجارة الإلكترونية لم تقدم لوغاريتما لاختباره، في حين يواجه اللوغاريتم الخاص بها واسمه ريكوجنيشن للتعرف على ملامح الوجه انتقادات بسبب تحيزاته المرتبطة بالعرق ونوع الجنس.
وتزداد الردود الإيجابية الخطأ في حالة مطابقة صورة سيدة مقارنة بصورة الرجل، حيث اكتشف المعهد أن هذه المشكلة تتكرر باستمرار في كل البرامج والأنظمة التي تم فحصها. كما أن الردود الإيجابية الخطأ تزداد في حالة كبار السن والأطفال.
وأشار المعهد إلى أنه عند دراسة البرمجيات، التي تستخدم في مطابقة صورة واحدة بعدة صور اكتشف أن احتمالات النتيجة الإيجابية الخطأ تزداد في حال السيدة الأمريكية من أصل أفريقي. وهذه النتيجة مهمة لأن الخطأ في مطابقة صورة مع أخرى يمكن أن يؤدي إلى اتهام شخص بريء بارتكاب جريمة على سبيل المثال.
وأشارت الدراسة إلى ارتفاع نسبة الإجابة الخطأ عندما تتم مطابقة صورة وجه من ذوي الأصول الأفريقية أو الآسيوية أو من السكان الأصليين بصورة لنفس الشخص على قاعدة بيانات. وتستخدم هذه التقنية المعروفة باسم مطابقة واحد بواحد في بعض الأعمال مثل فتح شاشة هاتف ذكي أو فحص كلمة مرور.
شملت الدراسة 189 لوغاريتما «برنامج تحليل بيانات» للتعرف على ملامح الوجه من 99 شركة تكنولوجيا كبرى.
وذكر المعهد أن شركة أمازون للتجارة الإلكترونية لم تقدم لوغاريتما لاختباره، في حين يواجه اللوغاريتم الخاص بها واسمه ريكوجنيشن للتعرف على ملامح الوجه انتقادات بسبب تحيزاته المرتبطة بالعرق ونوع الجنس.
وتزداد الردود الإيجابية الخطأ في حالة مطابقة صورة سيدة مقارنة بصورة الرجل، حيث اكتشف المعهد أن هذه المشكلة تتكرر باستمرار في كل البرامج والأنظمة التي تم فحصها. كما أن الردود الإيجابية الخطأ تزداد في حالة كبار السن والأطفال.
وأشار المعهد إلى أنه عند دراسة البرمجيات، التي تستخدم في مطابقة صورة واحدة بعدة صور اكتشف أن احتمالات النتيجة الإيجابية الخطأ تزداد في حال السيدة الأمريكية من أصل أفريقي. وهذه النتيجة مهمة لأن الخطأ في مطابقة صورة مع أخرى يمكن أن يؤدي إلى اتهام شخص بريء بارتكاب جريمة على سبيل المثال.