أعلنت شبكة "تويتر"، أمس، الجمعة، أنها ستمنح مكافآت للمستخدمين والباحثين الذين يكتشفون مكامن تحيز محتملة في الخوارزميات الخاصة بمنصتها، مرتبطة على سبيل المثال بالتمييز الجنسي أو العنصري.
وهذه المسابقة هي الأولى التي ترصد مكافآت للبحث عن قصور في هذا الموضوع، وفق "تويتر" التي أشارت إلى أن جوائز قد تصل قيمتها إلى 3500 دولار.
وتعتبر هذه الفكرة مستنسخة من مسابقات تقدمها بعض المواقع الإلكترونية لاكتشاف ثغرات في أمن المعلوماتية، وفق ما أوضح المسؤولان في الشبكة، رومان تشودري، وجوتا ويليامز.
وقال المسؤولان: "من الصعب العثور على مكامن تحيز في نماذج التعلم الآلي، وأحيانا تجد الشركات أنها انتهكت الأخلاقيات عن غير قصد بعد استخدام" هذه النماذج، و"نريد أن يتغير ذلك".
في النموذج المطور لاكتشاف الثغرات الأمنية، ساعد الباحثون وقراصنة المعلوماتية على حد سواء مديري أمن تكنولوجيا المعلومات على "إنشاء أفضل الممارسات لتحديد وإدارة الثغرات الأمنية من أجل حماية الجمهور"، بحسب رومان تشودري وجوتا ويليامز.
وأضاف المسؤولان في "تويتر" أنه "نريد تطوير مجتمع مشابه" لاكتشاف تحيزات الخوارزميات.
وكانت تويتر قدمت في نيسان/ أبريل الماضي، عملها الجاري لجعل الخوارزميات التي تعمل خلف كواليس المنصة أكثر مراعاة للأخلاقيات، وهي طريقة للرد على الانتقادات بشأن المخاطر المرتبطة بهذه التقنيات.
وقد تخلت الشبكة الاجتماعية بعد بضعة أسابيع عن خوارزمية للصور بعد أن اكتشفت أنها كانت متحيزة قليلاً لصالح الأشخاص البيض.
