السبت 18 يوليو 2026
التنوع العرقي في بيانات الذكاء الاصطناعي: مفتاح لتعزيز الثقة وتقليل التحيز
تظهر دراسة جديدة من جامعة ولاية بنسلفانيا أن إدراج مؤشرات التنوع العرقي في بيانات تدريب أنظمة الذكاء الاصطناعي يمكن أن يعزز من ثقة المستخدمين ويقلل من التحيزات، مما يسلط الضوء على أهمية الشفافية في تصميم هذه الأنظمة.
أظهرت دراسة جديدة أجرتها جامعة ولاية بنسلفانيا أن إدراج معلومات حول التنوع العرقي في بيانات تدريب أنظمة الذكاء الاصطناعي يمكن أن يعزز ثقة المستخدمين ويساعد في تقليل التحيزات. قامت الدراسة بتجربة على نظام ذكاء اصطناعي متخصص في تحليل تعابير الوجه، ووجدت أن المشاركين أبدوا ثقة أكبر في الأنظمة التي استخدمت بيانات تمثيلية تشمل تنوعًا عرقيًا. وأكد الباحثون على أهمية تضمين هذا التنوع في بيانات التدريب لضمان تمثيل عادل وتعزيز الشفافية، مما يساهم في تحسين قرارات المستخدمين ويقلل من المخاطر المرتبطة بالتحيزات.
أهمية جودة البيانات في أنظمة الذكاء الاصطناعي
على الرغم من أن أنظمة الذكاء الاصطناعي (AI) مثل المساعدات المنزلية، ومحركات البحث، والنماذج اللغوية الكبيرة مثل ChatGPT قد تبدو شبه كليّة المعرفة، فإن نتائجها تعتمد بشكل كبير على جودة البيانات التي تم تدريبها عليها. ومع ذلك، فإن سهولة الاستخدام غالبًا ما تدفع المستخدمين إلى تبني هذه الأنظمة دون فهم كافٍ للبيانات التدريبية المستخدمة أو من أعدّها، بما في ذلك التحيزات المحتملة في البيانات أو تلك التي قد يحملها المدربون.
نتائج الدراسة حول التنوع العرقي
تشير دراسة جديدة أجراها باحثون من جامعة ولاية بنسلفانيا إلى أن إتاحة معلومات حول التنوع العرقي في بيانات التدريب يمكن أن تشكل توقعات مناسبة حول أنظمة الذكاء الاصطناعي، وتساعد المستخدمين في اتخاذ قرارات أكثر وعيًا بشأن كيفية استخدامها.
تأثير مؤشرات التنوع العرقي على توقعات المستخدمين
بحثت الدراسة في تأثير عرض مؤشرات التنوع العرقي—وهي الإشارات البصرية على واجهات الذكاء الاصطناعي التي توضح التكوين العرقي لبيانات التدريب والخلفيات الاجتماعية للأشخاص الذين قاموا بوضع العلامات على هذه البيانات—على تعزيز توقعات المستخدمين حول عدالة الأنظمة وخفض التحيز. وقد نُشرت النتائج مؤخرًا في مجلة “Human-Computer Interaction”، مما يعزز أهمية الشفافية في تصميم هذه الأنظمة.
التحيز في بيانات تدريب الذكاء الاصطناعي
تشير الدراسة إلى أن بيانات تدريب الذكاء الاصطناعي غالبًا ما تكون متحيزة بشكل منهجي من حيث العرق، والجنس، وغيرها من الخصائص. وفقًا لما قاله شيام سوندار، أستاذ في جامعة بنسلفانيا ومدير مركز الذكاء الاصطناعي المسؤول اجتماعيًا، فإن هذه التحريفات يمكن أن تؤثر سلبًا على جودة نتائج أنظمة الذكاء الاصطناعي.
إدراك المستخدمين للتحيزات
أوضح سوندار أن المستخدمين قد لا يدركون أنهم يساهمون في استمرار اتخاذ قرارات بشرية متحيزة عند استخدام بعض أنظمة الذكاء الاصطناعي. هذا الإغفال يمكن أن يؤدي إلى تبني المستخدمين لقرارات خاطئة بناءً على نتائج مشوهة.
نقص المعلومات حول التحيزات
من جهتها، أفادت المؤلفة الرئيسية تشينغ “كريس” تشين، أستاذة مساعدة في تصميم الاتصالات في جامعة إيلون، أن المستخدمين غالبًا ما يفتقرون إلى القدرة على تقييم التحيزات المدمجة في أنظمة الذكاء الاصطناعي لأنهم لا يمتلكون معلومات كافية حول البيانات التدريبية أو الأشخاص الذين قاموا بتدريب هذه الأنظمة.
تأثير التحيزات بعد اتخاذ القرارات
وأضافت تشين: “هذا التحيز يظهر بعد إتمام المستخدم لمهمته، مما يعني أن الضرر قد تم بالفعل. وبالتالي، لا يمتلك المستخدمون معلومات كافية لتحديد ما إذا كانوا يثقون في الذكاء الاصطناعي قبل استخدامه.”
الحلول المقترحة
وأشار سوندار إلى أن الحل يكمن في توصيل طبيعة البيانات التدريبية، خاصة تكوينها العرقي. وقال سوندار: “هذا ما قمنا به في هذه الدراسة التجريبية، بهدف معرفة ما إذا كان سيؤثر على تصورات المستخدمين حول النظام.”
تصميم التجربة
لفهم كيفية تأثير مؤشرات التنوع على الثقة في أنظمة الذكاء الاصطناعي، أنشأ الباحثون تجربتين: إحداهما تعكس التنوع العرقي، والأخرى تفتقر إليه. في الحالة المتنوعة، تم عرض وصف قصير لنموذج التعلم الآلي وعملية وضع العلامات، إلى جانب رسم بياني يظهر توزيعًا متساويًا للصور بين ثلاث مجموعات عرقية: البيضاء، السوداء، والآسيوية.
حالة التنوع العرقي
في الحالة غير المتنوعة، أظهر الرسم البياني أن 92% من الصور تنتمي إلى مجموعة عرقية واحدة. كما تم تمثيل المجموعات العرقية بشكل متساوٍ بين من قاموا بوضع العلامات، بينما في الحالة غير المتنوعة، كانت الأغلبية من نفس المجموعة العرقية. هذه التصميمات تهدف إلى تقييم كيف يؤثر تمثيل التنوع على توقعات المستخدمين وثقتهم في الأنظمة.
استخدام أداة تحليل التعبيرات الوجهية
تمت تجربة البيانات عبر أداة للذكاء الاصطناعي مصممة لتحليل تعبيرات الوجه تُدعى “HireMe”. حيث شاهد المشاركون مقابلات تلقائية لثلاثة مرشحين ذكور مؤهلين من أعراق مختلفة. وتم تحليل تعابيرهم الوجهية بواسطة النظام، مع تسليط الضوء على أبرز تعبيراتهم ومدى ملاءمتها للوظيفة.
نتائج التجربة وتأثيرها على التحيز العرقي
أظهرت نتائج التجربة أن نصف المشاركين تعرضوا لتحيز عرقي، حيث فضّل النظام المرشح الأبيض بشكل غير عادل. في المقابل، أظهر الذكاء الاصطناعي عدالة بتقييم مرشحي الوظيفة بشكل متساوٍ في الحالة الأخرى. طُلب من المشاركين تقديم ملاحظاتهم حول تحليل الذكاء الاصطناعي وتقييم مدى اتفاقهم أو اعتراضهم على النتائج.
تعزيز الثقة من خلال التنوع
وقالت تشين: “وجدنا أن إظهار التنوع العرقي في البيانات التدريبية وخلفيات الأشخاص الذين قاموا بوضع العلامات عزز ثقة المستخدمين في الذكاء الاصطناعي.” ومع ذلك، لاحظ الباحثون أن تقديم التغذية الراجعة حول النظام غير المتحيز قلل من قابلية استخدامه للأشخاص البيض، حيث رأوا أن النظام يعمل بالفعل بشكل عادل.
أهمية مؤشرات التنوع
أكد الباحثون أن مؤشرات التنوع العرقي تلعب دورًا كبيرًا في تشكيل تصورات المستخدمين حول عدالة النظام، مشيرين إلى ضرورة تضمين التنوع في كل من الصور وخلفيات من يقومون بوضع العلامات.
التحديات في تمثيل الأعراق
قال سوندار: “إذا كان الذكاء الاصطناعي يتعلم فقط من تعبيرات تم وضع علامات عليها من قبل أشخاص من عرق واحد، فقد يسيء تمثيل مشاعر الأشخاص من الأعراق الأخرى.”
تعزيز الشفافية والمساءلة
وأشار الباحثون إلى أن إتاحة معلومات حول مصدر بيانات التدريب يمكن أن تعزز الشفافية والمساءلة في أنظمة الذكاء الاصطناعي. وأضاف سوندار: “حتى لو لم يستخدم المستخدمون هذه المعلومات، فإن إتاحتها تشير إلى ممارسة أخلاقية وتعزز العدالة والثقة في هذه الأنظمة.
