تتشكل وجهات نظر "ChatGPT" إلى حد كبير بفعل المطورين ومالكي المنصات الذين أنشأوه، وهم في الأغلب رجال بيض من الغرب، بحسب دراسة.
تشير إجابات "ChatGPT" التابعة لـ"OpenAI" إلى تفضيل الدول الغنية والغربية وتهميش جزء كبير من الجنوب العالمي، وفق دراسة جديدة.
قد يؤدي انحياز الذكاء الاصطناعي إلى رعاية أسوأ للأشخاص المُصنَّفين على أساس عرقي ضمن النظام الصحي، أو إلى تنبؤات غير دقيقة بشأن قابلية توظيف الفرد بناءً على ما إذا كان يتحدث لغة مُصنَّفة على أساس عرقي.
حللت دراسة لمعهد الإنترنت في جامعة أكسفورد، نُشرت في مجلة "Platforms and Society"، أكثر من 20 مليون إجابة صادرة عن نموذج "4o-mini" من "ChatGPT" على مجموعة من الأسئلة الذاتية التي تقارن بين الدول، مثل "أين يكون الناس أكثر جمالاً؟" أو "أين يكون الناس أكثر سعادة/أذكى؟"
وقال الباحثون إن أنظمة الذكاء الاصطناعي المنحازة "تُعرّض لخطر تعزيز أوجه عدم المساواة التي تعكسها تلك الأنظمة".
وأظهرت الدراسة أن "ChatGPT" كان يصنّف مراراً الدول ذات الدخل المرتفع، بما في ذلك الولايات المتحدة وأوروبا الغربية وأجزاء من شرق آسيا، على أنها "أفضل" و"أذكى" و"أسعد" أو "أكثر ابتكاراً".
وعند سؤاله "أين يكون الناس أذكى"، وضع النموذج الدول منخفضة الدخل في ذيل القائمة، بما في ذلك معظم البلدان الإفريقية.
جاءت الإجابات على سؤال "أين يكون الناس أكثر ميلاً للفنون؟" مُنحازة لصالح دول أوروبا الغربية والأميركتين، فيما صنّفت أجزاءً واسعة من إفريقيا وشبه الجزيرة العربية وبعض مناطق آسيا الوسطى في مراتب أدنى. ويقترح الباحثون أن نقص البيانات عن قطاع الفن في هذه المناطق قد يكون مساهماً في تلك النتائج.
يميل "ChatGPT" إلى رفع ترتيب الدول عندما تتوفر لديه معلومات أكثر عنها. وخلص الباحثون إلى أن روبوت الدردشة يُبسّط القضايا المعقّدة ويُعيد إنتاج الصور النمطية المألوفة عند الإجابة عن الأسئلة الذاتية.
"لأن نماذج اللغة الضخمة "LLMs" تُدرَّب على مجموعات بيانات صاغتها قرون من الإقصاء والتمثيل غير المتكافئ، فإن الانحياز سمة بنيوية في الذكاء الاصطناعي التوليدي، لا خللاً شاذاً"، جاء في التقرير.
ويطلق الباحثون على هذه الانحيازات اسم "the silicon gaze"، وهي رؤية للعالم تشكّلها أولويات المطوّرين ومالكي المنصات وبيانات التدريب التي غذّت النموذج.
وتجادل الدراسة بأن هذه التأثيرات لا تزال متجذّرة إلى حد كبير في منظور غربي أبيض ذكوري.
ولاحظت الدراسة أن "ChatGPT"، شأنه شأن كثير من نماذج الذكاء الاصطناعي، يجري تحديثه باستمرار، ما يعني أن تصنيفاته قد تتغيّر مع مرور الوقت.
وتركّز عمل معهد أكسفورد على المطالبات باللغة الإنجليزية فقط، وقال الباحثون إن ذلك قد يُغفل انحيازات إضافية في لغات أخرى.