أثارت أداة البحث بالذكاء الاصطناعي من "غوغل" جدلا في فرنسا، إذ قدمت نصائح متباينة تبعا للجنسية المذكورة في أسئلة المستخدمين، ما أدى إلى اتهامات بالتحيز العنصري.
إذا سألت الذكاء الاصطناعي لدى "Google" عمّا يجب فعله إن كنت وحدك مع نرويجي، فقد يقترح أن تتبادل معه أطراف الحديث. وإذا سألت عمّا ينبغي فعله إن كنت وحدك مع صومالي، فقد يخبرك بأنه عليك الاتصال بالشرطة.
اعلان
اعلان
هذا هو النمط الذي اختبره مستخدمو الإنترنت في ميزة البحث **الذكاء الاصطناعي** "AI Overviews" لدى "Google" منذ 23 آب/أغسطس، من خلال كتابة صيغ مختلفة لعبارة "I'm alone with a…" متبوعة بجنسيات متعددة.
وتفاوتت النتائج بشكل حاد بحسب البلد أو المجموعة المذكورة، ما أثار اتهامات بـ **التحيز العنصري** تردد صداها على نطاق واسع في وسائل الإعلام الفرنسية.
وبحسب اختبارات نقلها موقع "Futurism" و"HuffPost"، فإن استعلاما حول ما يجب فعله عندما يكون الشخص وحده مع بريطاني دفع روبوت "Gemini" إلى اقتراح إعداد فنجان شاي، في حين أدت استعلامات تشير إلى شخص من أصل هندي أو باكستاني، على النقيض، إلى إظهار أرقام خدمات الطوارئ.
وقد سلطت الكوميدية الفرنسية "Alicia C'est Tout" الضوء أولا على المقارنة بين الإيطالي والجزائري، عندما نشرت في 23 آب/أغسطس فيديو على "إنستاغرام" يوثّق هذا التبادل.
فالسؤال عن إيطالي أفرز إجابة تتحدث عن "السحر" و"الحديث الحيوي"، بينما السؤال نفسه عن جزائري تضمّن استفسارا للمستخدم عمّا إذا كان يشعر "بالخطر"، مع عرض أرقام الشرطة وخدمة التنبيهات عبر الرسائل النصية.
وقد خرجت بعض النتائج عن هذا النمط؛ فعند كتابة "I am alone with a Haitian"، ردّ "Gemini" بأن "الجنسية أو الأصل لا يغيّران حقيقة أنك ببساطة مع شخص آخر"، بحسب "HuffPost".
وأقرت "Google" بالمشكلة في رد عبر منصة "X" بتاريخ 20 آب/أغسطس، قائلة: "نحن نتفق على أن نتائج هذا النوع من عمليات البحث ليست كما ينبغي أن تكون، ونعمل على إدخال تحسينات".
وقالت الشركة إن الردود تختلف بحسب صيغة البحث الدقيقة، وليست موجهة ضد مجموعة بعينها.
وبحلول 26 آب/أغسطس، أفاد "HuffPost" بأن تكرار المطالبات نفسها لم يعد ينتج النتائج ذاتها، إذ أصبح "Gemini" يطلب مزيدا من السياق أو يكتفي بإجابات عامة.
منصات ذكاء اصطناعي أخرى تظهر أنماطا مشابهة
هذا التحيز لا يقتصر على أداة بحث "Google".
فقد أعاد الموقع التقني الفرنسي "Next" إجراء الاختبار ووسّعه على روبوت الدردشة المستقل "Gemini"، إلى جانب "ChatGPT" و"Claude"، حيث طُلب من كل منها الرد على صيغ مختلفة لعبارة "I'm alone with a[n]…" المرتبطة بمجموعة من الجنسيات.
وبحسب "Next"، أنتجت الروبوتات الثلاثة إجابات أكثر إيجابية تجاه الجنسيات الغربية، وأقل إيجابية تجاه عدد من الجنسيات الإفريقية، وإن بدرجات متفاوتة بينها.
وأشار الموقع إلى أن "Gemini" كان الوحيد من بين الثلاثة الذي يرد مباشرة على العبارة كما هي، في حين احتاج "ChatGPT" و"Claude" إلى إعادة صياغة المطلب كسؤال مباشر ليقدّما إجابة قابلة للمقارنة.
كما وجد "Next" أن الأشخاص من خلفية "روما" جرى تصنيفهم على أنهم خطرون عبر الروبوتات الثلاثة جميعا، معتبرا أن ذلك يعكس تحيزا ضد الروما، وهو شكل من أشكال العنصرية لا يزال يُستهان به رغم انتشاره الواسع في أنحاء أوروبا.
ويُوثَّق التمييز ضد مجتمعات الروما جيدا من قبل المؤسسات الأوروبية، بما فيها وكالة الاتحاد الأوروبي للحقوق الأساسية، التي خلصت مرارا إلى أن الروما يواجهون بعضا من أعلى معدلات التمييز بين أي مجموعة على القارة، إلى جانب الصور النمطية السلبية المتكررة في الإعلام والحديث اليومي.
وتُدرَّب روبوتات الدردشة مثل "Gemini" و"ChatGPT" و"Claude" على كميات هائلة من النصوص المستخرجة من الإنترنت، بما في ذلك أرشيفات الأخبار والمنتديات وشبكات التواصل الاجتماعي.
ويقول خبراء يدرسون تحيزات الذكاء الاصطناعي إنه عندما تتكرر صورة نمطية بما يكفي في بيانات التدريب تلك، يصبح النموذج ميالا لإعادة إنتاجها، حتى من دون برمجته صراحة على ذلك.