المعذرة، هذه المادة غير متوفرة في منطقتكم

الفشل في تحديد مفردات خطاب الكراهية سببه ضعف الفجوات اللغوية في فيسبوك

Access to the comments محادثة
بقلم:  Adel Dellal
euronews_icons_loading
صورة من أسوشيتد برس
صورة من أسوشيتد برس   -   حقوق النشر  AP Photo

مع احتدام حرب غزة وتصاعد التوترات في الشرق الأوسط في مايو-أيار الماضي، حظر إنستغرام لفترة وجيزة هاشتاغ #الأقصى، في إشارة إلى المسجد الأقصى في البلدة القديمة بالقدس، وهو نقطة التي تسببت في اشتعال الصراع.

وقد اعتذر موقع فيسبوك، الذي يملك إنستغرام، في وقت لاحق، موضحا أن خوارزمياته أخطأت في الخلط بين ثالث أقدس موقع في الإسلام وجماعة كتائب شهداء الأقصى، وهي فرع مسلح من حركة فتح العلمانية.

بالنسبة للعديد من المستخدمين الناطقين بالعربية، كان هذا مجرد أحدث مثال قوي على كيفية قيام عملاق وسائل التواصل الاجتماعي بتكميم الخطاب السياسي في المنطقة.

تعتبر اللغة العربية من أكثر اللغات شيوعا على منصة فيسبوك، وتصدر الشركة اعتذارات عامة متكررة بعد عمليات إزالة محتوى فاشلة مماثلة. الآن، تُظهر وثائق الشركة الداخلية من فرانسيس هوغن، مدير منتج فيسبوك السابق، الذي تحول إلى المبلغين عن المخالفات، أن المشكلات أكثر منهجية بكثير من مجرد أخطاء بسيطة قليلة، وأن فيسبوك قد فهم عمق هذه الإخفاقات لسنوات بينما لم يفعل شيئًا يذكر حيال ذلك.

الأخطاء لا تقتصر على اللغة العربية

يكشف فحص الملفات أنه في بعض أكثر مناطق العالم تقلبا، ينتشر المحتوى الإرهابي وخطاب الكراهية لأن شركة فيسبوك لا تزال تفتقر إلى الوسطاء الذين يتحدثون اللغات المحلية ويفهمون السياقات الثقافية، فقد فشلت منصاتها في تطوير حلول ذكاء اصطناعي يمكنها اكتشاف المحتوى الضار بلغات مختلفة.

في بلدان كأفغانستان وميانمار سمحت هذه الثغرات للغة التحريضية بالازدهار على المنصة، بينما في سوريا والأراضي الفلسطينية، يقوم فيسبوك بقمع الكلام العادي وفرض حظر شامل على الكلمات الشائعة.

تستند هذه القصة، إلى جانب قصص أخرى نُشرت مؤخرا إلى إفصاحات هوغن إلى لجنة الأوراق المالية والبورصات والتي قدمها أيضا فريقها القانوني إلى الكونغرس بشكل منقح. وتمت مراجعة النسخ المنقحة من طرف مجموعة من المؤسسات الإخبارية، بما في ذلك وكالة "أسوشيتد برس"، وفي تصريح للوكالة قال متحدث باسم فيسبوك إنه على مدار العامين الماضيين، استثمرت الشركة في تعيين المزيد من الموظفين ذوي الخبرة المحلية والموضوعات لتعزيز قدرتها على المراجعة في جميع أنحاء العالم.

ولكن عندما يتعلق الأمر بتعديل المحتوى العربي، قالت الشركة: "لا يزال أمامنا المزيد من العمل للقيام به، نجري أبحاثا لفهم هذا التعقيد بشكل أفضل وتحديد كيف يمكننا تحسينه".

ما سرّ المعلومات المظللة من ميانمار؟

وفي ميانمار حيث تم ربط المعلومات المضللة على موقع فيسبوك مرارا وتكرارا بالعنف العرقي والديني، أقرت الشركة في تقاريرها الداخلية بأنها فشلت في وقف انتشار خطاب الكراهية الذي يستهدف الأقلية المسلمة من الروهينغا.

اضطهاد الروهينغا، الذي وصفته الولايات المتحدة بأنه تطهير عرقي، دفع فيسبوك إلى التعهد علنًا في عام 2018 بتجنيد 100 متحدث بلغة ميانمار الأصلية لمراقبة منصاتها. لكن الشركة لم تكشف أبدًا عن عدد المشرفين على المحتوى الذين عينتهم في النهاية أو كشفت عن أي من اللهجات العديدة في البلاد قاموا بتغطيتها.

على الرغم من وعود فيسبوك العلنية والعديد من التقارير الداخلية حول المشكلات ، قالت مجموعة الحقوق "غلوبال ويتنس" إن خوارزمية توصيات الشركة استمرت في تضخيم الدعاية العسكرية وغيرها من المحتويات التي تنتهك سياسات الشركة في ميانمار بعد الانقلاب العسكري في فبراير-شباط.

في الهند ، تُظهر الوثائق موظفي فيسبوك يناقشون في مارس-آذار الماضي ما إذا كان بإمكانها تضييق الخناق على "الترويج للخوف، وكذا الروايات المعادية للمسلمين" التي تبثها جماعة راشتريا سوايامسيفاك سانغ اليمينية المتطرفة، التابعة لرئيس الوزراء ناريندرا مودي على منصتها. وفي إحدى الوثائق، لاحظت الشركة أن المستخدمين المرتبطين بحزب مودي قد أنشأوا حسابات متعددة لزيادة انتشار المحتوى المعادي للإسلام.

ووجد البحث أن الكثير من هذا المحتوى "لم يتم الإبلاغ عنه أو اتخاذ إجراء" ، لأن فيسبوك يفتقر إلى المشرفين والمرشحات الآلية، التي لديها معرفة باللغات الهندية والبنغالية.

تشكل اللغة العربية تحديات خاصة لأنظمة فيسبوك الآلية والمشرفين البشريين، حيث يكافح كل منهم لفهم اللهجات المنطوقة الفريدة لكل بلد ومنطقة، وخضوع مفرداتها لتأثيرات تاريخية وسياقات ثقافية مختلفة.

تشمل اللغة العربية العامية المغربية، على سبيل المثال، الكلمات الفرنسية والبربرية ويتم التحدث بها بحروف متحركة قصيرة. والعربية المصرية، من ناحية أخرى، تشمل بعض المفردات التركية من الفتح العثماني، إضافة إلى لهجات أخرى أقرب إلى الرواية "الرسمية" الموجودة في القرآن.

لا يمكن فهم اللهجات بشكل صحيح

في بعض الحالات، لا يمكن فهم هذه اللهجات بشكل متبادل، ولا توجد طريقة معيارية لكتابة العامية العربية. وقد طور موقع فيسبوك لأول مرة عددا هائلا من المتابعين في الشرق الأوسط خلال انتفاضات الربيع العربي عام 2011، ونسب المستخدمون للمنصة فرصة نادرة للتعبير الحر ومصدرا هاما للأخبار بمنطقة تمارس فيها الحكومات الاستبدادية ضوابط صارمة على كليهما. ولكن هذه السمعة تغيرت في السنوات الأخيرة. وقد تم حذف حسابات العشرات من الصحفيين والنشطاء الفلسطينيين.

اختفت أرشيفات الحرب الأهلية السورية. وأصبحت المفردات الهائلة للكلمات اليومية محظورة على المتحدثين باللغة العربية، وهي ثالث أكثر لغة شيوعا على فيسبوك مع ملايين المستخدمين حول العالم.

بالنسبة لحسن صليح، وهو صحفي البارز بقطاع غزة المحاصر، بدت الرسالة الأولى، وكأنها لكمة في "القناة"، يقرأ إشعار الشركة "تم تعطيل حسابك نهائيا لانتهاكه معايير مجتمع فيسبوك". كان ذلك في ذروة حرب غزة الدموية عام 2014، بعد سنوات من تصنيف منشوراته الإخبارية حول العنف بين إسرائيل وحماس على أنها انتهاكات للمحتوى.

في غضون لحظات، فقد كل شيء جمعه على مدار ست سنوات: ذكريات شخصية، وقصص عن حياة الناس في غزة وصور الغارات الجوية الإسرائيلية التي تقصف القطاع، ناهيك عن 200 ألف متابع.

نهج ذكي لخداع خوارزميات فيسبوك

لم تكن أحدث عملية إزالة لصفحته على فيسبوك العام الماضي بمثابة صدمة. كانت هذه هي المرة السابعة عشرة التي يجب أن يبدأ فيها من الصفر. لقد حاول أن يكون ذكيا. مثل العديد من الفلسطينيين، تعلم تجنب الكلمات العربية النموذجية لكلمة "شهيد" و"أسير"، وإضافة رموز أو مسافات بين كل حرف.

اتخذ المستخدمون الآخرون في المنطقة نهجا ذكيا بشكل متزايد لخداع خوارزميات فيسبوك، مستخدمين نصا عربيا عمره قرون، ويفتقر إلى النقاط والعلامات التي تساعد القراء على التمييز بين الأحرف المتطابقة.

وفقًا للوثائق الداخلية، فإن أسلوب الكتابة، الذي كان شائعا قبل أن ينفجر تعلم اللغة العربية مع انتشار الإسلام، تحايل على الرقابة على خطاب الكراهية على تطبيق فيسبوك وعلى إنستغرام.

لكن تكتيكات حسن صليح لم تنجح، وهو يعتقد أن فيسبوك قد حظره لمجرد قيامه بعمله. وكمراسل في غزة، فهو ينشر صورا لمتظاهرين فلسطينيين مصابين على الحدود الإسرائيلية وأمهات يبكين على توابيت أبنائهن وتصريحات من حركة حماس التي تحكم القطاع.

يُعد النقد والهجاء وحتى الإشارات البسيطة للمجموعات المدرجة في قائمة "الأفراد والمنظمات الخطرة" للشركة، وهي قائمة على غرار ما يعادلها من حكومة الولايات المتحدة، أسبابا للإزالة.

جاء في إحدى الوثائق "كنا نفرض بشكل غير صحيح محتوى مكافحة الإرهاب باللغة العربية"، في إشارة إلى أن النظام الحالي "يحد من مشاركة المستخدمين في الخطاب السياسي ويعيق حقهم في حرية التعبير".

فيسبوك يملك قائمته السوداء

تشمل القائمة السوداء على فيسبوك حزب حماس الحاكم في غزة، وكذلك حزب الله، الجماعة المسلحة التي تشغل مقاعد في البرلمان اللبناني، إلى جانب العديد من الجماعات الأخرى التي تمثل قطاعات واسعة من الناس والأراضي في جميع أنحاء الشرق الأوسط، كما تظهر الوثائق الداخلية مما أدى إلى ما يظهر على فيسبوك. يصف الموظفون في الوثائق تصورات واسعة الانتشار للرقابة.

رداً على أسئلة من وكالة "أسوشييتد برس"، قالت شركة فيسبوك إنها تستشير خبراء مستقلين على أمل تطوير سياسات الاعتدال الخاصة به، وتذهب إلى أبعد الحدود للتأكد من أنهم محايدون للدين أو المنطقة أو النظرة السياسية أو الأيديولوجية. وأضافت "نعلم أن أنظمتنا ليست مثالية".

أدت الثغرات والتحيزات اللغوية لشركة فيسبوك إلى تصور واسع الانتشار بأن مراجعيها يميلون لصالح الحكومات وضد الأقليات. يقول الموظفون السابقون في فيسبوك أيضا إن الحكومات المختلفة تمارس ضغوطا على الشركة، وتهدد اللوائح والغرامات.

إسرائيل مصدر مربح لفيسبوك

إسرائيل، المصدر المربح لعائدات الإعلانات على فيسبوك، هي الدولة الوحيدة في الشرق الأوسط التي يدير فيها فيسبوك مكتبا وطنيا. وتراقب أجهزة الأمن والمراقبون في إسرائيل فيسبوك وتمطره بآلاف الأوامر لحذف حسابات ومنشورات فلسطينية أثناء محاولتهم قمع التحريض.

قال فيسبوك في بيان إنه يرسل طلبات إزالة من الحكومات لا تختلف عن تلك الواردة من المنظمات الحقوقية أو أعضاء المجتمع، على الرغم من أنه قد يقيد الوصول إلى المحتوى بناءً على القوانين المحلية. وأضاف: "أي اقتراح بإزالة المحتوى فقط تحت ضغط من الحكومة الإسرائيلية غير دقيق على الإطلاق".

كما اشتكى الصحفيون والناشطون السوريون الذين يغطون أخبار المعارضة في البلاد من الرقابة حيث تقوم الجيوش الإلكترونية التي تدعم الرئيس نظام بشار الأسد المحاصر بالإبلاغ بقوة عن المحتوى المعارض لإزالته.

عدم فهم قواعد فيسبوك في أفغانستان

وفقا لتقرير داخلي في يناير-كانون الثاني، لم يترجم فيسبوك صفحات خطاب الكراهية، والمعلومات المضللة في الموقع إلى الداري والباشتون، وهما اللغتان الأكثر شيوعا في أفغانستان حيث لا تُفهم اللغة الإنجليزية على نطاق واسع.

عندما يحاول المستخدمون الأفغان وضع علامة على المنشورات على أنها كلام يحض على الكراهية تظهر القوائم المنسدلة باللغة الإنجليزية فقط. وكذلك تفعل صفحة معايير المجتمع.

لا يحتوي الموقع أيضا على بنك لمصطلحات الكلام الذي يحض على الكراهية والكلمات الرمزية في أفغانستان المستخدمة لتعديل محتوى الداري والباشتون، كما هو معتاد في أماكن أخرى. بدون بنك الكلمات المحلي هذا، لا يمكن لفيسبوك إنشاء "المرشحات" الآلية التي تكتشف أسوأ الانتهاكات في البلاد.

عندما يتعلق الأمر بالنظر في إساءة معاملة عاملات المنازل في الشرق الأوسط، أقرت وثائق فيسبوك الداخلية بأن المهندسين يركزون بشكل أساسي على المنشورات والرسائل المكتوبة باللغة الإنجليزية.

قائمة الكلمات التي تم وضع الأعلام بها لم تتضمن لغة التاغالوغ، وهي اللغة الرئيسية في الفلبين، حيث يأتي العديد من الخادمات في المنطقة وعاملات المنازل الأخريات.

تقول إحدى الوثائق إن العكس هو الصحيح في كثير من أنحاء العالم العربي حيث تعتمد الشركة بشكل مفرط على مرشحات الذكاء الاصطناعي التي ترتكب أخطاء، مما يؤدي إلى "الكثير من الإيجابيات الكاذبة ورد الفعل الإعلامي العنيف".

مرشحات الذكاء الاصطناعي ترتكب أخطاء

يميل الوسطاء البشريون غير المهرة إلى حد كبير في حالة تفكيرهم، إلى تقديم طلبات الإزالة بشكل سلبي بدلا من الفرز بشكل استباقي. يستعين موقع فيسبوك بمعظم عمليات تعديل المحتوى للشركات العملاقة التي تجند العمال في أماكن بعيدة، من الدار البيضاء بالمغرب إلى إيسن بألمانيا.

لا ترعى الشركات تأشيرات العمل للفرق العربية، مما يقصر المجموعة على الموظفين المحليين في ظروف محفوفة بالمخاطر، معظمهم من المغاربة الذين يبدو أنهم بالغوا في قدراتهم اللغوية.

قالت إحدى الوثائق إنهم غالبا ما يضيعون في ترجمة 30 لهجة عربية غريبة حيث يشيرون إلى المنشورات العربية غير المسيئة على أنها محتوى إرهابي بنسبة 77 في المائة من الوقت.

وجاء في وثيقة أخرى "لا ينبغي لهؤلاء المندوبين أن يرسلوا محتوى من منطقة غير مغاربية، لكنه شائع الآن"، في إشارة إلى منطقة شمال افريقيا التي تضم المغرب.

ويمضي الملف ليقول إن مكتب الدار البيضاء زعم زورا في دراسة استقصائية أنه يمكنه التعامل مع "كل لهجة" من اللغة العربية. لكن في إحدى الحالات، أشار تقرير إلى أن المراجعين وضعوا علامة بشكل غير صحيح على مجموعة من اللهجات المصرية بنسبة 90 في المائة من الوقت.

يحتل العراق المرتبة الأولى في المنطقة من حيث الحجم المبلغ عنه لخطاب الكراهية على فيسبوك. وقالت إحدى الوثائق إن المعرفة باللهجة العراقية بين المراجعين "قريبة من عدم وجودها".

وصف اللغويون نظام فيسبوك بأنه معيب بالنسبة لمنطقة بها تنوع كبير في اللهجات العامية التي ينقلها المتحدثون العرب بطرق مختلفة. أشارت إنعام الوير، أستاذة اللسانيات العربية في جامعة إسكس، إلى "لهجات مختلفة جدا جدا للغة ليس فقط بين البلدان ولكن أيضا بين الطبقة والجنس والدين والعرق".

على الرغم من هذه المشاكل، فإن الوسطاء يقفون في الخطوط الأمامية لما يجعل فيسبوك وسيطا قويا على التعبير السياسي في منطقة مضطربة.

اختلاف اللهجات ينقل الكلام بطرق مختلفة

على الرغم من أن الوثائق الواردة من هوغن تسبق حرب غزة هذا العام، إلا أن حلقات من الصراع الذي استمر 11 يوما تُظهر مدى ضآلة ما تم القيام به لمعالجة المشكلات التي تم الإبلاغ عنها في تقارير فيسبوك الداخلية.

لقد فقد النشطاء في غزة والضفة الغربية قدرتهم على البث المباشر. اختفت أرشيفات كاملة للنزاع من ملفات الأخبار، وهي بوابة معلومات أساسية للعديد من المستخدمين. لقد اعتاد المؤثرون الذين تعودوا على عشرات الآلاف من الإعجابات على منشوراتهم أن انتشارهم ينخفض ​​عند نشرهم أخبارا عن الفلسطينيين.

خلال الحرب، قدم المدافعون الفلسطينيون مئات الشكاوى إلى فيسبوك، مما دفع الشركة في كثير من الأحيان إلى الاعتراف بالخطأ وإعادة المنشورات والحسابات.

في الوثائق الداخلية، أفاد موقع فيسبوك أنه أخطأ في ما يقرب من نصف جميع طلبات الإزالة باللغة العربية المقدمة للاستئناف. وأشار إلى أن "تكرار الإيجابيات الكاذبة يخلق استنزافا هائلا للموارد".

في إعلانه عن إلغاء أحد هذه المنشورات الفلسطينية الشهر الماضي، حث مجلس الرقابة شبه المستقل على فيسبوك على إجراء تحقيق محايد في تعديل محتوى الشركة باللغتين العربية والعبرية.

وطالب المجلس بتحسين قائمته السوداء الواسعة للإرهاب من أجل "زيادة فهم الاستثناءات للمناقشة المحايدة والإدانة والتقارير الإخبارية"، وفقا للبيان الاستشاري للسياسة الصادر عن مجلس الإدارة.

كما شددت وثائق فيسبوك الداخلية على الحاجة إلى "تعزيز" الخوارزميات وتجنيد المزيد من الوسطاء العرب من البلدان الأقل تمثيلا وحصرهم في الأماكن التي يتمتعون فيها بخبرة اللهجة المناسبة.

وقال التقرير "مع حجم قاعدة المستخدمين العرب والخطورة المحتملة للضرر خارج الإنترنت ... من المؤكد أنه من الأهمية بمكان تخصيص المزيد من الموارد لمهمة تحسين الأنظمة العربية". لكن الشركة عبرت عن أسفها أيضا لأنه "لا توجد استراتيجية تخفيف واحدة واضحة".

وفي الوقت نفسه، يشعر الكثيرون في جميع أنحاء الشرق الأوسط بالقلق من أن مخاطر إخفاقات فيسبوك عالية بشكل استثنائي، مع احتمال توسيع عدم المساواة التي طال أمدها، وتهدئة النشاط المدني وتأجيج العنف في المنطقة.

المصادر الإضافية • أ ب