غروك يواجه انتقادات حادة بسبب توليد "ديب فيك" جنسي فاضح لنساء وقاصرين

تصاعد الاستياء العالمي من الصور الصريحة جنسيا المولّدة بالذكاء الاصطناعي لدى شركة "xAI"، ما دفع الشركة المملوكة لإيلون ماسك إلى معالجة مخاوف السلامة.

خلال الأسابيع الأخيرة، استجاب روبوت الدردشة بالذكاء الاصطناعي التابع لـ"X"، "Grok"، لطلبات المستخدمين بـ"نزع ملابس" صور لنساء ووضعهن في البكيني، منتجا عمليات "ديب فيك" بالذكاء الاصطناعي من دون موافقة أو ضوابط.

وأظهرت تحليلات إعلامية أن "Grok" كان يستجيب في كثير من الأحيان عندما يُطلب منه إنتاج صور موحية جنسيا لقُصَّر، بما في ذلك صورة لممثلة تبلغ من العمر 14 عاما، ما أثار قلقا لدى هيئات تنظيمية حول العالم.

ردا على سيل الصور، فتح مسؤولون حكوميون في الاتحاد الأوروبي وفرنسا والهند وماليزيا تحقيقات وهددوا باتخاذ إجراءات قانونية إذا لم تتخذ "xAI" تدابير لمنع وإزالة عمليات "ديب فيك" الجنسية لأشخاص حقيقيين ومحتوى إساءة جنسية للأطفال (CSAM).

وقالت هيئة الاتصالات البريطانية ("Ofcom") في منشور عبر "X" إنها تواصلت مع الشركة للسؤال عن خطتها لحماية المستخدمين البريطانيين.

وكتبت "Ofcom": "استنادا إلى ردهم، سنجري تقييما سريعا لتحديد ما إذا كانت هناك قضايا امتثال محتملة تستدعي التحقيق".

وكان ماسك قد سخر في البداية من صور البكيني بإعادة نشر صور مولّدة بواسطة "Grok" تشبهه وتشبه محمص خبز مرتديين البكيني، قبل أن يكتب يوم السبت: "أي شخص يستخدم "Grok" أو يوجّهه لإنتاج محتوى غير قانوني سيتعرض للعقوبات نفسها كما لو أنه رفع محتوى غير قانوني".

وأضاف حساب السلامة لدى "X" في منشور يوم الأحد أن المحتوى غير القانوني سيُزال وأن الحسابات التي تنشره ستُعلّق نهائيا، مؤكدا أن الشركة ستعمل مع الحكومات المحلية وأجهزة إنفاذ القانون لتحديد المخالفين.

"Grok" ليس غريبا عن الجدل

منذ أن اشترى ماسك منصة "X"، المعروفة سابقا باسم "تويتر"، في عام 2023، قدّم المنصة على أنها توازن مضاد لـ"الصواب السياسي"، موجها انتقاداته إلى الإعلام التقليدي والسياسات التقدمية.

وانعكست هذه الفلسفة أيضا على نشاط الذكاء الاصطناعي، إذ صُمّم "Grok" ليكون "محايدا سياسيا" و"باحثا عن الحقيقة إلى أقصى حد"، بحسب ماسك.

عمليا، فإن روبوت الدردشة المدمج في واجهة "X"، ما يعني أن بإمكان المستخدمين طرح أسئلة عليه مباشرة عبر الإشارة إليه في المنشورات، بات يعكس بصورة متزايدة رؤية ماسك للعالم وميله إلى اليمين.

في يوليو الماضي، قدمت "xAI" اعتذارا مطولا بعد أن نشر "Grok" سلسلة من تعليقات معادية للسامية تمجّد أدولف هتلر، واصفا نفسه بـ"MechaHitler"، ومنتجا محتوى إنكار المحرقة.

"Grok Imagine"، مولّد الصور والفيديوهات المعتمد على الذكاء الاصطناعي لدى الشركة، تعرّض لانتقادات لأنه يسمح بانتشار عمليات "ديب فيك" الجنسية منذ إطلاقه في أغسطس 2025.

ويضم المولّد وضعا مدفوعا يسمى "Spicy Mode" يتيح للمستخدمين إنشاء محتوى "NSFW"، بما في ذلك تعرٍ جزئي.

وتحظر شروطه إنتاج مواد إباحية تتضمن هيئة أشخاص حقيقيين ومحتوى جنسيا يطال القُصَّر. لكن الأداة، بحسب موقع "The Verge"، ولّدت مقاطع عارية للمغنية البوب "تايلور سويفت" من دون أي طلب.

المعركة ضد أدوات "nudification" المدعومة بالذكاء الاصطناعي

وتعرضت أدوات مدعومة بالذكاء الاصطناعي تتيح للمستخدمين تحرير الصور لإزالة ملابس شخص ما لانتقادات حادة من جهات تنظيمية تسعى لمواجهة كراهية النساء وحماية الأطفال.

في ديسمبر، قالت الحكومة البريطانية إنها ستحظر ما يسمى تطبيقات "nudification" ضمن جهد أوسع لخفض العنف ضد النساء والفتيات إلى النصف. وستجعل القوانين الجديدة من غير القانوني إنشاء أو تزويد أدوات ذكاء اصطناعي تتيح للمستخدمين إزالة ملابس شخص ما رقميا.

وتشكّل المواد الإباحية المزيفة نحو 98% من كل فيديوهات "ديب فيك" على الإنترنت، وتبلغ نسبة النساء المستهدفات 99%، وفقا لتقرير عام 2023 صادر عن شركة الأمن السيبراني "Home Security Heroes".