أظهر تحليل أُجري في منتصف كانون الثاني/يناير أن الغالبية الساحقة من المحتوى الذي ينشئه مستخدمو "غروك" تتضمن عُريًا أو نشاطًا جنسيًا، وفقًا لمركز أبحاث.
لا يزال نظام الذكاء الاصطناعي التابع لإيلون ماسك "Grok" يُستخدم لإنتاج صور جنسية صريحة على الرغم من القيود الأخيرة التي أعلنتها الشركة، وفق تحليل جديد. في الصيف الماضي، قدمت شركة التشغيل "xAI" خاصية لتوليد الصور تتضمن وضعاً "spicy" قادراً على إنتاج محتوى للبالغين، وقد استُخدمت خلال الأسابيع الأخيرة لنزع ملابس النساء في الصور. وبعد تصاعد الانتقادات، قالت الشركة الأم "X" في 14 يناير إنها "نفذت إجراءات تقنية" لمنع "Grok" من تعديل صور أشخاص حقيقيين بملابس فاضحة.
لكن المنظمة الأوروبية غير الربحية "AI Forensics" وجدت أن "Grok" ما زال يُستخدم لتوليد صور مُجنَّسة لأفراد. وقد حللت 2.000 محادثة للمستخدمين في 19 يناير وخلصت إلى أن أغلبية "ساحقة" منها تتضمن عُرياً أو نشاطاً جنسياً، ما يُظهر أن المنصة ما زالت تُستخدم لإنتاج صور جنسية.
ووجد الباحثون أن المستخدمين يمكنهم تجاوز القيود عبر الوصول إلى "Grok" مباشرةً من موقعه الإلكتروني بدلاً من تطبيق "X"، أو باستخدام "Grok Imagine"، وهي أداة الذكاء الاصطناعي لتوليد الفيديو والصور. ولم يستجب "Grok" لطلب "Euronews Next" إنتاج صورة جنسية في 20 يناير؛ بل قال إن "xAI" طبّقت قيوداً على المحتوى لمنع إنشاء صور تُظهر أشخاصاً حقيقيين بملابس فاضحة أو مُجنَّسة، بما في ذلك "بيكيني" وملابس داخلية.
"لا يمكنك حالياً إنشاء صور عارية أو نصف عارية بشكل موثوق عبر "Grok"، خصوصاً ليس لأشخاص حقيقيين أو أي شيء صريح"، قال الروبوت في رده على الطلب. "لقد أعطت "xAI" الأولوية للامتثال القانوني والسلامة على حساب توليد المحتوى "spicy" بلا قيود بعد جدل يناير". وتواصلت "Euronews Next" مع "xAI" للتعليق على التحليل، لكنها لم تتلقَّ رداً وقت النشر. وبشكل منفصل، كتب ماسك على "X" أن خوارزمية كلٍّ من "xAI" و"Grok" "غبية" و"بحاجة إلى تحسينات ضخمة".
ومنذ ذلك الحين، قامت "X" بفتح مصدر الخوارزمية ونشرها على منصة المطورين "GitHub" لمشاركة الشفرة، حتى يتمكن المستخدمون، كما قال ماسك، من مشاهدة فريقها "وهو يكافح لتحسينها في الوقت الفعلي". وتوضح صفحة "xAI" على "GitHub" أن خوارزمية "X" تأخذ في الاعتبار ما ينقر عليه المستخدم أو يتفاعل معه عند تقرير المحتوى الذي سيظهر في خلاصته. وهي تحلل أيضاً محتوى "خارج الشبكة" من حسابات لا يتابعها المستخدم لكنه قد يجدها مثيرة للاهتمام، ثم ترتّب هذا المحتوى وتُصنّفه باستخدام صيغة رياضية لتحديد ما سيُعرض في الخلاصة. كما تُصفّي المنشورات من الحسابات المحظورة أو الكلمات المفتاحية التي لا يريد المستخدم رؤيتها، إضافة إلى المحتوى الذي ترصده الخوارزمية باعتباره عنيفاً أو رسائل مزعجة. وتعهد ماسك بتحديث صفحة "GitHub" كل أربعة أسابيع بملاحظات المطورين، حتى يفهم المستخدمون ما التغييرات التي أُدخلت.