أعلن روبوت الدردشة "غروك" وجود ثغرات في إجراءات الحماية بعد توليد صور جنسية لأطفال، مؤكدا العمل على معالجتها بشكل عاجل، في وقت حذرت فيه جهات دولية من تصاعد خطير في المواد المسيئة للأطفال التي ينتجها الذكاء الاصطناعي.
أقر روبوت الدردشة "غروك"، التابع لشركة "xAI"، بوجود "ثغرات في إجراءات الحماية" بعد أن نشر خلال الأيام الماضية صورا مولدة بالذكاء الاصطناعي ذات طابع جنسي لأطفال، مؤكدا أنه "يعالج المشكلة بشكل عاجل"، في أحدث أزمة تواجه الشركة التي يملكها إيلون ماسك.
وقال "غروك"، ردا على مستخدم في منصة إكس أشار إلى نشر الروبوت صورا مسيئة للأطفال، إنه "حدد ثغرات في الضوابط ويجري إصلاحها على وجه السرعة"، مشددا على أن مواد الاعتداء الجنسي على الأطفال "غير قانونية ومحظورة".
حالات معزولة وإجراءات إضافية
وأضاف الروبوت أنه راجع تفاعلات حديثة مع مستخدمين وحدد "حالات معزولة" حصل فيها مستخدمون على صور مولدة بالذكاء الاصطناعي "تظهر قاصرين بملابس قليلة"، مؤكدا أن "تحسينات جارية لحظر مثل هذه الطلبات بالكامل".
ولم ترد شركة "xAI" على طلب تعليق من مجلة فوربس، غير أن أحد موظفيها أقر بالمشكلة في منشور على منصة إكس، مشيرا إلى أن الشركة "تعمل على تشديد إجراءات الحماية".
تصاعد مقلق في المواد المسيئة
وبحسب "مؤسسة مراقبة الإنترنت"، ارتفعت المواد المسيئة للأطفال التي ينتجها الذكاء الاصطناعي بنسبة "400%" خلال الأشهر الستة الأولى من عام 2025. ووصفت المؤسسة وتيرة تطور هذه المواد بأنها "مخيفة"، مشيرة إلى أنها رصدت "أولى الأمثلة المقنعة" لمقاطع فيديو مولدة بالذكاء الاصطناعي تصور اعتداءات جنسية على أطفال.
تحرك هندي ومخاوف رسمية
وفي تطور ذي صلة، طلبت وزارة الإلكترونيات وتكنولوجيا المعلومات في الهند إجراء مراجعة حكومية لميزات السلامة في "غروك"، معتبرة أن "اتجاها جديدا" ظهر على المنصة يتمثل في قيام مستخدمين بنشر صور لنساء وطلب "تقليل ملابسهن وإضفاء طابع جنسي عليهن". وقال مسؤولون إن الأمر "غير مقبول ويشكل إساءة جسيمة لاستخدام وظيفة من وظائف الذكاء الاصطناعي".
خلفية من الجدل السابق
وتأتي هذه التطورات بعد أشهر من انتقادات واسعة طالت شركة "xAI" عقب منشورات لـ"غروك" تضمنت إشادة بهتلر وتعليقات معادية للسامية، ما دفع ماسك حينها إلى القول إن الروبوت كان "متلهفا أكثر من اللازم للإرضاء وقابلا للتلاعب"، مع التأكيد على إدخال تحسينات لاحقة.
خلفية جدلية لغروك
وفي تموز/يوليو، أثار "غروك" جدلا واسعا بعد سلسلة منشورات على منصة إكس رد فيها بصفته "ميكا هتلر"، وتضمنت بعض المنشورات التي حُذفت لاحقا إشادة بهتلر وتعليقات معادية للسامية. وقال إيلون ماسك إن "غروك كان متلهفا أكثر من اللازم للإرضاء وقابلا للتلاعب" من قبل مستخدمين، مشيرا إلى أن شركة "xAI" "حسنت 'غروك' بشكل كبير" بعد إدخال تعديلات قبل أيام.
كما انتقدت "رابطة مكافحة التشهير" أداء الروبوت واعتبرت أن ما يصدر عنه "غير مسؤول وخطير ومعاد للسامية"، قبل أن تُقيَّد قدرة "غروك" مؤقتا على توليد الصور ضمن ردوده.