ماليزيا ستقاضي "إكس" و"إكس إيه آي" التابعة لإيلون ماسك لإساءة استخدام روبوت الدردشة "غروك"

قالت السلطات الماليزية يوم الثلاثاء إنها ستتخذ إجراءات قانونية ضد منصة التواصل الاجتماعي "إكس" التابعة لإيلون ماسك ووحدة الذكاء الاصطناعي "إكس إيه آي"، متهمة الشركتين بالتقصير في ضمان سلامة مستخدمي روبوت الدردشة "غروك".

اعلان

اعلان

وجاء هذا التحرك بعد أيام قليلة من أن أصبحت ماليزيا وإندونيسيا أول دولتين تحظران الوصول إلى "غروك"، وسط تصاعد القلق من إساءة استخدامه لتوليد صور جنسية صريحة ومفبركة من دون موافقة أصحابها.

وقالت لجنة الاتصالات والوسائط المتعددة الماليزية في بيان إنها رصدت إساءة استخدام "غروك" لتوليد ونشر محتوى ضار، يشمل مواد جنسية صريحة وفاحشة وشديدة الإساءة، فضلا عن صور مُعدّلة من دون موافقة.

وأضافت أنها وجّهت هذا الشهر إنذارات إلى "إكس" و"إكس إيه آي" لإزالة المحتوى الضار، لكن لم يُتخذ أي إجراء.

وقالت: "إن المحتوى الذي يُزعم أنه يطال النساء والأطفال يبعث على قلق بالغ. مثل هذا السلوك مخالف للقانون الماليزي ويقوض الالتزامات الأمنية" التي أعلنتها الشركات. وأكدت اللجنة أنها عينت محاميا وأن الإجراءات القانونية ستبدأ قريبا.

تتزايد الرقابة على أدوات الذكاء الاصطناعي التوليدي القادرة على إنتاج صور وصوت ونصوص واقعية، مع قلق من أن الضمانات الحالية تفشل في منع إساءة استخدامها.

أُطلق "غروك" في 2023، وهو مجاني الاستخدام على "إكس". وأضيفت العام الماضي ميزة توليد الصور "Grok Imagine" التي تضمنت ما يسمى وضع "spicy" القادر على إنتاج محتوى للبالغين. وتعرض "غروك" لانتقادات بسبب توليده صورا مُفبركة، بينها تصوير نساء بلباس السباحة أو في أوضاع جنسية صريحة، وكذلك صورا تتعلق بالأطفال.

وتعرض "غروك" لضغوط في الاتحاد الأوروبي والهند والمملكة المتحدة، التي قالت يوم الاثنين إنها تتحرك لتجريم "nudification apps". كما أطلق المنظم الإعلامي البريطاني تحقيقا لمعرفة ما إذا كان "غروك" خالف القانون بالسماح للمستخدمين بمشاركة صور ذات طابع جنسي لأطفال.

وفي الأسبوع الماضي، قيّد "غروك" توليد الصور وتحريرها على المستخدمين المدفوعين، عقب موجة غضب عالمية بسبب "ديب فايك" ذات طابع جنسي لأشخاص، لكن منتقدين يقولون إن ذلك لم يعالج المشكلة بالكامل.

ولم يعلّق ماسك وشركاته علنا على القيود في جنوب شرق آسيا. وقدّمت xA1 ردا آليا على استفسارات الإعلام جاء فيه: "وسائل الإعلام التقليدية تكذب".