إندونيسيا وماليزيا تحظران روبوت "غروك" لإيلون ماسك

0حجبت ماليزيا وإندونيسيا "غروك", روبوت المحادثة القائم على الذكاء الاصطناعي (AI) الذي طورته شركة "xAI" التابعة لإيلون ماسك، بعدما قالت السلطات إنه يُساء استخدامه لإنتاج صور ذات طابع جنسي صريح ومن دون موافقة أصحابها.

وتعدّ الدولتان أول من يحظر أداة الذكاء الاصطناعي التوليدي هذه، في ظل تنامي القلق عالمياً من قدرتها على إنتاج صور وأصوات ونصوص واقعية، بينما تفشل الضمانات الحالية في منع إساءة استخدامها.

ويُتَاح روبوت "غروك" عبر منصة التواصل الاجتماعي "إكس" المملوكة لماسك، وقد وُجهت إليه انتقادات لتوليده صوراً مُعدلة، بينها صور لنساء يرتدين البكيني أو في أوضاع ذات طابع جنسي صريح، فضلاً عن صور تشمل أطفالاً.

وقال المنظمون في البلدين الواقعين في جنوب شرق آسيا إن الضوابط القائمة لا تمنع إنشاء محتوى إباحي مزيف ونشره، خصوصاً ذاك الذي يستهدف النساء والقُصَّر. وقد حجبت الحكومة الإندونيسية الوصول إلى "غروك" مؤقتاً يوم السبت، لتلحق بها ماليزيا يوم الأحد.

"ترى الحكومة أن صور "ديب فيك" الجنسية من دون موافقة تُعد انتهاكاً جسيماً لحقوق الإنسان والكرامة وسلامة المواطنين في الفضاء الرقمي"، قالت وزيرة الاتصالات والشؤون الرقمية الإندونيسية ميوتيا حافيد في بيان السبت.

وأضافت الوزارة أن الخطوة تهدف إلى حماية النساء والأطفال والمجتمع الأوسع من المحتوى الإباحي المزيف المُنتَج باستخدام الذكاء الاصطناعي.

وقال المدير العام للإشراف على الفضاء الرقمي، ألكسندر سابار، في بيان منفصل إن النتائج الأولية أظهرت أن "غروك" يفتقر إلى تدابير حماية فعالة تمنع المستخدمين من إنشاء محتوى إباحي وتوزيعه استناداً إلى صور حقيقية لمقيمين إندونيسيين. وأضاف أن هذه الممارسات تهدد بانتهاك الخصوصية وحقوق الصورة عند التلاعب بالصور أو مشاركتها من دون موافقة، بما يسبب أضراراً نفسية واجتماعية وبالسمعة.

وفي كوالالمبور، أمرت المفوضية الماليزية للاتصالات والوسائط المتعددة بفرض تقييد مؤقت على "غروك" الأحد، بعد ما قالت إنه "إساءة استخدام متكررة" للأداة في توليد صور فاحشة وذات طابع جنسي صريح ومُعدلة من دون موافقة، بما في ذلك محتوى يطال النساء والقُصَّر.

وقالت الجهة المنظمة إن الإشعارات التي أُرسلت هذا الشهر إلى "X Corp." و"xAI" للمطالبة بضمانات أقوى قوبلت بردود اعتمدت أساساً على آليات الإبلاغ من جانب المستخدمين.

وأضافت: "يُفرض هذا التقييد كإجراء وقائي ومتناسب ريثما تستمر العمليات القانونية والتنظيمية", موضحة أن الوصول سيبقى محجوباً إلى حين وضع ضمانات فعالة.

وأُطلق "غروك" في 2023 ومتاح مجاناً على "إكس", حيث يمكن للمستخدمين طرح الأسئلة على الروبوت عبر المنصة ووَسْم منشوراتهم أو الردود على منشورات مستخدمين آخرين. وفي الصيف الماضي، أضافت الشركة ميزة لتوليد الصور باسم "Grok Imagine" شملت ما يُعرف بـ"spicy mode" الذي يتيح توليد محتوى للبالغين.

وتأتي قيود جنوب شرق آسيا وسط تدقيق متزايد في "غروك" في أماكن أخرى، بينها الاتحاد الأوروبي وبريطانيا والهند وفرنسا.

وفي الأسبوع الماضي، قصر "غروك" ميزات توليد الصور وتعديلها على المستخدمين المشتركين بمقابل، عقب ردود فعل عالمية غاضبة إزاء صور "ديب فيك" مُجنّسة لأشخاص، غير أن المنتقدين يقولون إنه لم يُعالج المشكلة بالكامل.