أظهرت دراسة حديثة أجراها مركز مكافحة الكراهية الرقمية أن أداة "غروك" قامت، خلال أيام قليلة، بتوليد ملايين الصور ذات الطابع الجنسي التي تستهدف نساءً وأطفالًا.
أعلن الاتحاد الأوروبي فتح تحقيق رسمي ضد منصة "إكس"، المملوكة لإيلون ماسك، على خلفية مزاعم أن روبوت الدردشة الذكي "غروك/Grok"، الذي طورته شركة xAI، قام بتوليد صور جنسية مفبركة للنساء والأطفال.
ويأتي التحقيق بعد ظهور اتجاه متداول على وسائل التواصل الاجتماعي، حيث استخدم بعض المستخدمين "غروك" لتعديل أو توليد صور فاضحة لأشخاص دون موافقتهم.
وقد أثارت التقارير غضبا واسعا بعدما تبين أن المستخدمين يستطيعون تحويل صور النساء والأطفال إلى محتوى جنسي باستخدام أوامر نصية بسيطة.
"سلوك لا يمكن تصوره"
وصفت رئيسة المفوضية الأوروبية أورسولا فون دير لاين هذه الممارسات بأنها "سلوك لا يمكن تصوره".
وقالت لوكالة فرانس برس: "في أوروبا، لن نتسامح مع أفعال مثل التعري الرقمي للنساء والأطفال..لا يمكننا تسليم حقوق الموافقة وحماية الأطفال لشركات التقنية لتستغلها وتحوّلها إلى أرباح."
من جانبها، أكدت مفوضة الاتحاد الأوروبي لشؤون التكنولوجيا هينا فيركونن أن التحقيق سيركز على تحديد ما إذا كانت منصة "إكس" قد التزمت بالكامل بمتطلبات قانون الخدمات الرقمية للاتحاد الأوروبي (DSA)، الذي ينظم عمل المنصات الكبرى على الإنترنت.
وأكد الاتحاد الأوروبي أنه يدرس ما إذا كانت الشركة قد اتخذت الإجراءات الكافية للتخفيف من "المخاطر المرتبطة بنشر المحتوى غير القانوني في الاتحاد الأوروبي، مثل الصور الجنسية المفبركة، بما في ذلك المحتوى الذي قد يشكل استغلالًا جنسيًا للأطفال."
ويذكر أن شركة "إكس"، المعروفة سابقًا باسم تويتر، تخضع لتحقيق أوروبي منذ ديسمبر 2023 بسبب مزاعم انتهاك قواعد المحتوى الرقمي في الاتحاد الأوروبي.
وفي ديسمبر، فرضت بروكسل غرامة على الشركة بقيمة 120 مليون يورو بسبب خرق التزامات الشفافية، بما في ذلك ما وصفه المنظمون بـ"تصميم مضلل" لنظام التحقق بالشارة الزرقاء، وعدم توفير بيانات عامة للباحثين.
قيود جزئية لم توقف التحقيق
في مواجهة الضغوط، أعلن "غروك" في وقت سابق من هذا الشهر عن تقييد إمكانيات توليد وتحرير الصور لتصبح متاحة للمشتركين المدفوعين فقط. إلا أن هذا الإجراء لم يوقف التحقيق الأوروبي، الذي يأتي بعد تحقيقات سابقة في فرنسا والمملكة المتحدة.
وأكد المتحدث باسم المفوضية الأوروبية توماس رينيجير: "المواد المتعلقة باستغلال الأطفال الجنسي ليست امتيازًا يمكن دفع المال للحصول عليه."
وأظهرت دراسة حديثة أجراها مركز مكافحة الكراهية الرقمية، وهي منظمة رقابية غير ربحية، أن "غروك" أنتج حوالي ثلاثة ملايين صورة جنسية للنساء والأطفال خلال أيام قليلة.
وأعلن الاتحاد الأوروبي أن التحقيق الموسع سيشمل تقييم مدى استخدام "غروك" في تشغيل نظام التوصيات داخل "إكس" بعد أن أثارت هذه الخطوة مخاوف من أن الشركة لم تقم بتقييم المخاطر بشكل كافٍ قبل دمج الأداة في خدماتها الأساسية.
ورغم الضغوط الأمريكية، أكد مسؤولو الاتحاد الأوروبي أنهم سيواصلون تطبيق قوانينهم بشكل "حازم، عادل وموضوعي" دون استهداف أي شركة بناءً على منشأها أو جنسيتها.
ويأتي النزاع حول تنظيم شركات التكنولوجيا في وقت لا تزال فيه الخلافات قائمة بين الاتحاد الأوروبي وإدارة ترامب حول عدة ملفات، أبرزها الحرب في أوكرانيا، الاتفاقيات التجارية، وقضايا مثل غرينلاند.