حذّر التقرير من تورط شركات التواصل الاجتماعي في هذه الأفعال، لأنها تسمح بـ"نشرها على نطاق واسع بسرعة وشفافية محدودة تعيق كثيراً اكتشافها وملاحقتها، كما تسهّل تكوين شبكات تنتج وتشارك وتدرّ أرباحاً من هذا المحتوى".
أعلنت الحكومة الإسبانية أنها ستطلب من النيابة العامة التحقيق مع شركات التواصل الاجتماعي إكس، وميتا، وتيك توك لتحديد ما إذا كانت قد ارتكبت جرائم جنائية من خلال السماح، بحسب المزاعم، لذكائها الاصطناعي بتوليد ونشر محتوى استغلال جنسي للأطفال.
اعلان
اعلان
وقال رئيس الوزراء الإسباني الاشتراكي، بيدرو سانشيز، إن الحكومة اتخذت هذا القرار لحماية "الصحة النفسية وكرامة وحقوق أبنائنا" ووضع حدّ لـ"الإفلات من العقاب" الذي تتمتع به منصات التواصل الاجتماعي الكبرى.
وأضافت الحكومة أن التحرك يستند إلى تقرير خبراء حلل "المسؤولية الجنائية المحتملة لممارسات متزايدة الانتشار في البيئة الرقمية، مثل توليد ونشر محتوى جنسي واستغلال جنسي للأطفال عبر الديب فيك وتلاعب الصور الحقيقية لإنشاء صور أخرى بمحتوى جنسي صريح، مما يقوض كرامة الضحايا".
وحذّر التقرير من تورط شركات التواصل الاجتماعي في هذه الأفعال، لأنها تسمح بـ"نشرها على نطاق واسع بسرعة وشفافية محدودة تعيق كثيراً اكتشافها وملاحقتها، كما تسهّل تكوين شبكات تنتج وتشارك وتدرّ أرباحاً من هذا المحتوى".
وجاء هذا القرار، الذي أقرّه مجلس الوزراء يوم الثلاثاء، في وقت تستعد فيه إدارة سانشيز لإطلاق سلسلة من الإجراءات تشمل حظر استخدام منصات التواصل الاجتماعي لمن هم دون 16 عاماً وتشريعاً لتحميل شركات التقنية المسؤولية عن المحتوى الضار أو الكاره.
وتأتي هذه الخطوة بعد أقل من شهر من بدء المفوضية الأوروبية تحقيقاً مع منصة إكس التابعة لإيلون ماسك حول إنتاج صور جنسية صريحة وانتشار محتمل لمحتوى استغلال جنسي للأطفال بواسطة روبوت المحادثة الخاص بالذكاء الاصطناعي، Grok.
وقالت لجنة حماية البيانات الإيرلندية (DPC)، المسؤولة عن مراقبة الشركات التقنية ذات المقر الأوروبي في دبلن، إن التحقيق "واسع النطاق" سيركز على وظائف الذكاء الاصطناعي التوليدي المرتبطة بنموذج Grok للغة الكبيرة.
وأوضح نائب مفوض اللجنة، غراهام دويل، أنهم تواصلوا مع منصة X بشأن القدرة المزعومة للمستخدمين على مطالبة حساب Grok بتوليد صور جنسية لأشخاص حقيقيين، بمن فيهم الأطفال. وقال دويل: "هدف هذا التحقيق هو تحديد ما إذا كانت إكس قد التزمت بالتزاماتها بموجب اللائحة العامة لحماية البيانات (GDPR) فيما يتعلق بالبيانات الشخصية لمعنيي البيانات في الاتحاد الأوروبي/المنطقة الاقتصادية الأوروبية".
وأكدت المتحدثة باسم الحكومة الإسبانية، إلما سايز، أن مدريد لن تسمح بأن تُستغل الخوارزميات في "تضخيم أو حماية العنف الرقمي الجنسي ضد الأطفال"، مضيفة: "ما هو على المحك هنا هو سلامة أبنائنا وحماية صورهم وخصوصيتهم وحريتهم". وأوضحت سايز أن مجلس الوزراء سيطلب رسمياً من النائب العام التحقيق، وإذا لزم الأمر، ملاحقة الشركات التي خالفت القانون.
من جانبها، قالت ميتا إنها لا تستطيع التعليق على التحقيق المقترح لعدم توفر معلومات مفصلة، لكنها أكدت موقفها الصارم ضد استغلال الأطفال جنسيًا والمحتوى الحميم غير الموافَق عليه، سواء كان حقيقياً أو مولداً بواسطة الذكاء الاصطناعي، وأنها تزيل كل هذه المواد عند اكتشافها.
ومطلع الشهر الحاري، أعلن رئيس الوزراء بيدرو سانتشيث أن إسبانيا ستفرض حظرا على استخدام الأطفال دون سن 16 عاما لمنصات وسائل التواصل الاجتماعي، وستُلزم هذه المنصات بتطبيق أنظمة للتحقق من العمر.
وقال: "لقد تحولت وسائل التواصل الاجتماعي إلى دولة فاشلة، تُتجاهَل فيها القوانين وتُتسامَح فيها الجرائم"، مضيفا: "سنحميهم من الغرب المتوحش في العالم الرقمي".
وأردف أن حكومته ستطرح أيضا الأسبوع المقبل مشروع قانون جديدا لمحاسبة المسؤولين التنفيذيين عن منصات التواصل الاجتماعي على المحتوى غير القانوني والمحرض على الكراهية.
ويأتي هذا الإعلان بعد قرار أستراليا في ديسمبر فرض أول حظر من نوعه في العالم على استخدام الأطفال دون سن 16 عاما لوسائل التواصل الاجتماعي. وتدرس دول أوروبية أخرى اتخاذ خطوات مماثلة، من بينها المملكة المتحدة وفرنسا.