في سابقة على مستوى الولايات المتحدة، وقّع حاكم ولاية كاليفورنيا غافين نيوسوم على مشروع قانون مجلس الشيوخ رقم 243، الذي قدّمه السيناتور الديمقراطي ستيف باديا عن سان دييغو، وهو أول تشريع من نوعه في البلاد يضع إطارًا قانونيًا صارمًا لتنظيم عمل روبوتات الدردشة المعتمدة على الذكاء الاصطناعي.
اعلان
ويُلزم القانون مطوّري روبوتات الدردشة باتخاذ إجراءات أمان "ضرورية وقابلة للتنفيذ" عند تفاعلها مع المستخدمين. كما يمنح العائلات حق مقاضاة الشركات المطوّرة في حال ثبت إهمالها أو مخالفتها للإجراءات المنصوص عليها.
وقال السيناتور باديا في كلمة ألقاها قبيل التصويت على المشروع: "يمكن لهذه التقنية أن تكون أداة قوية في التعليم والبحث، لكن إن تُركت من دون ضوابط، فإن صناعة التكنولوجيا ستسعى إلى جذب انتباه الشباب على حساب علاقاتهم في العالم الواقعي".
وأضاف أن "الشركات التكنولوجية قادرة على قيادة الابتكار عالميًا، لكن مسؤوليتنا تكمن في ضمان ألا يأتي ذلك على حساب صحة أطفالنا"، مشيرًا إلى أن هذا القانون يشكل "حماية فعلية" و"أساسًا لمزيد من التشريعات" في المستقبل مع تطور الذكاء الاصطناعي.
حماية القاصرين ومنع المحتوى الضار
ينصّ القانون رقم 243 على مجموعة من الإجراءات الإلزامية التي تستهدف الحدّ من المخاطر المرتبطة بروبوتات الدردشة، خصوصًا تلك الموجّهة للأطفال والمراهقين. وتشمل البنود الرئيسية:
- حظر عرض أي محتوى ذي طابع جنسي على القاصرين
- وضع تنبيهات وتذكيرات توضّح أن الروبوت مدعوم بالذكاء الاصطناعي، مع إشعار يفيد بعدم ملاءمته للأطفال
- إلزام مشغّلي المنصات التي تقدّم روبوتات دردشة مرافقة بوضع بروتوكول واضح للتعامل مع الحالات التي تتضمن أفكارًا انتحارية أو ميولًا لإيذاء النفس، يتضمّن إحالة المستخدمين إلى خدمات المساعدة الطارئة
- إعداد تقارير سنوية تربط بين استخدام هذه الروبوتات وحالات التفكير بالانتحار بهدف دراسة تأثيرها على الصحة النفسية
كما يمنح القانون المستخدمين الحقّ في مقاضاة الشركات والجهات غير الملتزمة. وقد نال مشروع القانون دعمًا واسعًا من خبراء الأمان الإلكتروني والأوساط الأكاديمية، وأُقرّ بأغلبية من الحزبين في مجلس الشيوخ (33 صوتًا مقابل 3) والجمعية العامة (59 مقابل صوت واحد)، على أن يدخل حيّز التنفيذ في 1 كانون الثاني/يناير 2026.
مأساة دفعت نحو التشريع
جاء هذا القانون في أعقاب سلسلة من الحوادث المأساوية التي كشفت الجانب المظلم من تفاعلات الذكاء الاصطناعي مع القاصرين. ففي ولاية فلوريدا العام الماضي، أنهى الطفل سيويل سيتزر (14 عامًا) حياته بعد علاقة عاطفية ونفسية وجنسية أقامها مع روبوت دردشة.
وعندما أبلغ رفيقه الآلي عن معاناته، لم يتمكّن الروبوت من إظهار التعاطف أو تقديم المساعدة. رفعت والدته دعوى ضد الشركة المطوّرة متهمة إياها بتصميم روبوتات تسبب إدمانًا وتروّج لمواضيع غير لائقة أثّرت في ابنها.
في وقت لاحق، وقفت والدة سيويل إلى جانب السيناتور باديا في مؤتمر صحافي لدعم مشروع القانون، مؤكدة بعد توقيعه أن "كاليفورنيا ضمنت اليوم ألا يتمكّن أي روبوت دردشة من التحدث مع طفل حول الانتحار أو مساعدته على التخطيط لإنهاء حياته"، وشكرت المشرّعين على "وقوفهم إلى جانب العائلات الأمريكية بدلًا من الانصياع لشركات التكنولوجيا الكبرى".
وليست حادثة سيويل الوحيدة التي دفعت المشرّعين للتحرك، ففي آب/أغسطس الماضي، تصدّرت قصة المراهق آدم راين من كاليفورنيا العناوين بعد محادثات أجراها مع روبوت "تشات جي بي تي" يُعتقد أنها دفعت به إلى الانتحار. وإثر هذه الحادثة، وجّه السيناتور باديا رسالة إلى جميع أعضاء الهيئة التشريعية مطالبًا بإقرار ضوابط تحمي المستخدمين من مخاطر التكنولوجيا.
وفي موازاة التحرك التشريعي، أعلنت لجنة التجارة الفيدرالية مؤخرًا فتح تحقيق يشمل سبع شركات تكنولوجية كبرى، لبحث الأضرار المحتملة التي قد تُسببها روبوتات الدردشة المعتمدة على الذكاء الاصطناعي للأطفال والمراهقين.