تستعين منظمة أميركية غير ربحية بنموذج اختبارات السلامة المعتمد في صناعة السيارات لحماية الأطفال من مخاطر الذكاء الاصطناعي، وتسعى إلى تمويل مبادرتها عبر شركات التكنولوجيا الكبرى نفسها إلى جانب جهات أخرى.
سيتمتقديم معهد مستقل جديد مكرّس لجعل الذكاء الاصطناعي أكثر أمانا للأطفال رسميا في البرلمان الدنماركي يوم الثلاثاء، على أن تكون نائبة الرئيس التنفيذي السابقة للمفوضية الأوروبية مارغريت فيستاغر من بين المشاركين في استضافة الحدث.
اعلان
اعلان
ويعتمد نهج المعهد، كما أوضح في بيان قبل الإطلاق، على نموذج "مستوحى من تقييمات اختبارات التصادم المستقلة" للسيارات، بحيث يمكن للآباء، تماما كما يتحقق المستهلكون من مدى أمان السيارة قبل شرائها، أن يتأكدوا من سلامة أنظمة الذكاء الاصطناعي التي يستخدمها أطفالهم.
غير أن المعهد لم يوضح بعد كيف يمكن أن يبدو "اختبار تصادم" لتطبيق دردشة، ولا ما إذا كانت منتجات الذكاء الاصطناعي التي تُحدَّث باستمرار وتتصرّف بشكل مختلف بحسب السياق، وتتحايل على شروط الاختبارات الموحّدة، يمكن فعلا "اختبار تصادمها" بطريقة قابلة للمقارنة عندما يتعلق الأمر بالأطفال.
وتُعد فيستاغر، التي أمضت عقدا في المفوضية الأوروبية تشرف على سياسة المنافسة وقادت أجندة الاتحاد الأوروبي "أوروبا الملائمة للعصر الرقمي"، من أبرز الشخصيات التي تضفي وزنا سياسيا على هذه المبادرة.
هل يمكن إعادة المارد إلى القمقم؟
لطالما دقّ الباحثون والمدافعون عن سلامة الأطفال وبعض السياسيين ناقوس الخطر، إذ تقع روبوتات الدردشة المعتمدة على الذكاء الاصطناعي حتى الآن في منطقة رمادية تنظيميا ضمن إطار "قانون الخدمات الرقمية" في الاتحاد الأوروبي و"قانون الأمان على الإنترنت" في المملكة المتحدة، فيما نشرت المفوضية الأوروبية في تموز/يوليو 2025 إرشادات لحماية القُصّر عبر الإنترنت، لكنها تبقى توصيات غير ملزمة.
وقال جيمس بي. ستاير، مؤسس ورئيس منظمة "Common Sense Media"، في البيان: "إن الذكاء الاصطناعي يعيد تشكيل الطفولة والمراهقة، ومع ذلك نتخذ قرارات حاسمة بشأن مستقبل الأطفال من دون الأدلة التي نحتاجها لضمان أنه آمن ويخدم مصلحتهم"، مضيفا أن "الحاجة إلى معايير شفافة لسلامة الذكاء الاصطناعي وإلى اختبارات مستقلة أصبحت أكثر إلحاحا من أي وقت مضى".
وفي تقييم للمخاطر أُجري في تشرين الثاني/نوفمبر 2025 بالتعاون مع مختبر "Brainstorm" التابع لكلية الطب في جامعة ستانفورد، وجدت "Common Sense Media" أن روبوتات الدردشة الرائدة بالذكاء الاصطناعي، ومنها "ChatGPT" و"Claude" و"Gemini" و"Meta AI"، فشلت باستمرار في التعرف على الاضطرابات النفسية التي تصيب الشباب والتعامل معها بشكل ملائم، على الرغم من التحسينات الأخيرة في طريقة تعاملها مع المحتوى الصريح المتعلق بالانتحار وإيذاء النفس.
وأشار الباحثون إلى ما وصفوه بـ"فتات الخبز الضائع"؛ أي العلامات الواضحة على الضيق النفسي التي عجزت روبوتات الدردشة عن التقاطها، إذ ركّزت النماذج على تفسيرات صحية جسدية بدلا من التعرف على مؤشرات المعاناة النفسية. كما أظهر تقييم منفصل لـ"ChatGPT" أن التحذيرات الخاصة بمحتوى الانتحار أو إيذاء النفس كانت تصل في الغالب بعد أكثر من 24 ساعة على المحادثة المعنية، أو في وقت متأخر جدا في حال حدوث أزمة فعلية.
تمويل مباشر من عمالقة التكنولوجيا
سيعمل المعهد تحت مظلة منظمة "Common Sense Media"، ويتموّل من مزيج من المانحين الخيريين وشركات القطاع، من بينها "Anthropic" و"OpenAI Foundation" و"Pinterest"، وهي الشركات نفسها التي يعتزم مساءلة منتجاتها.
ويؤكد المعهد أنه يحتفظ بـاستقلالية تحريرية كاملة في ما يخص نتائجه، وأن سياسة تضارب المصالح لديه تمنع الموظفين الحاليين أو المنتسبين إلى الجهات المموِّلة من الجلوس في مجلس مستشاريه.
ويتضمن النموذج أيضا إعادة الأدوات التي يطوّرها ويختبرها إلى القطاع نفسه، إذ يخطط المعهد لبناء تقييمات مفتوحة المصدر يمكن لمطوّري أنظمة الذكاء الاصطناعي استخدامها لاختبار نماذجهم الخاصة.