تثير هذه القضية مزيدًا من المخاوف بشأن سلامة الأطفال فيما يتعلق بالذكاء الاصطناعي، بينما تواجه شركات التكنولوجيا المزيد من الدعاوى القضائية بسبب تقنياتها.
رفع والدا فتاة تبلغ من العمر 13 عاماً دعوى قضائية ضد غوغل، زاعمين أن ابنتهما استخدمت تقنية الذكاء الاصطناعي التابعة للشركة على حاسوب وفرته المدرسة لوضع خطة محتملة للانتحار وترتيب جنازتها.
اعلان
اعلان
وقد أقيمت الدعوى يوم الاثنين، 2 نوفمبر/تشرين الثاني، أمام محكمة في ولاية كاليفورنيا الأميركية، ويُعتقد أنها الأولى التي تتهم غوغل بالإهمال بسبب خصائص البحث المدعومة بالذكاء الاصطناعي التي جرى الوصول إليها عبر جهاز "Chromebook" وفرته المدرسة، وهو أحد الحواسيب المحمولة منخفضة الكلفة التابعة للشركة والمستخدمة على نطاق واسع في المدارس.
وكانت الفتاة التي أُشير إليها باسم إيما غير قادرة على الوصول إلى تطبيق غوغل Gemini أو خدمة ChatGPT التابعة لـOpenAI، إذ كانت المدرسة قد حظرت كليهما. غير أنها تمكنت مع ذلك من استخدام محرك بحث غوغل، الذي يضم خصائص مدعومة بالذكاء الاصطناعي.
وبحسب الشكوى، فإنه رغم عدم وجود "أي تاريخ" من المرض النفسي لدى إيما، بدأت خلال أشهر من استخدام محرك البحث "انحداراً هادئاً نحو أزمة نفسية حادة".
وفي 17 مارس/آذار، نبهت المدرسة والديها بعد أن رصد برنامج المراقبة فيها مستنداً يحمل عنوان "جنازة". ولاحقاً، عثرت والدتها عليها وهي تكتب رسالة وداع، ما دفع والدها إلى التدخل.
وقال أندرو ليدل، أحد محامي العائلة، لوكالة فرانس برس، الخميس 5 نوفمبر/تشرين الثاني: "ينبغي على المدارس تعطيل البحث والإبقاء عليه معطلاً إلى أن تزيل غوغل وضع الذكاء الاصطناعي من البحث أو تضمن أن يكون كل طالب على الدوام في أمان تام عندما يتفاعل مع الذكاء الاصطناعي".
تزايد التدقيق القانوني في شركات التكنولوجيا الكبرى
وتقول غوغل إن وضع الذكاء الاصطناعي لديها يتضمن ضمانات تمنع إيذاء النفس ومحاولات التحايل على هذه الضمانات.
وقال المتحدث باسم غوغل خوسيه كاستانييدا لوكالة فرانس برس: "نراجع الادعاءات الواردة في الدعوى ونتعامل معها بجدية بالغة".
وتواجه شركة OpenAI عدة دعاوى قضائية تتعلق بحالات وفاة غير مشروعة، من بينها دعوى رفعها والدا الشاب آدم راين البالغ من العمر 16 عاماً، والذي توفي منتحراً بعد أن تلقى على ما يُزعم نصائح ضارة من ChatGPT.
وفي يناير/كانون الثاني، وافقت غوغل وشركة Character.AI أيضاً على تسوية عدة دعاوى رفعتها عائلات مراهقين، خارج أروقة المحاكم.
وفي غضون ذلك، وفي معركة قانونية منفصلة، قدمت غوغل وتيك توك ومِتا دعاوى قضائية ضد كاليفورنيا يوم الأربعاء، سعياً لعرقلة قانون يحظر الميزات الإدمانية في منصات التواصل الاجتماعي للمستخدمين دون سن 16 عاماً.
ووقّع حاكم كاليفورنيا غافين نيوسوم على هذا القانون في سبتمبر/أيلول، ومن المقرر أن يدخل حيز التنفيذ في 1 يناير/كانون الثاني 2027.