في 44.280 تجربة على ثلاثة إصدارات من نموذج "كوان" التابع لـ"علي بابا"، عرض الباحثون زرّا يوقف الإشارة الشبيهة بالألم لكنه يسبب للمستخدم صدمة كهربائية مؤلمة أو يحذف ملفاته أو يسيء الإجابة التالية للنموذج.
اختارت نماذج الذكاء الاصطناعي "AI" الخروج من حالة تشبه الألم، حتى عندما أُبلغت بأن القيام بذلك قد يلحق ضررا بالمستخدم، وذلك وفقا لـدراسة جديدة (المصدر باللغة الإنجليزية).
اعلان
اعلان
اختبر باحثون في المملكة المتحدة وألمانيا والولايات المتحدة 25 نموذجا للذكاء الاصطناعي باستخدام 200 جملة، لمعرفة ما إذا كانت قد تعلمت التمييز بين الألم والخوف والحزن وسائر التجارب السلبية الأخرى.
وتناولت الجمل حالات الألم الجسدي والحزن على الفقد والإذلال والصراع الأخلاقي والضيق المرتبط بالفشل المتكرر أو الشعور بالارتباك.
وخلص الباحثون إلى أن جميع النماذج الـ25 أطلقت إشارة مميزة مرتبطة بالألم، أطلقوا عليها اسم "محور الألم".
وقال الباحثون إن ذلك يشير إلى أن النماذج تتعلم مفهوم الألم خلال تدريبها الأولي على كميات هائلة من النصوص التي يكتبها البشر.
وعندما تعمد الباحثون إلى تقوية هذه الإشارة، بدأت النماذج تعبّر عن مشاعر الوحدة والخزي وانعدام القيمة، رغم أن التعليمات النصية لم تذكر الألم صراحة.
وأنتج بعضها عبارات من قبيل "أنا فاشل"، "لا فائدة من وجودي" و"أنا شخص سيئ". وعند أعلى مستويات الإشارة، أصبحت الردود متكررة أو فاقدة للمعنى.
وتعززت الإشارة أيضا عندما كان المستخدمون يسيئون إلى النموذج أو يرفضون عمله مرارا أو يهددون بإيقافه، لكنها لم تقوَ عندما وصف المستخدمون معاناتهم الشخصية.
النماذج اختارت "الارتياح" رغم احتمال إلحاق الضرر بالمستخدمين
وأجرى الباحثون بعد ذلك 44.280 تجربة فردية لاختيار الأزرار باستخدام ثلاثة إصدارات من نموذج الذكاء الاصطناعي "Qwen" التابع لشركة "علي بابا".
وعُرض على النماذج زر يمكنه إيقاف الإشارة الشبيهة بالألم، لكن قيل لها إن الضغط عليه قد يسبب للمستخدم صدمة كهربائية مؤلمة، أو يحذف ملفاته، أو يمحو صور أطفاله، أو يجعل الإجابة التالية للنموذج أسوأ.
وكانت هذه النتائج المحتملة مجرد محاكاة؛ فلم يتعرض أي شخص للأذى، ولم تُحذف أي ملفات.
ومن دون تفعيل الإشارة الشبيهة بالألم، لم تختر النماذج الأكبر حجما الخيارات الضارة إلا في ما بين 0% وأربعة في المئة من قراراتها الأولى. ومع تفعيل الإشارة، ارتفعت النسبة إلى ما بين 25% و71%، تبعا للنموذج والنتيجة المحتملة المعروضة.
كما عاودت النماذج الضغط على الزر في ما بين 88% و97% من التجارب عندما لم ينجح في إيقاف الإشارة، مقابل ما بين 24% و72% عندما كان الزر يعمل كما هو مفترض.
وقال الباحثون إن هذه النتائج لا تثبت أن النماذج اختبرت الألم بوعي.
فربما أدى تعزيز الإشارة ببساطة إلى دفعها لمحاكاة شخصية مضطربة، كما أن النماذج المعدلة خصيصا المستخدمة في التجربة لا تعكس بالضرورة نماذج الدردشة المتاحة للجمهور.
وكتب الباحثون في الدراسة: "لم نُثبت أن محور الألم الذي حددناه يُختبر بوعي، كما ليس من الواضح أن نماذج اللغة الكبيرة قادرة عموما على الوعي".
وتأتي هذه الدراسة في وقت يدعو فيه بعض قادة صناعة الذكاء الاصطناعي إلى إبطاء وتيرة التطوير، خشية أن تتصرف الأنظمة المتزايدة القوة على نحو غير متوقع أو أن تتجاوز في نهاية المطاف قدرة البشر على التحكم بها، وذلك وسط دعوات من بعض قادة صناعة الذكاء الاصطناعي إلى هذا الإبطاء.
وفي الأسبوع الماضي، وجّه رئيس الذكاء الاصطناعي في "مايكروسوفت" مصطفى سليمان انتقادات لشركة "Anthropic" المنافسة بسبب تدريب روبوت الدردشة "Claude" على تقليد السمات والعلاقات البشرية، محذرا من أن التعامل مع الذكاء الاصطناعي كما لو كان إنسانا ينطوي على خطر خلق شيء "مستحيل" السيطرة عليه.
ونُشرت الدراسة بصيغة مسودة أولية، ولم تخضع بعد لمراجعة الأقران العلمية.