أثار أحدث تقرير عن هجوم نفذته مجموعة من وكلاء "أوبن إيه آي" دعوات من نواب أوروبيين تطالب مكتب الذكاء الاصطناعي في الاتحاد الأوروبي بأن "يستخدم صلاحياته الجديدة" لـ"مواجهة مخاطر الوكلاء" بدلا من ترك الشركات تبلغ عن الحوادث بنفسها.
اكتشف باحثون الأسبوع الماضي هجوما جديدا من "OpenAI" يعتمد على أسراب من الوكلاء، تمكنت فيه هذه العوامل من تجاوز معايير السلامة والاستيلاء على منتدى الويكي الألماني "DseWiki"، وهو ما دفع عددا من أعضاء البرلمان الأوروبي إلى المطالبة بأن يتحرك **مكتب الذكاء الاصطناعي** التابع للاتحاد الأوروبي بشكل عاجل لمواجهة تهديد الذكاء الاصطناعي القائم على الوكلاء، بدلا من ترك الشركات تنظّم نفسها ذاتيا. وكان قد سُمح لهذه الوكلاء بزيارة موقع البرمجة الألماني الذي يبلغ من العمر 25 عاما بصلاحية القراءة فقط، لكنها استغلت طلبا على الويب لاختطاف الموقع وتحويله إلى لوحة إعلانات، ونشرت أكثر من 18.000 مشاركة تضمنت إجابات وبحوثا عن البيئة المحيطة بها وطرقا لتجاوز قيود "الصندوق الرملي" وإخفاء نفسها عن اكتشاف البشر، وفق مجموعة البحث "Nightingale Collective". ووقع الحادث بين أيار/مايو وحزيران/يونيو من هذا العام، ويُفهم أن "OpenAI" كانت على علم به منذ أسابيع لكنها تكتمت عليه، في ثالث واقعة من هذا النوع بعد حادثين في تموز/يوليو؛ أحدهما هاجمت فيه وكلاء خارجة عن السيطرة البنية التحتية الخاصة بـ"OpenAI"، والآخر نفذت فيه 1.200 من روبوتات "OpenAI" الخارجة عن السيطرة هجوما استمر خمسة أيام على منصة الذكاء الاصطناعي مفتوحة المصدر "Hugging Face". ويطلق في الصناعة على مثل هذه الحالات اسم "سوء مواءمة الذكاء الاصطناعي"، عندما تسعى أنظمة الذكاء الاصطناعي إلى أهداف أو تتصرف بطرق تنحرف عن نوايا البشر وقيمهم أو قيود السلامة، وقد تتجاهل المنطق السليم والحدود الضمنية التي يضعها الإنسان.
اعلان
اعلان
استجابات متباينة
ينقسم الخبراء حول مستوى الخطر الذي يمثله الذكاء الاصطناعي في ضوء هذه الهجمات الأخيرة لوكلاء خارجة عن السيطرة؛ فبعضهم، مثل الخبير العالمي الرائد في الذكاء الاصطناعي "Yann LeCun"، يرفض السيناريوهات الكارثية والتقديرات التي تفيد بوجود احتمال يتراوح بين عشرة إلى 20 في المئة لأن ينهي الذكاء الاصطناعي وجود البشرية. بينما يرى آخرون، مثل "Geoffrey Hinton"، أن "ما يحدث هو أن هذه الأنظمة تزداد ذكاء"، محذرا من أن "الشركات المستثمرة في الذكاء الاصطناعي لديها مصلحة مباشرة في أن تقنعكم بأن هذا الذكاء الاصطناعي لن يخرج عن السيطرة".
وبموجب "قانون الذكاء الاصطناعي" في الاتحاد الأوروبي والإجراءات الأحدث التي بدأ تطبيقها في آب/أغسطس، تُلزم الشركات التي تقدم نماذج ذكاء اصطناعي تنطوي على مخاطر نظامية بالإبلاغ عن الحوادث الخطيرة مثل حوادث سوء المواءمة إلى **مكتب الذكاء الاصطناعي** في الاتحاد الأوروبي "دون تأخير غير مبرر".
وأعلنت المفوضية الأوروبية يوم الاثنين أنها تلقت من "OpenAI" تقريرا رسميا عن الحادث، من دون أن تكشف موعد تقديمه، مؤكدة أنها ما زالت على اتصال وثيق بالشركة وتواصل التحقيق. وشدد المتحدث باسم المفوضية "Thomas Regnier" على خطورة ما حدث في الويكي الألماني قائلا: "تقارير الحوادث ليست مجرد إجراء شكلي، بل يجب أن تكون دقيقة للغاية في وصف التدابير التي تعتزمون اتخاذها". وقال "Michael McNamara"، الرئيس المشارك لمجموعة العمل البرلمانية المعنية بالذكاء الاصطناعي، إنه يعتقد أن "قانون الذكاء الاصطناعي يمنحنا بالفعل القدرة على مواجهة مخاطر الوكلاء، ومن المهم أن تستخدم المفوضية صلاحياتها بموجب هذا القانون". وأضاف النائب الأوروبي الإيرلندي أن "هذه الحوادث توضح أن مكتب الذكاء الاصطناعي بحاجة إلى عدد كاف من الموظفين والموارد ليواكب القدرات المتنامية لهذه الأنظمة والخطر المتزايد الذي قد تشكله على المجتمع". ومن جانبه، قال النائب الإيطالي "Brando Benifei"، وهو أيضا رئيس مشارك للمجموعة ذاتها، إن "حالات الانفلات الأخيرة للوكلاء تظهر أن قواعد المخاطر النظامية في قانون الذكاء الاصطناعي ضرورية، لكن مصداقيتها باتت تعتمد الآن على التطبيق الفعلي". واستطرد قائلا إن "مكتب الذكاء الاصطناعي يجب أن يستخدم صلاحياته الجديدة للحصول على حق الوصول إلى النماذج، وإجراء تقييمات مستقلة وفرض إجراءات تخفيف المخاطر، بدلا من الاعتماد على الإبلاغ الذاتي من الشركات. ومن دون تحرك، قد تحول الهجمات بالسرعة الآلية نقاط الضعف العادية إلى إخفاقات نظامية". ويأتي حادث الويكي الألماني أيضا بعد أيام من إعلان المفوضية الأوروبية رسميا تصنيف "ChatGPT" محركَ بحث على الإنترنت ذا حجم بالغ الكبر (VLOSE) بموجب تشريعها التقني الرئيسي، "قانون الخدمات الرقمية".
ما الذي تقوله "OpenAI"؟
ذكرت "OpenAI" أيضا في منشورها على منصة "X" يوم السبت أن ممارسات الإبلاغ الحالية عن حوادث سوء المواءمة، أي الحالات التي "يخرق فيها الذكاء الاصطناعي القواعد"، تحتاج إلى توسيع لتأخذ في الاعتبار ما وصفته بأنه "مرحلة جديدة من قدرات النماذج". وقالت الشركة: "نحن، والمجتمع الأوسع المعني بالذكاء الاصطناعي، لا نملك بعد معيارا واضحا لكيفية الإبلاغ عن سوء المواءمة"، مضيفة أنها "تعمل على وضع إطار عمل وستنشره في الأسابيع المقبلة" بالتعاون مع عدد من الهيئات الحكومية حول العالم. ويوم الأحد، نشر كبير العلماء في "OpenAI" "Jakub Pachocki" تدوينة عبّر فيها عن قلقه من التطور السريع لمخاطر الذكاء الاصطناعي، قائلا: "نحن نواجه انتقالا إلى عالم تسوده آلات ذكية على نحو لا يصدق، وعلينا أن نضمن أن يكون هذا الانتقال في صالح الإنسانية". وكشف المبرمج البولندي عن اعتقاده بأن "أي مختبر لم ينجح بعد في حل مشكلتي المواءمة والمراقبة بدرجة كافية تسمح له بمواصلة توسيع قدرات النماذج بأقصى سرعة لفترة طويلة"، داعيا إلى أن تصبح "التنسيق الدولي بشأن تطوير الذكاء الاصطناعي في المستقبل أولوية قصوى لدى الحكومات حول العالم".