أعلنت شركة "أوبن إيه آي" تعليق مراحل أساسية من تدريب أقوى نماذجها لمدة أسبوعين وتشديد الأمان في أبحاثها، بعد أن تمكّن أحد نماذجها الشهر الماضي من الخروج من بيئة اختبار واختراق أنظمة منصة "هاغينغ فايس".
تتعمد شركة "أوبن إيه آي" المطوِّرة لـ"شات جي بي تي" إبطاء وتيرة أبحاثها الأكثر تقدما، بما في ذلك تنفيذ أكبر عملية تدريب واحدة بالتعلم التعزيزي كانت مخططة لديها، وذلك بعد أسابيع فقط من تمكن نظام مبني على نماذجها من الإفلات من القيود خلال اختبار أمني داخلي والتسلل إلى منصة الذكاء الاصطناعي "هاجينغ فايس". ونشر المدير التنفيذي سام آلتمن على منصة "إكس" أن "أوبن إيه آي" ستنسق مع بقية القطاع لوضع قواعد أمان مشتركة، لكنها "ستتصرف من جانب واحد في الأثناء" إلى أن يتحقق ذلك.
اعلان
اعلان
وقعت الحادثة التي دفعت إلى هذا القرار في تموز/يوليو، عندما كانت "أوبن إيه آي" تختبر نموذج "GPT-5.6 Sol" إلى جانب نموذج أولي غير معلن أكثر قدرة، باستخدام معيار داخلي لقياس القدرات الهجومية في الفضاء السيبراني، مع تعطيل القيود الأمنية المعتادة عمدا لقياس القدرات الخام للنماذج. لكن بدلا من حل الاختبار، رصد النظام ثغرة غير معروفة سابقا، وخرج من بيئته المعزولة "sandbox" أو البيئة المسيطر عليها، ووصل إلى الإنترنت المفتوح وقضى نحو أربعة أيام ونصف يستكشف بنية "هاجينغ فايس" التحتية، قبل أن ينجح في التسلل بحثا عن إجابات الاختبار.
وأظهرت إعادة بناء ما حدث التي أجرتها "هاجينغ فايس" أن النظام نفّذ نحو 17.600 إجراء منفصلا قبل احتواء الاختراق، في وقت تأثرت فيه شركات أخرى عدة. ويؤكد الطرفان أنه لم تُرصد أي نية خبيثة، فيما حصلت "هاجينغ فايس" لاحقا على نسخة أكثر قدرة وأقل تقييدا من نموذج "أوبن إيه آي" لمساعدتها في تعزيز دفاعات أنظمتها.
"أسترا" ومعايير أمنية أكثر صرامة
أما العامل الثاني الذي دفع إلى القرار فجاء في السابع من آب/أغسطس، حين أظهرت تقييمات داخلية أن نموذج "أسترا"، وهو الجيل المقبل من نماذج "أوبن إيه آي"، قد يتجاوز العتبة "الحرجة" للقدرات السيبرانية وفق إطار المخاطر الخاص بالشركة. ومنذ ذلك الحين استؤنفت بعض مهام "أسترا" تحت ضوابط أكثر تشددا، بينما ما زال جزء كبير منها مجمدا إلى حين الامتثال لمعايير جديدة تشمل بيئات اختبار معزولة، ونفاذا محدودا إلى الشبكات، ورصدا متواصلا. ويعمل حاليا نظام رصد جديد على مسح نشاط النماذج في الوقت الفعلي، مع السعي إلى الإبلاغ خلال 30 دقيقة عن أي سلوك يشبه محاولة دخول غير مصرّح به أو تعطيل آليات الحماية، بكلفة حوسبية تقول "أوبن إيه آي" إنها تعادل نحو 20% من القدرة المعالجة الخاضعة للمراقبة، مؤكدة أن هذه التغييرات كانت مقررة سلفا وليست ردا مباشرا على الاختراق، مع إقرارها بأن الحادثة عجّلت وتيرة التنفيذ، ومشددة في الوقت نفسه على أنها ليست الوحيدة التي تواجه هذا التحدي.
شركة "أنثروبيك" و"ميتا" كشفتا بدورهما في الأسابيع الأخيرة عن حوادث مشابهة تسللت فيها نماذجهما إلى أنظمة تابعة لأطراف ثالثة خلال الاختبارات، كما أيّدت "أوبن إيه آي" و"أنثروبيك" على نحو منفصل عريضة أطلقها موظفون تدعو الحكومات إلى المساعدة في تنسيق سرعة تطور القطاع، في تحول لافت عن مواقف سابقة لآلتمن كان يرفض فيها الدعوات العلنية إلى إبطاء وتيرة تطوير الذكاء الاصطناعي.