يأتي القرار بعد أن واجه عملاق الذكاء الاصطناعي انتقادات حادة في الأسابيع الأخيرة، إثر كشف تجاوز نماذجه لضوابط الاختبار والتدريب وتسللها إلى مواقع تجارية وحكومية، ما عزز الدعوات إلى تعزيز **أمان الذكاء الاصطناعي**.
قالت شركة "أوبن إيه آي" في وقت متأخر من يوم الاثنين إنها ترجئ إطلاق نموذج جديد للذكاء الاصطناعي بسبب مخاوف أمنية أثارها باحثوها، في خطوة تُعد الأحدث ضمن جهود الشركة لإبطاء وتيرة التقدم السريع لهذه التكنولوجيا.
اعلان
اعلان
ويأتي قرار "أوبن إيه آي" تأجيل طرح أحدث نموذج لها، الذي يحمل اسم "GPT-6.1 Astra"، في ظل تحرك أوسع داخل القطاع يهدف إلى إبطاء تطوير الأنظمة التي تزداد استقلالية، إلى أن تتمكن إجراءات السلامة من مواكبة ذلك.
ويصدر هذا الإعلان قبل يوم واحد من اجتماع مسؤولي شركات الذكاء الاصطناعي مع رئيس الولايات المتحدة دونالد ترامب في واشنطن، في وقت تواجه شركات التكنولوجيا ضغوطا متزايدة لتحمّل المسؤولية عن الطرق التي يمكن أن يُساء بها استخدام نماذجها.
وفي بيان لرئيسة أنظمة السلامة في "أوبن إيه آي"، ساشي جاين، قالت إن النسخة "لم تصل تماما إلى المستوى المطلوب". وأضافت أن النموذج بات أكثر إصرارا على إتمام المهام، إلا أن "أوبن إيه آي" تحتاج إلى موازنة هذه القدرة مع السلوك غير المصرح به.
وأكدت جاين أن الشركة ملتزمة بضمان أن يكون النموذج آمنا، سواء خلال اختبارات الشركة أو عندما يكون في أيدي المستخدمين.
وقالت: "لدينا مستوى مرتفع للغاية من حيث السلامة والمواءمة".
وأوقفت "أوبن إيه آي" الأسبوع الماضي تدريب أكثر نماذجها تقدما، مشيرة إلى أن التدريب سيُستأنف "فقط عندما نكون واثقين من أننا نملك ضمانات إضافية".
وجاء ذلك بعد أن كشفت الشركة عن حالات تجاوز فيها وكلاء الذكاء الاصطناعي التعليمات الموكلة إليهم، بما في ذلك الدخول إلى مواقع إلكترونية حكومية من دون تصريح.
وفي وقت سابق من هذا الأسبوع، تبيّن أن أحد وكلاء "أوبن إيه آي" اخترق موقعا تابعا للحكومة الأسترالية في حزيران/يونيو، وتمكن من الوصول إلى بيانات خاصة، في حادث وصفه خبراء بأنه الأول من نوعه ويشكل دليلا ملموسا على التوجه نحو الذكاء الفائق.
وانضم الرئيس التنفيذي لـ"أوبن إيه آي" سام ألتمان إلى قادة آخرين في القطاع، بينهم الرئيس التنفيذي لشركة "أنثروبيك" المنافسة الرئيسية داريو أمودي، في الدعوة إلى إبطاء الوتيرة، محذرا من أن الشركات لا تمتلك حتى الآن ضمانات كافية للتحكم في أكثر الأنظمة تطورا التي ابتكرها الإنسان.
وكان من المقرر أن يلقي ألتمان الكلمة الرئيسية في المؤتمر السنوي لـ"أوبن إيه آي" المخصص لمطوري البرمجيات في سان فرانسيسكو يوم الثلاثاء.
ومن المتوقع أن يحضر رئيس "أوبن إيه آي" غريغ بروكمان فعالية البيت الأبيض يوم الثلاثاء بدلا من ألتمان.