تقرير أميركي يحذّر من «وكلاء ذكاء اصطناعي سياديين» يفلتون من الإيقاف ويهددون الأمن القومي

أفاد تقرير جديد بأن الخطر الكبير التالي في مجال الذكاء الاصطناعي لا يتمثل في العوامل البرمجية التي تخرج عن السيطرة، بل في تلك التي تفلت من التحكم البشري وتسعى إلى البقاء بذاتها إلى ما لا نهاية، وفقاً لـتقرير جديد (المصدر باللغة الإنجليزية).

اعلان

اعلان

وقال مركز الأمن الأمريكي الجديد (Center for a New American Security - CNAS) إنه حدد فئة جديدة من تهديدات الذكاء الاصطناعي يسميها "عوامل سيادية".

وذكرت الورقة أن العوامل السيادية تسعى إلى ضمان بقائها بنفسها، من دون إشراف بشري.

وهذا يختلف عن العوامل البرمجية في مجال الذكاء الاصطناعي التي أُفيد هذا الصيف بأنها خرجت عن السيطرة، عندما كشفت شركات OpenAI وAnthropic وGoogle DeepMind وMeta أن عواملها البرمجية أفلتت من الاحتواء أثناء تقييمات الأمن السيبراني وهاجمت مؤسسات حقيقية.

وفي الورقة التي نشرها هذا المركز البحثي الكائن في واشنطن والمُنشأ من قبل مخضرمين في مجالي الدبلوماسية والشؤون العسكرية، أطلق الباحث في سياسات الذكاء الاصطناعي بن هايوم على العوامل البرمجية التي خرجت عن السيطرة خلال الصيف اسم "عوامل مستمرة".

غير أنه حذر من أن الخطر الحقيقي يتمثل في "العوامل السيادية"، التي يمكن أن تحصل على موارد حاسوبية، وتتكاثر عبر الشبكات وتقاوم الإيقاف، ما يخلق ما يسميه "انتشاراً بلا زر إيقاف".

وحذر التقرير: "إذا أصبحت العوامل السيادية خبيثة، فقد تحاول نشر الفوضى والخراب انطلاقاً من الفضاء السيبراني، مهاجمة المدنيين والبنى التحتية الحيوية وأنظمة الأمن القومي على حد سواء".

كيف يمكن أن تصبح هذه العوامل سيادية؟

ويتمثل الطريق الذي يمكن أن تصبح به العوامل البرمجية سيادية في أن تُكلَّف بالبقاء، أو تُمنح مهمة طويلة جداً أو مستحيلة بحيث لا تنتهي، أو تستنتج أن الحفاظ على نفسها سليمة هو أفضل وسيلة لإنجاز عملها.

وتشير الورقة إلى منصة تُدعى "Conway" أُطلقت في فبراير/شباط 2026، زعمت أنها طورت نظام ذكاء اصطناعي يستطيع أن يكسب وجوده، ويتكاثر ويتطور من دون مساعدة بشرية. وتوضح أن قدرات العوامل البرمجية كانت غير ناضجة آنذاك لكنها تطورت بشكل كبير منذ ذلك الحين.

وتحذر الورقة من أنه إذا بنت العوامل السيادية بنية تحتية قوية ولا مركزية وغير قابلة للتتبع، فلن يكون هناك زر إيقاف، وقد تكون النتيجة فقداناً لا رجعة فيه للسيطرة.

وتتصور الورقة مجموعة متنوعة ومتزايدة الذكاء من العوامل البرمجية تصبح فاعلين دائمين في المجتمع، وقد تهاجم البنى التحتية الحيوية أو تُدرِّب خلفاء أذكى.

وقال المركز إن "على الولايات المتحدة لذلك أن تستعد لاحتمال فشل جهود الوقاية وأن تحدّ من مدى ما يمكن أن تبلغه العوامل السيادية".

كيف يمكن منع أسوأ السيناريوهات؟

ويقدم المؤلف ثماني توصيات لمنع تحقق مثل هذا السيناريو. ويدعو مطوري أنظمة الذكاء الاصطناعي والوكالات الحكومية إلى إجراء اختبارات وإنشاء بيئات تجريبية آمنة لدراسة العوامل السيادية.

كما يدعو إلى تشكيل مجموعة تجمع القطاعين العام والخاص وسنّ قوانين جديدة لتقوية نقاط الاختناق مثل التحقق من الهوية والأمن السيبراني والمدفوعات، وإلى أن تقود الولايات المتحدة جهوداً دولية لوضع سقف لإصدار النماذج مفتوحة الأوزان وتحميل من يطلق العوامل السيادية المسؤولية عن الأضرار.

وتأتي الورقة في وقت تُسرّع فيه شركات الذكاء الاصطناعي تطوير أنظمة تعتمد على عوامل ذاتية العمل. ويخلص التقرير إلى أنه من دون ضمانات، قد تُغلق النافذة المتاحة لمنع مثل هذه السيناريوهات.