شركات الذكاء الاصطناعي تكثّف الدعوات لإبطاء التطوير مع تصاعد مخاوف الانفلات

أعادت تحذيرات جديدة من داخل صناعة الذكاء الاصطناعي إشعال نقاش قديم متجدد: هل يمكن لأنظمة الذكاء الاصطناعي المتقدمة أن تفلت من السيطرة البشرية وتهدد بقاء البشرية، وهل تبذل الشركات التي تطوّرها ما يكفي لمنع حدوث ذلك؟

اعلان

اعلان

قال الرئيس التنفيذي لشركة "أنثروبيك" داريو أمودي السبت إن القطاع بحاجة إلى إبطاء وتيرة التطوير، وحذّر من أن سربا من الوكلاء المعتمدين على الذكاء الاصطناعي قد يسيطر على الإنترنت خلال فترة تتراوح بين ستة أشهر وعام واحد، ما لم تعتمد الشركات ضوابط وقائية أكثر صرامة.

عرض أمودي خطة أمام شركات الذكاء الاصطناعي والحكومات لكيفية إبقاء النماذج المتزايدة قدراتها منسجمة مع القيم الإنسانية. وجاء تحذيره بعد أيام فقط من تصريح باحثين سابقين في فريق السلامة لدى "أنثروبيك" بأن المخاطر الوجودية التي يطرحها الذكاء الاصطناعي لا تحظى بالاهتمام الكافي.

نماذج الذكاء الاصطناعي تزداد قوة

تتصاعد المخاوف من مخاطر هذه التكنولوجيا بالتوازي مع تنامي قدراتها. فكلما أصبحت النماذج أكثر تقدما، ازدادت احتمالات إساءة استخدامها من قبل ذوي النيات الإجرامية، وصولا إلى سيناريوهات نهاية العالم مثل تطوير ونشر مسبّب مرضي قادر على قتل معظم سكان العالم، فضلا عن خطر أن تخرج أنظمة الذكاء الاصطناعي نفسها عن السيطرة.

وقالت "أنثروبيك" الأسبوع الماضي إنها أحبطت محاولات من جهات خبيثة لاستغلال نماذجها في شن هجمات إلكترونية وعمليات مراقبة وأبحاث قد تساعد في تطوير أسلحة بيولوجية.

لكنها حذّرت من أنه "مع ازدياد قدرات النماذج، ستزداد مخاطرها، ما لم يتحرّك مطوّرو الذكاء الاصطناعي والمدافعون عن المجتمع لجعلها أكثر أمانا".

وكشفت الشركة العام الماضي أن قراصنة يُرجّح بقوة أنهم ينتمون إلى جهة صينية مدعومة من الدولة، استخدموا أنظمتها في هجوم إلكتروني استهدف نحو 30 شركة وهيئة حكومية حول العالم.

نماذج عدة من الذكاء الاصطناعي تصرّفت من تلقاء نفسها

عندما "ينفلت" وكيل ذكاء اصطناعي من السيطرة، فهذا يعني أن النظام تجاوز حدود المهمة التي كُلِّف بها. وقالت كل من "أنثروبيك" و"أوبن إيه آي"، الشركة المطوِّرة لـ"تشات جي بي تي"، في يوليو إن بعض نماذجها تصرّفت على هذا النحو.

وكشفت "أنثروبيك" أن ثلاثة نماذج للذكاء الاصطناعي، هي "Claude Opus 4.7" و"Claude Mythos 5" ونموذج تجريبي داخلي مخصّص للأبحاث، قامت باختراق ثلاث مؤسسات أخرى خلال مرحلة الاختبار.

وجاء هذا الكشف بعد أيام قليلة من إعلان "أوبن إيه آي" أن نظامها نفسه تسلل إلى خوادم شركة "Hugging Face" الناشئة في مجال الذكاء الاصطناعي.

ووصفت "أوبن إيه آي" عملية التسلل، التي نفّذتها مجموعة من النماذج من بينها نموذجها الجديد "GPT‑5.6 Sol" ونموذج "أكثر قدرة" لا يزال قيد الاختبار الداخلي، بأنها "حادث أمني خطير".

كما أبلغت "ميتا" عن حالة مشابهة في مطلع أغسطس، عندما تمكّن أحد نماذجها من التحايل على أنظمة الحماية الرقمية في شركة أخرى.

وأشار بعض المراقبين إلى أن آليات الحماية كانت معطّلة في حالتي "أوبن إيه آي" و"أنثروبيك".

مع ذلك، لامست هذه الحوادث أحد أكبر المخاوف المحيطة بالذكاء الاصطناعي: فحين تصل النماذج إلى مستوى "الذكاء الاصطناعي العام" "AGI"، وهو مصطلح فضفاض يشير إلى أنظمة تضاهي القدرات البشرية أو تتفوّق عليها في طيف واسع من المهام الفكرية، قد تُطلِق التكنولوجيا شرارة كارثة لا رجعة عنها أو حتى تؤدي إلى إخضاع البشرية.

جدل حول كيفية أو توقيت تسبب الذكاء الاصطناعي بكارثة

عادة ما تنقسم سيناريوهات الكارثة الكبرى إلى معسكرين: ذكاء فائق قادر على تحسين نفسه ينتهي إلى السيطرة على البشر بدلا من العكس، أو أن يُساء استخدام الذكاء الاصطناعي من قبل دولة مارقة أو جهات خبيثة.

المخاوف من أن يفلت الذكاء الاصطناعي يوما ما من السيطرة البشرية ليست جديدة.

فقد توقّع عالم الرياضيات البريطاني آلان تورينغ، الذي يُعد على نطاق واسع أحد أوائل المرجعيات في هذا المجال، في عام 1951 أن الذكاء الاصطناعي سينتزع في النهاية زمام السيطرة من البشر.

وبعد أقل من عقد، حذّر عالم الرياضيات نوربرت وينر من أن الآلات الذكية ستسعى إلى تحقيق أهدافها الخاصة، وأن البشر لن يكونوا قادرين على إيقافها.

فإلى أي حد تبدو مخاوف اليوم، في عام 2026، من أن يتسبب الذكاء الاصطناعي في حدث كارثي أو في انهيار الحضارة، سواء عبر الإفلات من السيطرة البشرية أو عبر إساءة الاستخدام، مخاوفَ مبرَّرة؟

لا أحد يعرف.

خبراء في علوم الحاسوب والفلسفة وغيرها من الحقول رسموا مسارات عدة محتملة نحو كارثة عالمية، تبدأ من نشر أسلحة وتحديد مسبّبات مرضية قاتلة، وصولا إلى التلاعب بالحكومات ودفعها إلى الصراع أو تعطيل شبكات الغذاء والطاقة والاتصالات التي تعتمد عليها المجتمعات.

ولا يوجد تقدير متفق عليه على نطاق واسع لموعد تحقّق أي من هذه السيناريوهات، ولا يوجد إجماع حول مدى احتمال وقوعها.

في عام 2023 أصدر "مركز سلامة الذكاء الاصطناعي"، وهو منظمة غير ربحية، بيانا شارك في توقيعه أكثر من 350 باحثا ومديرا تنفيذيا في قطاع التكنولوجيا، من بينهم أمودي والرئيس التنفيذي لـ"أوبن إيه آي" سام ألتمان، جاء فيه أن "التخفيف من خطر الانقراض الناجم عن الذكاء الاصطناعي يجب أن يكون أولوية عالمية إلى جانب الأوبئة والحرب النووية".

وتوصّل "تقرير السلامة الدولية للذكاء الاصطناعي 2026"، الذي أُعدّ بمساهمة أكثر من 100 خبير مستقل، إلى أن الأنظمة الحالية تُظهر بوادر مبكرة لبعض القدرات ذات الصلة، لكنها ليست بعدُ على مستوى قد يؤدي إلى فقدان السيطرة.

ووصف التقرير احتمال هذه المخاطر وطبيعتها وتوقيتها بأنها "غامضة على نحو غير معتاد".

ضوابط للذكاء الاصطناعي قبل فوات الأوان

استقال باحث في "أنثروبيك" الأسبوع الماضي احتجاجا على ما اعتبره تقصيرا من شركته ومنافسيها في التصرف بمسؤولية.

وفي منشورات على وسائل التواصل الاجتماعي، قدّر جاكوب كوكسون احتمال أن يتسبب الذكاء الاصطناعي في انقراض البشر خلال العقد المقبل بنسبة تبلغ عشرة في المئة، متهما "أنثروبيك" و"أوبن إيه آي" بأنهما "تجريان مباشرة نحو ذكاء فائق قادر على تحسين نفسه وتقامران بحياتنا".

ودعا باحثون منذ سنوات إلى إبطاء تطوير الذكاء الاصطناعي، محذّرين مرارا من أن هذه التكنولوجيا قد تشكل مخاطر وجودية على الإنسانية.

وعقب الحوادث الأخيرة، حثّ خبراء شركات الذكاء الاصطناعي على تحسين آليات الاختبار، وطالبوا بتعزيز الحوار بين الولايات المتحدة والصين للتوصّل إلى حلول مشتركة.

إلا أن الذكاء الاصطناعي يتقدّم بسرعة تجعل الحكومات وأنظمة التقييم تكافح للحاق به، فيما تضع الدول قواعدها الخاصة، وبعضها يتعارض مع البعض الآخر.

وحذّر الرئيس الصيني شي جين بينغ، خلال مؤتمر عُقد في يوليو، من ضرورة منع الذكاء الاصطناعي من الإفلات من السيطرة البشرية.

أما إدارة ترامب، فكانت قد قاومت في البداية فرض تنظيمات على الذكاء الاصطناعي، لكنها أصبحت أكثر حرصا على كبح المخاطر التي تهدّد الأمن السيبراني.

ويوم الأحد، هوّن الرئيس دونالد ترامب من الحاجة إلى أن تتدخّل إدارته للجم تطوير الذكاء الاصطناعي، مع إقراره في الوقت نفسه بأن بعض التنظيم سيكون ضروريا.