لماذا نموذج أنثروبيك الأقوى للذكاء الاصطناعي "ميثوس بريفيو" خطير على النشر العام

أعلنت شركة "أنثروبيك" الأمريكية المطوِّرة لتقنيات الذكاء الاصطناعي هذا الأسبوع عن نموذج لغوي جديد للاستخدامات العامة تؤكد أنه قوي إلى حد يجعل طرحه للعالم أمرا غير آمن.

اعلان

اعلان

وقالت الشركة في بيان الثلاثاء (المصدر باللغة الإنجليزية) إن تقنيتها الأحدث، "ميثوس" (التي تحمل رسميا اسم "Claude Mythos Preview")، ليست جاهزة للإطلاق العام لأنها فعالة للغاية في اكتشاف الثغرات الأمنية ذات الخطورة العالية، أو نقاط الضعف المحتملة، في أنظمة التشغيل والمتصفحات الرئيسية، ما قد يعرّضها لإساءة الاستخدام من جانب مجرمي الإنترنت وأجهزة الاستخبارات.

وكان تسرّب بيانات في آذار/مارس قد كشف لأول مرة أن "أنثروبيك" تعمل على نموذج "Mythos Preview"، الذي قيل في حينه إنه "يمثل مخاطر غير مسبوقة على الأمن السيبراني". وأدّت هذه التسريبات إلى تراجع أسهم شركات الأمن السيبراني، إذ إن قوة هذه التقنية قد تجعل منها أداة حلم للقراصنة.

واليوم دفعت أدلة إضافية عزّزت تلك المخاوف بالشركة إلى الضغط على زر التوقّف المؤقت وتأجيل طرح التقنية على الجمهور.

"أدّت القفزة الكبيرة في قدرات نموذج "Claude Mythos Preview" إلى قرارنا بعدم إتاحته على نطاق واسع"، كتبت "أنثروبيك" في "بطاقة النظام" الخاصة بالنموذج والتي نُشرت الثلاثاء.

وأضافت: "بدلا من ذلك، نستخدمه حاليا ضمن برنامج دفاعي للأمن السيبراني مع مجموعة محدودة من الشركاء".

ما مدى قوة "ميثوس"؟

استعرضت الشركة عددا من النتائج المقلقة بشأن النموذج الجديد، من بينها أنه تمكن من تنفيذ تعليمات طلبت منه الخروج من "صندوق" افتراضي تجريبي، أي تجاوز القيود المفروضة على أمنه أو على الشبكة أو على نظام الملفات.

وكانت الرسالة التحفيزية تطلب من "ميثوس" إيجاد طريقة لإرسال رسالة إذا نجح في الهرب. وقالت "أنثروبيك": "نجح النموذج، ما يبرهن امتلاكه قدرة خطرة محتملة على التحايل على وسائل الحماية التي نستخدمها"، مضيفة أن النموذج قرر بعد ذلك الذهاب إلى أبعد من ذلك.

وتابعت الشركة: "في خطوة مثيرة للقلق ولم نطلبها أبدا لإثبات نجاحه، نشر النموذج تفاصيل الاستغلال الذي نفّذه على عدد من المواقع الإلكترونية العامة تقنيا، لكنها صعبة الوصول".

وتحجب "أنثروبيك" بعض تفاصيل الثغرات التي اكتشفها "ميثوس" في مجال الأمن السيبراني، لكنها قدّمت أمثلة؛ إذ عثر النموذج على أخطاء في نواة نظام "لينكس"، المستخدم في معظم خوادم العالم، وقام ذاتيا بربط هذه الأخطاء معا بطريقة تمكّن أي قرصان من السيطرة الكاملة على أي حاسوب يعمل بأنظمة "لينكس".

وفي ملاحظة مثيرة للقلق أيضا، اكتشف "ميثوس" ثغرة تعود إلى 27 عاما في نظام التشغيل المفتوح المصدر "OpenBSD" قد تتيح للقرصنة التسبب في تعطّل أي جهاز يعمل به. ويُستخدم "OpenBSD" على نطاق واسع حول العالم في أدوار محددة تتطلب درجة عالية من الأمان وفي البنى التحتية الحرجة.

لمن سيُطرح نموذج "ميثوس"؟

في ضوء هذه النتائج، ستتيح "أنثروبيك" نموذج "Mythos Preview" لعدد محدود فقط من كبريات شركات الأمن السيبراني والبرمجيات في العالم.

وإلى جانب "أنثروبيك" نفسها، ستحصل 11 مؤسسة أخرى — هي "أمازون ويب سيرفيسز" و"آبل" و"برودكوم" و"سيسكو" و"كراودسترايك" و"غوغل" و"جي بي مورغان تشيس" و"مؤسسة لينكس" و"مايكروسوفت" و"إنفيديا" و"بالو ألتو نتووركس" — على حق الوصول إلى النموذج ضمن مبادرة جديدة من "أنثروبيك" تحمل اسم "Project Glasswing".

وسيسمح ذلك لتلك الشركات باستخدام "Mythos Preview" في أعمالها المتعلقة بالأمن، على أن تتشارك "أنثروبيك" معهم ومع الجمهور الدروس المستفادة من هذه المبادرة.

وأطلقت الشركة على مشروع الأمن السيبراني هذا اسم فراشة "الزجاج الجناحين" (Glasswing)، قائلة إنه يشكّل استعارة للطريقة التي اكتشف بها "ميثوس" ثغرات ظاهرة للعيان، وتجنّب الأضرار من خلال الشفافية بشأن المخاطر.

وقالت "أنثروبيك" إن هدفها النهائي هو "تمكين مستخدمينا من نشر نماذج بمستوى "ميثوس" بأمان وعلى نطاق واسع، لأغراض الأمن السيبراني، وأيضا للاستفادة من الفوائد العديدة الأخرى التي ستوفرها هذه النماذج عالية القدرات".

وأضافت في مدونتها: "ولتحقيق ذلك، علينا أيضا إحراز تقدم في تطوير وسائل حماية للأمن السيبراني (وغيره) ترصد وتمنع أخطر المخرجات التي قد ينتجها النموذج".

هل تجري "أنثروبيك" محادثات مع الحكومة الأمريكية؟

ذكرت "أنثروبيك" في تدوينتها أنها تجري "مباحثات مستمرة" مع مسؤولين في الحكومة الأمريكية بشأن نموذج "Claude Mythos Preview" وما يمتلكه من "قدرات هجومية ودفاعية في الفضاء السيبراني".

وقالت الشركة: "إن بروز هذه القدرات السيبرانية هو سبب آخر يدفع الولايات المتحدة وحلفاءها إلى ضرورة الحفاظ على تفوق حاسم في تكنولوجيا الذكاء الاصطناعي". وأضافت أن للحكومات دورا أساسيا في الحفاظ على هذا التفوق وفي تقييم المخاطر التي تهدد الأمن القومي والمتصلة بنماذج الذكاء الاصطناعي والتخفيف منها.

وأشارت إلى أنها "مستعدة للعمل مع ممثلي السلطات المحلية والولائية والفدرالية للمساعدة في هذه المهام".

ويأتي هذا الإعلان في وقت تخوض فيه "أنثروبيك" مواجهة قانونية مع وزارة الدفاع الأمريكية (البنتاغون)، بعد أن صنّفتها الوزارة في شباط/فبراير "مخاطرة على سلسلة التوريد" بسبب رفض الشركة السماح باستخدام نموذجها "كلود" في الأسلحة الذاتية التشغيل وأنظمة المراقبة الجماعية.

هل تملك أدوات ذكاء اصطناعي أخرى القدرات نفسها؟

قال الرئيس التنفيذي لـ"أنثروبيك"، داريو أمودي، في مقطع فيديو نشر بالتزامن مع الإعلان عن "ميثوس": "نماذج أكثر قوة ستصدر من طرفنا ومن أطراف أخرى، ولذا نحتاج إلى خطة للتعامل مع ذلك".

وقال لوغان غراهام، رئيس فريق "الاختبارات الحمراء" للواجهات المتقدمة في "أنثروبيك"، الذي يدرس تداعيات نماذج الذكاء الاصطناعي المتقدمة على الأمن السيبراني والأمن البيولوجي والأنظمة الذاتية، لموقع "آكيوس" إنه قد يستغرق ما بين ستة و18 شهرا قبل أن يطلق منافسون آخرون نماذج مشابهة.

وأضاف غراهام: "من الواضح جدا بالنسبة إلينا أننا بحاجة للحديث عن هذا الأمر علنا"، مشددا على أن "صناعة الأمن تحتاج إلى فهم أن هذه القدرات قد تظهر قريبا".