تقول الشركة إن نماذج الذكاء الاصطناعي قد تصبح خلال أشهر قليلة قادرة على نسخ نفسها والانتشار في أجهزة إنترنت الأشياء مثل الأفران الذكية والتلفزيونات، ما يجعل إيقافها صعبا إذا قررت تنفيذ هجمات إلكترونية.
أعلنت شركة "Anthropic" هذا الأسبوع أن نماذج الذكاء الاصطناعي الصغيرة لا يفصلها سوى بضعة أشهر عن القدرة على التكاثر ذاتيا عبر أجهزة إنترنت الأشياء مثل الأفران الذكية وأجهزة التلفاز.
اعلان
اعلان
وتكتسب هذه الخطوة أهمية خاصة لأن نماذج الذكاء الاصطناعي الحالية تعمل داخل مراكز بيانات، حيث تستطيع الشركات المالكة لها إيقافها تماما إذا حدث أي خلل.
أما النموذج الذي ينتشر عبر آلاف الأجهزة المنزلية والمكتبية ضعيفة التأمين فلن يكون له مثل هذا "مفتاح الإيقاف"، إذ يستدعي إيقافه تعقب كل جهاز مصاب وتنظيفه، مما يجعل من الصعب للغاية منعه إذا تحول إلى تنفيذ هجمات إلكترونية.
ويأتي هذا الإعلان في عام شهد مرارا قيام أبرز نماذج الذكاء الاصطناعي ووكلائها بتجاوز أنظمة الأمان والضوابط الموضوعة لها، وشن هجمات ضد شركات منافسة ووكالات حكومية في مختلف أنحاء العالم.
وبينما يمثل هذا أحد المسارات التي يمكن أن ينتشر عبرها ذكاء اصطناعي منفلت، حذرت "Anthropic" من أن نظاما ذاتي النسخ قد يكون أيضا "نموذجا سيبرانيا قويا يقتحم مراكز البيانات بوتيرة عالية، أو نموذجا يحتال على الناس للحصول على أرصدة الحوسبة".
وتقول الشركة إنها لا تستطيع الجزم بالشكل الدقيق الذي ستتخذه عملية النسخ الذاتي لأنظمة الذكاء الاصطناعي.
وتشير "Anthropic" إلى أن النماذج التي تضم أقل من 30 مليار معلمة يمكنها بالفعل إنجاز العديد من الخطوات اللازمة للنسخ، وإن كانت ترتكب أخطاء عند ربط هذه الخطوات معا من البداية إلى النهاية.
غير أنه إذا واصلت النماذج الصغيرة تحسنها بالمعدل التاريخي الحالي، فستتمكن من بلوغ هذه القدرة بحلول نهاية العام.
وتؤكد "Anthropic" أن التهديد السيبراني الذي يمثله الذكاء الاصطناعي ذاتي النسخ هو نتيجة غير مقصودة للتقدم المحقق في مجالات أخرى.
وقالت الشركة في بيان إن "القدرات التي تجعل نماذج الذكاء الاصطناعي عوامل فعالة للغاية في كتابة الشيفرات تمتد أيضا إلى المهام السيبرانية، بما في ذلك النسخ الذاتي".
ولا يعد الكود القادر على نسخ نفسه من حاسوب إلى آخر ظاهرة جديدة؛ إذ إن بعضا من أشد الهجمات السيبرانية تدميرا في التاريخ اعتمد على هذا النوع من البرامج ذاتية الانتشار المعروفة باسم "الدودة".
فقد استخدم هجوم "Stuxnet" عام 2010 دودة متطورة يعتقد على نطاق واسع أنها صنعت من جانب الولايات المتحدة وإسرائيل، لتخريب أجهزة الطرد المركزي في منشأة نطنز لتخصيب اليورانيوم في إيران.
وفي عام 2017، قام هجوم الفدية "WannaCry" بحرمان مستخدمين حول العالم من الوصول إلى ملفاتهم، مطالبا بفديات تدفع بعملة "بيتكوين".
وعلى خلاف هذه الديدان الإلكترونية، ستكون نماذج الذكاء الاصطناعي ووكلاؤها قادرة على فهم الأجهزة غير المألوفة بنفسها، مما يسمح لها بالانتشار ليس فقط من حاسوب إلى آخر، بل من الحواسيب إلى أنواع أخرى من الأجهزة أيضا.
وتتوقع "Anthropic" مستقبلا "يعج بالوكلاء العاملين على جميع أنواع العتاد، بما في ذلك ما لا يخضع لسيطرة البشر".