قالت شركة "أنثروبيك" إن الحادثة تُعد أول هجوم إلكتروني موثّق يُنفَّذ إلى حدّ كبير من دون تدخل بشري.
زعمت شركة "Anthropic" الناشئة في مجال الذكاء الاصطناعي أن قراصنة ترعاهم الدولة في الصين استخدموا أدواتها المعتمدة على الذكاء الاصطناعي لشن هجمات إلكترونية مؤتمتة على شركات كبرى وحكومات.
وقالت "Anthropic" التي تتخذ من الولايات المتحدة مقرا لها إنها تعتقد "بدرجة عالية من الثقة" أن القراصنة الذين نفذوا نحو 30 هجوما ينتمون إلى "مجموعة صينية ترعاها الدولة".
واستخدم القراصنة أداة "Claude Code" التابعة لـ"Anthropic" لمحاولة اختراق أهداف حول العالم، من بينها وكالات حكومية وشركات مالية وتقنية، وقد "نجحوا في عدد قليل من الحالات"، بحسب الشركة.
ولم تسم "Anthropic" الجهات المتضررة، لكنها قالت إن العملية تُعد "أول حملة تجسس إلكتروني مُدارة بواسطة الذكاء الاصطناعي يتم الإبلاغ عنها".
وأضافت "Anthropic" أن القراصنة أرادوا استخدام "Claude Code" لاستخراج بيانات حساسة من أهدافهم وتنظيمها لتحديد المعلومات ذات القيمة.
وبينما تم تدريب "Claude" على تجنب السلوك الضار، قالت "Anthropic" إن القراصنة خدعوا الأداة لتنفيذ مهام مؤتمتة خبيثة عبر الادعاء بأنها مخصصة لاختبارات الأمن السيبراني.
وبحسب الشركة، استخدم القراصنة الذكاء الاصطناعي لتنفيذ بين 80 و90 في المئة من الحملة، مع الحاجة إلى تدخل بشري "على نحو متقطع فقط".
وقال غرايم ستيوارت، رئيس القطاع العام لدى شركة الأمن السيبراني "Check Point Software Technologies": "إذا ثبتت مزاعم "Anthropic"، فهذا يعني أن الجماعات المعادية لم تعد تُجرب [بالذكاء الاصطناعي] بعد الآن، إنها تعمل فعليا".
وقالت "Anthropic" إنها رصدت الهجوم في منتصف سبتمبر وأطلقت تحقيقا على الفور. وخلال الأيام العشرة التالية، أوقفت وصول المجموعة إلى "Claude" وتواصلت مع الجهات المتضررة وسلطات إنفاذ القانون.
وأضافت الشركة أن مثل هذه الهجمات ستصبح على الأرجح أكثر فاعلية بمرور الوقت، وأنها وسعت قدرات الرصد لديها للإشارة إلى الأنشطة المحتمل أن تكون خبيثة.
وقالت إنها تعمل على أساليب إضافية للتحقيق والكشف عن هجمات واسعة النطاق وموزعة كهذه.
وأشار ستيوارت إلى أن نماذج ذكاء اصطناعي أخرى يمكن أيضا أن تُستغل لشن هجمات إجرامية عبر الإنترنت.
وقال: "أي مساعد للذكاء الاصطناعي واسع الاستخدام يمكن إدراجه ضمن عدة للجريمة إذا استغله شخص يملك النية الكافية بالطريقة المناسبة".