للمرة الأولى، استخدم قراصنة الإنترنت الذكاء الاصطناعي لاكتشاف ثغرة أمنية واستغلالها لم يكن بمقدور أي ماسح آلي رصدها، وتؤكد "غوغل" أن مراقبتها النشطة وحدها هي التي حالت دون هجوم واسع النطاق.
سهّل الذكاء الاصطناعي كتابة رسائل البريد الإلكتروني، وإنشاء جداول البيانات، والتخطيط للعطلات، كما تشهد على ذلك الشعبية الواسعة للنماذج المختلفة للذكاء الاصطناعي. وبحسب تقرير حديث لغوغل، فقد جعل ذلك أيضا من الأسهل بكثير اكتشاف الثغرات في برمجيات أنظمتنا التي لم يكن قد تم رصدها من قبل أو كان من المتعذر التنبؤ بها. وقالت مجموعة معلومات التهديدات في غوغل إنها رصدت للمرة الأولى قراصنة يستخدمون الذكاء الاصطناعي "AI" لاكتشاف واستغلال ما يُسمى ثغرة أمنية من نوع "يوم الصفر"، أي خللا أمنيا لا يكون مطوّر البرنامج على دراية بوجوده بعد، ولا يتوفر له أي تصحيح. وكان الهدف أداة شائعة للإدارة عن بُعد عبر الويب، وأتاحت الثغرة للمهاجمين تجاوز آلية التحقق المزدوج، تلك الطبقة الثانية من الحماية التي يعتقد كثيرون أنها تكفي لتأمين حساباتهم. وأوضحت غوغل أنها اكتشفت الهجوم قبل أن يُنفَّذ على نطاق واسع، وأبلغت شركة البرمجيات المعنية بهدوء. وجاء في التقرير: "كان الفاعل الإجرامي يعتزم استغلالها في هجوم واسع النطاق، غير أن اكتشافنا الاستباقي ربما حال دون ذلك". وأضاف: "كما أبدت جهات تهديد مرتبطة بجمهورية الصين الشعبية (PRC) وجمهورية كوريا الشعبية الديمقراطية (DPRK) اهتماما كبيرا بتسخير الذكاء الاصطناعي لاكتشاف الثغرات".
اعلان
اعلان
ثغرة غابت عن أعين المطورين
الثغرة من نوع "يوم الصفر" لم تكن خللا تقليديا. فبرمجيات الفحص الأمني المعتادة تبحث عن الأعطال وأخطاء الذاكرة، أي ما يعادل في عالم البرمجيات وظيفة المدقّق الإملائي الذي يرصد ما يشبه الأخطاء المطبعية؛ لكن هذه الثغرة كانت مدفونة في منطق الشيفرة، في افتراض ثابت ودقيق أدخله المطوّر من دون تنبه، ولا يمكن لأي أداة فحص آلية التقاطه. إنه ذلك النوع من الأخطاء الذي يبدو فيه كل شيء سليما على السطح، بينما يكون المنطق الكامن تحته معطوبا. أشبه بخزنة مصرفية بقفل يعمل كما يجب، لكنها تفتح مع ذلك لمن يعرف أن هناك استثناء، لأن المصمّم أدرجه من دون أن يدرك العواقب. وهذا بالضبط نمط التناقضات الذي يُجيد الذكاء الاصطناعي رصده. وتابع التقرير: "نماذج اللغة الضخمة المتقدمة تتفوق في اكتشاف هذا النوع من العيوب عالية المستوى، والانحرافات الثابتة المضمَّنة في الشيفرة". ورغم أن هذه النماذج المتقدمة لا تزال تجد صعوبة في التعامل مع منطق الصلاحيات المعقّد داخل المؤسسات، "فإن قدرتها على إجراء استدلال سياقي تتزايد... وعلى رصد التناقضات في الاستثناءات المضمَّنة في الشيفرة"، بحسب التقرير. هذه القدرة تمكّن النماذج من إبراز أخطاء منطقية كامنة تبدو سليمة وظيفيا أمام أدوات الفحص التقليدية، لكنها في الواقع تشكل خللا جسيما من زاوية الأمن السيبراني.
ليس مجرد حيلة واحدة
ورغم أن اكتشاف ثغرة "يوم الصفر" كان أبرز ما توصّل إليه الباحثون، فإن قراءة التقرير بالكامل تثير كثيرا من القلق. فقراصنة مدعومون من دولتي الصين وكوريا الشمالية يستخدمون الذكاء الاصطناعي في مطاردة الثغرات على نطاق صناعي، عبر إرسال أوامر آلية تفحص مواطن الضعف في كل شيء، من الموجّهات المنزلية إلى الشبكات المؤسسية. ورصدت غوغل مجموعة كورية شمالية "تُرسل آلاف الأوامر المتكررة التي تحلل بشكل تكراري ثغرات أمنية معروفة (CVEs) وتتحقق من صلاحية شيفرات الاستغلال التجريبية (PoC)", لبناء ما يصفه التقرير بأنه "ترسانة أكثر متانة من قدرات الاستغلال، كان من غير العملي إدارتها من دون الاستعانة بالذكاء الاصطناعي". وفي الوقت نفسه، تستعين مجموعات مرتبطة بروسيا بالذكاء الاصطناعي لتطوير برمجيات خبيثة تعيد كتابة نفسها لحظيا لتفادي الاكتشاف، وهي قدرة كانت تتطلب سابقا خبرة بشرية كبيرة. كما يغيّر الذكاء الاصطناعي طبيعة هجمات التصيّد الاحتيالي. فبدلا من إرسال رسائل إلكترونية عامة إلى أعداد ضخمة، صار المهاجمون يستخدمونه لرسم هياكل الشركات التنظيمية، وتحديد أهداف بعينها ممن يملكون صلاحيات الوصول إلى بيانات حساسة، ثم توليد "طعوم تصيّد عالية الدقّة تُفصَّل على قياس الأشخاص ذوي الصلاحيات الإدارية"، حسب التقرير، متجاوزين بذلك بكثير "أساليب التصيّد الجماعي التقليدية".
وتحذر غوغل من تحول أوسع يتمثل في انتقال الذكاء الاصطناعي من مجرد أداة بحثية إلى طرف فاعل في ميدان الأمن السيبراني، يشارك فعليا في الهجوم والدفاع. وجاء في التقرير: "لم يعد نموذج اللغة الضخم مجرد مستشار سلبي، بل أصبح طرفا نشطا في سلسلة الهجوم، قادرا على تنسيق مجموعات أدوات معقدة واتخاذ قرارات تكتيكية بسرعة الآلة". والجانب الإيجابي في الصورة أن أدوات الذكاء الاصطناعي لدى غوغل نفسها رصدت ثغرة "يوم الصفر" قبل أن تتسبب في أضرار. وتقول الشركة إنها تنشر حاليا وكلاءَ يعتمدون على الذكاء الاصطناعي للبحث عن الثغرات وسدّها بوتيرة أسرع بكثير مما يمكن لفرق بشرية تحقيقه.