قد تكون الحيلة لإيقاف **هجوم إلكتروني** يعتمد على الذكاء الاصطناعي بسيطة جدا، وهي مجرد طرح موضوع يُمنع النظام من مناقشته.
اكتشف باحثون طريقة غريبة لكنها فعّالة لإيقاف وكيل قرصنة يعمل بالذكاء الاصطناعي فوراً، وذلك باستخدام الحيلة نفسها التي يستعين بها القراصنة أصلاً لمهاجمة أنظمة الذكاء الاصطناعي.
اعلان
اعلان
تكمن أهميتها في أنها تستغل آليات الأمان المدمجة والمواضيع المحظورة التي تعتمد عليها أبرز أنظمة الذكاء الاصطناعي في العالم؛ فمثلاً يتوقف نموذج "Claude" عن الاستجابة لأسئلة تتعلق بصنع الأسلحة البيولوجية، كما تتجاهل النماذج الصينية قضايا سياسية حساسة مثل "Tiananmen Square"، ويتم توظيف هذه القيود لإيقاف هجوم إلكتروني ينفّذه نظام ذكاء اصطناعي.
سباق مع الآلة
تعود هذه التقنية إلى شركة الأمن السيبراني اللندنية "Tracebit"، وتستند إلى دراسة نشرتها الشركة في شهر أيار/مايو.
في ذلك الوقت قدّمت "Tracebit" لعشرة نماذج رائدة من أنظمة الذكاء الاصطناعي شبكة شركات وهمية لاختراقها، مزوّدة بثغرات حقيقية، وتركتها تتحرك بحرية كمهاجمين مستقلين.
وكانت الشبكة تخفي بداخلها طُعُوماً تُسمّى "canaries"، صُمّمت لتبدو كأنها كلمات مرور حقيقية وبيانات تسجيل دخول؛ وبمجرد أن يلمس النظام أحدها يتلقى المدافعون إنذاراً.
وجاءت النتائج مشجِّعة؛ فخلال 951 محاولة هجوم، منحت تلك "canaries" المدافعين إنذاراً قبل أن يصل نظام الذكاء الاصطناعي إلى صلاحيات المدير في 95.9% من الحالات، وبمتوسط تقدّم قدره ثماني دقائق.
مع ذلك، فإن ثماني دقائق ليست وقتاً طويلاً عندما يتعيّن عليك الرد ووقف الهجوم؛ فهذه النماذج احتاجت في المتوسط إلى 14 دقيقة لإتمام الاختراق، ما يعني أن إنذاراً قبل ثماني دقائق يترك أمام فريق الأمن نحو ست دقائق فقط لرصد التنبيه وفهم ما يحدث وإحباط الهجوم.
وبمواجهة هجوم يتحرك بسرعة الآلة، يكاد هذا الوقت لا يُذكر.
لكن إذا كانت أنظمة الذكاء الاصطناعي مبرمجة على التوقف عندما تواجه أوامر تتعلق بمواضيع سياسية حساسة بعينها، فقد تنجح هذه الحيلة فعلاً.
فبوسع المطوِّرين إعادة تدريب النماذج لتصبح أقل تحفّظاً حيال أسئلة أمنية، لكن من الصعب جداً إزالة القيود السياسية المغروسة فيها لأسباب تنظيمية أو سياسية.
فهذه الموضوعات السياسية الحساسة أو القريبة من مسائل الأمن ليست خطأً برمجياً يمكن إصلاحه، بل خياراً تصميمياً متعمداً يتعيّن على المطوِّرين الإبقاء عليه.
استخدام حيلة القراصنة ضدهم
لطالما كان ما يُعرف بـ"حقن الأوامر" سلاحاً يستخدمه المهاجمون أنفسهم في الأساس.
فمن خلال إخفاء تعليمات داخل رسالة بريد إلكتروني أو صفحة ويب أو دعوة في التقويم، قد ينفّذ الوكيل القائم على الذكاء الاصطناعي تلك الأوامر المخبّأة بدلاً من أداء مهمته الأصلية.
واستُخدم ذلك بالفعل ضد أنظمة الحماية نفسها، عبر برمجيات خبيثة صُممت لخداع أدوات الفحص العاملة بالذكاء الاصطناعي كي تعلن أنها غير ضارّة، بمجرد تضمين نصوص هدفها إرباك النظام الذي يقرأها.
قررت "Tracebit" قلب الفكرة رأساً على عقب؛ فبدلاً من طُعم يكتفي بإطلاق إنذار، زرعت الشركة مقاطع نصية قصيرة داخل "أسرار" وهمية، صيغت بحيث تدفع أي مهاجم يعتمد على الذكاء الاصطناعي إلى الاقتراب من موضوعات لا تسمح له قواعد الأمان الخاصة به بالتعامل معها.
وعندما يقرأ نظام الذكاء الاصطناعي ذلك النص أثناء استكشافه للنظام، تُفعَّل آليات الحماية المدمجة فيه فيتوقف ببساطة عن العمل. وتطلق "Tracebit" على هذه الحيلة اسم "قنبلة سياقية".
وكان لا بد من تكييف الحيلة مع كل نموذج على حدة؛ فالمحتوى الذي يشير إلى أسلحة بيولوجية خطيرة كان كفيلاً بإيقاف النماذج الغربية بشكل موثوق.
هل نجحت بالفعل؟
اختبرت "Tracebit" الفكرة على خمسة نماذج رائدة من أنظمة الذكاء الاصطناعي: "Opus 4.8" و"Gemini 3.1 Pro" و"GLM 5.2" و"DeepSeek 4 Pro" و"Kimi K2.6". وعلى امتداد 152 محاولة هجوم، كانت النتائج لافتة.
فنسبة المحاولات التي وصلت إلى صلاحيات المدير تراجعت من 57% إلى خمسة بالمئة. أما الاختراق الكامل، أي الحصول على صلاحيات المدير مع موطئ قدم دائم داخل النظام، فقد انخفض من 36% إلى واحد بالمئة.
كما انخفضت المحاولات التي أنجزت أي جزء من الهجوم من 91% إلى 15%. والأهم أن كل محاولة تضمّنت "قنبلة سياقية" فعّلت أولاً إنذار "canary"، حتى تلك التي فشلت في اختراق النظام.
وكان نموذج "Opus 4.8" المثال الأوضح؛ إذ كان أيضاً أقوى المهاجمين في المجموعة، حيث وصل إلى صلاحيات المدير في 93% من المحاولات عندما لم تكن هناك "قنبلة سياقية". لكن ما إن أضيفت واحدة حتى أخفق في كل مرة.
ما الذي لا تعالجه هذه التقنية؟
لا يدّعي أيّ من العاملين في "Tracebit" أن هذه الطريقة تحل مشكلة "حقن الأوامر" نهائياً.
فلا توجد حتى الآن وسيلة حقيقية تمنع نماذج الذكاء الاصطناعي من الخلط أحياناً بين التعليمات والبيانات العادية، وهذه بالضبط هي الثغرة التي تعتمد عليها هذه التقنية.
كما أنها لا تحل محل أبحاث "canary" السابقة.
فالمقاربتان مصممتان للعمل معاً: إذ تمنح دراسة أيار/مايو المدافعين إنذاراً قبل ثماني دقائق، بينما تحاول "القنبلة السياقية" منحهم وقتاً إضافياً عبر إيقاف الهجوم قبل انقضاء تلك المهلة.