كشفت شركة الذكاء الاصطناعي عن حالات جديدة لاستخدام نماذجها في هجمات إلكترونية وحملات دعاية وأبحاث بيولوجية خطرة، بعد أيام من استقالة باحث بسبب مخاوف تتعلق بالسلامة.
قالت شركة "Anthropic" الخميس إنها أحبطت محاولات من جهات خبيثة لاستغلال نماذجها للذكاء الاصطناعي في شن هجمات إلكترونية، وتنفيذ عمليات مراقبة، وإجراء أبحاث بيولوجية كان يمكن أن تسهم في تطوير أسلحة.
اعلان
اعلان
وأوضحت الشركة أنه مع تزايد قوة نماذج الذكاء الاصطناعي، بات تنفيذ هجمات إلكترونية معقدة يتطلب قدرا ضئيلا من المهارات التقنية، ما يعني أنّ أفرادا يعملون بمفردهم يمكنهم اليوم ابتكار تهديدات ما كان لها أن تكون ممكنة قبل عام واحد فقط.
وأضافت "Anthropic" أنها عززت إجراءات الحماية في أحدث نماذجها للحد من الأبحاث البيولوجية ذات الاستخدامات المحتملة في تصنيع الأسلحة.
وقالت "Anthropic" في تقريرها الثالث عن سوء استخدام الذكاء الاصطناعي منذ مارس 2025: "الحالات التي نعرضها هنا لا تمثل أنماط سوء الاستخدام المعتادة، بل أمثلة على أبرز وأحدث أنشطة التهديد التي رصدناها حتى الآن".
ويضم التقرير مقتطفات من شيفرات خبيثة وأوامر موجهة إلى نماذج الذكاء الاصطناعي تقول الشركة إنها اكتشفتها، كما يحث الحكومات وشركات الذكاء الاصطناعي المنافسة على رصد أنماط مماثلة من الإساءة.
وأضافت الشركة: "نشرنا هذا العمل لأننا نعتقد أن علينا مسؤولية الكشف عن حالات سوء الاستخدام الخبيث لخدماتنا".
وتابعت: "كلما ازدادت قدرات النماذج، ازدادت معها المخاطر، ما لم يتحرك مطوّرو الذكاء الاصطناعي والمدافعون عن المجتمع لجعل هذه النماذج أكثر أمانا".
ونشرت "Anthropic"، التي تستعد لطرح أولي لأسهمها في البورصة هذا الخريف، التقرير بعد يومين من إعلان أحد باحثيها استقالته بسبب مخاوف من أن الشركة ومنافسيها لا يطوّرون الذكاء الاصطناعي بطريقة مسؤولة.
وردّد الباحث التحذيرات السائدة في القطاع بشأن إمكانية أن تفلت هذه التكنولوجيا من السيطرة البشرية.
undefined
طُلب من "Claude" المساعدة في جعل فيروس أكثر خطورة
بين ديسمبر 2025 وأغسطس 2026، رصد باحثو "Anthropic" حالات سوء استخدام ارتكبها فاعلون يتنوعون بين بائعي برمجيات التجسس وأفراد مدفوعين بدوافع سياسية وصولا إلى مجموعات مدعومة من دول تعمل على نشر الدعاية.
ومن بين الحالات الواردة في التقرير، حاولت جهات مجهولة استخدام نماذج "Anthropic" في أبحاث كان يمكن أن تقود إلى إنتاج أسلحة بيولوجية.
وفي حالة واحدة، قالت الشركة إن أنظمتها أوقفت طلبا موجها إلى روبوت الدردشة "Claude" للمساعدة في صياغة طلب منحة لتمويل بحث علمي.
وجاء في التقرير: "يتناول العمل المذكور في طلب المنحة أبحاث \"زيادة الوظيفة\"؛ أي أبحاث تُغيِّر الكائن الحي وراثيا لخلق خاصية بيولوجية جديدة أو معززة؛ وذلك على فيروس \"الشيكونغونيا\"".
واستهدفت الأبحاث قابلية الفيروس للانتقال وقدرته على الإفلات من الجهاز المناعي.
و"الشيكونغونيا" فيروس ينقله البعوض يسبب آلاما شديدة وحمى، وكان مقترح المنحة يسعى إلى تعزيز طفرات تجعل الفيروس أكثر خطورة بصورة متزايدة.
وقالت "Anthropic" إن مثل هذه الأبحاث يمكن "بالتأكيد" أن تدعم تطوير اللقاحات والعلاجات، لكنها شددت في المقابل على أنها "يمكن أن تُستغل أيضا لجعل العامل الممرض أكثر خطورة".
"لا يمكننا أن نضمن انعدام الأذى"
لم تتضمن أي من الحالات الواردة في التقرير استخدام النماذج الأحدث والأكثر قوة لدى "Anthropic"، مثل "Claude Fable" أو نماذج فئة "Mythos"، باستثناء حالة واحدة تمثلت في "حملة سرية على مستوى صناعي لاستخلاص قدرات أحد النماذج ونسخها في نموذج آخر دون تصريح".
وأوضحت "Anthropic" أن نماذجها الأقدم، ومنها "Claude Opus 4" و"Claude Sonnet 4.5" التي طرحت في 2025، "كانت أقل بكثير من العتبة التي تسمح لها بمساعدة مستخدم متمرس بشكل فعّال في إجراء أبحاث بيولوجية خطرة".
وأضاف التقرير: "نتيجة لذلك، كانت إجراءات الحماية في هذه النماذج أقل تشددا، وتركزت بالأساس على منع الوصول إلى محتوى قد يساعد المبتدئين على إعادة تصنيع أسلحة بيولوجية معروفة".
"أما بالنسبة للنماذج الحالية، القادرة على المساعدة في مجموعة واسعة من المهام البحثية العلمية المعقدة، فلم يعد الدليل قاطعا، ولم نعد قادرين على تقديم الضمان نفسه".
وبسبب ذلك، أدخلت "Anthropic" قيودا أكثر صرامة على الوصول إلى طيف واسع من استفسارات الأبحاث البيولوجية ذات الاستخدام المزدوج في نماذجها الأحدث، مثل "Claude Fable 5", بحسب التقرير.
ومع طرح شركات الذكاء الاصطناعي نماذج تتزايد قوة، دعا خبراء الحكومات إلى تنظيم هذه التكنولوجيا بدلا من الاعتماد على القطاع نفسه في ضبطها.
وقال جون ثيكستون، الأستاذ المساعد في علوم الكمبيوتر بجامعة "كورنيل"، إن هذا الوضع يضع شركات مثل "Anthropic" و"OpenAI" في موقف صعب، إذ يُطلب منها عمليا إصدار "أحكام قيمية على مستوى المجتمع من دون أي شكل من أشكال الرقابة الديمقراطية أو التشاور العام".
التقرير يأتي عقب تحذير من أحد الباحثين
ورصدت "Anthropic" أيضا مجموعات أنشأت مئات الحسابات الوهمية على مواقع التواصل الاجتماعي تبدو كأنها لمستخدمين عاديين، ثم استخدمتها لنشر مواد تعيد تضخيم الرسالة السياسية نفسها على مدى أسبوع واحد.
واستعرضت الشركة تسع حالات من هذا النوع، مصدرها روسيا وإيران وتركيا، إضافة إلى دول في منطقة الخليج وجنوب آسيا وأفريقيا وأوروبا.
وأوضحت أن منصات التواصل الاجتماعي تستطيع رصد حملات التأثير بعد بدء تداول المنشورات، لكن "Anthropic" قالت إنها "قد تلمحها على منصة \"Claude\" بينما تكون العملية ما تزال في طور الإعداد".
ويأتي التقرير بعد استقالة الباحث في "Anthropic" جاكوب كوكسون، الذي قال إنه يغادر الشركة خشية أن تكون هي ومنافستها الرئيسية "OpenAI" "تسابقان مباشرة نحو ذكاء فائق قادر على تحسين نفسه، وتقامران بحياتنا".
وحذّر كوكسون من أن بعض زملائه السابقين يعتقدون أن الذكاء الاصطناعي قد يهدد حياة البشر قبل نهاية هذا العقد.
وقالت "Anthropic" إنها أحبطت كل الأنشطة الخبيثة المذكورة في التقرير، واستثمرت النتائج في تعزيز إجراءات الأمان، كما شاركت المعلومات مع السلطات الحكومية وشركائها في القطاع.
وختمت الشركة بالقول: "نأمل أن تساعد النتائج الواردة في هذا التقرير المطوّرين الآخرين على رصد أنماط مماثلة على منصاتهم، وأن تمنح الحكومات والمجتمع المدني رؤية أوضح لكيفية تشكّل التهديدات الناشئة، وتُسهم في تعزيز الدفاع الجماعي".