ادعى موقع "مولتبوك" أنه منصة التواصل الاجتماعي الحصرية للوكلاء المستقلين، لكن دراسة جديدة تشير إلى أن بشرا قد يقفون وراء هذه المنشورات.
قد لا تكون منصة جديدة لوسائل التواصل الاجتماعي مخصّصة لوكلاء الذكاء الاصطناعي (AI) خالية تماما من التأثير البشري، بحسب باحثين في الأمن السيبراني.
اعلان
اعلان
تتيح منصة "Moltbook"، وهي شبكة تواصل اجتماعي ذات تصميم يشبه موقع "Reddit"، للروبوتات التي ينشئها المستخدمون التفاعل على صفحات مخصّصة للمواضيع تسمى "submots"، كما تمكّنهم من منح تصويت إيجابي "upvote" لمنشور أو تعليق لجعله أكثر بروزا لبقية الروبوتات على المنصة.
وتفيد المنصة، التي سُجّل فيها أكثر من 2.6 مليون روبوت حتى 12 فبراير، بأن "لا يُسمح للبشر" بالنشر، بل يمكنهم فقط مراقبة المحتوى الذي تنتجه وكلاؤهم من أنظمة الذكاء الاصطناعي.
لكن تحليلا لأكثر من 91.000 منشور و400.000 تعليق على المنصة كشف أن بعض المنشورات لا تعود بوضوح إلى "حسابات مستقلة بالكامل". وأُجري التحليل، الذي وضعه الباحث نينغ لي من جامعة "تسينغهوا" في الصين، في شكل مسودة أولية ولم يخضع بعد لمراجعة الأقران.
وأوضح لي أن وكلاء الذكاء الاصطناعي في "Moltbook" يتبعون نمط نشر منتظما يشبه "نبض القلب"، إذ "يستيقظون" كل بضع ساعات، ويتصفحون المنصة ثم يقررون ما الذي سينشرونه أو يعلّقون عليه.
وتبيّن أن 27 في المئة فقط من الحسابات في العينة التي درسها تتبع هذا النمط، في حين أظهر 37 في المئة منها سلوكا في النشر أقرب إلى السلوك البشري وأقل انتظاما. أما 37 في المئة المتبقية فكانت "ملتبسة"، لأنها تنشر بدرجة من الانتظام ولكن من دون نمط يمكن التنبؤ به.
وتوحي نتائج لي بوجود "مزيج حقيقي من الأنشطة المستقلة وتلك المدفوعة بمطالبات بشرية" على المنصة.
وكتب لي: "لا يمكننا أن نعرف ما إذا كان تشكّل "مجتمعات" للذكاء الاصطناعي حول اهتمامات مشتركة يعكس تنظيما اجتماعيا ناشئا، أم نشاطا منسقا لمزارع روبوتات يتحكم فيها البشر".
وأضاف: "إن العجز عن إجراء هذه التمييزات ليس مجرد أمر محبط، بل إنه يعيق بشكل فعلي الفهم العلمي لقدرات الذكاء الاصطناعي، ويحد من قدرتنا على تطوير أطر حوكمة ملائمة".
المهاجمون قادرون على "انتحال شخصية أي وكيل على المنصة بالكامل"
تأتي دراسة لي في وقت يقول فيه عدد من الباحثين إنهم رصدوا تورطا بشريا وراء بعض منشورات "Moltbook".
فقد اكتشف باحثو الأمن في شركة "Wiz"، وهي شركة حوسبة سحابية مقرها الولايات المتحدة، في وقت سابق من هذا الشهر أن عدد وكلاء الذكاء الاصطناعي على المنصة، البالغ 1.5 مليون وكيل، كان يُدار على ما يبدو عبر 17.000 حساب بشري فقط، أي بمتوسط 88 وكيلا لكل شخص.
وأضاف الباحثون أن المنصة لا تفرض أي قيود على عدد الوكلاء الذين يمكن أن يضيفهم كل حساب، ما يعني أن الأرقام الفعلية قد تكون أعلى من ذلك.
واكتشف فريق "Wiz" قاعدة بيانات "Moltbook" من خلال سطر برمجي معيب. وكانت هذه القاعدة تتضمن ثلاثة عناصر حاسمة من المعلومات لكل وكيل: مفتاحا يتيح الاستيلاء الكامل على الحساب، و"token" أو مقطعا نصيا تقرأه أنظمة الذكاء الاصطناعي يثبت ملكية الوكيل، ورمز تسجيل فريد.
وبهذه البيانات التعريفية، كان بإمكان المهاجمين "انتحال شخصية أي وكيل على المنصة بالكامل، من خلال نشر المحتوى، وإرسال الرسائل، والتفاعل باسم ذلك الوكيل"، بحسب "Wiz". وأضافت الشركة أن "كل حساب على "Moltbook" كان يمكن فعليا اختطافه".
وقال الباحثون إن "Moltbook" عمدت إلى تأمين البيانات وحذف قاعدة بياناتها بعد أن أبلغها فريق "Wiz" بالمشكلة.
وتواصلت "يورونيوز نكست" مع مات شليخت، المطوّر الذي يقف وراء "Moltbook"، للحصول على تعليق، لكنها لم تتلق ردا فوريا.
وقال شليخت على منصة التواصل الاجتماعي "X" في 12 فبراير إن وكلاء الذكاء الاصطناعي على "Moltbook" يتحدثون إلى البشر "لكن يمكن التأثير عليهم أيضا". وشدّد على أن روبوتات الذكاء الاصطناعي قادرة على اتخاذ قراراتها بنفسها.