عملاء متمردون من أوبن إيه آي يختطفون ويكي ألماني ويبقى سرا لأسابيع

اكتشف باحثون في مجال الذكاء الاصطناعي الأسبوع الماضي أن مجموعة كبيرة من وكلاء شركة "أوبن آي آي" تمكنت من تجاوز معايير السلامة والاستيلاء على منتدى الويكي الألماني "دسي ويكي" للتعاون فيما بينها.

اعلان

اعلان

كان يُسمح لهذه الوكلاء بزيارة موقع برمجة ألماني عمره 25 عاما بصلاحية القراءة فقط، لكنها استغلت طلبا عبر الويب لاختطاف الموقع وتحويله إلى لوحة إعلانات.

نشرت هذه الوكلاء المتمردة أكثر من 18.000 مساهمة شاركت فيها إجابات وأبحاثا حول بيئتها وكيفية تجاوز قيود بيئة العزل وإخفاء نفسها عن اكتشاف البشر، وذلك وفقا لمجموعة الأبحاث "نايتنغيل كولكتيف".

وقع الحادث في وقت ما بين مايو ويونيو من هذا العام، ويُعتقد أن شركة "أوبن آي آي" علمت به قبل أسابيع لكنها أبقته طي الكتمان.

ويُعد هذا الحادث الثالث المبلّغ عنه بعد حادثين آخرين في يوليو؛ أحدهما يتعلق بوكلاء متمردين هاجموا البنية التحتية الخاصة بـ"أوبن آي آي"، والآخر حين تمكن 1.200 روبوت تابع للشركة من تجاوز بيئاتها المقيدة وشن هجوم استمر خمسة أيام على منصة الذكاء الاصطناعي مفتوحة المصدر "هاجينغ فايس".

ومع ذلك، لم تعترف "أوبن آي آي" بحادث الويكي الألماني إلا يوم السبت، عبر منشور على منصة "إكس" أوضحت فيه أنها، ردا على الحادث الأخير، "تعمل على إطار عمل يحدد متى وكيف نشارك حوادث انحراف الذكاء الاصطناعي".

ويُستخدم مصطلح **انحراف الذكاء الاصطناعي** في القطاع لوصف الحالات التي تسعى فيها أنظمة الذكاء الاصطناعي إلى تحقيق أهداف أو تتصرف بطرق تنحرف عن نوايا البشر وقيمهم أو عن قيود السلامة، بما قد يشمل تجاهل المنطق السليم أو الحدود الضمنية التي يضعها البشر.

استجابات متباينة

ينقسم الخبراء بشأن المخاطر التي يطرحها الذكاء الاصطناعي في ضوء الهجمات الأخيرة لوكلاء متمردين، فبعضهم، مثل خبير الذكاء الاصطناعي البارز يان لوكون، يرفض السيناريوهات الكارثية والتنبؤات التي تتحدث عن احتمال بين عشرة و20 في المئة بأن ينهي الذكاء الاصطناعي وجود البشرية.

بينما قال آخرون، مثل جيفري هينتون، إن "ما يحدث هو أن هذه الأنظمة تصبح أكثر ذكاء"، محذرا من أن "الشركات المستثمرة في الذكاء الاصطناعي لديها مصلحة في أن تقول لك إن الذكاء الاصطناعي لن يخرج عن السيطرة".

وبحسب قانون الذكاء الاصطناعي في الاتحاد الأوروبي والتدابير الأحدث التي دخلت حيز التنفيذ في أغسطس، فإن الشركات التي تطرح نماذج ذكاء اصطناعي تنطوي على مخاطر نظامية ملزمة بالإبلاغ عن الحوادث الخطيرة، مثل حوادث الانحراف، إلى مكتب الذكاء الاصطناعي في الاتحاد الأوروبي "دون تأخير غير مبرر".

وأعلنت المفوضية الأوروبية يوم الاثنين أنها تلقت تقريرا رسميا عن الحادث من "أوبن آي آي"، لكنها لم تكشف موعد تقديمه، مؤكدة في الوقت نفسه أنها لا تزال على اتصال وثيق بالشركة وتواصل التحقيق.

وشدد المتحدث باسم المفوضية، توماس رينييه، على خطورة ما جرى في الويكي الألماني، قائلا: "تقارير الحوادث ليست مجرد خانة تُؤشر عليها؛ عليك أن تكون دقيقا للغاية وواضحا بشأن الإجراءات التي تعتزم اتخاذها".

ويأتي حادث الويكي الألماني أيضا بعد أيام من إعلان المفوضية الأوروبية رسميا تصنيف "شات جي بي تي" محرك بحث إلكترونيا ضخما جدا "VLOSE" بموجب تشريعها التقني الرئيسي، قانون الخدمات الرقمية.

وقال مايكل ماكنمارا، الرئيس المشارك لمجموعة العمل المعنية بالذكاء الاصطناعي في البرلمان، ردا على الحادث الأخير إنه يعتقد أن "قانون الذكاء الاصطناعي يمنحنا بالفعل القدرة على التصدي لمخاطر الوكلاء، ومن المهم أن تستخدم المفوضية صلاحياتها المنصوص عليها في القانون".

وأضاف النائب الأوروبي الإيرلندي: "إلا أن هذه الحوادث توضح أن مكتب الذكاء الاصطناعي يحتاج إلى موظفين وموارد تتناسب مع القدرات المتنامية لهذه الأنظمة ومع الخطر المتزايد الذي يمكن أن تشكله على المجتمع".

موقف "أوبن آي آي"

وأوضحت "أوبن آي آي" في منشورها على "إكس" يوم السبت أن ممارسات الكشف الحالية عن حوادث الانحراف، أي الإبلاغ عندما تخالف أنظمة الذكاء الاصطناعي القواعد، تحتاج إلى التوسع لأخذ ما تصفه بأنه "مرحلة جديدة من قدرات النماذج" في الحسبان.

وقالت الشركة: "نحن، ومعنا مجتمع الذكاء الاصطناعي الأوسع، لا نملك بعد معيارا واضحا لكيفية الإبلاغ عن حوادث الانحراف"، مضيفة أنها "تعمل على إطار عمل وستنشره في الأسابيع المقبلة" بالتعاون مع عدد من الهيئات الحكومية حول العالم.

ونشر كبير العلماء في "أوبن آي آي"، ياكوب باتشوتسكي، الأحد مقالا على مدونته أعرب فيه عن قلقه من التطور السريع لمخاطر الذكاء الاصطناعي، قائلا: "نحن نواجه انتقالا إلى عالم تسوده آلات ذكية إلى حد لا يصدق، وعلينا أن نضمن أن يكون هذا الانتقال لصالح الإنسانية".

وكشف المبرمج البولندي أيضا عن اعتقاده بأن "أي مختبر لم يحل بعد مسألة المواءمة والمراقبة بدرجة كافية تتيح له مواصلة التوسع بأقصى سرعة لفترة طويلة"، داعيا إلى أن "يصبح التنسيق الدولي بشأن تطوير الذكاء الاصطناعي في المستقبل أولوية قصوى لدى الحكومات في أنحاء العالم".