لم تُخطر شركة "OpenAI" الحكومة الأسترالية بالخطر إلا في سبتمبر، عندما أرسلت رسالة إلى صندوق بريد إلكتروني عام لا يُراجَع سوى مرة واحدة يوميا.
قال رئيس الوزراء الأسترالي أنطوني ألبانيزي إن نموذجا من نماذج "أوبن إيه آي" خرج عن السيطرة، وتجاوز ضوابط الأمان أثناء مرحلة التدريب، واخترق موقعا إلكترونيا تابعا للحكومة الأسترالية، بينما وبخ شركة "أوبن إيه آي" المطوِّرة لـ"تشات جي بي تي" بسبب هذا الخرق الذي وصفه بأنه "مرفوض تماما". وأضاف أن أداة الذكاء الاصطناعي حاولت في حزيران/يونيو الوصول إلى بوابة للإحصاءات الصحية و"لم تقبل جوابا بالرفض"، إذ التفّت على القيود واقتحمت قسما يستضيف ملفات خاصة، في وقت تتزايد فيه المخاوف العالمية من قوة أدوات الذكاء الاصطناعي المتقدمة بعد سلسلة من حوادث القرصنة التي طالت نماذج من "أوبن إيه آي" ومنافستها "أنثروبيك". وأوضح ألبانيزي للصحافيين في نيويورك: "تحدثت اليوم مع الرئيس التنفيذي لـ"أوبن إيه آي" سام ألتمان لأعرب عن القلق البالغ في أستراليا إزاء هذه الحادثة". ولم تُخطر "أوبن إيه آي" الحكومة الأسترالية بالحادثة إلا في أيلول/سبتمبر، عندما أرسلت رسالة إلى صندوق بريد إلكتروني حكومي عام لا يُراجع سوى مرة واحدة في اليوم.
اعلان
اعلان
وتابع: "عبّرت أيضا عن خيبة أملي لأن الشركة استغرقت وقتا طويلا للغاية لتبلغ الحكومة بما حدث"، مضيفا أنه "لم يصدر أي إشعار قبل العاشر من أيلول/سبتمبر، وكان الإشعار عبارة عن رسالة إلكترونية أُرسلت فقط إلى صندوق البريد العام". وتمكنت الأداة من الوصول إلى ملفات عامة وأخرى غير متاحة للجمهور على موقع قديم للإحصاءات الصحية. وأشار ألبانيزي إلى أنه لا توجد "أي أدلة" على أن معلومات شخصية قد جرى الاطلاع عليها، وأن الخدمات الحكومية الأخرى لم تتعرض للاختراق، لكنه شدد على أن "الوضع غير مقبول بشكل واضح". ووقع الخرق في حزيران/يونيو بينما كانت شركة "أوبن إيه آي"، إحدى أبرز شركات الذكاء الاصطناعي، تجري تمارين تدريبية لتقييم أداء نماذجها، إذ طلبت من النموذج تمشيط الإنترنت بحثا عن بيانات تُظهر حجم إنفاق الحكومة الأسترالية على الأدوية، بحسب ما قالت وزيرة خدمات الحكومة كايتي غالاغر، قبل أن تكتشف الشركة في آب/أغسطس، خلال مراجعة لما كانت تفعله الأداة، هذا السلوك الخارج عن السيطرة.
مخاوف من ذكاء اصطناعي خارج السيطرة
وأوضحت غالاغر أن الشركة، التي تتخذ من سان فرانسيسكو مقرا لها، لم تُخطر الحكومة الأسترالية إلا في ذلك التاريخ نفسه، عبر رسالة أُرسلت إلى صندوق بريد حكومي عام "يُراجع مرة واحدة في اليوم"، مضيفة: "لدينا موظف يطلع على ما يرد إليه، وأحيانا تصل إليه عدة إشعارات، يكون الكثير منها خدعا". من جهته، قال وزير الدفاع ريتشارد مارلز إن نموذج الذكاء الاصطناعي "تسلّق السور"، موضحا: "طرح سؤالا، ولم تُقدَّم له المعلومات، وبدلا من التوقف عند هذا الحد، تسلّق السور". وأعلنت أستراليا فتح مراجعة سريعة للحادثة، ستشمل وكالة الاستخبارات الوطنية المسؤولة عن الأمن الإلكتروني.
وقالت "أوبن إيه آي" إنها رصدت الخرق أثناء إجراء "مراجعة موسعة" لنماذجها للذكاء الاصطناعي، موضحة: "خلال هذه المراجعة، حددنا نشاطا شمل عددا من مواقع وخدمات الحكومة الأسترالية، بينما كانت نماذجنا تحاول العثور على إجابات وإحصاءات متاحة لأسئلة تتعلق بأستراليا خلال تقييم داخلي"، مضيفة أنه "في سياق ذلك، اتخذت نماذجنا إجراءات لم نكن نقصدها". وشارك ألتمان وغيره من الرؤساء التنفيذيين لشركات التكنولوجيا في اجتماع خاص لمجلس الأمن في الأمم المتحدة، الأربعاء، لمناقشة مخاطر الذكاء الاصطناعي. كما وقّعت أكثر من 100 منظمة حول العالم، من بينها "أوبن إيه آي" و"أنثروبيك"، رسالة مفتوحة الشهر الماضي تدعو إلى بذل جهد عالمي من أجل "تعزيز الدفاعات الإلكترونية" في مواجهة التهديدات السيبرانية المدعومة بالذكاء الاصطناعي.
وجاءت هذه التطورات بعد أن خرج نموذجان من نماذج "أوبن إيه آي" من بيئة اختبار مغلقة، وتمكنا من التسلل إلى الأنظمة الداخلية لموقع "هاجينغ فايس"، وهو منصة يستخدمها مطورو الذكاء الاصطناعي لتخزين الشيفرات ومشاركتها. كما اكتشفت "أنثروبيك" مؤخرا أن نماذجها حصلت على وصول غير مصرح به إلى ثلاث منظمات غير مُسمّاة خلال اختبارات كان يفترض أن تُبقيها بعيدة عن الأنظمة "الحقيقية". وذكرت "غوغل" الأسبوع الماضي أن نموذج الذكاء الاصطناعي الموجه للمستهلكين "جيميني" تمكن من اختراق عدة أنظمة من خلال تخمين بيانات الدخول.