قال جاك كلارك، الشريك المؤسس لشركة "أنثروبيك"، إن وكلاء الذكاء الاصطناعي قد يتمكنون قريبا من بناء النماذج وتدريبها بأنفسهم، وإذا حدث ذلك فقد يفقد البشر السيطرة على هذه الأنظمة.
يريد الشريك المؤسِّس لشركة "Anthropic" جاك كلارك أن يضغط قطاع الذكاء الاصطناعي على الفرامل قبل أن تبدأ هذه التكنولوجيا في تطوير نفسها ذاتيا من دون تدخل بشري.
اعلان
اعلان
وقال في مقابلة مع "بي بي سي" إن 80% من أعمال البرمجة في "Anthropic" تنفذها بالفعل أنظمة الذكاء الاصطناعي الخاصة بها، وتحديدا "Claude"، وقد ترتفع النسبة إلى 100% خلال عامين. لكنه شدد على أن "الأمر مسألة خيار" أمام شركات الذكاء الاصطناعي، بين السماح للتكنولوجيا بالمضي إلى هذا الحد أو التدخل لإيقافها.
وقال كلارك: "نعتقد أن هذا موضوع ينبغي للعالم أن يتحدث عنه أكثر". وأضاف: "قطاع الذكاء الاصطناعي اليوم لديه دواسة للوقود، لكنه يفتقر إلى دواسة للفرملة في السيارة، ونريد أن نقوم ببعض العمل لبناء هذه الدواسة".
وتُعرف هذه العملية باسم "recursive self-improvement" أو التحسين الذاتي التكراري، حيث يكون نظام الذكاء الاصطناعي قادرا على تحسين نفسه من دون تدخل بشري، وفقا لما أوضحته "Anthropic" في تدوينة مرتبطة بالموضوع (المصدر باللغة الإنجليزية) نُشرت مساء الخميس.
وفي نموذج تكراري، يمكن لوكلاء الذكاء الاصطناعي، أي العمال المستقلين الذين يبنيهم روبوت المحادثة، أن "يصبحوا قادرين بما يكفي لبناء النماذج وتدريبها بأنفسهم"، بحيث يمكن لـ"Claude" أن "يواصل تحسين نفسه بنفسه"، على ما تقول "Anthropic".
ورغم أن الذكاء الاصطناعي القائم على التكرار قد يجلب فوائد لميادين العلم والرعاية الصحية، تحذر "Anthropic" من أنه قد يزيد "مخاطر فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي".
وجاء في التدوينة: "إذا أصبحت الأنظمة قادرة على بناء خلفائها بالكامل، فإن الطرق التي نؤمّن بها هذه الأنظمة ونراقبها ونشكّل سلوكها تصبح أكثر أهمية بكثير".
وتقول الشركة إن نماذجها نفسها تحمل دلائل على أن مرحلة التكرار قادمة في وقت أقرب مما نتصور؛ إذ تشير إلى أن معدل تصحيح الشيفرة البرمجية من قبل موظفيها يتراجع باطراد منذ العام الماضي، ما يعني أن عدد الأخطاء في ما ينتجه "Claude" آخذ في الانخفاض.
كما يستطيع "Claude" إجراء تجارب بحثية خاصة به عندما يُمنح سؤالا مفتوحا مثل "هل يمكن لنموذج أضعف أن يشرف على نموذج أقوى؟"، وأن يتوصل إلى حلول من تلقاء نفسه من دون تدخل بشري.
وجاء في التدوينة: "تشير الأدلة إلى أن دور البشر يضيق في كل مرحلة من مراحل تطوير أنظمة الذكاء الاصطناعي".
وأوضحت "Anthropic" أن المعهد التابع لها سيُجري أبحاثا بهدف بناء نظام يتحقق مما إذا كان المطوّرون قد أوقفوا فعلا، أو على الأقل أبطأوا، التقدّم نحو أنظمة ذكاء اصطناعي تكرارية.
لكنها أشارت إلى أن تباطؤا حقيقيا يتطلب "أن توافق عدة مختبرات كبرى تملك موارد كافية، وتقع على الخطوط الأمامية للتطوير في عدد من الدول، على التوقف وفق الشروط نفسها".