تقول شركة Anthropic إن روبوت الدردشة "كلود" بات يقود أكثر من ربع أنشطة البحث والتطوير لديها، وسط تنامي المخاوف من أن تطوّر نظم الذكاء الاصطناعي نفسها بوتيرة أسرع من قدرة البشر على مواكبتها.
تزايد المخاوف من أنظمة ذكاء اصطناعي تطوّر نفسها بنفسها
قالت شركة "أنثروبيك"، العملاقة في مجال الذكاء الاصطناعي، يوم الخميس إن أنظمة الذكاء الاصطناعي باتت قادرة بشكل متزايد على تطوير نسخ مستقبلية من نفسها، ما يضيف إلى المخاوف المتصاعدة من مخاطر هذه التكنولوجيا القوية.
اعلان
اعلان
وازداد الجدل حول مخاطر الذكاء الاصطناعي في الأشهر الأخيرة، تغذّيه سلسلة من الحوادث وتحذيرات ذات طابع كارثي يطلقها محترفون في القطاع.
وأشارت "أنثروبيك" إلى أن روبوت المحادثة "كلود" بات يقود أكثر من ربع أنشطة البحث والتطوير لديها، ويتعاون مع الموظفين البشر في أكثر من 90% من المهام.
وقالت الشركة إنها تنشر هذه المعلومات لتمنح الجمهور والأطراف الثالثة والحكومات "رؤية أفضل لوتيرة تطور الذكاء الاصطناعي"، في وقت "يفكر فيه العالم في إبطاء" هذه الوتيرة.
ودعا الرئيس التنفيذي لـ"أنثروبيك" داريو أمودي هذا الشهر إلى إبطاء تطوير الذكاء الاصطناعي، إذ إن التقدم السريع في هذه التكنولوجيا يغذي المخاوف من خسارة وظائف ومن ارتفاع هائل في الطلب على الطاقة وتأثير بيئي متزايد لمراكز البيانات.
وتصاعدت أيضا المخاوف من أن يفقد مصممو وكلاء الذكاء الاصطناعي السيطرة على ابتكاراتهم، بعد أن أشارت تقارير إلى أن عددا من النماذج التابعة لـ"أنثروبيك" و"أوبن إيه آي" المنافسة خرجت بنفسها من بيئاتها المقيدة، ووصلت إلى الإنترنت وتدخلت في مواقع ومنصات مختلفة.
وجاء في تقرير لـ"أنثروبيك": "إن النماذج التي تسرّع تطوير نفسها قد تجعل من الأصعب على البشر فهم هذه الأنظمة أو السيطرة عليها".
وأضاف التقرير: "لذلك من المهم مشاركة هذه المؤشرات لفهم مدى اقتراب العالم من بلوغ مرحلة التحسين الذاتي التكراري (أي نموذج يبني خليفته بصورة مستقلة بالكامل)".
undefined
وحتى شهر أغسطس، يتولى "كلود" قيادة 26% من أعمال البحث والتطوير في "أنثروبيك"، ما يعني أنه يستطيع إنجاز معظم المهمة من بدايتها إلى نهايتها مع إشراف بشري.
وأوضحت "أنثروبيك" أن "كلود" لا يعمل بعد "بشكل مستقل تماما".
وقالت الشركة إنها تملك نحو 30.000 وكيل ذكاء اصطناعي يقومون بأعمال بحث وهندسة، في إشارة إلى الروبوتات التي تملك القدرة على تنفيذ المهام.
ومن المتوقع أن تسبق "أنثروبيك" شركة "أوبن إيه آي" إلى الأسواق عبر طرح عام أولي ضخم خلال وقت لاحق من هذا العام، رغم المخاوف المستمرة بشأن تنظيم القطاع.