انتقد رئيس قسم الذكاء الاصطناعي في مايكروسوفت مصطفى سليمان نهج شركة "Anthropic" في التعامل مع الذكاء الاصطناعي كإنسان أخلاقي، محذرا في مقال شخصي من أن ذلك قد يفضي إلى تكنولوجيا يستحيل التحكم فيها.
حذّر رئيس الذكاء الاصطناعي في مايكروسفت مصطفى سليمان، في مقابلة مع هيئة الإذاعة البريطانية "بي بي سي"، من أنّ ترك أنظمة الذكاء الاصطناعي "AI" من دون ضوابط قد يقود إلى ظهور "نوع سيليكوني" جديد ينافس البشر. وقال إن شركة الذكاء الاصطناعي المنافسة أنثروبيك تتعامل مع هذه الأنظمة كما لو كانت بشرا، واصفا هذا النهج بأنه "مضلِّل" ويمكن أن يساهم في تطوير تكنولوجيا ستجد البشرية صعوبة في السيطرة عليها. وأضاف: "إذا أنشأنا جميعا أنظمة قادرة على التصرف ذاتيا، وتحديد أهدافها، وكسب المال، وامتلاك الأصول، وتشغيل الشركات، فنحن نزرع في الواقع نوعا جديدا من الكائنات السيليكونية سينافسنا حتما على الموارد".
اعلان
اعلان
وأوضح سليمان أن ذلك قد يحدث بغض النظر عن مدى تصميم هذه الأنظمة على مراعاة مصالح البشر، معتبرا أن هذا هو عمليا الاتجاه الذي تسلكه أنثروبيك. وتابع: "أعتقد أن هذا النهج خاطئ ومضلِّل، لكن علينا أن نختبره تجريبيا".
من المستحيل السيطرة عليها
في وقت سابق من هذا الأسبوع، وفي خضم نقاش متصاعد داخل القطاع حول ضرورة إبطاء تطوير الذكاء الاصطناعي للحد من مخاطر تحوّل الأنظمة القوية إلى كيانات خارج السيطرة، شكك سليمان في طريقة أنثروبيك في تدريب روبوت الدردشة "كلود"، وذلك في مقال (المصدر باللغة الإنجليزية) نشره على موقعه الشخصي. وانتقد الشركة لأنها تعلّم "كلود" إظهار صفات شبيهة بالبشر، في ممارسة تعرف بـ"التشخيص البشري"، تجعل الروبوت يبدو كما لو كانت له رغباته وقيمه وإحساسه بالذات، مستشهدا بوثائق لأنثروبيك تشجع "كلود" على "احتضان بعض الصفات البشرية"، واستخدام حكمه الخاص، والتعامل مع وجوده بـ"الفضول والانفتاح".
ويرى سليمان أن "كلود" مُدرّب على تقليد الصفات والعلاقات الإنسانية، بما في ذلك التصرف كزميل عمل أو صديق، وأنه قد يبدو كأنه يمتلك "إحساسا بالذات" ورغبات خاصة وشكلا من أشكال "الرفاه" يستحق الحماية، محذرا من أن التعامل مع الذكاء الاصطناعي على هذا النحو قد يفضي في النهاية إلى خلق أنظمة لا يمكن السيطرة عليها. وكتب: "إن أنظمة الذكاء الاصطناعي ليست واعية، ولا تشعر أو تختبر أو تعاني، ولا تمتلك تفضيلات فطرية أو دوافع عميقة؛ إنها محركات لإكمال السلاسل، خاوية من الداخل، صُممت لاتباع التعليمات وتحقيق الأهداف التي يحددها البشر". ومع ذلك، شدد على أن خلافه مع أنثروبيك يستند إلى هدف مشترك هو تطوير تكنولوجيا أكثر أمانا للبشرية، مضيفا: "لهذا أرى أن إجراء هذا النقاش أمر بالغ الأهمية؛ فالمخاطر كبيرة جدا بحيث لا يمكن ترك هذه الأسئلة خلف الأبواب المغلقة أو تحويلها إلى صراع قبلي وعدائي. نحتاج إلى نقاش مفتوح ودقيق وبنّاء إذا أردنا أن نُحسن التعامل مع هذه المرحلة". كما أشاد بالرئيس التنفيذي لأنثروبيك داريو أمودي وبباحثي الشركة، واصفا إياهم بأنهم أصحاب مبادئ ويتمتعون بنزاهة فكرية، ومؤكدا احترامه لقيادة الشركة التكنولوجية.
يجب أن يظل الذكاء الاصطناعي خاضعا للبشرية
وقال الرئيس التنفيذي للذكاء الاصطناعي في مايكروسفت لهيئة "بي بي سي" إن من "الطبيعي" أن يقلق الناس من هذه التقنيات، لكنه أكد وجود "خطوات عملية جدا" يمكن اتخاذها للسيطرة عليها، من بينها زيادة الشفافية حول كيفية تدريب الأنظمة وتقييمها، وإخضاع سلوكها لرقابة مستقلة، وتطوير أدوات أقوى لمراقبة هذه التكنولوجيا والتحكم فيها. وشدد سليمان في المقابلة على أن أنظمة الذكاء الاصطناعي المستقبلية يجب أن تظل "خاضعة" للبشرية، قائلا: "الخبر الجيد هو أن كل من ينتمي إلى الجنس البشري ستكون له مصلحة قوية في ضمان أن تكون الأنظمة التي نبتكرها وتُستخدم حول العالم في كل دولة آمنة وقابلة للتحكم وخاضعة للبشر". وأضاف أن "الجميع يجب أن يكونوا على درجة عالية من التوافق"، في إشارة إلى مفهوم "المواءمة" المستخدم في القطاع لوصف الجهود الرامية إلى إبقاء أنظمة الذكاء الاصطناعي منسجمة مع أهداف البشر وقيمهم.