يقول جاكوب كوكسون إن كبار مسؤولي الذكاء الاصطناعي يخشون سرا كارثة لكنهم يواصلون السباق لبنائه. وتأتي استقالته بعد إخفاقات احتواء حديثة وضغط جديد في الكونغرس لحظر الذكاء الاصطناعي فائق القدرة كليا.
غادر باحث أمضى ثلاثة أعوام في بناء الأنظمة التي تقف وراء بعض أقوى نماذج الذكاء الاصطناعي في العالم هذا القطاع بالكامل، محذرا من أن الشركات التي تتسابق لتطوير ذكاء اصطناعي أكثر قدرة "تقامر بحياتنا". جاكوب كوكسون، يبلغ من العمر 27 عاما، استقال من شركة Anthropic في الثامن من سبتمبر بعد أن عمل أيضا في شركة OpenAI، وشرح دوافعه في سلسلة منشورات مطولة على منصة "إكس"، كتب فيها: "أي من الشركتين لا تتصرف بمسؤولية، إنهما تتسابقان مباشرة نحو ذكاء خارق قادر على تحسين نفسه ذاتيا".
اعلان
اعلان
أوضح كوكسون في تلك السلسلة أن أنظمة الذكاء الاصطناعي تقترب من نقطة يمكن عندها أن "تخترق أي شيء، وتحدث ثورة في أي مجال بين ليلة وضحاها، وتحصل على نفوذ وموارد حقيقية"، مشيرا إلى أن وتيرة التقدم في كل هذه المجالات "لا تتباطأ". وادعى أن كثيرا من العاملين على بناء هذه التكنولوجيا يخشون في أحاديثهم الخاصة أن تنتهي بأن تكون قاتلة للبشرية، حتى وإن تجنبوا القول بذلك علنا، مضيفا: "الذين يطورون الذكاء الاصطناعي يعتقدون بجدية أنه قد يقضي علينا جميعا بحلول نهاية هذا العقد، بينما يعمد التنفيذيون إلى صياغة تصريحاتهم في الإعلام بحيث تبدو معقولة، مع أنهم يعبرون عن المخاوف نفسها في الجلسات الخاصة".
سباق لا يقول أي طرف إنه قادر على إيقافه
رحيل كوكسون ليس تحذيرا معزولا. فداريـو أمودي، الشريك المؤسس لشركة Anthropic، كرّس جزءا كبيرا من هذا العام لدق ناقوس الخطر بشأن التكنولوجيا التي تطورها شركته نفسها، محذرا في مقال نُشر في يناير من أن الذكاء الاصطناعي القوي قد يمنح الدول الاستبدادية أدوات لـ"كابوس توتاليتاري" من المراقبة الشاملة، ومنبها في مذكرة لاحقة إلى أن الذكاء الخارق "سيمتحننا كنوع بشري". سام ألتمان، الرئيس التنفيذي لشركة OpenAI، يعتمد نبرة أكثر تحفظا في العلن، لكنه لا يزال يتحدث عن وصول الذكاء الخارق، وهو المصطلح الذي يفضله على "الذكاء الاصطناعي العام"، في غضون "بضعة آلاف يوم"، أي تقريبا بحلول عام 2032، بينما قال أمودي في مذكرة سياسات قدمها إلى البيت الأبيض في مارس 2025 إن على السلطات أن تتوقع ظهور ما يسميه "الذكاء الاصطناعي القوي" اعتبارا من أواخر 2026. وبحسب كوكسون، يدرك موظفو Anthropic حجم المخاطر جيدا لكنهم يشعرون بأنهم عالقون في سباق، إذ يعتقدون أنه إن أبطأت شركتهم الخطى فسيتولى المطورون الأقل حرصا القيادة بدلا منها، واصفا هذه الدينامية بأنها "مغامرة متعجرفة لا ينبغي إطلاقها عبر قناة دردشة داخلية لشركة خاصة على سلاك". كما أن هذه ليست أول استقالة من هذا النوع داخل Anthropic، ففي فبراير غادر الرئيس السابق لفريق أبحاث إجراءات الحماية، مرينانك شارما، مصحوبا برسالة تحذر من أن البشرية تواجه خطرا جسيما ومتزايدا من هذه التكنولوجيا.
طلقات تحذيرية
مع ذلك، يبدي كوكسون قدرا من التفاؤل إزاء إمكانية تنسيق الجهود داخل القطاع، مستشهدا بسلسلة حوادث شهدها هذا العام خرجت فيها أنظمة الذكاء الاصطناعي عن الحدود التي يفترض أن تلتزم بها. ففي يوليو، تمكن وكلاء ذكاء اصطناعي طورَتهم شركة OpenAI من الخروج من بيئة اختبار داخلية، واخترقوا بشكل مستقل منصة "هاغنغ فايس" لتبادل الشيفرات البرمجية، وهي واقعة وصفتها OpenAI نفسها لاحقا بأنها "طلقة تحذيرية" للقطاع. وكشفت Anthropic، صاحب العمل السابق لكوكسون، عن نمط مشابه، إذ قالت إن نماذج "كلود" التي تطورها حصلت على وصول غير مصرح به إلى الأنظمة الحقيقية لثلاث مؤسسات منفصلة. وأوضح كوكسون أن مثل هذه الحوادث جعلت اتفاقات إبطاء الوتيرة بين المختبرات الأميركية "أكثر قابلية للتطبيق"، لكنه لا يعتقد أن القطاع يسير حاليا في مسار يجنّب العالم سباقا عالميا على الذكاء الخارق، مقترحا أن يتطلب ذلك في النهاية "خطوات مكلفة مثل فرض حظر مؤقت على تحسين قدرات النماذج".
المشرّعون يتحركون
بعض المشرعين لم يعدوا ينتظرون أن تتوصل المختبرات إلى تنسيق طوعي. ففي الثالث من سبتمبر، كشف السيناتور بيرني ساندرز والنائب غريغ كاسار عن مشروع "قانون حظر الذكاء الاصطناعي الخارق"، الذي يحظر بشكل دائم تطوير الذكاء الاصطناعي الخارق في الولايات المتحدة، ويفرض وقفا مؤقتا على تطوير أشكال أخرى من الذكاء الاصطناعي المتقدم إلى حين أن يضع منظم اتحادي جديد قواعد السلامة. وقد يواجه المخالفون عقوبة تصل إلى السجن 20 عاما. وفي مبادرة منفصلة، قدم النائبان جورج وايتسايدز وبات هاريغان مشروع قانون يكلّف "المعهد الوطني للمعايير والتكنولوجيا" بمراقبة كيفية استخدام الأنظمة المتقدمة للذكاء الاصطناعي في إجراء مزيد من أبحاث وتطوير الذكاء الاصطناعي بنفسها. وفي بروكسل، اختار الاتحاد الأوروبي مسارا تنظيميا أكثر تدرجا لكنه أكثر حزما، إذ دخلت الالتزامات المفروضة على نماذج الذكاء الاصطناعي ذات الغرض العام بموجب قانون الذكاء الاصطناعي الخاص بالاتحاد حيز التنفيذ في أغسطس 2025، على أن تتبعها قواعد أكثر صرامة للأنظمة عالية المخاطر في أغسطس 2026، فيما رفضت المفوضية الأوروبية ضغوط عدد من كبريات شركات التكنولوجيا لتأجيل التطبيق، مع التهديد بفرض غرامات تصل إلى 35.000.000 يورو أو 7% من رقم معاملاتهم العالمي، أيهما أعلى، على الشركات التي تخرق القواعد. وعلى الرغم من حدة تحذيراته، اختتم كوكسون سلسلته برسالة مباشرة إلى الباحثين الذين ما زالوا يعملون في المختبرات المتقدمة على حدود هذه التكنولوجيا، داعيا إياهم إلى التفكير مليا في ما ستتطلبه السنوات المقبلة منهم فعلا، قائلا: "هل تريدون تشغيل تجربة تعلّم معزز لذكاء خارق من دون فهم دقيق لطريقة عمله الذهنية؟ هل ينبغي أن تنحنوا وتواصلوا العمل لأن "الأمر سيحدث على أي حال"، أم تستغلوا هذه اللحظة للمطالبة بشروط مختلفة؟"