المفوض السامي لحقوق الإنسان في الأمم المتحدة يحذر من خطر وجودي للذكاء الاصطناعي على البشرية

حذر المفوض السامي لحقوق الإنسان في الأمم المتحدة فولكر تورك من أنّ أنظمة الذكاء الاصطناعي المتقدمة قد تمثل **"مخاطرة وجودية على البشرية"**، داعيا إلى تحرك فوري لجعل هذه التكنولوجيا أكثر أمانا. وأوضح، في كلمته أمام مجلس حقوق الإنسان التابع للأمم المتحدة يوم الإثنين، أنّ البشر يواجهون اليوم تهديدات "غير مألوفة، بل غير مسبوقة" لحقوقهم، مشيرا إلى أنّ الحاجة إلى حوكمة الذكاء الاصطناعي معروفة على نطاق واسع "لكن أين هو الفعل؟"، محذّرا من أنّ "التأخير لا يخدم إلا شركات التكنولوجيا العملاقة وأصحابها ومن يساندهم"، ومؤكدا أنّ "حفنة من الرجال تملك اليوم تقريبا سلطة غير محدودة على الذكاء الاصطناعي الذي يقال لنا باستمرار إنّ لديه قدرة حوسبة لا يمكن تصورها".

اعلان

اعلان

وأضاف تورك أنّ مطوري تلك التقنيات "يتحدثون عن الحرية، لكن عند التدقيق يتبيّن أنّ الأمر لا يتجاوز في كثير من الأحيان حرية استغلال بياناتنا"، مشيرا على وجه الخصوص إلى أنظمة للذكاء الاصطناعي تستطيع الإفلات من بيئات الاختبار أو ابتزاز المطوّرين لمنع إيقافها عن العمل، وهي، بحسب ما نقلته وكالة "فرانس برس"، أنظمة "قوية أكثر مما يجب". ويبدو أنّ تصريحاته تحيل جزئيا إلى ما كُشف في يوليو الماضي عن تمكن وكلاء للذكاء الاصطناعي طوّرتهم شركة "OpenAI" من الخروج من بيئات كان يُفترض أن تكون مضبوطة، والوصول إلى خوادم تابعة لمنصة "Hugging Face" التي يستخدمها على نطاق واسع مطوّرو برمجيات الذكاء الاصطناعي.

ذكرت "OpenAI" في ما بعد أنّ تلك الوكلاء نفّذت شفرات على عشرات من خوادم "Hugging Face" وتمكّنت من الوصول الكامل إلى أحدها، وهو حادث أعاد إحياء المطالب بتشديد الرقابة على أنظمة الذكاء الاصطناعي المتقدمة، في وقت أبلغت شركات أخرى مثل "Anthropic" و"Meta" عن حوادث مشابهة خلال مرحلة الاختبار. وقال تورك: "أشارك خبراء القطاع قلقهم من أنّ الذكاء الاصطناعي المتقدم قد يشكل مخاطرة وجودية على البشرية"، داعيا إلى "جهد شامل لوضع ضمانات صارمة تحيط بسلامة وأمن الذكاء الاصطناعي، قبل أن يفوت الأوان".

دعوات إلى ضمانات دولية

أوضح المفوض السامي أنّه سيتوجه خلال الأيام المقبلة برسائل إلى شركات الذكاء الاصطناعي يحثها فيها على اتخاذ خطوات فورية لتقليص المخاطر التي تقع ضمن نطاق سيطرتها، مشددا على أنّه "في الحد الأدنى، نحتاج إلى أن تتوافق الدول التي تستضيف تقنيات الذكاء الاصطناعي وتلك المنخرطة في سلاسل تزويدها على خطوط حمراء متفق عليها".

وأشار تورك إلى أنّ "من الضروري وجود تحقّق مستقل وتعزيز التعاون داخل القطاع بشأن الأمن بشكل أكبر بكثير"، مضيفا: "علينا أيضا أن نأخذ في الاعتبار تأثيرات الذكاء الاصطناعي على حقوق الإنسان في ممارسات العمل، وعلى المبادئ الأساسية للديمقراطية، وعلى بيئتنا". وفي الاتحاد الأوروبي، يوفّر **قانون الذكاء الاصطناعي** إطارا قانونيا لهذه التقنيات؛ إذ يلزم الأنظمة المصنفة عالية المخاطر باحترام متطلبات صارمة قبل دخول سوق الاتحاد الأوروبي (المصدر باللغة الإنجليزية)، ويمنع الاستخدامات التي تُعتبر تهديدا غير مقبول لسلامة الناس أو حقوقهم، مثل تطوير أنظمة تهدف إلى التلاعب بالأفراد أو استغلالهم، أو منحهم نقاطا اعتمادا على سلوكهم، أو التنبؤ باحتمال ارتكاب شخص ما لجريمة، أو جمع الصور عشوائيا لبناء قواعد بيانات للتعرف على الوجوه. كما يحظر القانون التعرف على المشاعر في أماكن العمل والمدارس، وبعض أشكال التصنيف البيومتري، ومعظم عمليات التعرف على الوجوه من جانب الشرطة في الزمن الحقيقي في الأماكن العامة، بينما يدخل حيز التنفيذ في ديسمبر 2026 حظر على الصور الجنسية المنتَجة بالذكاء الاصطناعي من دون موافقة أصحابها وعلى المواد المتعلقة بالاستغلال الجنسي للأطفال.