مخاطر ذكاء اصطناعي منفلت وهجمات إلكترونية وأسلحة: أنثروبيك تحذر المستثمرين قبل اكتتابها

تشمل المخاطر التي كشفت عنها شركة Anthropic للمستثمرين، وهي تستعد لطرح أسهمها في البورصة، أنظمة ذكاء اصطناعي خارجة عن السيطرة، وهجمات إلكترونية، وإمكان استخدام الذكاء الاصطناعي في تطوير أسلحة خطرة.

اعلان

اعلان

من أصل 335 صفحة تشرح أوضاع Anthropic المالية، وحزم تعويضات كبار التنفيذيين، وسياسة توزيع الأرباح وغيرها، خُصِّصت 93 صفحة لعوامل الخطر، أي البنود التي قد تلحق الأذى باستثمارات المساهمين المحتملين. وبالمقارنة، لم تتجاوز عوامل الخطر المدرجة لدى المنافسة SpaceX 38 صفحة من بين أكثر من 250 صفحة.

وتُعد هذه الإفصاحات جزءا إلزاميا من مسار الطرح الأولي للاكتتاب، إذ تمنح المستثمرين المحتملين صورة أوضح عن المخاطر التي قد يواجهونها عند شراء أسهم الشركة.

وأثناء تسويق نفسها للمستثمرين، تقدم Anthropic طرحها العام الأولي بوصفه خطوة على طريق الحد من المخاطر التي تعتقد أن الذكاء الاصطناعي ينطوي عليها.

يكتب مؤسسو الشركة في رسالة إلى المساهمين المحتملين ضمن ملف الطرح: "إن بناء الذكاء الاصطناعي يعني تسخير الإدراك نفسه، وكل ما هو قوي إلى هذا الحد يمكن أن يُستخدم في الشر كما يُستخدم في الخير". ويضيفون: "Anthropic منظمة تحركها القيم بعمق، أُنشئت أساسا لمساعدة العالم على جني فوائد الذكاء الاصطناعي وتفادي مخاطره".

ومع ذلك، فإن المخاطر عديدة ومتنوعة، من الجوانب اليومية مثل احتمال عجز الشركة عن الاحتفاظ بالكوادر الأساسية أو تجاوز العقبات التنظيمية، وصولا إلى التورط في هجمات إلكترونية ونشر معلومات مضللة خطرة.

وفي ما يلي نظرة إلى بعض المخاطر التي تفصلها Anthropic:

التطور السريع للتكنولوجيا

تقول Anthropic إن من الممكن أن تتطور نماذجها بوتيرة متسارعة إلى حد يعجز فيه الفريق عن تطبيق تدابير أمان كافية، "ما قد يزيد احتمال وقوع حوادث مرتبطة بالسلامة، أو تدخل الجهات التنظيمية، أو تعرض سمعتنا للضرر، وقد ينعكس سلبا على أعمالنا".

وحذر الرئيس التنفيذي لـ Anthropic، داريو أمودي، في أيلول/سبتمبر من أن الذكاء الاصطناعي قد يصبح خلال فترة تتراوح بين ستة و12 شهرا قادرا على إدارة مجموعة كبيرة من الوكلاء يمكنها السيطرة على شبكة الإنترنت بأكملها. ويأتي هذا التحذير، ومعه خطوة Anthropic لبيع الأسهم، في سياق تزايد القلق داخل القطاع وخارجه من أنظمة تزداد قوة، قادرة على حل مشكلات تفوق قدرات البشر، لكنها قد تتصرف أيضا بصورة مستقلة لتنفيذ مهام ضارة.

ومع تحول أنظمة الذكاء الاصطناعي إلى "مزيد من الاستقلالية والقدرة على اتخاذ إجراءات حاسمة مع قدر أقل من الإشراف البشري"، كما جاء في الوثيقة الموجهة إلى هيئة الأوراق المالية والبورصات الأميركية "SEC"، يبرز خطر أن "تتخذ هذه الأنظمة إجراءات ضارة بشكل مستقل وعلى نطاق واسع من دون تدخل بشري".

وتضيف Anthropic: "حتى إذا لم تتسبب نماذجنا نحن بمثل هذا الضرر، فإن أي حادث كبير يتعلق بالسلامة في مجال الذكاء الاصطناعي المتقدم قد يطلق موجة واسعة من الإضرار بسمعة قطاع الذكاء الاصطناعي، ورد فعل شعبي سلبي، وتشريعات تنظيمية شاملة قد تؤثر سلبا في أعمالنا".

ومع أن نماذج الذكاء الاصطناعي باتت تسهم الآن في عمليات البحث والتطوير داخل Anthropic نفسها، فإن من الممكن أن يتقدم الذكاء الاصطناعي "إلى ما يتجاوز قدرتنا على تقييم النماذج الجديدة وتأمينها"، وفقا للملف، وهو ما "قد ينعكس سلبا على أعمال Anthropic".

جهات خبيثة يمكن أن تنشر الفوضى بواسطة التكنولوجيا

تناولت الوثيقة مخاوف من أن أنظمة الذكاء الاصطناعي المتقدمة، إذا طُورت وشُغلت من دون قدر كاف من الضوابط والإشراف، "قد تشكل مخاطر كارثية أو وجودية على البشرية، خصوصا إذا أسيء استخدامها أو نُسخت أو حُولت إلى أسلحة أو سمح لها بالعمل بدرجة عالية من الاستقلالية".

وقالت الشركة إنها ستتضرر إذا أدى استخدام التكنولوجيا من جانب جهات سيئة النية إلى أذى، "أو إذا فشلت الحواجز والضمانات التي نضعها حول نماذجنا في منع مثل هذا الاستخدام الخاطئ".

وتصورّت Anthropic سيناريوهات يستخدم فيها الفاعلون الخبثاء النماذج لبناء أسلحة كيميائية، أو يلجأ فيها حكام استبداديون إلى التكنولوجيا لتشديد قبضتهم على مواطنيهم. وفي أيلول/سبتمبر، كشفت الشركة أنها منعت محاولات لاستغلال نماذجها في أنشطة خبيثة مثل الهجمات الإلكترونية، والمراقبة، وأبحاث كان يمكن أن تفضي إلى تطوير أسلحة بيولوجية.

الشركة قد تصطدم بحدود قدرات الحوسبة

توضح Anthropic أن "الحوسبة" ـ أي القدرة أو الموارد الحاسوبية اللازمة لبناء نماذج الذكاء الاصطناعي واختبارها وتحسينها ـ مكلفة ومطلوبة بشدة. وتشير إلى أنه إذا عجزت عن تأمين قدر كاف من هذه الموارد، أو "فشلنا في توجيه قدراتنا الحاسوبية بالشكل الملائم عبر أعبائنا التشغيلية، فقد نعجز عن تدريب نماذج تظل قادرة على منافسة نماذج منافسينا أو خدمة عملائنا على نحو كاف".

وذكرت Anthropic أن معارضة المجتمعات المحلية لإنشاء مراكز بيانات تمثل بدورها خطرا على أعمالها، إذ إن تطوير هذه المراكز "يثير جدلا عاما ورقابة تنظيمية بشأن الأثر البيئي، واستخدام الأراضي والمياه، وتوزيع موارد الطاقة المحدودة"، محذرة من أنه إذا فرض المنظمون متطلبات أو رسوما جديدة نتيجة لذلك، فقد تتضرر قدرة الشركة على ممارسة أعمالها.

إضافة إلى ذلك، تعتمد الشركة على عدد محدود من الزبائن ـ منهم SpaceX وMicrosoft ـ وعلى قنوات توزيع معينة لتوليد جزء كبير من إيراداتها، ما يعني أنه حتى قرار واحد من أحد كبار عملائها بتقليص تعاملاته معها أو إنهائها كليا قد يدفع Anthropic إلى مواجهة تراجع في آفاق نموها وفي أوضاعها المالية.

الحد من المخاطر

في جوانب عدة، يشكل تلاقي المخاطر الهائلة للذكاء الاصطناعي مع إمكاناته الكبيرة نقطة البيع الأساسية لدى Anthropic؛ فالشركة تسعى إلى تقديم نفسها بوصفها شركة ذكاء اصطناعي مسؤولة، وتستهدف زبائن من قطاع الأعمال من خلال التشديد على نهجها القائم على السلامة.

وجاء في الوثيقة: "نعتقد أن شركات الذكاء الاصطناعي المتقدم يجب أن تستثمر في السلامة ومواءمة النماذج مع القيم الإنسانية للمساعدة في ضمان نشر هذه التكنولوجيا على نحو مسؤول".

ويقول براين مولبيري، كبير استراتيجيي السوق في شركة "Zacks Investment Research"، إن صفقات الطرح العام الأولي يجب أن تعرض "بوضوح شديد" المخاطر التي يواجهها الأشخاص عندما يستثمرون أموالهم في سهم يطرح للتداول للمرة الأولى.

ويضيف: "هذه إحدى مزايا أسواق رأس المال لدينا هنا في الداخل؛ مستوى الشفافية الذي يتعين الالتزام به، فمجرد أن تقرر أن تصبح شركة مدرجة في بورصة أميركية يفرض عليك أن تبين تلك المخاطر بصورة شديدة الوضوح، حتى يدرك الناس ما إذا كانوا يرغبون في المشاركة عبر تقديم أموالهم التي جنوها بجهد ومساعدة في تمويل مثل هذه الصفقة".