خبراء يحذرون من أن إتاحة البيانات الحيوية قد تمكّن الذكاء الاصطناعي من تصميم مسببات أمراض خطيرة

تعتمد نماذج الذكاء الاصطناعي (AI) المستخدمة في علم الأحياء بشكل كبير على كميات هائلة من البيانات البيولوجية، بما في ذلك التسلسلات الجينية وخصائص مسببات الأمراض. لكن هل ينبغي أن تكون هذه المعلومات متاحة عالميا من دون قيود، وكيف يمكن ضمان استخدامها المشروع؟

اعلان

اعلان

حذّر أكثر من 100 باحث من أن الوصول غير المقيّد إلى بعض مجموعات البيانات البيولوجية قد يمكّن أنظمة الذكاء الاصطناعي من المساعدة في تصميم فيروسات خطيرة أو تعزيزها، داعين إلى اعتماد ضمانات أقوى لمنع إساءة استخدامها.

في "رسالة مفتوحة" (المصدر باللغة الإنجليزية)، يجادل باحثون من مؤسسات رائدة، بينها جامعة جونز هوبكنز وجامعة أوكسفورد وجامعة فوردهم وجامعة ستانفورد، بأن البيانات العلمية المفتوحة السرعة في إتاحة الوصول إليها ساهمت في تسريع الاكتشاف العلمي، غير أن جزءا صغيرا من البيانات البيولوجية الجديدة قد يشكل خطرا على الأمن البيولوجي إذا أسيء استخدامه.

وكتب المؤلفون: "إن رهان حوكمة البيانات البيولوجية كبير، إذ يمكن لنماذج الذكاء الاصطناعي أن تساعد في خلق تهديدات بيولوجية خطيرة".

يمكن لنماذج الذكاء الاصطناعي المستخدمة في علم الأحياء التنبؤ بالطفرات، ورصد الأنماط، وإنتاج نسخ أكثر قدرة على الانتقال من مسببات الأوبئة.

ويصف المؤلفون هذه القدرة بأنها "قدرة مثيرة للقلق"، لأنها قد تسرّع وتبسط عملية إنشاء مسببات أمراض بيولوجية قابلة للانتقال يمكن أن تقود إلى أوبئة بشرية، أو أحداث مشابهة لدى الحيوانات أو النباتات أو في البيئة.

وأشار الباحثون إلى أنه ينبغي أن تكون البيانات البيولوجية متاحة عموما بشكل مفتوح، لكن "بيانات مسببات الأمراض المثيرة للقلق" تحتاج إلى تدقيقات أمنية أكثر صرامة.

وجاء في الورقة: "ينصبّ تركيزنا على تعريف أشد مجموعات البيانات إثارة للقلق وحوكمتها قبل أن تصبح متاحة على نطاق واسع لمطوري نماذج الذكاء الاصطناعي"، مع اقتراح إطار جديد لتنظيم الوصول إليها.

وقال موريتس هانكه، أحد الموقّعين على الرسالة من جامعة جونز هوبكنز: "في زمن تهيمن عليه نماذج ذكاء اصطناعي بيولوجية مفتوحة الأوزان تُطوَّر في شتى أنحاء العالم، قد يكون حصر الوصول إلى بيانات مسببات الأمراض الحساسة على الباحثين المخوّلين من أكثر السبل الواعدة لخفض المخاطر".

ما الذي يفعله المطورون

لا يوجد حاليا إطار عالمي موحّد ينظم هذه المجموعات من البيانات. ورغم أن بعض المطورين يستبعدون طوعا البيانات عالية الخطورة، يرى الباحثون أن قواعد واضحة ومتسقة ينبغي أن تُطبّق على الجميع.

قام مطورو أبرز نماذج الذكاء الاصطناعي البيولوجية، "Evo" الذي طوّره باحثون من معهد "Arc" وجامعة ستانفورد و"TogetherAI"، و"ESM3" من شركة "EvolutionaryScale"، بحجب بعض التسلسلات الفيروسية وعدم إدراجها في بيانات التدريب.

وفي فبراير 2025 أعلن فريق "EVO 2" أنه استبعد مسببات الأمراض التي تصيب البشر وكائنات معقدة أخرى من مجموعات بياناته، بسبب المخاطر الأخلاقية ومخاطر السلامة، ولـ"استباق استخدام Evo لتطوير أسلحة بيولوجية".

يُعد "EVO 2" نموذجا مفتوح المصدر للذكاء الاصطناعي في علم الأحياء، يمكنه التنبؤ بتأثيرات طفرات الحمض النووي، وتصميم جينومات جديدة، وكشف الأنماط الكامنة في الشفرة الجينية.

وكتب جاسي بانو، مؤلف الدراسة وأحد المشاركين في الرسالة، على منصة "LinkedIn": "في الوقت الراهن لا توجد إرشادات يستند إليها الخبراء تحدد أي البيانات تشكل مخاطر ملموسة، ما يترك بعض المطورين في طليعة المجال ليجتهدوا بأنفسهم ويستبعدوا طوعا البيانات الفيروسية من التدريب".

أنواع مختلفة من البيانات عالية الخطورة

يشير المؤلفون إلى أن الإطار المقترح ينطبق على جزء صغير فقط من مجموعات البيانات البيولوجية.

ويقدّم الإطار نظاما من خمسة مستويات يسمى مستوى بيانات الأمن البيولوجي (BDL) لتصنيف بيانات مسببات الأمراض بحسب مستوى "المخاطر"، وفقا لقدرتها المحتملة على تمكين أنظمة الذكاء الاصطناعي من تعلّم الأنماط الفيروسية العامة والتهديدات البيولوجية للبشر والحيوانات على حد سواء. ويشمل ذلك:

BDL-0: بيانات بيولوجية يومية؛ لا ينبغي أن تخضع لأي قيود ويمكن مشاركتها بحرية.

BLD-1: اللبنات الفيروسية الأساسية، مثل التسلسلات الجينية؛ لا تحتاج إلى تدقيقات أمنية واسعة، لكن يجب أن يكون تسجيل الدخول والوصول خاضعين للرصد.

BLD-2: بيانات عن خصائص فيروسات الحيوانات، مثل القفز بين الأنواع أو القدرة على البقاء خارج العائل.

BLD-3: بيانات عن خصائص فيروسات تصيب البشر، بما في ذلك قابلية الانتقال، والأعراض، ومقاومة اللقاحات.

BLD-4: فيروسات بشرية مُحسَّنة، مثل الطفرات التي تصيب فيروس كوفيد-19 وتجعل انتقاله أسهل؛ وتخضع هذه الفئة لأشد القيود صرامة.

ضمان الوصول الآمن

لضمان وصول آمن، تدعو الرسالة إلى استخدام أدوات تقنية محددة تتيح لمزوّدي البيانات التحقق من المستخدمين المخوّلين وتتبع أي إساءة استخدام.

ومن بين الأدوات المقترحة: العلامات المائية الرقمية، أي تضمين معرفات خفية وفريدة داخل مجموعات البيانات لتسهيل تتبّع التسريبات؛ وآليات تتبع مصدر البيانات ونَسَبها؛ وسجلات تدقيق ترصد كل عمليات الوصول والتعديل باستخدام توقيعات غير قابلة للتلاعب؛ إضافة إلى القياسات الحيوية السلوكية القادرة على رصد أنماط تفاعل المستخدمين الفريدة.

ويؤكد الباحثون أن إيجاد توازن دقيق بين الانفتاح والقيود الأمنية اللازمة على البيانات عالية الخطورة سيكون أمرا حاسما، مع ازدياد قوة أنظمة الذكاء الاصطناعي وانتشارها على نطاق واسع.