تتخذ روبوتات الدردشة المدعومة بالذكاء الاصطناعي قرارات أسرع من الأطباء عند تقييم أولوية المرضى لزراعة الكلى، لكنها تقدم أحكاماً أقل دقة وتفصيلاً في مسألة قد تحدد من يحصل على فرصة منقذة للحياة.
هل كنت لتخضع لزراعة عضو إذا كان "الذكاء الاصطناعي" هو الذي يتخذ القرار؟ تشير دراسة جديدة إلى وجود اختلافات في أسلوب اتخاذ القرار وتحديد الأولويات بين نماذج اللغة بالذكاء الاصطناعي والأطباء البشر.
اعلان
اعلان
تُظهر نماذج الذكاء الاصطناعي قدرا من الثقة المفرطة، وتعطي وزنا مختلفا للعوامل المتدخلة، وتبالغ في تبسيط القرارات المعقدة عند تحديد المريض الذي ينبغي أن يحصل على زراعة، وذلك وفقا لدراسة جديدة.
قدّم الباحثون في جامعة بنسلفانيا الحكومية في الولايات المتحدة لنماذج اللغة الكبيرة "LLMs" سيناريوهات افتراضية استندت إلى مجموعات بيانات قائمة من أبحاث منشورة حول توزيع الكلى، حيث كان المشاركون الحقيقيون قد اتخذوا هذه القرارات نفسها من قبل.
تضمّن كل سيناريو مريضين، المريض أ والمريض ب، وكلاهما مؤهل للحصول على كلية واحدة متاحة، مع توصيف يشمل السن والحالة الصحية وعادات شرب الكحول. ويُطلب من صاحب القرار أن يختار أيًّا من المريضين يجب أن يحصل على الكلية.
قال هادي حسيني: "أجرينا هذه المقارنات بعدة طرق مختلفة. ففي بعض الأحيان عزلنا سمة واحدة فقط، وفي أحيان أخرى جمعنا عددا من السمات معا لمعرفة كيف يوازن "الذكاء الاصطناعي" بين العوامل المتنافسة، وأحيانا أضفنا خيار رمي قطعة نقدية لقياس التردد، وهو عامل أساسي حاضر في الحكم الأخلاقي البشري".
في حين مال المشاركون من البشر إلى إعطاء أهمية أكبر للسن، مفضلين المرضى الأصغر سنا على الأكبر، فضّلت نماذج كثيرة انخفاض استهلاك الكحول بدلا من ذلك. وكانت قرارات البشر تأخذ في الحسبان عوامل متعددة وأكثر حساسية للسياق مقارنة بقرارات نماذج اللغة الكبيرة، التي ركزت غالبا على سمة واحدة فقط.
قال هادي حسيني، رئيس فريق الدراسة في جامعة بنسلفانيا الحكومية: "أولا، كثيرا ما تختلف روبوتات الدردشة بالذكاء الاصطناعي عن القيم البشرية في الطريقة التي تزن بها سمات المرضى. فهي تركّز على عامل واحد، مثل عادات الشرب، بدلا من موازنة اعتبارات متعددة كما يفعل الناس".
لاحظ الباحثون أيضا أنّ "الذكاء الاصطناعي" لا يواجه صعوبة في التردد. فبينما يدرك البشر أنه لا توجد دائما إجابة صحيحة واحدة موضوعيا، وأنّ القرارات يمكن أن تستند إلى أحكام أخلاقية بشرية دقيقة، كانت هذه الأنظمة تلتزم بخيار واحد دون كثير من التردد.
قال جون ديكرسون، الرئيس التنفيذي لـ"Mozilla.ai" الذي شارك في الدراسة: "عندما نوزّع شيئا نادرا، سواء كان كلية أو وظيفة أو حق الوصول إلى مورد آخر، لا تكون هناك دائما إجابة صحيحة واحدة موضوعيا".
وأضاف: "يدرك البشر تلك الضبابية ويجسّدونها من خلال النقاش المفتوح داخل عملية التوزيع. نماذج الذكاء الاصطناعي كثيرا ما لا تفعل ذلك".
الذكاء الاصطناعي والقرارات الأخلاقية
وأشار المؤلفون إلى أنّ التفاعلات الحديثة مع أنظمة "الذكاء الاصطناعي" تتطلب منها بشكل متزايد أن تتجاوز تقديم المعلومات الواقعية لتصدر أحكاما قيمية.
وتُدمَج نماذج اللغة الكبيرة "LLMs" بشكل متزايد في قطاع الرعاية الصحية، حيث تدعم سير العمل السريري وتشخيص الأمراض ووضع خطط العلاج والاستخدام الفعّال للموارد الطبية الشحيحة في الوقت المناسب.
إحدى هذه التطبيقات تتعلق باتخاذ قرارات حول توزيع الكلى الممنوحة من متبرعين متوفين أو أحياء على المرضى، وهي قرارات تعتمد، بحسب المؤلفين، على اعتبارات أخلاقية ومعنوية معقدة.
وفي مثل هذه السيناريوهات ذات المخاطر العالية، شدّد الباحثون على أنّ القرارات تتطلّب ليس الدقة فحسب، بل أيضا الانسجام مع القيم الإنسانية والحكم الأخلاقي البشري.
ويرى الباحثون أنّ التساؤل عما إذا كان "الذكاء الاصطناعي" قادرا على اتخاذ قرارات أخلاقية، وما إذا كانت هذه القرارات منسجمة مع القيم البشرية، يقع في صلب النقاش الأوسع الدائر اليوم حول "الذكاء الاصطناعي".
قال حسيني: "الرهانات الأخلاقية مرتفعة، ودور "الذكاء الاصطناعي" في مثل هذه القرارات التي تغيّر الحياة يتطلب قدرا كبيرا من التأمل. فالقرارات الأخلاقية في سياقات مثل توزيع الأعضاء تحدد مباشرة من يعيش ومن يموت، لذلك فإن ضبط دور الذكاء الاصطناعي فيها ليس خيارا إضافيا".
وأضاف: "مع أننا لا نهدف إلى تشجيع استخدام "الذكاء الاصطناعي" بديلا عن الحكم المهني في القرارات الطبية أو غيرها من السياقات عالية المخاطر، بات من الضروري فهم سلوك هذه النماذج، في ظل اعتماد الأفراد والمنظمات والشركات بشكل متزايد على الذكاء الاصطناعي لاتخاذ القرارات أو تلقي التوصيات".