وتتجسد الحاجة إلى إطار تنظيمي قوي للتكنولوجيات الناشئة في الأمثلة التاريخية التي تكشف عن مخاطر الإفراط في التنظيم والتأخر التنظيمي. في أواخر القرن التاسع عشر، فرضت القوانين البريطانية قيودا مفرطة على تطوير السيارات، مما أكد على خطر فرض قواعد تنظيمية صارمة استنادا إلى فهم عفا عليه الزمن للتكنولوجيا. وعلى نحو مماثل، فإن التعرض المستمر للنشاط الإشعاعي حتى منتصف القرن العشرين، على الرغم من التحذيرات المبكرة بشأن مخاطره، يوضح مخاطر الاستجابة التنظيمية البطيئة للمعرفة العلمية الناشئة.
يرتبط هذا السياق التاريخي ارتباطًا وثيقًا بتنظيم الذكاء الاصطناعي (AI) في العصر الحديث. إن دمج الذكاء الاصطناعي في مختلف جوانب الحياة، بما في ذلك المجالات الحيوية مثل الرعاية الصحية والمالية والقانون، يفرض تحديات فريدة من نوعها. إن الطبيعة الغامضة لخوارزميات الذكاء الاصطناعي في كثير من الأحيان، والتي يمكن أن تؤدي إلى اتخاذ قرارات متحيزة، تؤكد الحاجة الملحة إلى إطار تنظيمي يتسم بالتكيف والتفكير المستقبلي. لا سيما في مجال الرعاية الصحية، حيث يتمتع الذكاء الاصطناعي بالقدرة على التأثير بشكل كبير على نتائج المرضى والممارسات الطبية، ويعد ضمان التطبيق الشفاف والأخلاقي والآمن للذكاء الاصطناعي أمرًا بالغ الأهمية.
اليوم، يتم نشر الذكاء الاصطناعي في جوانب مختلفة من صناعة الرعاية الصحية. على سبيل المثال، دراسة حديثة نشرت في طب الطبيعة سلط الضوء على كيف ساهم نموذج PANDA، وهو نموذج مبتكر للذكاء الاصطناعي، في تطوير الكشف عن سرطان البنكرياس بشكل كبير من خلال التحديد الدقيق لآفات البنكرياس الشائعة وأنواعها الفرعية من خلال عمليات التصوير المقطعي الروتينية غير المتباينة، وهي مهمة لم يكن من الممكن تحقيقها من قبل من قبل أطباء الأشعة وحدهم. إنه مبني على مجموعة بيانات كبيرة وبنية متطورة للتعلم العميق، مما يسمح بحساسية وخصوصية عالية في اكتشاف الآفات، ويتفوق في الأداء على طرق التشخيص التقليدية. تمثل قدرة PANDA على تعزيز القدرات التشخيصية لأخصائيي الأشعة، خاصة في البيئات الأقل تخصصًا، وقدرته على الكشف المبكر عن السرطان وفحصه لدى الأفراد الذين لا يعانون من أعراض، خطوة تحويلية في تشخيص السرطان، مما يمتد فائدته إلى ما هو أبعد من سرطان البنكرياس إلى أنواع أخرى حيث يكون الكشف المبكر أمرًا بالغ الأهمية.
ومع ذلك، فإن الذكاء الاصطناعي لا يقل جودة عن البيانات التي يتم التدريب عليها. كشفت الدراسات البحثية التجريبية عن تحيز كبير في تطبيقات الذكاء الاصطناعي في مجال الرعاية الصحية. دراسة أجراها أوبرماير وآخرون. (2019) في علوم تم الإبلاغ عن التحيز العنصري في خوارزمية الرعاية الصحية المستخدمة على نطاق واسع في المستشفيات الأمريكية، والتي تميز بشكل منهجي ضد المرضى السود. وقد ردد هذا الأمر بحث أظهر أن درجة مخاطر الإصابة بأمراض القلب والأوعية الدموية في دراسة فرامنغهام للقلب، والتي استخدمت لعقود من الزمن في البلدان الصناعية، أظهرت نتائج متحيزة لصالح المرضى القوقازيين على المرضى الأميركيين من أصل أفريقي، مما أدى إلى توزيع الرعاية غير المتكافئ وغير الدقيق. دراسة أخرى نشرت في مجلة الصحة العالمية على التحيزات الخوارزمية يؤكد أن التحيز يمكن أن يظهر في أي مرحلة من مراحل إنشاء الخوارزميات، بدءًا من تصميم الدراسة وجمع البيانات وحتى التنفيذ والنشر، مما يستلزم استراتيجيات التخفيف في كل خطوة. تُعرِّف هذه الدراسة التحيزات الخوارزمية بأنها “تطبيق خوارزمية تؤدي إلى تفاقم عدم المساواة الموجودة في الوضع الاجتماعي والاقتصادي أو العرق أو الخلفية العرقية أو الدين أو الجنس أو الإعاقة أو التوجه الجنسي وتضخيم عدم المساواة في النظم الصحية”.
قد يؤدي عدم وجود إطار تنظيمي شامل للقضاء على التحيز الخوارزمي في الذكاء الاصطناعي المنتشر في الرعاية الصحية إلى تأثيرات سلبية كبيرة على نتائج المرضى. تبدأ معالجة هذا التحدي بالاعتراف بأن التحيز يمكن أن يتسلل إلى عملية إنشاء الخوارزمية في أي وقت، بدءًا من تصميم الدراسة وحتى جمع البيانات وتنفيذ النماذج. وللتخفيف من هذه المشكلة، يجب أن تكون فرق علوم البيانات في مجال الرعاية الصحية متنوعة، بحيث لا تشمل الخبراء الفنيين فحسب، بل أيضًا المهنيين من خلفيات مختلفة، مثل الأطباء الذين يفهمون الفروق الدقيقة في السياقات السريرية. يمكن أن يساهم هذا التنوع في الفرق في إيجاد نماذج ذكاء اصطناعي أكثر توازناً وإنصافاً.
علاوة على ذلك، من المهم التعرف على المفاضلة المتأصلة بين أداء الخوارزمية والتحيز. وبما أن عدم المساواة المجتمعية تؤثر على تطوير الخوارزميات، فهناك دائمًا احتمال للتحيز. وقد تتضمن الاستراتيجيات قصيرة المدى تعديل الخوارزميات لحماية الفئات المحرومة، حتى لو كان ذلك يعني التنازل عن الدقة الإجمالية. ورغم أن هذا النهج يمثل تحديًا تقنيًا، إلا أنه يعد أمرًا بالغ الأهمية لضمان الرعاية المنصفة. تتطلب الحلول طويلة المدى فرقًا أوسع وأكثر تنوعًا وتنفيذ قوائم مرجعية أو ضمانات طوال عملية تطوير الخوارزمية.
وعلى نطاق أوسع، يتزايد الوعي بالتحيز الخوارزمي، وتُبذل الجهود لمكافحته من خلال الحوافز المدروسة والتشريعات الرسمية. ومع ذلك، فإن التدابير القانونية الحالية لا تزال في طور التطور وقد لا تعالج بشكل كامل مدى تعقيد هذه القضية. الهدف ليس تحسين أداء الخوارزمية فحسب، بل أيضًا تقليل التحيز، وذلك من خلال نظام من الضوابط والتوازنات. يؤكد هذا الجهد المستمر على الحاجة إلى التحسين المستمر في تطوير الخوارزميات واتباع نهج تعاوني عبر القطاعات لتسخير قوة الذكاء الاصطناعي في الرعاية الصحية بشكل فعال.
يمكن لواضعي السياسات الاستفادة من إطار منظمة الصحة العالمية بشأن الذكاء الاصطناعي في مجال الرعاية الصحية من خلال ضمان التوثيق الدقيق والشفافية طوال دورة حياة نظام الذكاء الاصطناعي. ويشمل ذلك التحديد المسبق للأغراض الطبية، وعمليات التطوير، والاحتفاظ بالسجلات التي تتبع خطوات تطوير الذكاء الاصطناعي، واعتماد نهج قائم على المخاطر لمستويات التوثيق. علاوة على ذلك، فإن تنفيذ نهج دورة حياة المنتج الإجمالي الذي يشمل إدارة ما قبل السوق، ومراقبة ما بعد السوق، واستراتيجيات إدارة المخاطر لمعالجة قضايا مثل الأمن السيبراني والتحيز الخوارزمي أمر بالغ الأهمية.
بالإضافة إلى ذلك، يجب على صناع السياسات فرض توثيق واضح للاستخدام المقصود لنظام الذكاء الاصطناعي، وتفاصيل مجموعة بيانات التدريب، والتكوين الديموغرافي. ويتعين عليهم أن يدعوا إلى التحقق التحليلي الخارجي لاختبار أداء النظام في بيئات العالم الحقيقي، إلى جانب التحقق السريري المتناسب مع المخاطر، مع التجارب السريرية العشوائية للأدوات عالية المخاطر. إن التأكيد على جودة البيانات والخصوصية والحماية، فضلاً عن تعزيز المشاركة والتعاون بين أصحاب المصلحة، سيضمن تطوير أنظمة الذكاء الاصطناعي ونشرها بشكل مسؤول. وقد يسهل هذا النهج التعاوني التقارب التنظيمي والمواءمة على مستوى العالم، والتكيف مع مشهد الذكاء الاصطناعي سريع التطور.
(أديتيا سينها هو موظف في مهمة خاصة، المجلس الاستشاري الاقتصادي لرئيس وزراء الهند. وهو يغرد @adityasinha004. آراء شخصية.)
