منظمة الصحة العالمية تحدد الاعتبارات المتعلقة بتنظيم الذكاء الاصطناعي في مجال الصحة
أصدرت منظمة الصحة العالمية (WHO) منشورًا جديدًا يدرج الاعتبارات التنظيمية الرئيسية المتعلقة بالذكاء الاصطناعي (AI) في مجال الصحة ويؤكد المنشور على أهمية ترسيخ سلامة أنظمة الذكاء الاصطناعي وفعاليتها، وإتاحة الأنظمة المناسبة بسرعة لمن يحتاجون إليها، وتعزيز الحوار بين أصحاب المصلحة، بما في ذلك المطورين والمنظمين والمصنعين والعاملين في مجال الصحة والمرضى.
ومع تزايد توافر بيانات الرعاية الصحية والتقدم السريع في التقنيات التحليلية – سواء كان التعلم الآلي، أو القائم على المنطق، أو الإحصائية – يمكن لأدوات الذكاء الاصطناعي أن تحول قطاع الصحة.
تدرك منظمة الصحة العالمية إمكانات الذكاء الاصطناعي في تعزيز النتائج الصحية من خلال تعزيز التجارب السريرية؛ تحسين التشخيص الطبي والعلاج والرعاية الذاتية والرعاية التي تركز على الشخص؛ واستكمال معارف ومهارات وكفاءات المتخصصين في الرعاية الصحية.
على سبيل المثال، يمكن أن يكون الذكاء الاصطناعي مفيدًا في البيئات التي تفتقر إلى المتخصصين الطبيين، على سبيل المثال، في تفسير فحوصات الشبكية وصور الأشعة من بين أشياء أخرى كثيرة.
ومع ذلك، يتم نشر تقنيات الذكاء الاصطناعي – بما في ذلك نماذج اللغات الكبيرة – بسرعة، وأحيانًا دون فهم كامل لكيفية أدائها، مما قد يفيد المستخدمين النهائيين أو يضرهم، بما في ذلك متخصصو الرعاية الصحية والمرضى.
عند استخدام البيانات الصحية، يمكن لأنظمة الذكاء الاصطناعي الوصول إلى المعلومات الشخصية الحساسة، مما يستلزم أطر قانونية وتنظيمية قوية لحماية الخصوصية والأمن والنزاهة، والتي يهدف هذا المنشور إلى المساعدة في إعدادها والحفاظ عليها.
وقال الدكتور تيدروس أدهانوم غيبريسوس، المدير العام لمنظمة الصحة العالمية: “يحمل الذكاء الاصطناعي وعودًا كبيرة للصحة، ولكنه يأتي أيضًا مصحوبًا بتحديات خطيرة، بما في ذلك جمع البيانات غير الأخلاقية، وتهديدات الأمن السيبراني وتضخيم التحيزات أو المعلومات المضللة”.
“وسوف تدعم هذه التوجيهات الجديدة البلدان في تنظيم الذكاء الاصطناعي بفعالية، وتسخير إمكاناته، سواء في علاج السرطان أو الكشف عن مرض السل مع تقليل المخاطر.”
واستجابة لحاجة البلاد المتنامية لإدارة الارتفاع السريع في تقنيات الذكاء الاصطناعي الصحية بشكل مسؤول، يحدد المنشور ستة مجالات لتنظيم الذكاء الاصطناعي في مجال الصحة.
- ولتعزيز الثقة، يؤكد المنشور على أهمية الشفافية والتوثيق، وذلك من خلال توثيق دورة حياة المنتج بأكملها وتتبع عمليات التطوير.
- بالنسبة لإدارة المخاطر، يجب معالجة قضايا مثل “الاستخدام المقصود”، و”التعلم المستمر”، والتدخلات البشرية، ونماذج التدريب، وتهديدات الأمن السيبراني بشكل شامل، مع جعل النماذج بسيطة قدر الإمكان.
- يساعد التحقق من صحة البيانات خارجيًا والوضوح بشأن الاستخدام المقصود للذكاء الاصطناعي على ضمان السلامة وتسهيل التنظيم.
- يعد الالتزام بجودة البيانات، مثل التقييم الصارم للإصدار المسبق للأنظمة، أمرًا حيويًا لضمان عدم تضخيم الأنظمة للتحيزات والأخطاء.
- يتم التعامل مع التحديات التي تفرضها اللوائح التنظيمية الهامة والمعقدة – مثل اللائحة العامة لحماية البيانات (GDPR) في أوروبا وقانون قابلية نقل التأمين الصحي والمساءلة (HIPAA) في الولايات المتحدة الأمريكية – مع التركيز على فهم نطاق الاختصاص القضائي. ومتطلبات الموافقة، لخدمة الخصوصية وحماية البيانات.
- يمكن أن يساعد تعزيز التعاون بين الهيئات التنظيمية والمرضى ومتخصصي الرعاية الصحية وممثلي الصناعة والشركاء الحكوميين في ضمان بقاء المنتجات والخدمات متوافقة مع التنظيم طوال دورات حياتها.
تعتبر أنظمة الذكاء الاصطناعي معقدة ولا تعتمد فقط على التعليمات البرمجية التي تم إنشاؤها باستخدامها، بل تعتمد أيضًا على البيانات التي يتم تدريبها عليها، والتي تأتي من الإعدادات السريرية وتفاعلات المستخدم – على سبيل المثال.
يمكن أن يساعد التنظيم الأفضل في إدارة مخاطر الذكاء الاصطناعي الذي يؤدي إلى تضخيم التحيزات في بيانات التدريب.
على سبيل المثال، قد يكون من الصعب على نماذج الذكاء الاصطناعي أن تمثل التنوع السكاني بدقة، مما يؤدي إلى التحيزات أو عدم الدقة أو حتى الفشل.
للمساعدة في التخفيف من هذه المخاطر، يمكن استخدام اللوائح لضمان الإبلاغ عن السمات – مثل الجنس والعرق والانتماء العرقي – للأشخاص الواردين في بيانات التدريب وجعل مجموعات البيانات ممثلة عن قصد.
ويهدف منشور منظمة الصحة العالمية الجديد إلى تحديد المبادئ الأساسية التي يمكن للحكومات والسلطات التنظيمية اتباعها لتطوير إرشادات جديدة أو تكييف الإرشادات الحالية بشأن الذكاء الاصطناعي على المستوى الوطني أو الإقليمي.
