جنيف.. السغروشني تدعو إلى بناء نموذج جديد لمساءلة أنظمة الذكاء الاصطناعي

دعت الوزيرة المنتدبة لدى رئيس الحكومة المكلفة بالانتقال الرقمي وإصلاح الإدارة، أمل الفلاح السغروشني، اليوم الثلاثاء بجنيف، إلى بناء نموذج جديد لمساءلة أنظمة الذكاء الاصطناعي، معتبرة أن مسؤولية هذه الأنظمة تشكل “على الأرجح أحد أكبر التحديات القانونية خلال هذا العقد”.

وجاء ذلك خلال مشاركتها في جلسة رفيعة المستوى خصصت لموضوع احترام حقوق الإنسان وحمايتها وتعزيزها في عصر الذكاء الاصطناعي، وذلك في إطار الحوار العالمي حول حكامة الذكاء الاصطناعي.

وأوضحت الوزيرة أن الجيل الجديد من أنظمة الذكاء الاصطناعي لم يعد يعتمد على نظام واحد، بل على مجموعة من الأنظمة الذكية المستقلة التي تتعاون فيما بينها لاتخاذ القرار، دون أن يكون هناك شخص واحد يقف بشكل مباشر وراء القرار النهائي.

وأضافت أن هذا التطور يطرح تحديا كبيرا، يتمثل في صعوبة تحديد المسؤول عند وقوع خطأ أو خلل، أو معرفة كيفية توزيع المسؤولية بين مختلف الأنظمة التي ساهمت في اتخاذ القرار.

وأشارت إلى أنه، كما هو الحال عندما يساهم عدة أشخاص في إنجاز عمل واحد، قد تكون النتيجة النهائية خاطئة، لكن يصعب تحديد من ارتكب الخطأ، ومتى وقع، وما هي مسؤولية كل طرف. وتزداد هذه الصعوبة مع تعقيد أنظمة الذكاء الاصطناعي الحديثة التي تعتمد على مليارات المعايير.

ولتوضيح هذه الإشكالية، ذكرت السيدة السغروشني بأن المغرب يعالج ما يقارب 52 مليون معاملة إداريةرقمية سنويا، مؤكدة أن تحديد المصدر الدقيق لأي خلل على هذا المستوى من حجم المعاملات يشكل تحديا كبيرا.

وأكدت أن مواجهة هذه التحديات تقتضي تطوير أساليب جديدة لفهم كيفية اتخاذ أنظمة الذكاء الاصطناعي لقراراتها، بما يسمح بتتبع مختلف مراحل اتخاذ القرار، وتحديد المسؤوليات، والكشف عن أي ثغرات قد تمس بحقوق الأفراد.

كما دعت إلى اعتماد ثلاثة إجراءات أساسية لتعزيز مساءلة أنظمة الذكاء الاصطناعي، تتمثل في توثيق جميع مراحل عمل هذه الأنظمة، خاصة عند استخدامها في المرافق العمومية، وتعيين مسؤول بشري واضح عن كل قرار يمس حقوق الأشخاص، وضمان حق المواطنين في الطعن والحصول على الإنصاف داخل آجال تتلاءم مع سرعة عمل أنظمة الذكاء الاصطناعي.

وأكدت الوزيرة أن «الاستقلالية التشغيلية للخوارزمية لا ينبغي أبدا أن تتحول إلى استقلالية تجاه القانون»، داعية إلى اعتماد حكامة استباقية قائمة على حقوق الإنسان، وتطوير آليات عملية لتقييم المخاطر، والتتبع، والتدقيق، والإشراف البشري، مع مراعاة خصوصيات كل بلد وأولوياته التنموية.

وتناول النقاش خلال هذه الجلسة قضايا الشفافية، والمساءلة، والرقابة البشرية، والوقاية من المخاطر طوال دورة حياة أنظمة الذكاء الاصطناعي، إلى جانب حماية الأطفال والنساء والفئات الأكثر هشاشة.