سدايا تصدر دليلاً مرجعياً يرصد أكثر من 100 تحيز في أنظمة الذكاء الاصطناعي

أصدرت الهيئة السعودية للبيانات والذكاء الاصطناعي «سدايا» النسخة الأولى من الدليل المرجعي لتحيزات الذكاء الاصطناعي، الذي يرصد أكثر من 100 نوع من التحيزات التي قد تؤثر في دقة أنظمة الذكاء الاصطناعي وعدالتها وكفاءة القرارات الصادرة عنها.

ويأتي إصدار الدليل في ظل التوسع المتسارع في استخدام تقنيات الذكاء الاصطناعي داخل عدد من القطاعات الحيوية والحساسة، مثل الصحة والتعليم والعدل والتوظيف، ما يزيد أهمية التعرف على مصادر التحيز والحد من تأثيرها في الأفراد والمؤسسات.

أكثر من 100 تحيز في أنظمة الذكاء الاصطناعي

يوضح الدليل أن أنظمة الذكاء الاصطناعي تمر بمراحل متعددة خلال التصميم والتطوير والتدريب والتشغيل، الأمر الذي يفتح المجال لظهور أشكال مختلفة من التحيز، سواء في البيانات المستخدمة أو الخوارزميات أو القرارات البشرية المرتبطة بتطوير النظام.

وقد تؤثر هذه التحيزات في النتائج التي تقدمها الأنظمة، ما قد يؤدي إلى اتخاذ قرارات غير دقيقة أو غير عادلة تجاه بعض الفئات، خصوصاً عند استخدام الذكاء الاصطناعي في مجالات ترتبط بحياة الأفراد وفرصهم وحقوقهم.

مخاطر التحيز على المؤسسات والمستخدمين

أشار الدليل إلى أن تحيزات الذكاء الاصطناعي قد تقلل من فاعلية الأنظمة وتحولها من أداة تهدف إلى دعم العدالة والإنصاف إلى وسيلة تسهم في تعزيز التمييز أو توسيع الفجوات القائمة.

كما قد تتسبب النتائج المتحيزة في الإضرار بسمعة المؤسسات، وفقدان ثقة المستخدمين، وزيادة احتمالات التعرض للشكاوى أو المساءلات القانونية والتنظيمية.

مصادر تحيز الذكاء الاصطناعي

تتنوع مصادر التحيز بين بيانات التدريب غير المتوازنة أو التي لا تمثل مختلف فئات المجتمع بصورة كافية، والخوارزميات التي قد تمنح أفضلية غير مقصودة لبعض الخصائص أو الفئات.

وقد ينشأ التحيز أيضاً نتيجة الافتراضات والتقديرات المسبقة التي يتبناها مطورو الأنظمة أو القائمون على تفسير البيانات، ما ينعكس على تصميم النماذج وطريقة تقييم نتائجها.

وضرب الدليل مثالاً بأدوات التوظيف المعتمدة على الذكاء الاصطناعي، التي قد تمنح أفضلية للمرشحين القادمين من مؤسسات تعليمية نخبوية، على حساب مرشحين آخرين يمتلكون الكفاءات المطلوبة لكنهم ينتمون إلى خلفيات تعليمية أقل حظاً.

تعزيز الذكاء الاصطناعي المسؤول

يسهم الدليل المرجعي لتحيزات الذكاء الاصطناعي في دعم المؤسسات والمختصين لفهم أشكال التحيز المحتملة ورصدها خلال مختلف مراحل تطوير الأنظمة.

كما يعزز جهود سدايا في ترسيخ مبادئ الذكاء الاصطناعي المسؤول، ورفع مستوى العدالة والشفافية والموثوقية في الحلول التقنية المستخدمة داخل المملكة.

ويعكس إصدار الدليل اهتمام السعودية بتطوير أطر تنظيمية ومعرفية تساعد على ضمان استخدام الذكاء الاصطناعي بصورة آمنة وعادلة، بالتزامن مع التوسع في تبني التقنيات الحديثة ضمن القطاعات الحكومية والخاصة.