كيف تطور خوارزميات الذكاء الاصطناعي التحيزات، والحفاظات الموجودة لإيقافها

يتم استخدام أنظمة الذكاء الاصطناعي بشكل متزايد لفحص طلبات العمل وتقييم طلبات القروض والإشراف على المحتوى عبر الإنترنت وتحديد المشتبه بهم للشرطة. عندما تنتج هذه الأنظمة نتائج غير متساوية بشكل منهجي لمجموعات معينة، يسمي الباحثون والمنظمون النتيجة بالتحيز الخوارزمي. مسألة كيفية تشكل هذا التحيز وما يمكن فعله بشأنه انتقلت من الأوراق الأكاديمية إلى قاعات المجالس والبرلمانات.

من أين يأتي التحيز

خلص تقرير عام 2022 من المعهد الوطني الأمريكي للمعايير والتكنولوجيا (NIST)، بعنوان المنشور الخاص 1270، إلى أن التحيز في الذكاء الاصطناعي ليس مشكلة في البيانات فقط. حدد مؤلفو التقرير ثلاثة مصادر مميزة للتحيز في أنظمة الذكاء الاصطناعي.

• التحيز الحسابي والإحصائي - ناشئ من بيانات التدريب أو الخوارزميات التي لا تمثل السكان الذين ستؤثر عليهم النظام.
• التحيز البشري - يتم إدخاله عندما يطبق المصممون أو المسؤولون عن الملصقات أو المستخدمون معلومات غير كاملة أو الأنماط النمطية أثناء بناء النظام أو تشغيله.
• التحيز المنهجي - الممارسات المؤسسية الموجودة والعدم المساواة التاريخية التي يتم ترميزها في النظام ببساطة لأنها موجودة في السجلات التي يتعلم منها.

قالت رييفا شوارتز، محققة NIST الرئيسية، إن المنظمات غالباً ما تلجأ إلى حلول تقنية ضيقة تفشل في التقاط التحيز الناشئ من السياق الاجتماعي الأوسع الذي يتم بناء الذكاء الاصطناعي ونشره فيه، وفقاً لملخص الوكالة الخاص بها للتقرير.

حالتان موثقتان

بنت أمازون أداة تجريبية لفحص السيرة الذاتية بدءاً من عام 2014، وتدريبها على حوالي عقد من السير الذاتية التي تلقتها الشركة. لأن قطاع التكنولوجيا قد وظف تاريخياً عدداً أكبر بكثير من الرجال عن النساء، فإن غالبية سير التدريب تلك جاءت من المتقدمات من الذكور. وفقاً لتقرير مراجعة MIT للتكنولوجيا، علم النظام نفسه بنفسه معاقبة السير الذاتية التي تحتوي على كلمة "نساء" وخفّض من قيمة خريجي كليتي نساء فقط. حاول مهندسو أمازون تصحيح النمط، لكن بحلول عام 2017 فقدت الشركة الثقة بأن الأداة كانت محايدة جنسانياً في جوانب أخرى وتوقفت عن استخدامها.

أجرت دراسة منفصلة عام 2018 تسمى Gender Shades، أجراها Joy Buolamwini من معهد MIT للإعلام وTimnit Gebru، حالياً في مايكروسوفت للأبحاث، اختبار ثلاثة أنظمة تحليل وجه تجاري على مجموعة بيانات تضم أكثر من 1200 صورة مصنفة حسب نغمة الجلد باستخدام مقياس Fitzpatrick. وفقاً لملخص أخبار MIT للنتائج، لم تتجاوز معدلات الخطأ للرجال ذوي البشرة الفاتحة 0.8%، في حين تراوحت معدلات الخطأ للنساء ذوات البشرة الأغمق من 20.8% إلى 34.7%، حيث وصلت إلى 46.8% للنساء ذوات البشرة الأغمق في نظام واحد.

ما هي الحفاظات الموجودة

دخل قانون الذكاء الاصطناعي للاتحاد الأوروبي، رسمياً اللائحة (EU) 2024/1689، حيز التنفيذ في 1 أغسطس 2024، وتوصف من قبل المفوضية الأوروبية بأنها الإطار القانوني الشامل الأول للذكاء الاصطناعي في العالم. بالنسبة للأنظمة المصنفة على أنها عالية المخاطر - بما في ذلك تلك المستخدمة في التوظيف والتعليم والتعرف البيومتري - تطلب اللائحة من المزودين استخدام بيانات التدريب والتحقق والاختبار ذات جودة كافية لتقليل مخاطر النتائج التمييزية، ووضع مقاييس تقييم المخاطر والتخفيف من حدتها قبل وصول النظام إلى السوق، وفقاً لوصف المفوضية الخاصة بها للقواعد. تنص المفوضية على أن الالتزامات بأنظمة عالية المخاطر المستخدمة في مجالات حساسة مثل التوظيف والقياسات البيومترية تصبح قابلة للتطبيق في 2 ديسمبر 2027، مع القواعد الخاصة بالذكاء الاصطناعي المدمج في المنتجات المنظمة يتبع في 2 أغسطس 2028.

كان رد فعل NIST على نتائج التحيز الخاصة به هو التوصية بنهج "اجتماعي تقني": معالجة التحيز البشري والمنهجي جنباً إلى جنب مع التحيز الحسابي بإشراك الخبراء خارج الهندسة والتشاور مع المجتمعات المتضررة، بدلاً من الاعتماد على الإصلاحات التقنية وحدها، وفقاً لملخص تقرير الوكالة.

لماذا هذا يهم الآن

منصات التوظيف وأدوات تقييم الائتمان وأنظمة الإشراف على المحتوى أصبحت الآن شائعة عبر العديد من الصناعات، مما يعني أن أنواع الأخطاء الموثقة في حالات أمازون و Gender Shades يمكن أن تؤثر على أعداد كبيرة من الناس قبل أن يلاحظ أي شخص نمطاً. تشير الآجال النهائية المرحلية لقانون الذكاء الاصطناعي للاتحاد الأوروبي حتى 2028، وإرشادات إدارة التحيز المستمرة من NIST، إلى أن الإشراف على هذه الأنظمة لا يزال قيد الإنشاء بدلاً من أن يكون مكتملاً بالفعل.