مصنوعی ذہانت کے الگورتھم کس طرح تعصب تیار کرتے ہیں، اور اسے روکنے کے لیے کیا حفاظتیں موجود ہیں

مصنوعی ذہانت کے نظام تیزی سے کام درخواست دہندگان کو چھانٹنے، قرض کی درخواستوں کو سکور کرنے، آن لائن مواد میں اعتدال پیدا کرنے، اور پولیس کے لیے مشکوک افراد کو نشاندہی کرنے کے لیے استعمال ہو رہے ہیں۔ جب یہ نظام مخصوص گروپوں کے لیے منطقی طور پر غیر برابر نتائج پیدا کرتے ہیں، تو محققین اور ریگولیٹرز نتیجے کو الگورتھمی تعصب کہتے ہیں۔ یہ سوال کہ وہ تعصب کیسے بنتا ہے، اور اس کے بارے میں کیا کیا جا سکتا ہے، اکیڈمی کے مقالوں سے کارپوریٹ بورڈ رومز اور قانون ساز میں منتقل ہو گیا ہے۔

تعصب کہاں سے آتا ہے

U.S. National Institute of Standards and Technology (NIST) کی 2022 کی رپورٹ، جس کا عنوان Special Publication 1270 ہے، نتیجہ نکالا کہ AI تعصب صرف ڈیٹا کا مسئلہ نہیں ہے۔ رپورٹ کے مصنفین AI نظاموں میں تعصب کے تین الگ الگ ذرائع کی نشاندہی کرتے ہیں۔

• Computational اور statistical تعصب — تربیتی ڈیٹا یا الگورتھم سے پیدا ہوتا ہے جو اس آبادی کی نمائندگی نہیں کرتے جس پر نظام اثر ڈالے گا۔
• Human تعصب — جب ڈیزائنرز، لیبلرز، یا صارفین نظام کی تشکیل یا آپریٹ کرتے ہوئے نامکمل معلومات یا نقالیوں کو لاگو کرتے ہیں تو متعارف کرایا جاتا ہے۔
• Systemic تعصب — موجودہ اداراتی طریقے اور تاریخی عدم مساوات جو ایک نظام میں صرف اس لیے انکوڈ ہو جاتی ہے کیونکہ وہ ریکارڈز میں موجود ہیں جو یہ سیکھتا ہے۔

NIST پرنسپل انویسٹیگیٹر Reva Schwartz نے کہا کہ تنظیمیں اکثر تنگ تکنیکی اصلاحات کے لیے ڈیفالٹ کرتی ہیں جو AI کے وسیع تر سماجی تناظر میں سے نکلنے والے تعصب کو حاصل کرنے میں ناکام رہتی ہیں جس میں اسے بنایا اور تیار کیا جاتا ہے، ایجنسی کے اپنے خلاصے کے مطابق رپورٹ۔

دو دستاویز شدہ معاملات

Amazon نے 2014 میں ایک تجرباتی رزومے کی چھننی کا ٹول بنایا، اسے کم و بیش ایک دہائی کے رزومے پر تربیت دی جو کمپنی کو ملے تھے۔ کیونکہ ٹیکنالوجی سیکٹر نے تاریخی طور پر خواتین کے مقابلے میں بہت زیادہ مردوں کو ملازمت دی ہے، ان تربیتی رزومے کی اکثریت مرد درخواست دہندگان سے آئی تھی۔ MIT Technology Review کی رپورٹنگ کے مطابق، نظام نے اپنے آپ کو لفظ 'women's' والے رزومے کو سزا دینے کے لیے سکھایا اور دونوں women-only کالجز کے گریجویٹز کو کم درجہ دیا۔ Amazon کے انجینیرز نے نمونے کو درست کرنے کی کوشش کی، لیکن 2017 تک کمپنی کو اعتماد ختم ہو گیا تھا کہ ٹول دوسری باتوں میں صنف کے لحاظ سے غیر جانبدار تھا اور اسے استعمال کرنا بند کر دیا۔

2018 کے ایک الگ مطالعے کو Gender Shades کہا جاتا ہے، جو MIT Media Lab کے Joy Buolamwini اور Timnit Gebru کے ذریعے کیا گیا، جو اس وقت Microsoft Research میں تھے، تین تجارتی چہرے کے تجزیے کے نظاموں کو 1,200 سے زیادہ تصویروں کے ڈیٹاسیٹ پر جانچا گیا جو Fitzpatrick سکیل استعمال کرتے ہوئے جلد کے رنگ سے درجہ بندی تھے۔ MIT News کے خلاصے کے مطابق، ہلکی جلد والے مردوں کے لیے غلطی کی شرح کبھی 0.8٪ سے تجاوز نہیں کی، جبکہ سانولی جلد والی خواتین کے لیے غلطی کی شرح 20.8٪ سے 34.7٪ تک تھی، ایک نظام میں سب سے سانولی جلد والی خواتین کے لیے 46.8٪ تک پہنچی۔

کیا حفاظتیں موجود ہیں

European Union کا AI Act، رسمی طور پر Regulation (EU) 2024/1689، 1 اگست 2024 کو نافذ ہوا، اور European Commission کے ذریعے دنیا میں AI کے لیے پہلا جامع قانونی ڈھانچہ قرار دیا گیا۔ ملازمت، تعلیم، اور بایومیٹرک شناخت میں استعمال ہونے والے نظاموں سمیت اعلیٰ خطرے کے طور پر درجہ بندی کیے جانے والے نظاموں کے لیے — تنظیم فراہم کنندگان کو تربیت، توثیق، اور جانچ کے ڈیٹا کا استعمال کرنا ضروری ہے جو امتیازی نتائج کے خطرے کو کم کرنے کے لیے کافی معیاری ہے، اور بازار تک پہنچنے سے پہلے خطرے کی تشخیص اور تدارک کے اقدامات کو نافذ کرنا ہے، Commission کے نقائص کی اپنی تفصیل کے مطابق۔ Commission کہتا ہے کہ ملازمت اور بایومیٹرکس جیسے حساس علاقوں میں استعمال ہونے والے اعلیٰ خطرے والے نظاموں کی ذمہ داریاں 2 دسمبر 2027 کو قابلِ نافذ ہوں گی، منظم شدہ مصنوعات میں سرایا ہوئے AI کے لیے قوانین 2 اگست 2028 کے بعد ہوں گے۔

United States میں، NIST کا اپنا جواب اس کے تعصب کے نتائج کے لیے ایک 'socio-technical' طریقہ تجویز کرنا تھا: الگورتھمی تعصب کے ساتھ انجینئرنگ کے باہر کے ماہرین کو شامل کر کے اور متاثرہ برادریوں سے مشورہ کر کے انسانی اور نظامی تعصب کو سنبھالنا، محض تکنیکی اصلاحات پر انحصار کے بجائے ایجنسی کی رپورٹ خلاصے کے مطابق۔

یہ اب کیوں اہم ہے

بھرتی کے منصے، کریڈٹ سکورنگ کے ٹولز، اور مواد کے اعتدال کے نظام اب بہت سی صنعتوں میں عام ہیں، جس کا مطلب ہے کہ Amazon اور Gender Shades معاملات میں دستاویز کی گئی غلطیوں کی نوعیت بہت سے لوگوں کو متاثر کر سکتی ہے پہلے کہ کوئی نمونہ نوٹ کرے۔ EU AI Act کی 2028 تک مرحلہ وار تاریخیں، اور NIST کی جاری تعصب انتظام کی ہدایات، اشارہ کرتی ہیں کہ ان نظاموں کی نگرانی ابھی تعمیر ہو رہی ہے بجائے پہلے سے مکمل۔