AI چیٹ بوٹس کیوں "غلط معلومات پیدا کرتے ہیں": لینگویج ماڈلز کی غلطیوں کی شماریاتی بنیادیں

AI غلط معلومات ایک چیٹ بوٹ یا لینگویج ماڈل کا وہ جواب ہے جو روانی سے پڑھا جاتا ہے اور قابل قبول لگتا ہے لیکن حقائق کے لحاظ سے غلط ہے — ایک جعلی عدالتی معاملہ، ایک ایجاد شدہ شماریہ، ایک غلط تاریخ جو مکمل اعتماد کے ساتھ پیش کی گئی ہے۔ یہ اصطلاح ایک محدود مشین لرننگ کی اصطلاح سے روزمرہ کی بولی میں تبدیل ہو گئی ہے کیونکہ زیادہ سے زیادہ لوگ ChatGPT جیسے آلات کو تحقیق، لکھنے اور قانونی کام کے لیے استعمال کر رہے ہیں۔

OpenAI کی تحقیق اس کے سبب کے بارے میں کیا کہتی ہے

''Why Language Models Hallucinate'' کے نام سے ایک مقالے میں، جو OpenAI کی ویب سائٹ اور arXiv preprint سرور پر ستمبر 2025 میں شائع ہوا، محققین Adam Tauman Kalai، Ofir Nachum، Santosh S. Vempala اور Edwin Zhang کا دعویٰ ہے کہ غلط معلومات ایک اسرار آمیز خرابی نہیں بلکہ یہ ماڈلز کی تیاری اور درجہ بندی کا ایک متوقع نتیجہ ہے، OpenAI کے اپنے خلاصے کے مطابق۔

پری ٹریننگ کے دوران، ایک ماڈل اس متن سے سیکھتا ہے جو صرف زبان کے صحیح استعمال کی مثالیں دکھاتا ہے — اسے کبھی بھی غلط بیانات سے بچنے کے لیے لیبل شدہ فہرست واضح طور پر نہیں دکھایا جاتا۔ محققین اسے غلط معلومات کو binary classification کے مسئلے میں تبدیل کرنے کی وضاحت کرتے ہیں: اگر ایک ماڈل اپنے تربیتی ڈیٹا میں صحیح بیان کو غلط سے قابلِ اعتماد طریقے سے نہیں بتا سکتا، تو عام شماریاتی دبائو سے غلطیاں ہوں گی، چاہے انجینئرنگ کتنی بھی اچھی ہو، OpenAI رپورٹ کرتا ہے۔

ماڈلز کیوں ''مجھے نہیں معلوم'' کہنے کی بجائے اندازہ لگاتے ہیں

اس مقالے کا مرکزی دعویٰ یہ ہے کہ pré-training کے بعد، تشخیص کے مرحلے میں کیا ہوتا ہے۔ OpenAI کے مطابق، سب سے زیادہ استعمال شدہ درستگی کے بینچ مارکس ایک اعتماد سے بھرا غلط جواب اور غیر یقینی کا اقرار—دونوں صرف ''غلط'' شمار ہوتے ہیں—جبکہ ایک اعتماد سے بھرا صحیح جواب سب سے بہتر نمبر لیتا ہے۔ محققین اس کا موازنہ ایک طالب علم کے multiple-choice امتحان میں اندازہ لگانے سے کرتے ہیں: اندازہ لگانے کا صحیح ہونے کا موقع ہے، جبکہ کوئی سوال خالی چھوڑنے سے صفر نمبر ملنا یقینی ہے، OpenAI کے رپورٹ کے مطابق۔

OpenAI کی تجویز کردہ حل ایک الگ غلط معلومات کی جانچ نہیں ہے بلکہ موجودہ بینچ مارکس کے اسکورنگ کے طریقے میں تبدیلی ہے: اعتماد سے بھری غلطیوں کو غیر یقینی کے اظہار سے زیادہ سخت سزا دینا، تاکہ ماڈلز علم میں خلاء سے گزرنے کے لیے مزید خود اعتمادی سے جھوٹ نہ بولیں، OpenAI کہتا ہے۔

غلط معلومات کی شرح مختلف ماڈلوں میں کتنی مختلف ہوتی ہے

OpenAI کے محققین اس ٹریڈ آف کی ایک ٹھوس مثال پیش کرتے ہیں: ایک ماڈل GPT-5-thinking-mini کا نام لے کر، اس نے اپنی غلطی کی شرح کو 26% تک لایا، جبکہ پہلے کے o4-mini ماڈل کے لیے 75% تھی، مقالے کے مطابق جیسا کہ InfoQ نے رپورٹ کیا۔ محققین نوٹ کرتے ہیں کہ کم غلطی والے ماڈل نے یہ نتیجہ جزوی طور پر ''مجھے نہیں معلوم'' کے برابر جواب دے کر حاصل کیا، اپنے نصف سے زیادہ جوابات میں اندازہ لگانے کی بجائے، InfoQ نے رپورٹ کیا۔

ایک حقیقی دنیا کا نتیجہ: جعلی قانونی حوالے جات

AI کی غلط معلومات کی عملی قیمت بار بار امریکی عدالتوں میں سامنے آئی ہے۔ کیلیفورنیا کی 2nd District Court of Appeal نے لاس اینجلس کے علاقے کے وکیل Amir Mostafavi کو ستمبر 2025 میں $10,000 کا جرمانہ دیا جب اسے معلوم ہوا کہ ایک اپیلیٹ brief میں 23 مقدمات کے حوالہ جات میں سے 21 ChatGPT کے ذریعے جعلی تھے، CalMatters کی رپورٹنگ کے مطابق۔ عدالت نے لکھا کہ کوئی بھی قانونی دائر کرتے وقت اس طرح کے حوالہ جات نہیں ہونے چاہیے جو جمع کرنے والے وکیل نے ''شخصی طور پر پڑھے اور تصدیق نہ کیے ہوں،'' CalMatters نے رپورٹ کیا۔

Mostafavi، جس نے یہ brief جولائی 2023 میں AI کی تیار کردہ مواد کی جانچ کیے بغیر دائر کیا، نے عدالت سے کہا، ''مجھے امید ہے کہ یہ مثال دوسروں کو اس سوراخ میں گرنے سے روکے۔ میں اس کی قیمت ادا کر رہا ہوں''، CalMatters کے مطابق۔ اس ٹیبلیٹ نے یہ بھی رپورٹ کیا کہ کیلیفورنیا کے Judicial Council نے عدالتوں کو پوری ریاست میں یا تو generative AI کو ban کرنے یا 15 دسمبر 2025 تک ایک استعمال کی پالیسی اپنانے کی ضرورت ہے، اور یہ کہ قانونی تکنیکی trackers نے امریکی عدالتی دائری میں AI کے ذریعے جعلی حوالہ جات کے 600 سے زیادہ دستاویز شدہ معاملات رجسٹر کیے ہیں۔

اہم نکات

• غلط معلومات ایک لینگویج ماڈل کے روانی، اعتماد سے بھرے بیانات ہیں جو حقائق سے غلط ہیں، بے ترتیب خرابیاں نہیں۔
• OpenAI کا ستمبر 2025 کا مقالہ انہیں جزوی طور پر pré-training کی حدود سے منسوب کرتا ہے — ماڈلز اپنے تربیتی ڈیٹا میں ہمیشہ صحیح اور غلط بیانات میں فرق نہیں کر سکتے۔
• OpenAI کے مطابق، بڑا محرک، تشخیص کا ڈیزائن ہے: بینچ مارکس جو اعتماد سے بھرے اندازے اور غیر یقینی کے اقرار کو غلط جوابات کے برابر سزا دیتے ہیں۔
• OpenAI کی رپورٹ شدہ ایک مثال میں، ایک نیا ماڈل (GPT-5-thinking-mini) اپنی غلطی کی شرح کو ایک پرانے ماڈل (o4-mini) کے 75% سے 26% تک لے آیا، جزوی طور پر ''مجھے نہیں معلوم'' کہہ کر زیادہ بار، لیکن کمپنی کہتی ہے کہ بنیادی incentive کے مسئلے کے لیے ضروری ہے کہ صنعت میں بینچ مارکس کی اسکورنگ کے طریقے میں تبدیلی ہو۔
• AI کے ذریعے تیار شدہ جعلی قانونی حوالہ جات پہلے سے ہی امریکی عدالتوں میں سزاؤں کا باعث بن چکے ہیں، جس میں 2025 میں کیلیفورنیا میں $10,000 کا جرمانہ بھی شامل ہے۔