لماذا تهلوس روبوتات الذكاء الاصطناعي: الجذور الإحصائية لأخطاء نماذج اللغة

الهلوسة في الذكاء الاصطناعي هي استجابة من chatbot أو نموذج لغة يبدو سلساً ومعقولاً لكنه غير صحيح من الناحية الواقعية — قضية محكمة مختلقة، إحصائية مختلقة، تاريخ خاطئ يُقدم بكل ثقة. انتقل المصطلح من عبارة متخصصة في تعلم الآلة إلى المفردات اليومية مع استخدام المزيد من الناس أدوات مثل ChatGPT للبحث والكتابة والعمل القانوني.

ما الذي يقول بحث OpenAI أنه السبب

في ورقة بعنوان "Why Language Models Hallucinate"، نُشرت على موقع OpenAI وخادم arXiv للطباعات السابقة في سبتمبر 2025، يجادل الباحثون Adam Tauman Kalai و Ofir Nachum و Santosh S. Vempala و Edwin Zhang بأن الهلوسات ليست عطلاً غامضاً بل نتيجة متوقعة لكيفية بناء النماذج وتصنيفها، وفقاً لملخص OpenAI الخاص للورقة.

أثناء التدريب المسبق، يتعلم النموذج من نصوص توضح أمثلة صحيحة فقط على استخدام اللغة — لا يُعرض أبداً قائمة مسماة من العبارات الخاطئة تجنباً. يصف الباحثون هذا بأنه تحويل الهلوسة إلى مشكلة تصنيف ثنائي: إذا لم يتمكن النموذج من التمييز بشكل موثوق بين العبارة الصحيحة والخاطئة في بيانات التدريب، فستظهر الأخطاء من خلال الضغط الإحصائي العادي، بغض النظر عن مدى جودة الهندسة، كما تقول OpenAI.

لماذا تخمن النماذج بدلاً من قول "لا أعرف"

يتعلق الادعاء المركزي للورقة بما يحدث بعد التدريب المسبق، أثناء التقييم. وفقاً لـ OpenAI، تقيّم معظم معايير الدقة المستخدمة على نطاق واسع الإجابة الخاطئة الواثقة بنفس طريقة الاعتراف بعدم التيقن — كلاهما يُعتبر "خاطئاً" فقط — بينما تحصل الإجابة الصحيحة الواثقة على أفضل درجة. يقارن الباحثون هذا بطالب يخمن في امتحان الاختيار من متعدد: التخمين لديه فرصة لتكون صحيحة، بينما ترك السؤال فارغاً يضمن صفر نقاط، كما أفادت OpenAI.

الحل المقترح من OpenAI ليس اختباراً منفصلاً للهلوسة بل تغيير في كيفية تقييم المعايير الموجودة: معاقبة الأخطاء الواثقة بشدة أكثر من التعبيرات عن عدم اليقين، بحيث لا تكون النماذج مُحسّنة بعد الآن للمخاطرة في فجوات المعرفة، كما تقول OpenAI.

كيف تختلف معدلات الهلوسة حسب النموذج

يُبلّغ باحثو OpenAI عن توضيح ملموس واحد لهذه المقارنة: تقييم نموذج يُسمى GPT-5-thinking-mini أخفض معدل الخطأ إلى 26%، مقابل 75% للنموذج السابق o4-mini، وفقاً للورقة كما أبلّغت عنها InfoQ. يلاحظ الباحثون أن النموذج ذو الخطأ الأقل حقق هذا جزئياً بالإجابة بما يعادل "لا أعرف" في أكثر من نصف ردوده، بدلاً من التخمين، كما أبلّغت عنها InfoQ.

عاقبة واقعية: الاستشهادات القانونية المختلقة

ظهرت التكلفة العملية للهلوسات بشكل متكرر في المحاكم الأمريكية. فرضت محكمة استئناف الدائرة الثانية بولاية كاليفورنيا غرامة على محامي منطقة لوس أنجلوس أمير مصطفى بقيمة 10,000 دولار في سبتمبر 2025 بعد اكتشافها أن 21 من 23 استشهادات قضائية في ملف استئنافي قدمه كانت مختلقة من قبل ChatGPT، وفقاً لما أبلّغت عنه CalMatters. كتبت المحكمة أنه لا يجب أن يحتوي أي ملف قانوني على استشهادات لم يقرأها المحامي الذي قدمه ويتحقق منها شخصياً، كما أبلّغت CalMatters.

قال مصطفى، الذي قدم الملف في يوليو 2023 دون التحقق من المحتوى الذي ينتجه الذكاء الاصطناعي، للمحكمة: "آمل أن يساعد هذا المثال الآخرين على عدم الوقوع في الحفرة. أنا أدفع الثمن"، وفقاً لـ CalMatters. أبلّغت الوسيلة أيضاً عن أن مجلس الأحياء القضائي بكاليفورنيا طلب من المحاكم في جميع أنحاء الولاية إما حظر الذكاء الاصطناعي التوليدي أو اعتماد سياسة استخدام بحلول 15 ديسمبر 2025، وأن متتبعي التكنولوجيا القانونية سجلوا أكثر من 600 حالة موثقة من الاستشهادات المختلقة التي ينتجها الذكاء الاصطناعي في الملفات القضائية الأمريكية.

النقاط الرئيسية

• الهلوسات عبارات سلسة واثقة من نموذج لغة غير صحيحة من الناحية الواقعية، وليست أخطاءً عشوائية.
• تُعزى ورقة OpenAI من سبتمبر 2025 جزئياً إلى حدود التدريب المسبق — لا يمكن للنماذج دائماً التمييز بين العبارات الصحيحة والخاطئة في بيانات التدريب.
• المحرك الأكبر، وفقاً لـ OpenAI، هو تصميم التقييم: المعايير التي تكافئ التخمينات الواثقة وتعاقب الاعترافات بعدم اليقين بنفس طريقة الإجابات الخاطئة.
• في مثال موثق من OpenAI، قلل نموذج أحدث (GPT-5-thinking-mini) معدل الخطأ من 75% إلى 26% للنموذج السابق (o4-mini)، جزئياً بقول "لا أعرف" بشكل أكثر تكراراً، لكن الشركة تقول إن مشكلة الحافز الأساسية تتطلب تغيير كيفية تقييم المعايير على مستوى الصناعة.
• أدت الاستشهادات القانونية المختلقة التي ينتجها الذكاء الاصطناعي بالفعل إلى عقوبات محكمة في الولايات المتحدة، بما في ذلك غرامة بقيمة 10,000 دولار في كاليفورنيا عام 2025.