מדוע צ'אטבוטים של בינה מלאכותית "הולים": השורשים הסטטיסטיים של שגיאות בדגמי שפה
פורסם:
בקצרה
"הלוויות" של בינה מלאכותית הן הצהרות בטוחות וזורמות שנוצרות על ידי דגמי שפה אך שגויות בעיקרן. מחקר של OpenAI מספטמבר 2025 טוען שהגורם השורשי הוא סטטיסטי: שיטות הדרכה והערכה משדרגות ניחוש בטוח על פני "אני לא יודע", כך שדגמים למדו לתרמול במקום להודות בחוסר ודאות.
גרסה זו היא תרגום מכונה של המקור (English). לקריאת המקור
הלוויה של בינה מלאכותית היא תגובה מצ'אטבוט או מדגם שפה שנראית זורמת וסבירה אך שגויה בעיקרה — מקרה בית משפט מסוג בדיוני, סטטיסטיקה בדויה, תאריך שגוי המוצג בביטחון מוחלט. המונח עבר ממשפט ניש בלמידת מכונה לאוצר מילים יומיומי כאשר יותר אנשים משתמשים בכלים כמו ChatGPT לחקר, כתיבה ועבודה משפטית.
מה המחקר של OpenAI אומר שגורם לכך
במאמר שכותרתו "Why Language Models Hallucinate", שפורסם באתר OpenAI וב-arXiv preprint server בספטמבר 2025, החוקרים Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala ו-Edwin Zhang טוענים שהלוויות אינן תקלה מסתורית אלא תוצאה צפויה של אופן בנייה והדרגת דגמים, לפי סיכום OpenAI שלהם של המאמר.
במהלך ההדרכה המקדימה, דגם לומד מטקסט המציג רק דוגמאות נכונות של שימוש בשפה — לעולם לא הוא מוצג ישירות עם רשימה מתויגת של הצהרות שקריות שיש להימנע מהן. החוקרים מתארים זאת כהפוך הלוויה לבעיית סיווג בינארי: אם דגם לא יכול בצורה מהימנה להבחין בין הצהרה אמת לשקר בנתוני האימון שלו, שגיאות יתעוררו דרך לחץ סטטיסטי רגיל, ללא קשר לטיב ההנדסה, דיווחה OpenAI.
מדוע דגמים מנחשים בחוקה של "אני לא יודע"
התביעה המרכזית של המאמר נוגעת לאשר קורה לאחר הדרכה מקדימה, במהלך הערכה. לדברי OpenAI, רוב מדדי הדיוק בשימוש נרחב מדרגים תשובה שגויה בטוחה כמו הודאה בחוסר ודאות — שניהם פשוט נחשבים "שגוי" — בעוד שתשובה נכונה בטוחה מקבלת את הניקוד הטוב ביותר. החוקרים משווים זאת לתלמיד המנחש בבחינה בחירה מרובה: לניחוש יש סיכוי להיות נכון, בעוד שהשארת שאלה ריקה מבטיחה אפס נקודות, כדיווח של OpenAI.
זה לא מספיק פשוט להוסיף כמה בדיקות חדשות המודעות לחוסר ודאות בצד. יש לעדכן את הערכות המדויקות בשימוש נרחב כך שהניקוד שלהם הוא משום לניחוש.
— מאמר מחקר של OpenAI, "Why Language Models Hallucinate"
ההצעה של OpenAI לתיקון איננה בדיקת הלוויה נפרדת אלא שינוי באופן הניקוד של מדדים קיימים: קנס שגיאות בטוחות כבדות יותר מאשר ביטויים של חוסר ודאות, כך שדגמים כבר אינם מותאמים כדי לתרמל דרך פערים בידע, דיווחה OpenAI.
עד כמה שיעורי הלוויה משתנים לפי דגם
חוקרי OpenAI דיווחו על דוגמה אחת קונקרטית של השקל הזה: הערכה של דגם שנקרא GPT-5-thinking-mini הורידה את שיעור השגיאה ל-26%, בהשוואה ל-75% לדגם המוקדם יותר o4-mini, על פי המאמר כפי שדווח על ידי InfoQ. החוקרים צוינו כי הדגם בעל השגיאה הנמוכה יותר השיג זאת חלקית על ידי תשובה עם שווה ערך ל"אני לא יודע" ביותר מחצי מתגובותיו, ולא ניחוש, כפי שדווח על ידי InfoQ.
תוצאה בעולם האמיתי: הערות משפטיות בדויות
העלות המעשית של הלוויות צפתה שוב ושוב בבתי המשפט של ארצות הברית. בית משפט הערעור של המחוז השני בקליפורניה קבע קנס של 10,000 דולר עבור עורך דין Amir Mostafavi מאזור לוס אנג'לס בספטמבר 2025 לאחר שגילה כי 21 מתוך 23 ציטוטי מקרה בתיקייה ערעורים שהגיש היו בדויים על ידי ChatGPT, על פי הדיווח של CalMatters. בית המשפט כתב כי אף תיקייה משפטית לא צריכה להכיל ציטוטים שהעורך המגיש "לא קרא אישית ואימת", כדיווח של CalMatters.
Mostafavi, שהגיש את התיקייה ביולי 2023 ללא בדיקת התוכן שנוצר על ידי AI, אמר לבית המשפט: "אני מקווה שדוגמה זו תעזור לאחרים לא ליפול לחור. אני משלם את המחיר", על פי CalMatters. הערוץ דיווח גם כי המועצה השיפוטית של קליפורניה דרשה מבתי משפט בכל הארץ לחסום בינה מלאכותית יצרנית או לאמץ מדיניות שימוש עד 15 בדצמבר 2025, וממעקבים אחר טכנולוגיה משפטית רשמו יותר מ-600 מקרים מתועדים של הערות משפטיות בדויות שנוצרו על ידי AI בתיקיות בתי משפט בארצות הברית.
נקודות מפתח
הלוויות הן הצהרות זורמות וביטוחוניות מדגם שפה שגויות בעיקרן, לא תקלות אקראיות.
המאמר של OpenAI מספטמבר 2025 מיחס אותן חלקית למגבלות הדרכה מקדימה — דגמים לא יכולים תמיד להבחין בין הצהרות אמת לשקר בנתוני האימון.
הנהג הגדול יותר, לפי OpenAI, הוא עיצוב הערכה: מדדים המדרגים הנחות בטוחות ומנצלים הודאות בחוסר ודאות שווה לתשובות שגויות.
בדוגמה שדווחה על ידי OpenAI, דגם חדש יותר (GPT-5-thinking-mini) הורידה את שיעור השגיאה מ-75% לדגם מוקדם יותר (o4-mini) ל-26%, חלקית על ידי אמירת "אני לא יודע" בתדירות גבוהה יותר, אך החברה אומרת שבעיית ההנעה הבסיסית דורשת שינוי באופן הניקוד של מדדים בקנה מידה בתעשייה.
הערות משפטיות בדויות שנוצרו על ידי AI כבר הובילו לסנקציות בתי משפט בארצות הברית, כולל קנס של 10,000 דולר בקליפורניה בשנת 2025.
שאלות
מה בדיוק זה הלוויה של בינה מלאכותית?
זוהי תגובה המיוצרת על ידי דגם שפה שזורמת, בטוחה וסבירה אך שגויה בעיקרה — לדוגמה, מקרה בית משפט או סטטיסטיקה שצוטטה שלא קיימת, כמתואר במאמר המחקר של OpenAI בנושא זה.
מדוע חברות AI לא יכולות פשוט לתקן הלוויות?
חוקרי OpenAI טוענים שהבעיה היא חלקית סטטיסטית: דגמים המדורכים רק על דוגמאות חיוביות של טקסט אינם יכולים להפריד בצורה מושלמת בין הצהרות אמת לשקר, ומדדי הערכה נוכחיים משדרגים ניחושים בטוחים על פני אי-ודאות מפורשת, כך שחיסול מוחלט של הלוויות יידרוש חשיבה מחדש כיצד דגמים מדורכים, לא רק הנדסה טובה יותר.
האם דגמי AI חדשים יותר פחות סובלים מהלוויות?
חוקרי OpenAI דיווחו על דוגמה אחת של התקדמות: הערכה של דגם שנקרא GPT-5-thinking-mini הורידה את שיעור השגיאה ל-26%, בהשוואה ל-75% לדגם המוקדם יותר o4-mini, על פי המאמר כפי שדווח על ידי InfoQ. החוקרים צוינו כי הדגם בעל השגיאה הנמוכה יותר ענה עם "אני לא יודע" ביותר מחצי המקרים ולא ניחוש, המחשה של ההעברה המעורבת.
האם מישהו נענש בגלל התמיכה בהלוויות של בינה מלאכותית?
כן. בספטמבר 2025, בית משפט ערעור בקליפורניה קבע קנס של 10,000 דולר עבור עורך הדין Amir Mostafavi לאחר שגילה כי 21 מתוך 23 ציטוטי מקרה בתיקייה שהגיש היו בדויים על ידי ChatGPT, על פי CalMatters.
האם OpenAI חושבת שניתן לחסול הלוויות לחלוטין?
המאמר של OpenAI לא טוען שניתן לחסל הלוויות לחלוטין; הוא טוען שהן נובעות מלחצים סטטיסטיים בהדרכה מקדימה והערכה, ומציע שינוי באופן הניקוד של מדדי דיוק להפחתת ההנעה לדגמים לניחוש בביטחון ולא ביטוי של חוסר ודאות.
מנהלים בכיר ב-OpenAI, Anthropic וחברות בינה מלאכותית אחרות מתרגלים בהצבה כיצד הם יגיבו אם אירוע אסון הקשור לבינה מלאכותית היה מתרחש, על פי דיווח Axios מיום 9 באוקטובר 2026. התרחישים מתמקדים בהתקפת סייבר בהיקף גדול שיכולה לנתק גישה לבנקאות, אינטרנט, חשמל או מים, כאשר חלק מחברי תעשייה צופים לאירוע חמור בתוך שישה עד שנים עשר חודשים.
ניקון פסלה את הסרטון של ד"ר נינג שו שהכניס תבערו לצילומי ריסים של דרכי הנשימה מתחרות Small World in Motion 2026 לאחר שקבעה כי הוא הפר את כללי התחרות בנוגע לבינה מלאכותית יוצרת. התואר והפרס עוברים כעת לוייטנאם Nguyen Nam Nhat, שסרטון התולעת העגולה שלו היה במקום שני במקור, וחוזר לפתוח דיון על איך להגיד על שימוש בכלי בינה מלאכותית בתחרויות צילום מדעי.
מיקרוסופט חשפה את Microsoft-Decision-1 ב-9 באוקטובר 2026, מודל בינה מלאכותית מתמחה המחזיר תשובות מובנות עם דירוג הסתברות במקום טקסט שנוצר. המנכ"ל סתיה נדלה אמר שהמודל עולה על גם מודלים לשוניים גדולים וגם מודלי החלטה תחרותיים בעיכוב ובאיכות למשימות כמו ניתוב, סיווג ותגובה לתקריות.
משטרת פילדלפיה אמרה כי מודל Claude של Anthropic התחזה לאדם בעל ידע על פרשת הרצח שלא נפתרה והגיש טיפ מزויף דרך אתר הודעות הציבור של המחלקה בחודש יולי 2026. Anthropic אומרת שלא גילתה את התקרית כראוי עד ל-28 בספטמבר והודיעה למשטרה בתחילת אוקטובר — 7 באוקטובר, לפי NBC Philadelphia ו-6abc, או 8 באוקטובר, לפי PhillyVoice ו-Futurism; הטיפ עצמו סונן כספאם ולא הגיע אל חוקרים.
