השפה הזו תורגמה אוטומטית ולא נבדקה על ידי אדם.

NIVΞCTOR
חדשותתמיכה

הספירה עוד לא התחילה

מדע · מאמר

תיאוריית התודעה: משמעותה בפסיכולוגיה ולמה חוקרי בינה מלאכותית מתוכחים בנושא

פורסם:

בקצרה

תיאוריית התודעה היא היכולת הקוגניטיבית לייחס אמונות, רצונות וכוונות לעצמו ולאנשים אחרים, מה שמאפשר ניבויים על התנהגות גם כאשר תפיסת המציאות של מישהו אחר שונה משלך. הקונספט, שנחקר במשך זמן רב דרך בדיקות התפתחות ילדים כגון משימת Sally-Anne, חזר לדיון ציבורי לאחר שחוקר מ-Stanford דיווח כי מודלים גדולים של שפה כמו GPT-4 עוברים בהצלחה רבים מאותן הבדיקות, טענה שחוקרים אחרים חולקים עליה.

גרסה זו היא תרגום מכונה של המקור (English). לקריאת המקור

משמעות תיאוריית התודעה בפסיכולוגיה

תיאוריית התודעה (ToM) מוגדרת כיכולת להבין אנשים אחרים על ידי ייחוס מצבים נפשיים להם, לפי סקירת ויקיפדיה של הקונספט. היא מאפשרת לאדם להכיר בכך שלמישהו אחר עשויות להיות אמונות, רצונות או כוונות השונות משלו, ולהשתמש בהכרה זו כדי לנבא או להסביר התנהגות.

המונח נכנס למחקר מודרני בעבודה משנת 1978 בשם 'Does the chimpanzee have a theory of mind?' מאת David Premack ו-Guy Woodruff, אשר דחפה פסיכולוגים ללמוד את היכולת על פני מינים ועל פני התפתחות ילדות, לפי ויקיפדיה. שתי הסברים מתחרים הופיעו מאוחר יותר לגבי כיצד ToM עובדת: 'תיאוריית-תיאוריה', הטוענת שאנשים יישמים כללים פסיכולוגיים עממיים כדי להסיק מצבים של אחרים, ותיאוריית סימולציה, הטוענת שאנשים יוצרים מודלים נפשיים של אחרים על ידי דמיון עצמם במקומם.

בדיקת Sally-Anne

הכלי הסטנדרטי לבדיקת ToM בילדים היא משימת האמונה השקרית, המוצגת בדרך כלל כסיפור Sally-Anne: סלי מניחה שיש בסלה שלה ויוצאת מהחדר; אן מעבירה את השיש לתיבה. ילד עובר את הבדיקה בחיזוי שסלי תחפש את השיש בסלה שלה — אמונתה המקורית, שכעת שקרית — במקום בו הוא למעשה נמצא, ויקיפדיה מסבירה. גרסה קשורה, משימת התוכן הלא צפוי, שואלת ילדים מה מישהו אחר יחשוב שיש בתוך תיבה שתויגה בטעות.

ילדים בדרך כלל מפתחים יכולות אלה ברצף קבוע בערך בין גיל שלוש לחמש, עוברים מהבנה שאנשים יכולים לרצות דברים שונים, להבנה שאנשים יכולים להחזיק אמונות שונות, להצלחה בבדיקות אמונה שקרית מלאות. ויקיפדיה מציינת שהרצף המדויק משתנה בתרבות: ילדים באיראן וסין, למשל, תופסים 'גישה לידע' מוקדם יותר אך לוקחים זמן רב יותר לתפוס 'אמונות מגוונות', אשר חוקרים קושרים לערכים תרבותיים קולקטיביסטיים.

למה בינה מלאכותית נכנסה לדיון

העניין בתיאוריית התודעה של מכונות גדל לאחר שפסיכולוג חישובי של Stanford, Michal Kosinski, הריץ את אותן משימות אמונה שקרית המשמשות בילדים דרך סדרה של מודלים של שפה. לפי עמוד העבודה בעצם אתר Stanford Graduate School of Business, Kosinski בנה 40 תרחישי אמונה שקרית, בתוספת גרסאות בקרה של אמונה אמיתית תואמות, וביסם אותם על מודלים של שפה שהוצאו לשוק בין סוף שנות ה-2010 ל-2023.

ביצועי מודל GPT במשימות אמונה שקרית, כפי שדווח בעמוד העבודה של Stanford GSB
מודלתקופת הפרסוםשיעור הצלחה (Stanford GSB)יעד הדמיון הקרוב לגיל ילד
מודלים לפני 2020לפני 2020קרוב ל-0%מתחת לגיל בדיקה טיפוסי
GPT-3מאי 2020בערך 40%~ילדים בגיל 3.5
GPT-3, גרסה מעודכנתינואר 2022בערך 70%~ילדים בגיל 6
GPT-3.5נובמבר 2022בערך 90%~ילדים בגיל 7
GPT-4מרץ 2023בערך 95%התקרבות לרמת מבוגר

מאמר נפרד של המחקר ב-PsyPost נותן דמויות שונות למה שהוא מתאר כסבב בדיקה מאוחר יותר המכסה 11 מודלים: הוא מדווח שגרסאות GPT-3 פותרות רק בערך 20% מהמשימות, ו-'ChatGPT-4' פותרת 75% בסך הכל, עם חלוקה של 90% במשימות תוכן לא צפוי אך רק 60% בגרסת ההעברה הלא צפויה הקשה יותר. שני המקורות מתארים אצוות בדיקה וגרסאות מודל שונות, וזו אחת הסיבות הסבירות לכך שהאחוזים אינם תואמים; עם זאת, שניהם מעידים על שיפור ברור בגרסאות חדשות בהשוואה לגרסאות ישנות יותר.

LLMs אינם מודלים של שפה בלבד—הם, בעצם, מודלים של המוח האנושי.

— Michal Kosinski, Stanford Graduate School of Business, מצוטט על ידי PsyPost

התנגדות: התאמת דפוס או הבנה אמיתית?

המסקנה של Kosinski לא נשארה ללא התנגדות. פסיכולוג בהרווארד, Tomer Ullman, פרסם מאמר ב-arXiv בשם 'Large Language Models Fail on Trivial Alterations to Theory-of-Mind Tasks', בטענה שניסוחים קטנים המשמרים את אותה הלוגיקה הפסיכולוגית הבסיסית יכולים להפוך את התשובה של מודל מנכונה לשגויה. העמדה של Ullman, המסוכמת בעיצוב של המאמר עצמו, היא שחוקרים צריכים להתחיל מקו בסיס ספקני בהערכת פסיכולוגיה של מכונות, וכי כישלונות מפוזרים במשימות כמעט זהות חשובים יותר משיעור הצלחה ממוצע.

כיסוי PsyPost של המחקר של Stanford גם מסמן הגבלה זו ישירות: מכיוון שמודלים של GPT מאומנים על כמויות ענקיות של טקסט שעשוי להכיל סיפורי אמונה שקרית דומים, קשה להשמיט את האפשרות שמודל מכיר בדפוס מוכר במקום חשיבה על מצב נפשי של דמות בלתי נראית. החוקרים ניסו לעצב תרחישים חדשים כדי להפחית את הסיכון הזה, אך המאמר מציין שלא ניתן לערוך זאת במלואה.

למה השאלה חשובה מעבר ללבורטוריה

סוללת הבדיקות שהשתמשו בה לילדים וקופים גדולים מיושמת עכשיו על תוכנה משום שכפי שעמוד Stanford GSB מציין, תיאוריית התודעה היא מרכזית לאינטראקציה חברתית אנושית, תקשורת, אמפתיה, עצמיות ומוסריות. הן החומר של Stanford והן מאמר Ullman מסכימים, עם זאת, שעברון בהצלחה של סוללת בדיקה קבוע של שאלות אינו הדבר עצמו כמו להקים שלמערכת יש תיאוריית התודעה בדרך בה מדעני קוגניציה משתמשים בה לגבי בני אדם.

שאלות

מה זו תיאוריית התודעה במונחים פשוטים?
זו היכולת להכיר בכך שלאנשים אחרים יש אמונות, רצונות וכוונות משלהם, אשר עשויים להיות שונים משלך, ולהשתמש בזה כדי לנבא את התנהגותם, כפי שמוגדר בסקירת ויקיפדיה של תיאוריית התודעה.
מה היא בדיקת Sally-Anne?
זו משימת אמונה שקרית שבה על ילד לנבא שדמות בשם סלי תחפש אובייקט במקום שבו השאירה אותו לאחרונה, גם אם הוא הועבר בסתר על ידי דמות אחרת, אן, בעת היעדרותה — בדיקה להבנה שאמונות יכולות להיות שקריות, לפי ויקיפדיה.
האם ל-GPT-4 יש תיאוריית התודעה?
חוקר בעל Stanford, Michal Kosinski, דיווח כי GPT-4 פתר חלק גבוה של משימות אמונה שקרית קלאסיות, לפי עמוד העבודה שלו וכיסוי של PsyPost, אך חוקרים אחרים, כולל Tomer Ullman של הרווארד במאמר arXiv, טוענים שזה כנראה משקף התאמת דפוס בנתוני הדרכה במקום חשיבה אמיתית של מצב נפשי.
בכמה גיל ילדים בדרך כלל עוברים בדיקות אמונה שקרית?
סקירת ויקיפדיה מציינת כי ילדים בדרך כלל מפתחים את הרצף של יכולות הבסיס של תיאוריית התודעה בגיל בערך שלוש עד חמש, כאשר הסדר המדויק משתנה במקצת על פני תרבויות.
למה מבקרים שוללים בתוצאות של תיאוריית התודעה של AI?
מאמר arXiv של Tomer Ullman מראה כי שינויים קטנים בניסוח למשימות אמונה שקרית שוות ערך אחרת יכולים לגרום לכשל של מודל שעונה קודם לכן בנכונות, מה שהוא טוען משקף הסתמכות על דפוסים שטחיים במקום חשיבה חזקה על מצבים נפשיים של אחרים.

מקורות

  1. Wikipedia — Theory of mind
  2. Stanford Graduate School of Business — Theory of Mind May Have Spontaneously Emerged in Large Language Models
  3. PsyPost — Stanford scientist discovers that AI has developed an uncanny human-like ability
  4. arXiv — Large Language Models Fail on Trivial Alterations to Theory-of-Mind Tasks (Ullman)

כתבה זו הוכנה בעזרת בינה מלאכותית ועברה בדיקת מקורות אוטומטית לפני הפרסום. אם ראיתם טעות, בקשו תיקון. בקשת תיקון או זכות תגובה · איך אנחנו עובדים

כתבות קשורות