איך רשתות נוירונים לומדות: המתמטיקה מאחורי ChatGPT ו-Gemini

בכל פעם שצ'אט בוט עונה על שאלה או אפליקציית תמונה מזהה פנים, רשת נוירונים מריצה תהליך למידה העוקב אחר אותם שלבים בסיסיים, ללא קשר למשימה. לפי IBM, התהליך הזה מסתמך על שתי טכניקות קשורות: התפשטות לאחור, המחשבת כמה כל פרמטר פנימי תרם לשגיאה, וירידת גרדיאנט, שיטת האופטימיזציה המשתמשת בחישובים אלה כדי לתקן את הפרמטרים.

מה זה בעצם רשת נוירונים

מכון ה-Stanford להנדסת בינה מלאכותית המרוכזת על בני אדם (HAI) מתאר רשת נוירונים כמודל חישובי שהשראה מבנה המוח האנושי, בנוי מ שכבות מחוברות של 'ניורונים' מלאכותיים העובדים ומעבירים מידע. כל ניורון לוקח קלטים מספריים, מכפיל אותם בערכים הניתנים להתאמה הנקראים משקלות, מוסיף מונח הטייה, ומעביר את התוצאה דרך פונקציית הפעלה לא-ליניארית לפני שהוא שולח אותה לשכבה הבאה, על פי תיאור IBM של הארכיטקטורה. Stanford HAI מציין שמבנה שכבות זה הוא מה שמאפשר לרשתות נוירונים לחלץ דפוסים מכמויות גדולות של נתונים, ויוצר את הבסיס של למידה עמוקה.

שלב ראשון: המעבר קדימה

ההכשרה מתחילה עם משקלות והטיות שנקבעו לערכים אקראיים, IBM מסביר. במהלך ה'מעבר קדימה', נתוני קלט עוברים דרך הרשת שכבה אחר שכבה: כל ניורון מחשב את הסכום המשוקלל שלו, מחיל את פונקציית ההפעלה שלו, ומעביר את הפלט, עד שהשכבה הסופית מייצרת תחזוקה. בשלב מוקדם זה, מכיוון שהמשקלות אקראיים, התחזוקה הזו היא בעצם ניחוש.

שלב שני: מדידת הטעות

הרשת משווה אז את התחזוקה שלה לתשובה הנכונה באמצעות פונקציית אובדן, נוסחה המכמתת כמה רחוק היה הפלט, על פי IBM. משימות שונות משתמשות בנוסחאות שונות — שגיאה ממוצעת בריבוע נפוצה לחיזוי מספרים, בעוד שאנטרופיה צולבת משמשת למשימות סיווג כמו מיון תמונות לקטגוריות.

שלב שלישי: התפשטות לאחור עוקבת את האשם

ה'מעבר לאחור' הוא המקום בו למידה מתרחשת. IBM מתאר את התפשטות לאחור כעובדת מהשכבה הפלט לכיוון שכבת הקלט, תוך שימוש בטכניקת חשבון דיפרנציאלי הנקראת כלל שרשרת כדי לקבוע כמה כל משקל בודד תרם לשגיאה הכוללת. התוצאה היא גרדיאנט: קבוצת ערכים, אחד לכל משקל והטיה, המציינים את הכיוון וגודל התאמה שתקטין את השגיאה.

IBM מצביע על יעילות גישה זו: לרשת בעלת מיליון משקלות, בדיקת כל פרמטר בנפרד בניסוי וטעיה תדרוש יותר מיליון מעברים קדימה נפרדים דרך הרשת. התפשטות לאחור מגיעה לאותה מידע בשני מעברים בלבד — אחד קדימה, אחד לאחור.

שלב רביעי: ירידת גרדיאנט משדרגת את המשקלות

ברגע שהגרדיאנט ידוע, ירידת גרדיאנט מעביר כל משקל בצעד קטן בכיוון המצמצם את השגיאה, IBM מסביר. גודל הצעד הזה נשלט על ידי 'קצב הלמידה': קצב למידה גבוה יותר מאיץ הכשרה אך סיכון עד יותר מדי לערכים הטובים ביותר, בעוד שקצב נמוך יותר מדויק יותר אך איטי יותר להתכנס. ארבעת השלבים — מעבר קדימה, חישוב אובדן, מעבר לאחור, עדכון משקל — חוזרים שוב ושוב, לעתים קרובות על פני מיליונים של דוגמאות, עד שהאובדן מפסיק להקטין בצורה משמעותית.

מטכניקת הלב אל ChatGPT ו-Gemini

מודלים של שפה גדולים מיישמים את אותה מחזור התפשטות-לאחור וירידה-גרדיאנט בהרבה יותר בקנה מידה גדול, על פני שתי שלבים נפרדים. הראשון, הכשרה מוקדמת, חשוף את המודל לכמויות ענק של טקסט ללא תווית — קורפוסים המכילים מאות מיליארדים של אסימונים, על פי RBC Borealis — וחוזר שוב ושוב שאל אותו לחזות את המילה הבאה ברצף. בלוג מחקר מ-RBC Borealis מתאר מודל יסוד זה כרשת מאומנת בעצם להיות 'חיזוי המילה הבאה בחוט קלט חלקי', המלמד אותה דקדוק, עובדות וציפיות כלליות אך בפני עצמו לא הופך אותה ללוויה אמינה.

השלב השני, כיול עדין, מתאים את הרשת המאומנת מראש להתנהגות ספציפית. RBC Borealis מתאר שלוש גישות נפוצות: כיול עדין בפיקוח על תשובות הכתובות על ידי בני אדם; למידה מחוזקת מתוך משוב אנושי (RLHF), שבו מודל פרס נפרד מאומן על העדפות אנושיות מכוונת עדכוני משקל נוספים; וטכניקות חדשות יותר כמו אופטימיזציה העדפה ישירה, המדלגות על מודל הפרס הנפרד אך עדיין תלויות בהתפשטות לאחור. שלב כיול עדין זה הוא מה הופך מנבא כללי של מילה הבאה למערכת העוקבת אחר הוראות ודוחה בקשות מסוימות, במקום להמשיך טקסט בכל כיוון סביר סטטיסטית.

מדוע המנגנון חשוב

מכיוון שהן הכשרה מוקדמת והן כיול עדין מסתמכות על אותו לולאת התפשטות-לאחור וירידה-גרדיאנט בסיסית, שיפורים לטכניקה המרכזית — חומרה מהירה יותר, פונקציות אובדן טובות יותר, אופטימיזציה יעילה יותר — משפיעים על כל יישום במורד הזרם בו זמנית, מ זיהוי תמונה למסייעים שיחה. Stanford HAI מציין שרשתות נוירונים כעת מהוות בסיס של מערכות למידה עמוקה המשמשות בזיהוי פנים, עוזרי קול וכלים עצמיים, שכולם מוכשרים דרך וריאציות של אותו מחזור ארבע-שלב שתואר לעיל.