چگونه شبکه‌های عصبی یاد می‌گیرند: ریاضیات پشت ChatGPT و Gemini

هر بار که یک چت‌بات به سوالی پاسخ می‌دهد یا برنامه‌ای برای عکس یک چهره را تشخیص می‌دهد، یک شبکه عصبی یک فرآیند یادگیری را اجرا می‌کند که مراحل پایه‌ای یکسانی را دنبال می‌کند، صرف‌نظر از وظیفه. بر اساس IBM، این فرآیند بر دو تکنیک مرتبط تکیه می‌کند: انتشار معکوس، که مقدار مساهمت هر پارامتر داخلی در خطا را محاسبه می‌کند، و فرود گرادیانی، روش بهینه‌سازی که از آن محاسبات برای اصلاح پارامترها استفاده می‌کند.

شبکه عصبی در واقع چیست

موسسه Stanford برای هوش مصنوعی متمرکز بر انسان (HAI) شبکه عصبی را به عنوان یک مدل محاسباتی الهام‌گرفته از ساختار مغز انسان، ساخته‌شده از لایه‌های به‌هم‌پیوسته‌ای از 'نورون‌های' مصنوعی که اطلاعات را پردازش و منتقل می‌کنند، توصیف می‌کند. هر نورون ورودی‌های عددی را می‌گیرد، آن‌ها را در مقادیر قابل تنظیمی به نام وزن ضرب می‌کند، یک جمله انحراف را اضافه می‌کند، و نتیجه را از طریق تابع فعال‌سازی غیرخطی عبور می‌دهد قبل از اینکه آن را به لایه بعدی بفرستد، طبق توصیف معماری IBM. Stanford HAI توجه می‌دهد که این ساختار لایه‌ای است که به شبکه‌های عصبی اجازه می‌دهد الگوها را از مقادیر زیاد داده استخراج کنند، که پایه‌ی یادگیری عمیق را تشکیل می‌دهد.

گام اول: عبور رو به جلو

آموزش با تنظیم وزن‌ها و انحرافات به مقادیر تصادفی شروع می‌شود، همانطور که IBM توضیح می‌دهد. در طی 'عبور رو به جلو'، داده‌های ورودی از طریق شبکه لایه به لایه حرکت می‌کند: هر نورون مجموع وزنی خود را محاسبه می‌کند، تابع فعال‌سازی خود را اعمال می‌کند، و خروجی را منتقل می‌کند، تا زمانی که لایه نهایی یک پیش‌بینی را تولید کند. در این مرحله اولیه، چون وزن‌ها تصادفی هستند، آن پیش‌بینی اساساً یک حدس است.

گام دوم: اندازه‌گیری خطا

سپس شبکه پیش‌بینی خود را با پاسخ صحیح با استفاده از تابع زیان، فرمولی که میزان دوری خروجی را کمیت می‌کند، مقایسه می‌کند، بر اساس IBM. وظایف مختلف از فرمول‌های مختلف استفاده می‌کنند — خطای مربع میانگین برای پیش‌بینی اعداد معمول است، در حالی که آنتروپی متقاطع برای کارهای طبقه‌بندی مانند مرتب‌کردن تصاویر به دسته‌ها استفاده می‌شود.

گام سوم: انتشار معکوس سرزنش را تتبع می‌کند

'عبور عقب‌گرد' جایی است که یادگیری رخ می‌دهد. IBM انتشار معکوس را به‌عنوان کار از لایه خروجی به سمت لایه ورودی، با استفاده از تکنیک حساب دیفرانسیل و انتگرال به نام قانون زنجیره برای تعیین اینکه هر وزن فردی چقدر به خطای کلی کمک کرده است، توصیف می‌کند. نتیجه یک گرادیان است: مجموعه‌ای از مقادیر، یکی برای هر وزن و انحراف، که جهت و بزرگی تعدیلی را نشان می‌دهد که خطا را کاهش می‌دهد.

IBM به کارایی این رویکرد اشاره می‌کند: برای شبکه‌ای با یک میلیون وزن، آزمودن هر پارامتر به‌طور جداگانه با آزمایش و خطا بیش از یک میلیون عبور رو به جلو جداگانه را از طریق شبکه نیاز می‌دهد. انتشار معکوس به همین اطلاعات در فقط دو عبور می‌رسد — یکی رو به جلو، یکی عقب‌گرد.

گام چهارم: فرود گرادیانی وزن‌ها را به‌روز می‌کند

هنگامی که گرادیان مشخص شود، فرود گرادیانی هر وزن را یک گام کوچک در جهتی که خطا را کاهش می‌دهد حرکت می‌دهد، IBM توضیح می‌دهد. اندازه آن گام توسط 'نرخ یادگیری' کنترل می‌شود: نرخ یادگیری بالاتر آموزش را سریع‌تر می‌کند اما خطر فراجهش به بهترین مقادیر را دارد، در حالی که نرخ پایین‌تر دقیق‌تر اما برای همگرایی کندتر است. چهار گام — عبور رو به جلو، محاسبه خطا، عبور عقب‌گرد، به‌روزرسانی وزن — بارها تکرار می‌شود، اغلب در میان میلیون‌ها مثال، تا زمانی که خطا به‌طور معنادار کاهش پیدا نکند.

از تکنیک آزمایشگاهی تا ChatGPT و Gemini

مدل‌های زبان بزرگ همین چرخه انتشار معکوس و فرود گرادیانی را در مقیاس بسیار بزرگ‌تر، در دو مرحله متمایز، اعمال می‌کنند. اول، آموزش پیشین، مدل را در برابر مقادیر عظیمی از متن‌های برچسب‌نشده — مجموعه‌هایی حاوی صدها میلیارد نشانه، بر اساس RBC Borealis — می‌گذارد و مکرراً از آن می‌خواهد کلمه بعدی در یک دنباله را پیش‌بینی کند. یک وبلاگ تحقیقی از RBC Borealis این مدل بنیادی را به‌عنوان اساساً شبکه‌ای که برای 'پیش‌بینی کلمه بعدی در رشته‌ای ورودی نیمه‌تکمیل‌شده' آموزش داده شده است، توصیف می‌کند، که به آن دستور، حقایق و الگوهای کلی را یاد می‌دهد اما به تنهایی آن را یک دستیار قابل‌اعتماد نمی‌کند.

مرحله دوم، تنظیم دقیق، شبکه آموزش‌دیده پیشین را با رفتار خاص سازگار می‌کند. RBC Borealis سه رویکرد معمول را شرح می‌دهد: تنظیم دقیق نظارت‌شده بر پاسخ‌های نوشته‌شده توسط انسان؛ یادگیری تقویتی از بازخورد انسانی (RLHF)، که در آن یک مدل پاداش جداگانه آموزش‌داده‌شده بر اساس ترجیحات انسانی به‌روزرسانی‌های وزن بیشتری را راهنمایی می‌کند؛ و روش‌های جدیدتری مانند بهینه‌سازی ترجیح مستقیم، که مدل پاداش جداگانه را رد می‌کند اما هنوز به انتشار معکوس متکی است. این مرحله تنظیم دقیق است که یک پیش‌بینی‌کننده کلی کلمه بعدی را به سیستمی تبدیل می‌کند که دستورالعمل‌ها را دنبال می‌کند و درخواست‌های خاصی را رد می‌کند، به جای اینکه متن را در هر جهتی ادامه دهد که از نظر آماری احتمل‌تر است.

چرا این مکانیزم اهمیت دارد

چون هم آموزش پیشین و هم تنظیم دقیق بر روی همان چرخه انتشار معکوس و فرود گرادیانی بنیادی تکیه می‌کنند، بهبود‌هایی در آن تکنیک اساسی — سخت‌افزار سریع‌تر، توابع زیان بهتر، بهینه‌سازی کارآمدتر — بر هر کاربرد پایین‌دستی به‌طور همزمان تأثیر می‌گذارد، از تشخیص تصویر تا دستیاران گفتگو. Stanford HAI توجه می‌دهد که شبکه‌های عصبی اکنون پایه‌ی سیستم‌های یادگیری عمیق مورد استفاده در تشخیص چهره، دستیاران صوتی و خودروهای خودران را تشکیل می‌دهند، که همه آن‌ها از طریق تنویعات همان چرخه چهار‌گام بالا توضیح‌داده‌شده آموزش داده می‌شوند.