तंत्रिका नेटवर्क कैसे सीखते हैं: ChatGPT और Gemini के पीछे का गणित

हर बार जब कोई चैटबॉट सवाल का जवाब देता है या कोई फोटो ऐप चेहरा पहचानता है, एक तंत्रिका नेटवर्क एक सीखने की प्रक्रिया चलाता है जो काम की परवाह किए बिना बुनियादी कदम का अनुसरण करती है। IBM के अनुसार, यह प्रक्रिया दो जुड़ी हुई तकनीकों पर निर्भर करती है: बैकप्रोपेगेशन, जो यह निर्धारित करता है कि प्रत्येक आंतरिक पैरामीटर ने त्रुटि में कितना योगदान दिया, और ग्रेडिएंट डिसेंट, अनुकूलन विधि जो पैरामीटर को ठीक करने के लिए उन गणनाओं का उपयोग करती है।

तंत्रिका नेटवर्क वास्तव में क्या है

Stanford के Institute for Human-Centered AI (HAI) एक तंत्रिका नेटवर्क को एक कम्प्यूटेशनल मॉडल के रूप में वर्णित करते हैं जो मानव मस्तिष्क की संरचना से प्रेरित है, कृत्रिम 'न्यूरॉन्स' की परस्पर जुड़ी परतों से बना है जो जानकारी को संसाधित और प्रसारित करते हैं। प्रत्येक न्यूरॉन संख्यात्मक इनपुट लेता है, उन्हें भार नामक समायोज्य मानों से गुणा करता है, एक पूर्वाग्रह पद जोड़ता है, और परिणाम को एक गैर-रेखीय सक्रियण फ़ंक्शन के माध्यम से पास करता है और फिर इसे अगली परत को भेजता है, IBM की वास्तुकला के विवरण के अनुसार। Stanford HAI नोट करते हैं कि यह स्तरित संरचना ही है जो तंत्रिका नेटवर्क को बड़ी मात्रा में डेटा से पैटर्न निकालने की अनुमति देती है, गहरी सीखने की नींव बनाती है।

चरण एक: फॉरवर्ड पास

IBM बताते हैं कि प्रशिक्षण वजन और पूर्वाग्रहों को यादृच्छिक मानों पर सेट करने से शुरू होता है। 'फॉरवर्ड पास' के दौरान, इनपुट डेटा नेटवर्क के माध्यम से परत दर परत चलता है: प्रत्येक न्यूरॉन अपने भारित योग की गणना करता है, अपना सक्रियण फ़ंक्शन लागू करता है, और आउटपुट को आगे भेजता है, जब तक कि अंतिम परत भविष्यवाणी का उत्पादन नहीं करता है। इस प्रारंभिक चरण में, क्योंकि वजन यादृच्छिक हैं, वह भविष्यवाणी अनिवार्य रूप से एक अनुमान है।

चरण दो: त्रुटि को मापना

नेटवर्क फिर अपनी भविष्यवाणी की तुलना सही उत्तर से एक हानि फ़ंक्शन का उपयोग करके करता है, एक सूत्र जो मापता है कि आउटपुट कितना दूर था, IBM के अनुसार। विभिन्न कार्य विभिन्न सूत्रों का उपयोग करते हैं — माध्य वर्गित त्रुटि संख्याओं की भविष्यवाणी के लिए सामान्य है, जबकि क्रॉस-एंट्रॉपी वर्गीकरण कार्यों के लिए उपयोग किया जाता है जैसे छवियों को श्रेणियों में छांटना।

चरण तीन: बैकप्रोपेगेशन दोष को ट्रेस करता है

'बैकवर्ड पास' वह जगह है जहां सीखना होता है। IBM बैकप्रोपेगेशन को आउटपुट परत से इनपुट परत की ओर काम करते हुए वर्णित करते हैं, यह निर्धारित करने के लिए कि प्रत्येक व्यक्तिगत वजन ने कुल त्रुटि में कितना योगदान दिया, एक कैलकुलस तकनीक का उपयोग करते हुए जिसे चेन नियम कहा जाता है। परिणाम एक ग्रेडिएंट है: मान का एक सेट, प्रत्येक वजन और पूर्वाग्रह के लिए एक, यह संकेत देता है कि त्रुटि को कम करने वाले समायोजन की दिशा और आकार क्या है।

IBM इस दृष्टिकोण की दक्षता की ओर इशारा करते हैं: एक मिलियन वजन वाले नेटवर्क के लिए, प्रत्येक पैरामीटर को व्यक्तिगत रूप से परीक्षण और त्रुटि से परीक्षण करने के लिए एक मिलियन से अधिक अलग फॉरवर्ड पास की आवश्यकता होगी। बैकप्रोपेगेशन केवल दो पास में वही जानकारी प्राप्त करता है — एक फॉरवर्ड, एक बैकवर्ड।

चरण चार: ग्रेडिएंट डिसेंट वजन को अपडेट करता है

एक बार जब ग्रेडिएंट ज्ञात हो जाता है, ग्रेडिएंट डिसेंट प्रत्येक वजन को एक छोटे कदम से उस दिशा में ले जाता है जो त्रुटि को कम करता है, IBM बताते हैं। उस कदम का आकार 'लर्निंग रेट' द्वारा नियंत्रित किया जाता है: एक उच्च लर्निंग रेट प्रशिक्षण को गति देता है लेकिन सर्वोत्तम मानों को ओवरशूट करने का जोखिम है, जबकि एक कम दर अधिक सटीक लेकिन अभिसरण करने में धीमा है। चार चरण — फॉरवर्ड पास, हानि गणना, बैकवर्ड पास, वजन अपडेट — बार-बार दोहराए जाते हैं, अक्सर लाखों उदाहरणों में, जब तक कि हानि सार्थक रूप से कम होना बंद नहीं हो ��ाती।

लैब तकनीक से ChatGPT और Gemini तक

बड़े भाषा मॉडल इसी बैकप्रोपेगेशन-और-ग्रेडिएंट-डिसेंट चक्र को बहुत बड़े पैमाने पर लागू करते हैं, दो अलग चरणों में। पहला, पूर्वप्रशिक्षण, मॉडल को गैर-लेबल किए गए पाठ की विशाल मात्रा के लिए उजागर करता है — कॉर्पोरा जिनमें सैकड़ों अरब टोकन हैं, RBC Borealis के अनुसार — और बार-बार इससे पूछता है कि अनुक्रम में अगला शब्द क्या होगा। RBC Borealis से एक अनुसंधान ब्लॉग इस आधारभूत मॉडल को मौलिक रूप से एक नेटवर्क के रूप में वर्णित करता है जिसे 'एक आंशिक रूप से पूर्ण इनपुट स्ट्रिंग में अगले शब्द की भविष्यवाणी' के लिए प्रशिक्षित किया जाता है, जो इसे व्याकरण, तथ्य और सामान्य पैटर्न सिखाता है लेकिन अपने आप में इसे एक विश्वसनीय सहायक नहीं बनाता है।

दूसरा चरण, फ़ाइन-ट्यूनिंग, पूर्वप्रशिक्षित नेटवर्क को विशिष्ट व्यवहार के लिए अनुकूलित करता है। RBC Borealis तीन सामान्य दृष्टिकोणों की रूपरेखा देते हैं: मानव-लिखित उदाहरण उत्तरों पर पर्यवेक्षित फ़ाइन-ट्यूनिंग; मानव प्रतिक्रिया से सुदृढीकरण सीखना (RLHF), जिसमें मानव प्राथमिकताओं पर प्रशिक्षित एक अलग पुरस्कार मॉडल आगे के वजन अपडेट का मार्गदर्शन करता है; और नए तरीके जैसे प्रत्यक्ष वरीयता अनुकूलन, जो अलग पुरस्कार मॉडल को छोड़ देते हैं लेकिन फिर भी बैकप्रोपेगेशन पर निर्भर करते हैं। यह फ़ाइन-ट्यूनिंग चरण ही है जो एक सामान्य अगले-शब्द भविष्यवक्ता को एक ऐसी प्रणाली में बदल देता है जो निर्देशों का पालन करता है और कुछ अनुरोधों से इनकार करता है, बजाय केवल पाठ को जारी रखने के जो तांत्रिक रूप से संभावित है।

यह तंत्र क्यों मायने रखता है

क्योंकि पूर्वप्रशिक्षण और फ़ाइन-ट्यूनिंग दोनों एक ही मूल बैकप्रोपेगेशन-और-ग्रेडिएंट-डिसेंट लूप पर निर्भर करते हैं, इस मुख्य तकनीक में सुधार — तेजी से हार्डवेयर, बेहतर हानि फ़ंक्शन, अधिक कुशल अनुकूलन — प्रत्येक अनुप्रयोग को एक साथ प्रभावित करता है, छवि पहचान से लेकर संवादात्मक सहायकों तक। Stanford HAI नोट करते हैं कि तंत्रिका नेटवर्क अब चेहरे की पहचान, वॉयस सहायकों और स्वायत्त वाहनों में उपयोग की जाने वाली गहरी सीखने की प्रणालियों की नींव बनाते हैं, जो सभी ऊपर वर्णित एक ही चार-कदमीय चक्र के भिन्नताओं के माध्यम से प्रशिक्षित होते हैं।