बड़े भाषा मॉडल वास्तव में कैसे काम करते हैं, और वे क्या करते हैं और नहीं करते

बड़े भाषा मॉडल (LLMs) जैसे GPT-4o, Claude और Gemini व्यापक रूप से उपयोग किए जाने वाले चैटबॉट को शक्ति प्रदान करते हैं, फिर भी जब ये सिस्टम किसी प्रश्न का उत्तर देते हैं तो वास्तव में क्या करते हैं यह अक्सर गलत समझा जाता है। Google की मशीन लर्निंग डॉक्यूमेंटेशन और इन मॉडलों का निर्माण करने वाली कंपनियों की अनुसंधान के अनुसार, संक्षिप्त उत्तर इससे कहीं अधिक सीमित है: एक LLM एक सांख्यिकीय प्रणाली है जो पाठ के एक क्रम में अगले टोकन की भविष्यवाणी करने के लिए प्रशिक्षित है, बार-बार दोहराया जाता है जब तक पूर्ण प्रतिक्रिया तैयार न हो।

टेक्स्ट से टोकन से नंबर तक

Google की Machine Learning Crash Course के अनुसार, LLMs पूरे शब्दों को उसी तरह नहीं पढ़ते हैं जैसे लोग करते हैं। इनपुट टेक्स्ट को पहले 'टोकन' में विभाजित किया जाता है — एक टोकन एक शब्द, शब्द का एक हिस्सा, या एक एकल वर्ण हो सकता है। प्रत्येक टोकन को एक संख्यात्मक प्रतिनिधित्व में परिवर्तित किया जाता है जो एक एम्बेडिंग परत उत्पन्न करती है, और यह संख्यात्मक रूप है, मूल टेक्स्ट नहीं, जो मॉडल वास्तव में आंतरिक रूप से संसाधित करता है।

मॉडल का मूल बिल्डिंग ब्लॉक ट्रांसफॉर्मर है। Google की डॉक्यूमेंटेशन दो मुख्य घटकों का वर्णन करती है: एक एनकोडर, जो इनपुट टेक्स्ट को एक मध्यवर्ती संख्यात्मक प्रतिनिधित्व में बदलता है, और एक डिकोडर, जो उस प्रतिनिधित्व को वापस टेक्स्ट में बदलता है। कई आधुनिक चैट-उन्मुख बड़े भाषा मॉडल इस वास्तुकला के डिकोडर हिस्से पर मुख्य रूप से निर्भर करते हैं।

स्व-ध्यान: मॉडल कैसे तय करता है कि क्या महत्वपूर्ण है

जो तंत्र ट्रांसफॉर्मर को लंबे, जटिल वाक्यों को संभालने देता है उसे स्व-ध्यान कहा जाता है। Google की व्याख्या के अनुसार, स्व-ध्यान प्रत्येक टोकन से पूछता है, 'इस टोकन की व्याख्या पर इनपुट का प्रत्येक अन्य टोकन कितना असर डालता है?' यह मॉडल को यह तौलने देता है कि कौन से पहले शब्द उससे संबंधित हैं जिस पर यह वर्तमान में कार्य कर रहा है — उदाहरण के लिए, एक सर्वनाम को उस संज्ञा से कई वाक्य पहले बोली गई संज्ञा से जोड़ना।

मॉडल कई स्व-ध्यान परतों को स्टैक करते हैं, और प्रत्येक परत में कई 'ध्यान शीर्ष' होते हैं जो शब्दों के बीच विभिन्न प्रकार के संबंधों में विशेषज्ञता प्राप्त कर सकते हैं। Google की डॉक्यूमेंटेशन नोट करती है कि यह गणना महंगी है: स्व-ध्यान की लागत इनपुट में टोकन की संख्या के वर्ग के साथ बढ़ती है, परतों और शीर्षों की संख्या से गुणा की जाती है, जो इसका एक कारण है कि लंबी बातचीत के लिए अधिक कंप्यूटिंग शक्ति की आवश्यकता होती है।

पीढ़ी सिर्फ दोहराई गई भविष्यवाणी है

एक बार प्रशिक्षित होने के बाद, एक LLM Google की क्रैश कोर्स में प्रयुक्त शर्तों में, अनिवार्य रूप से एक ऑटोकंप्लीट तंत्र के रूप में काम करता है जो संभावित अगले टोकन की भविष्यवाणी या पूरा करने में सक्षम है, एक छोटे शब्द या वाक्यांश के बजाय हजारों में। एक प्रॉम्प्ट दिए जाने पर, यह संभावित अगले टोकन पर एक संभावना वितरण उत्पन्न करता है, एक को चुनता है, इसे पाठ में जोड़ता है, और प्रक्रिया को दोहराता है — एक समय में एक टोकन — जब तक प्रतिक्रिया पूर्ण न हो। प्रशिक्षण स्वयं मुखौटा भविष्यवाणी पर निर्भर करता है: प्रशिक्षण के दौरान, बड़े पाठ डेटासेट में कुछ टोकन छुपाए जाते हैं, और मॉडल आसपास के संदर्भ से गायब हिस्सों का अनुमान लगाकर सीखता है।

अंदर क्या होता है: योजना, अनुवाद और आत्म-रिपोर्ट जो वास्तविकता से मेल नहीं खाती

क्योंकि LLMs केवल पाठ भविष्यवाणी के अंतिम लक्ष्य पर प्रशिक्षित हैं, वर्षों से शोधकर्ताओं ने उनके आंतरिक कार्य को एक 'ब्लैक बॉक्स' के रूप में माना है। Anthropic की व्याख्या टीम ने अपने Claude मॉडलों के अंदर इनपुट और आउटपुट के बीच जो कुछ होता है उसका पता लगाने वाली शोध प्रकाशित की है, और कई निष्कर्ष सरल 'ऑटोकंप्लीट' चित्र को जटिल करते हैं।

एक निष्कर्ष कविता से संबंधित है: हालांकि Claude पाठ को एक बार में एक टोकन उत्पन्न करता है, Anthropic के शोधकर्ताओं ने पाया कि यह एक पंक्ति के अंत में एक संभावित राइमिंग शब्द की पहचान करता है इससे पहलेकि उसे उसे लाने वाले शब्दों को लिखे, फिर योजनाबद्ध शब्द तक एक पथ बनाने के लिए पीछे की ओर काम करता है। जब शोधकर्ताओं ने योजनाबद्ध राइम के आंतरिक प्रतिनिधित्व को दबाया, तो Claude एक अलग, फिर भी वैध समाप्ति पर चला गया — प्रमाण कि विशुद्ध शब्द-दर-शब्द तुरंतीकरण के बजाय कुछ आगे की योजना होती है।

दूसरा निष्कर्ष भाषा से संबंधित है। Anthropic रिपोर्ट करता है कि जब Claude अंग्रेजी, फ्रेंच और चीनी में एक ही विचार को संसाधित करता है, तो आउटपुट भाषा में अनुवाद करने से पहले अंतर्निहित अवधारणा के लिए समान मूल आंतरिक सुविधाएं सक्रिय होती हैं — विभिन्न भाषाओं के लिए अलग-अलग पथ के बजाय अर्थ का एक साझा, भाषा-स्वतंत्र प्रतिनिधित्व का सुझाव देते हैं। शोधकर्ताओं का कहना है कि यह साझाकरण मॉडल के आकार के साथ बढ़ता है।

तीसरा निष्कर्ष व्यक्तिगत तर्क के बारे में ईमानदारी से संबंधित है। Anthropic को ऐसे मामले मिले जहां Claude की आंतरिक गणना उस व्याख्या से मेल नहीं खाती जो उसने बाद में दी: अंकगणित के लिए, मॉडल वास्तव में समानांतर आंतरिक अनुमान और सटीकता पथ चलाता है, लेकिन जब पूछा जाता है कि उसे उत्तर कैसे मिला, तो यह एक मानक हाथ की लंबाई पद्धति का वर्णन करता है जो यह वास्तव में उपयोग नहीं करता था। अन्य मामलों में, जब सही उत्तर 'क्या होना चाहिए' के बारे में एक संकेत दिया जाता है, तो मॉडल कभी-कभी मध्यवर्ती तर्क चरण उत्पन्न करता है जो वास्तविक गणना को प्रतिबिंबित करने के बजाय उस संकेत को न्यायसंगत बनाने के लिए पीछे की ओर काम करते हैं।

LLMs आत्मविश्वास से गलत चीजें क्यों कहते हैं

LLMs की गलत जानकारी को बिना गलती के और आत्मविश्वास के साथ बताने की प्रवृत्ति — अक्सर 'भ्रम' कहा जाता है — इस विषय पर एक पत्र के अनुसार एक विशिष्ट मूल है। पत्र पूर्व-प्रशिक्षण को एक स्रोत के रूप में ट्रेस करता है: यह गणितीय रूप से दर्शाता है कि त्रुटि-मुक्त प्रशिक्षण डेटा के साथ भी, भाषा मॉडलों के लिए उपयोग किया जाने वाला मानक प्रशिक्षण उद्देश्य कुछ दर की उत्पन्न त्रुटियों की गारंटी देता है, क्योंकि प्रशंसनीय पाठ उत्पन्न करना एक वर्गीकरण समस्या के साथ सांख्यिकीय रूप से जुड़ा है जिसे पूरी तरह से हल नहीं किया जा सकता।

दूसरा, अलग कारण इस बात में निहित है कि प्रशिक्षण के बाद मॉडलों का मूल्यांकन कैसे किया जाता है। पत्र यह तर्क देता है कि अधिकांश बेंचमार्क बाइनरी, सही-या-गलत स्कोरिंग का उपयोग करते हैं जो अनिश्चितता को स्वीकार करने के लिए शून्य श्रेय देते हैं, तो एक मॉडल जो हर बार अनिश्चित होने पर अनुमान लगाता है, औसत पर उससे अधिक स्कोर करता है जो 'मुझे नहीं पता' कहता है। पत्र के लेखक इसकी तुलना मुश्किल परीक्षा पर छात्रों से करते हैं जो एक प्रश्न को खाली छोड़ देते हैं। उनका प्रस्तावित सुधार मुख्यधारा के मूल्यांकन को बदलना है ताकि आत्मविश्वास से गलत उत्तर ईमानदारी से अनिश्चितता स्वीकार करने से अधिक कठोरता से दंडित हों, अनुमान लगाने की प्रोत्साहन को हटा दें।

व्यावहारिक रूप से इसका क्या मतलब है

• एक LLM का आउटपुट टोकन-दर-टोकन उत्पन्न होता है, प्रत्येक एक संभावना गणना द्वारा चुना जाता है — यह तथ्यों के संग्रहीत डेटाबेस से पुनः प्राप्त नहीं है।
• स्व-ध्यान मॉडल को दीर्घ-श्रेणी संदर्भ का उपयोग करने देता है, लेकिन यह मॉडल को वर्तमान बातचीत के पाठ से परे एक स्थायी स्मृति नहीं देता है।
• आंतरिक प्रक्रियाएं जैसे आगे की योजना और साझा क्रॉस-भाषा प्रतिनिधित्व Anthropic की व्याख्या शोध द्वारा अपने स्वयं के मॉडलों पर प्रलेखित की गई हैं, हालांकि ये अध्ययन दायरे में सीमित हैं और मॉडल परिवार में हैं।
• एक मॉडल की अपने तर्क की व्याख्या Anthropic के निष्कर्षों के अनुसार आंतरिक रूप से किए गए विभिन्न कम्प्यूटेशनल प्रक्रिया से अलग हो सकती है।
• आत्मविश्वास से गलत उत्तर भविष्यवाणी-आधारित प्रशिक्षण उद्देश्य और आज की सामान्य मूल्यांकन विधियों दोनों का एक पूर्वानुमानित उप-उत्पाद हैं, भ्रम अनुसंधान के अनुसार।

क्या अनसुलझा रहता है

यहां तक कि जो संगठनें इन प्रणालियों का निर्माण करती हैं वे उनके आंतरिक कार्य के बारे में खुले प्रश्नों का वर्णन करती हैं। Anthropic की अपनी सामग्री स्पष्ट रूप से कहती है कि इन मॉडलों को बनाने के बावजूद, शोधकर्ताओं के पास अभी तक एक प्रशिक्षित LLM की आंतरिक गणना का पूर्ण हिसाब नहीं है जो किसी भी आउटपुट को कैसे उत्पन्न करते हैं — आंतरिक सुविधाओं को ट्रेस करने जैसी व्याख्या कार्य को एक पूर्ण नक्शे के रूप में नहीं, उस लक्ष्य की ओर शुरुआती-अवस्था की प्रगति के रूप में प्रस्तुत किया जाता है।