कृत्रिम बुद्धिमत्ता · लेख
AI सिफारिश एल्गोरिदम यह कैसे तय करते हैं कि आप ऑनलाइन क्या देखते और खरीदते हैं
लगभग हर बड़ा ऑनलाइन प्लेटफॉर्म अब AI-संचालित सिफारिश प्रणाली का उपयोग करके प्रत्येक आगंतुक को क्या दिखाना है यह तय करता है। ये प्रणालियां Netflix होमपेज के क्रम, YouTube पर अगला वीडियो कतार, और Amazon पर "ग्राहकों ने भी खरीदा" के तहत सूचीबद्ध उत्पादों को निर्धारित करती हैं। कंपनियां यंत्रविज्ञान को अलग तरीकों से वर्णित करती हैं, लेकिन अंतर्निहित दृष्टिकोण एक समान पैटर्न का पालन करता है: व्यवहार डेटा एकत्र करें, इसकी तुलना अन्य उपयोगकर्ताओं के डेटा से करें, और सामग्री या उत्पादों को अनुमानित प्रासंगिकता के अनुसार रैंक करें।
प्रणालियां कैसे काम करती हैं, प्लेटफॉर्मों के अपने बयान के अनुसार
Netflix का सहायता केंद्र बताता है कि इसकी सिफारिश प्रणाली किसी सदस्य के देखने का इतिहास, उन्होंने अन्य शीर्षकों को कैसे रेट किया, और समान स्वाद वाले अन्य सदस्यों के पैटर्न का मूल्यांकन करती है — एक विधि जिसे सहयोगी फ़िल्टरिंग के रूप में जाना जाता है। यह सामग्री मेटाडेटा जैसे शैली, अभिनेता और रिलीज़ वर्ष, साथ ही संदर्भात्मक संकेत जैसे दिन का समय, डिवाइस का प्रकार और पसंदीदा भाषा को भी शामिल करता है। Netflix स्पष्ट रूप से कहता है कि सिस्टम आयु या लिंग जैसी जनसांख्यिकीय जानकारी को शामिल नहीं करता है।
YouTube की आधिकारिक "YouTube कैसे काम करता है" साइट और इसका ब्लॉग बताते हैं कि सिफारिश प्रणाली 80 अरब से अधिक संकेतों पर आकर्षित करती है, जिसमें देखने का इतिहास, खोज इतिहास, सदस्यताएं, पसंद, और संतुष्टि सर्वेक्षणों के प्रतिक्रियाएं शामिल हैं जहां उपयोगकर्ता वीडियो को एक से पांच सितारों से रेट करते हैं। केवल चार और पांच सितारों की प्रतिक्रियाएं ही YouTube द्वारा "मूल्यवान देखने का समय" कहे जाने वाले में गिनती करती हैं। कंपनी कहती है कि सिफारिशें मुख्य रूप से होमपेज और "अगला" पैनल पर दिखाई देती हैं, और समाचार और सूचनात्मक विषयों के लिए यह उन वीडियो को बढ़ावा देने का लक्ष्य रखती है जिन्हें यह अधिकृत स्रोतों के रूप में परिभाषित करता है जबकि सीमांत सामग्री की दृश्यता को कम करता है, भले ही वह सामग्री अन्यथा अधिक क्लिक प्राप्त कर सकती है।
Amazon की सार्वजनिक रूप से दस्तावेज़ित सिफारिश प्रौद्योगिकी, Amazon Personalize, मुख्य रूप से "आइटम इंटरैक्शन डेटा" से सिफारिशें उत्पन्न करती है, जिसका अर्थ है उपयोगकर्ताओं द्वारा कैटलॉग में आइटम क्लिक करने, देखने या खरीदने के रिकॉर्ड। AWS दस्तावेज़ के अनुसार, सेवा आइटम या उपयोगकर्ता विशेषताएं जैसे शैली या कीमत को भी शामिल कर सकती है, और "जिन ग्राहकों ने X को देखा वे भी Y को देखते हैं", व्यक्तिगतकृत खोज रैंकिंग, और लक्षित विपणन खंडों जैसे उपयोग के मामलों को समर्थन करती है।
यह नियामक जांच को क्यों आकर्षित कर रहा है
यूरोपीय संघ में, डिजिटल सेवा अधिनियम सिफारिश प्रणालियों पर विशिष्ट दायित्व लागू करता है। आर्टिकल 27 को प्लेटफॉर्मों को आवश्यकता है कि वे सादे भाषा में समझाएं कि उनकी सिफारिश प्रणालियां किन मुख्य पैरामीटर का उपयोग करती हैं और उपयोगकर्ताओं को जब कई विकल्प मौजूद हों तो वह सेटिंग समायोजित करने दें, DSA ऑब्जर्वेटरी से कानूनी विश्लेषण के अनुसार, जो कानून के कार्यान्वयन को ट्रैक करने वाला एक अनुसंधान नेटवर्क है। आर्टिकल 38 सबसे बड़े प्लेटफॉर्मों के लिए अधिक आगे जाता है, कम से कम एक सिफारिश विकल्प की आवश्यकता करते हुए जो प्रोफाइलिंग पर आधारित नहीं है। DSA ऑब्जर्वेटरी नोट करता है कि विस्तृत नियामक मार्गदर्शन की अनुपस्थिति में प्लेटफॉर्मों ने प्रकटीकरण नियमों की असंगत व्याख्या की है, और जो प्रणालियां मुख्य रूप से एनगेजमेंट — क्लिक, पसंद, शेयर और देखने का समय — के लिए अनुकूलित की जाती हैं वे साधारण उपभोक्ता परेशानी से परे जोखिम पैदा कर सकती हैं।
संयुक्त राज्य में, संघीय व्यापार आयोग ने सितंबर 2024 में नौ सोशल मीडिया और वीडियो स्ट्रीमिंग कंपनियों में एक बहु-वर्षीय जांच के बाद एक कर्मचारी रिपोर्ट प्रकाशित की। रिपोर्ट ने निष्कर्ष निकाला कि इन कंपनियों ने उपयोगकर्ता और गैर-उपयोगकर्ता व्यक्तिगत जानकारी को स्वचालित प्रणालियों में डाला, जिसमें एल्गोरिदम और AI शामिल हैं, जबकि लोगों को उनके डेटा का उपयोग कैसे किया गया इससे बाहर निकलने की बहुत कम या कोई क्षमता नहीं दी। एजेंसी ने इन प्रणालियों की असंगत आंतरिक परीक्षण भी पाई कंपनियों के बीच। तत्कालीन FTC अध्यक्ष लिना खान ने कहा कि अंतर्निहित डेटा प्रथाएं "लोगों की गोपनीयता को खतरे में डाल सकती हैं, उनकी स्वतंत्रता को खतरे में डाल सकती हैं, और पहचान की चोरी से लेकर स्टॉकिंग तक कई नुकसान के सामने उन्हें उजागर कर सकती हैं।" रिपोर्ट ने सिफारिश की कि कांग्रेस व्यापक गोपनीयता कानून पास करे।
प्लेटफॉर्म डेटा और सीमाओं के बारे में क्या कहते हैं
तीन प्रमुख प्लेटफॉर्म अपने सिफारिश इनपुट का वर्णन कैसे करते हैं| प्लेटफॉर्म | कथित डेटा इनपुट | कथित बहिष्कार या सीमाएं |
|---|
| Netflix | देखने का इतिहास, रेटिंग, समान सदस्यों के स्वाद, शीर्षक मेटाडेटा, दिन का समय, डिवाइस, भाषा | Netflix के सहायता केंद्र के अनुसार उम्र या लिंग का उपयोग नहीं करता |
|---|
| YouTube | क्लिक, देखने का समय, पसंद/नापसंद, शेयर, सदस्यताएं, 1-5 सितारा संतुष्टि सर्वेक्षण रेटिंग | केवल 4-5 सितारा सर्वेक्षण प्रतिक्रियाएं "मूल्यवान देखने का समय" में गिनती करती हैं; समाचार विषयों के लिए सीमांत/गलत सूचना सामग्री को कम करता है |
|---|
| Amazon (Amazon Personalize के माध्यम से) | आइटम इंटरैक्शन डेटा (क्लिक, दृश्य, क्रय); वैकल्पिक रूप से शैली या कीमत जैसी आइटम/उपयोगकर्ता विशेषताएं | AWS दस्तावेज़ व्यक्तिगत विशेषताओं के लिए विशिष्ट बहिष्कार सूची का वर्णन नहीं करते |
|---|
खुले प्रश्न
प्लेटफॉर्म आमतौर पर एनगेजमेंट-आधारित व्यक्तिगतकरण को एक सुविधा के रूप में प्रस्तुत करते हैं जो उपयोगकर्ताओं को प्रासंगिक सामग्री तेजी से खोजने में मदद करता है। नियामक जो FTC रिपोर्ट और EU के DSA पर ध्यान केंद्रित करते हैं ने समान यंत्रविज्ञान को पारदर्शिता और डेटा-शासन मुद्दे के रूप में तैयार किया है, व्यवहार डेटा संग्रहण और पुन: उपयोग पर सीमित उपयोगकर्ता नियंत्रण की ओर इशारा करते हुए, और शामिल स्वचालित प्रणालियों की असंगत निरीक्षण। विवरण की दोनों पंक्तियां एक ही अंतर्निहित तथ्य पर निर्भर करती हैं: सिफारिश इंजन सामग्री और उत्पादों को बड़ी उपयोगकर्ता जनसंख्या में ऐतिहासिक व्यवहार डेटा का उपयोग करके रैंक करते हैं, नई बातचीत होने पर लगातार परिष्कृत होते हैं।
प्रश्न
- क्या Netflix शो सुझाने के लिए मयी उम्र या लिंग का उपयोग करता है?
- नहीं। Netflix का सहायता केंद्र स्पष्ट रूप से कहता है कि इसकी सिफारिश प्रणाली उम्र या लिंग जैसी जनसांख्यिकीय जानकारी को शामिल नहीं करती; यह इसके बजाय देखने का इतिहास, रेटिंग, और समान सदस्यों के पैटर्न पर निर्भर करता है।
- YouTube की सिफारिश प्रणाली में 'संकेत' के रूप में क्या गिनती करता है?
- YouTube कहता है कि यह 80 अरब से अधिक संकेतों को संसाधित करता है, जिसमें क्लिक, देखने का समय, पसंद, शेयर, सदस्यताएं, और 1-5 सितारा संतुष्टि सर्वेक्षण प्रतिक्रियाएं शामिल हैं, जिसमें केवल 4-5 सितारा रेटिंग को मूल्यवान देखने के समय के रूप में गिनती की जाती है।
- क्या मैं EU में सिफारिश फीड का गैर-व्यक्तिगत संस्करण प्राप्त कर सकता हूं?
- EU का डिजिटल सेवा अधिनियम (आर्टिकल 38) सबसे बड़े ऑनलाइन प्लेटफॉर्मों को कम से कम एक सिफारिश विकल्प प्रदान करने की आवश्यकता है जो प्रोफाइलिंग पर आधारित नहीं है, DSA ऑब्जर्वेटरी के अनुसार।
- FTC को सोशल मीडिया कंपनियों के AI एल्गोरिदम के उपयोग के बारे में क्या पता चला?
- FTC की सितंबर 2024 की कर्मचारी रिपोर्ट ने पाया कि कंपनियों ने व्यक्तिगत डेटा को स्वचालित प्रणालियों में डाला, जिसमें AI और एल्गोरिदम शामिल हैं, उपयोगकर्ता ऑप्ट-आउट के साथ बहुत कम या नहीं और इन नौ कंपनियों के बीच असंगत आंतरिक परीक्षण मानक।
- Amazon कैसे तय करता है कि कौन सी उत्पादों की सिफारिश दे?
- Amazon Personalize के लिए AWS दस्तावेज़ के अनुसार, सिफारिशें मुख्य रूप से आइटम इंटरैक्शन डेटा से उत्पन्न होती हैं — उपयोगकर्ताओं द्वारा क्लिक, दृश्य, या खरीदने के रिकॉर्ड — कभी-कभी शैली या कीमत जैसी आइटम या उपयोगकर्ता विशेषताओं के साथ मिलाई जाती हैं।
