چگونه الگوریتم‌های توصیه کار می‌کنند: هوش مصنوعی که خوراک شما را شکل می‌دهد

هر بار که کسی YouTube، TikTok یا برنامه مشابهی را باز می‌کند، نرم‌افزار هزاران ویدیو، آهنگ یا پست ممکن را در کسری از ثانیه درجه‌بندی می‌کند و تصمیم می‌گیرد کدام‌یک را ابتدا نشان دهد. این یک سیستم توصیه است: مجموعه‌ای از الگوریتم‌ها که برای پیش‌بینی اینکه کدام آیتم‌ها احتمالاً یک کاربر خاص می‌خواهد، از میان کتالوگی بسیار بزرگ که هیچ فردی نمی‌تواند به‌صورت دستی مرور کند، طراحی‌شده‌اند.

دو ایده بنیادین پشت هر توصیه‌کننده

بر اساس واژه‌نامه فنی NVIDIA در مورد سیستم‌های توصیه، بیشتر موتورها دو رویکرد بنیادی را ترکیب می‌کنند. فیلتراسیون همکاری‌ای فرض می‌کند که اگر افراد در گذشته انتخاب‌های مشابهی داشته‌اند، احتمالاً در آینده نیز در مورد آن‌ها توافق خواهند داشت، بنابراین سیستم به دنبال کاربرانی با الگوهای رفتاری مطابق می‌گردد و آنچه را که این کاربران مشابه دوست داشتند توصیه می‌کند. فیلتراسیون مبتنی‌بر محتوا در عوض به ویژگی‌های خود آیتم‌ها نگاه می‌کند — ژانر، بازیگران، ویژگی‌های صوتی، برچسب‌ها — و آیتم‌های مشابه با آنچه کاربر قبلاً با آن تعامل داشته است را پیشنهاد می‌کند.

واژه‌نامه NVIDIA یک لایه سوم را اضافه می‌کند که برخی پلتفرم‌ها استفاده می‌کنند: فیلتراسیون متن، که جزئیات شرایط مانند نوع دستگاه، زمان روز یا مکان را در نظر می‌گیرد. به‌عنوان مثال، عمل Netflix در وزن‌دهی کشور، دستگاه، تاریخ و زمانی که یک عنوان مشاهده شده است، در کنار خود تماشا را استشهاد می‌کند.

سیستم‌های مدرن به‌طور فزاینده‌ای این رویکردها را با یادگیری عمیق جایگزین یا مکمل می‌کنند. NVIDIA روش‌هایی مانند فیلتراسیون همکاری‌ای عصبی را توصیف می‌کند، که تحلیل ماتریس را با شبکه‌های عصبی چند‌لایه ترکیب می‌کند تا روابط غیرخطی بین کاربران و آیتم‌ها را به‌دست آورد، و مدل‌های مبتنی‌بر دنباله با استفاده از شبکه‌های عودی یا Transformers برای یادگیری الگوهای ترتیبی که کاربر ویدیوها را تماشا می‌کند یا به آن‌ها گوش می‌دهد.

آنچه پلتفرم‌ها می‌گویند الگوریتم‌های خود آن‌ها برای آن بهینه‌سازی می‌کنند

شرکت‌ها به‌ندرت کد ترتیب‌دهی کامل خود را منتشر می‌کنند، اما برخی به اهداف و سیگنال‌های پشت آن اشاره می‌کنند. اتاق خبری TikTok بیان می‌کند که خوراک "برای شما" آن ویدیوها را با استفاده از سه دسته سیگنال درجه‌بندی می‌کند: تعاملات کاربر (دوست‌داشتن‌ها، اشتراک‌گذاری‌ها، دنبال‌کردن‌ها، نظرات و آنچه فردی ایجاد می‌کند)، اطلاعات ویدیو (توضیحات، صداها، هشتگ) و تنظیمات دستگاه یا حساب (زبان، کشور، نوع دستگاه). TikTok می‌گوید این سیگنال‌ها وزن‌های مختلفی دارند — یک سیگنال قوی، مانند تماشای یک ویدیو طولانی‌تر تا پایان، بیش‌تر از یک سیگنال ضعیف، مانند اشتراک‌گذاری جغرافیای عمومی با دیگر بیننده‌ها محسوب می‌شود.

TikTok صریحاً بیان می‌کند که تعداد دنبال‌کننده و سابقه خالق برای ویدیوهای پرعملکرد عوامل مستقیم در اینکه آیا یک ویدیو خاص توصیه شود نیستند. شرکت همچنین می‌گوید که به‌عمد محتوای خارج از علاقه‌های بیان‌شده کاربر را مخلوط می‌کند و از نمایش ویدیوهای متوالی از همان خالق یا استفاده از همان صدا اجتناب می‌کند، این را به‌عنوان روشی برای دادن مردم "فرصت‌های اضافی برای کشف دسته‌های محتوای جدید" توصیف می‌کند نه اینکه در خوراک باریک محصور باشند.

سایت رسمی YouTube "چگونه YouTube کار می‌کند" هدف سیستم توصیه خود را به‌عنوان درک نیازهای بیننده و تقدیم تجربه تماشایی که آن‌ها را راضی برگذاشته است، نه صرفاً بیشینه‌سازی زمان تماشا، بیان می‌کند. ورودی‌های تغذیه‌کننده توصیه‌ها را به‌عنوان رفتار تماشا و تاریخ تماشا، تعامل صریح مانند دوست‌داشتن و عدم پسند، اشتراک‌ها و بازخورد مستقیم، سمعه و کیفیت کانال و روند‌های وسیع‌تر در میان تماشاچیان عام‌تر، نه تنها سابقه یک فرد فهرست می‌کند. YouTube می‌گوید که داده‌های رفتاری را با نظرسنجی‌های رضایت و تیم‌های ارزیابی خارجی برای بررسی اینکه محتوای توصیه‌شده واقعاً با کیفیت بالا است تکمیل می‌کند، و برای موضوعات حساسی مانند اخبار، مالی، سلامت یا علم وزن اضافی را بر روی منابع معتبر قرار می‌دهد.

چرا دو نفر هرگز یک خوراک یکسان نمی‌بینند

از آنجایی که فیلتراسیون همکاری‌ای رفتار کاربر را با کاربران دیگر مقایسه می‌کند و فیلتراسیون محتوا آیتم‌ها را با سابقه شخص مقایسه می‌کند، هیچ دو حسابی ترکیب یکسانی از سیگنال‌ها را داشتند — تاریخ تماشای متفاوت، دنبال‌کردن‌های متفاوت، دستگاه‌ها و مکان‌های متفاوت. TikTok به‌طور مستقیم بیان می‌کند که هیچ دو کاربری یکسان‌ترکیب ویدیوها را در خوراک "برای شما" خود نخواهند دید. YouTube و TikTok همچنین می‌گویند که سیستم با هر تعامل جدید ادامه به‌روزرسانی می‌کند، بنابراین خوراکی که صبح مشاهده می‌شود می‌تواند تا شام براساس آنچه در بین مشاهده شده، رد شده یا با علامت "علاقه‌مند نیست" نشان‌گذاری شده است، متفاوت باشد.

مردم چقدر فکر می‌کنند این سیستم‌ها دقیق هستند؟

تحقیق در مورد اینکه مردم در واقعیت شخصی‌سازی الگوریتمی را چگونه درک می‌کنند محدودتر از ادبیات مهندسی است. نظرسنجی مرکز تحقیقات پیو منتشر‌شده در 16 ژانویه 2019 از کاربران Facebook درباره دسته‌های علاقه و ویژگی‌هایی که پلتفرم برای هدف‌گذاری تبلیغات به آن‌ها اختصاص داده بود سؤال کرد. دریافت که 74% از کاربران این فهرست از ویژگی‌ها را ندانستند تا نظرسنجی به آن اشاره کرد، و تنها 12% قبل از آن از آن آگاه بودند. پس از نمایش دسته‌های خود به آن‌ها، 59% گفتند که برچسب‌ها منعکس‌کننده علاقه‌های واقعی زندگی آن‌ها تا حدی معقول یا بسیار دقیق بود، در حالی که 27% مخالفت کردند؛ 51% گفتند که حتی زمانی که آن‌ها را دقیق می‌دانستند، احساس بی‌راحتی داشتند که پلتفرم چنین فهرست‌هایی را جمع‌آوری می‌کند. نظرسنجی 963 کاربر Facebook آمریکایی، 18 سال یا بیش‌تر را پوشش داد، به‌وسیله مصاحبه‌شدگان از 4 سپتامبر تا 1 اکتبر 2018.

آیا کاربران می‌توانند الگوریتم را تحت‌تأثیر قرار دهند یا محدود کنند؟

هر دو شرکت کنترل‌های رو‌به‌رو کاربر را توضیح می‌دهند. صفحه رسمی YouTube توجه می‌دهد که کاربران وارد‌شده می‌توانند سابقه جستجو و تماشای خود را در هر زمانی متوقف، ویرایش یا حذف کنند، که مستقیماً به آنچه سیستم توصیه یاد می‌گیرد تغذیه می‌کند. TikTok می‌گوید که دوست‌داشتن‌ها، دنبال‌کردن‌ها، نظرات، کاوش هشتگ و کلیک‌های صریح "Not Interested" همگی توصیه‌های آینده را تعدیل می‌کنند، علاوه بر دسته‌های علاقه‌ای که فردی می‌تواند هنگام تنظیم حساب برای اولین بار انتخاب کند.