كيف تقرر خوارزميات التوصيات القائمة على الذكاء الاصطناعي ما تراه وتشتريه عبر الإنترنت

تقريباً كل منصة إنترنت رئيسية الآن تقرر ما تعرضه لكل زائر باستخدام نظام توصيات قائم على الذكاء الاصطناعي. تحدد هذه الأنظمة ترتيب الصفحة الرئيسية لـ Netflix، والفيديو التالي في قائمة الانتظار على YouTube، والمنتجات المدرجة ضمن "العملاء الذين شاهدوا أيضاً" على Amazon. تصف الشركات الآليات بطرق مختلفة، لكن المنهج الأساسي يتبع نمطاً متشابهاً: جمع البيانات السلوكية، ومقارنتها مع البيانات من مستخدمين آخرين، وترتيب المحتوى أو المنتجات حسب الصلة المتنبأ بها.

كيفية عمل الأنظمة، وفقاً للمنصات نفسها

تنص مركز مساعدة Netflix على أن نظام التوصيات الخاص بها يقيّم سجل المشاهدة للعضو، وكيفية تقييمهم للألقاب الأخرى، والأنماط من الأعضاء الآخرين الذين لديهم أذواق متشابهة - وهي طريقة تُعرف بالتصفية التعاونية. كما يأخذ في الاعتبار البيانات الوصفية للمحتوى مثل النوع والممثلين وسنة الإصدار، بالإضافة إلى الإشارات السياقية بما فيها وقت اليوم ونوع الجهاز واللغة المفضلة. يصرح Netflix بصراحة بأن النظام لا يأخذ في الاعتبار المعلومات الديموغرافية مثل العمر أو الجنس.

تنص موقع YouTube الرسمي "كيفية عمل YouTube" ومدونتها على أن نظام التوصيات يستفيد من أكثر من 80 مليار إشارة، بما في ذلك سجل المشاهدة وسجل البحث والاشتراكات والإعجابات والردود على استطلاعات الرضا حيث يقيّم المستخدمون الفيديوهات من نجمة إلى خمس نجوم. تُحسب فقط الردود على أربع وخمس نجوم نحو ما تسميه YouTube "وقت المشاهدة المقدّر". تقول الشركة أن التوصيات تظهر بشكل أساسي على الصفحة الرئيسية وفي لوحة "المقترح التالي"، وأنها بالنسبة للمواضيع الإخبارية والمعلوماتية تهدف إلى تعزيز الفيديوهات من ما تعرّفه كمصادر موثوقة مع تقليل رؤية المحتوى الحدودي، حتى عندما قد يولد هذا المحتوى المزيد من النقرات.

تولد تكنولوجيا التوصيات الموثقة علناً من Amazon، Amazon Personalize، التوصيات بشكل أساسي من "بيانات تفاعل العنصر"، أي سجلات المستخدمين الذين ينقرون أو يشاهدون أو يشترون عناصر في الكتالوج. وفقاً لتوثيق AWS، يمكن للخدمة أيضاً أن تدمج خصائص العنصر أو المستخدم مثل النوع أو السعر، وتدعم حالات استخدام بما فيها "العملاء الذين شاهدوا X شاهدوا أيضاً"، وترتيب البحث الشخصي، وقطاعات التسويق الموجهة.

لماذا يجذب هذا الانتباه التنظيمي

في الاتحاد الأوروبي، يفرض قانون الخدمات الرقمية التزامات محددة على أنظمة التوصيات. تتطلب المادة 27 من المنصات أن تشرح، بلغة واضحة، المعاملات الرئيسية التي تستخدمها أنظمة التوصيات الخاصة بها وأن تسمح للمستخدمين بتعديل تلك الإعدادات عندما توجد عدة خيارات، وفقاً للتحليل القانوني من مرصد DSA، شبكة بحثية تتابع تنفيذ القانون. تذهب المادة 38 أبعد من ذلك بالنسبة للمنصات الأكبر، مما يتطلب خيار توصيات واحد على الأقل لا يعتمد على تجميع الملفات الشخصية. يلاحظ مرصد DSA أن المنصات فسّرت قواعد الكشف بشكل غير متسق في غياب التوجيه التنظيمي المفصل، وأن الأنظمة المحسّنة بشكل أساسي للتفاعل - النقرات والإعجابات والمشاركات ووقت المشاهدة - يمكن أن تنشئ مخاطر تتجاوز مجرد الإزعاج للمستهلك.

في الولايات المتحدة، نشرت لجنة التجارة الفيدرالية تقرير الموظفين في سبتمبر 2024 بعد تحقيق لمدة سنوات في تسع شركات وسائط اجتماعية وبث فيديو. خلص التقرير إلى أن هذه الشركات أدخلت معلومات شخصية عن المستخدمين وغير المستخدمين في أنظمة آلية، بما في ذلك الخوارزميات والذكاء الاصطناعي، بينما أعطت الناس القليل من القدرة أو عدم القدرة على الامتناع عن كيفية استخدام بياناتهم. كما وجدت الوكالة اختبار داخلي غير متسق لهذه الأنظمة عبر الشركات. قالت رئيسة لجنة التجارة الفيدرالية السابقة لينا خان أن ممارسات البيانات الأساسية "يمكن أن تعرض خصوصية الناس للخطر، وتهدد حرياتهم، وتعرضهم لمجموعة من الأضرار، من سرقة الهوية إلى المطاردة." أوصى التقرير بأن يسن الكونغرس تشريعات شاملة للخصوصية.

ما تقوله المنصات حول البيانات والحدود

الأسئلة المفتوحة

تقدم المنصات بشكل عام التخصيص القائم على التفاعل كراحة تساعد المستخدمين على العثور على المحتوى ذي الصلة بشكل أسرع. ركز المنظمون على تقرير لجنة التجارة الفيدرالية وقانون الخدمات الرقمية للاتحاد الأوروبي على نفس الآليات كمسألة شفافية وحوكمة البيانات، مشيرين إلى التحكم المحدود للمستخدم في كيفية جمع البيانات السلوكية وإعادة استخدامها، والإشراف غير المتسق على الأنظمة الآلية المعنية. كلا الخطين من الوصف يعتمد على نفس الحقيقة الأساسية: تصنف محركات التوصيات المحتوى والمنتجات باستخدام البيانات السلوكية التاريخية مقارنة عبر سكان مستخدمين كبيرة، وتحسّن بشكل مستمر عند حدوث تفاعلات جديدة.