כמעט כל פלטפורמת אינטרנט גדולה כיום מחליטה מה להציג לכל מבקר באמצעות מערכת המלצות מונעת בינה מלאכותית. מערכות אלה קובעות את סדר דף הבית של Netflix, הסרטון הבא בתור ב-YouTube, והמוצרים המופיעים תחת "לקוחות גם קנו" ב-Amazon. חברות מתארות את המכניקה בדרכים שונות, אך הגישה הבסיסית עוקבת אחר דפוס דומה: אסוף נתונים התנהגותיים, השווה אותם עם נתונים מ-משתמשים אחרים, והדרג תוכן או מוצרים לפי רלוונטיות משוער.
איך המערכות עובדות, לפי דברי הפלטפורמות עצמן
מרכז הסיוע של Netflix קובע כי מערכת ההמלצות שלה מעריכה את ה��סטוריית הצפייה של החבר, כיצד הם דיווחו על כותרים אחרים, ודפוסים מ-חברים אחרים בעלי טעמים דומים - שיטה המכונה סינון שיתופי. זה גם לוקח בחשבון מטא-נתונים של תוכן כגון ז'אנר, שחקנים וסנת השחרור, בתוספת סימנים הקשריים כולל שעת היום, סוג מכשיר ושפה מועדפת. Netflix מודיע במפורש כי המערכת אינה לוקחת בחשבון מידע דמוגרפי כמו גיל או מין.
אתר "איך YouTube עובד" הרשמי של YouTube ובלוג שלו קובעים כי מערכת ההמלצות מסתמכת על יותר מ-80 מיליארד סימנים, כולל היסטוריית צפייה, היסטוריית חיפוש, מנויים, לייקים, תגובות לסקרי שביעות רצון כאשר משתמשים דירוגים סרטונים מ-כוכב אחד עד חמישה כוכבים. רק תשובות של ארבע וחמישה כוכבים נחשבות לאשר YouTube קורא "זמן צפייה בעל ערך." החברה אומרת כי המלצות מופיעות בעיקר בדף הבית וב-"הווה הבא", וכי לנושאים חדשות ומידע היא שואפת לקדם סרטונים מ-מה שהיא מגדירה כמקורות סמכותיים תוך הקטנת הנראות של תוכן גבול, גם כאשר תוכן זה עלול להיות יוצר קליקים נוסף.
טכנולוגיית ההמלצות המתועדת בפומבי של Amazon, Amazon Personalize, מייצרת המלצות בעיקר מ-"נתוני אינטראקציה של פריט", כלומר רשומות של משתמשים לוחצים, צופים או קונים פריטים בקטלוג. על פי תיעוד AWS, השירות יכול גם לשלב תכונות של פריט או משתמש כמו ז'אנר או מחיר, ותומך במקרי שימוש כולל "לקוחות שצפו X גם צפו", דירוג חיפוש מופעל, וקטעי שיווק ממוקדים.
למה זה משך תשומת לב רגולטורית
בתוך האיחוד האירופי, חוק השירותים הדיגיטליים מטיל התחייבויות ספציפיות על מערכות המלצות. סעיף 27 דורש מ-פלטפורמות להסביר, בשפה פשוטה, את הפרמטרים העיקריים שמערכות ההמלצות שלהן משתמשות ובהן כדי לאפשר למשתמשים להתאים את ההגדרות הללו כאשר קיימות אפשרויות מרובות, על פי ניתוח חוקי מ-DSA Observatory, רשת מחקר המעקבת אחר יישום החוק. סעיף 38 הולך הלאה עבור הפלטפורמות הגדולות ביותר, דורש לפחות אפשרות המלצה אחת שאינה מבוססת על פרופיל. DSA Observatory מציין כי פלטפורמות פירשו את כללי הגילוי בצורה לא עקבית בעדר הדרכה רגולטורית מפורטת, וכי מערכות אופטימיזציה בעיקר להתחייבות - קליקים, לייקים, שיתופים וזמן צפייה - יכולות ליצור סיכונים שמעבר להטרדה פשוטה של הצרכן.
בארה"ב, ועדת הסחר הפדרלית פרסמה דוח צוות בספטמבר 2024 בעקבות חקירה שנמשכה שנים בתשע חברות מדיה חברתית וזרימת וידאו. הדוח הסיק כי חברות אלה הנזילו מידע אישי של משתמשים ולא-משתמשים לתוך מערכות אוטומטיות, כולל אלגוריתמים ובינה מלאכותית, בעוד שנתנו לאנשים מעט או אפילו לא יכולת להתנגד לאופן שבו הנתונים שלהם הושתמשו. הסוכנות גם מצאה בדיקה פנימית לא עקבית של מערכות אלה על פני חברות. יו"ר ועדת הסחר הפדרלית לשעבר לינה קאן אמרה כי שיטות הנתונים הבסיסיות "יכולות לסכן את הפרטיות של מנעד האנשים, לאיים על חירויות שלהם, ולהחשוף אותם לחיזוי של נזקים, מ-גניבת זהות לעקיבה." הדוח המליץ כי הקונגרס תקין חקיקה מקיפה על פרטיות.
מה פלטפורמות אומרות אודות נתונים ומגבלות
איך שלוש פלטפורמות עיקריות מתארות את תשומות ההמלצות שלהם| פלטפורמה | תשומות נתונים המוצהרות | חריגויות או מגבלות המוצהרות |
|---|
| Netflix | היסטוריית צפייה, דירוגים, טעמי חברים דומים, מטא-נתונים של כותרים, שעת היום, מכשיר, שפה | אין שימוש בגיל או מין, על פי מרכז הסיוע של Netflix |
|---|
| YouTube | קליקים, זמן צפייה, לייקים/אי-לייקים, שיתופים, מנויים, דירוגי סקר שביעות רצון של 1 עד 5 כוכבים | רק דירוגי סקר של 4-5 כוכבים נחשבים לחשבון לעבור "זמן צפייה בעל ערך"; מחליש תוכן גבול/מידע מוטעה לנושאי חדשות |
|---|
| Amazon (דרך Amazon Personalize) | נתוני אינטראקציה של פריט (קליקים, צפיות, קנייה); שרירותית תכונות של פריט/משתמש כמו ז'אנר או מחיר | תיעוד AWS אינו מתאר רשימת חריגויות ספציפית לתכונות אישיות |
|---|
השאלות הפתוחות
פלטפורמות בדרך כלל מציגות התאמה אישית מבוססת התחייבות כנוחות המסייעת למשתמשים למצוא תוכן רלוונטי מהר יותר. רגולטורים שהתמקדו בדוח ועדת הסחר הפדרלית וחוק השירותים הדיגיטליים של האיחוד האירופי גרימו את אותו המכניקה כנושא שקיפות וקביעת נתונים, המצביעים על בקרה מוגבלת של המשתמש על אופן איסוף נתונים התנהגותיים והשימוש החוזר בהם, וב-פיקוח לא עקבי של המערכות האוטומטיות המעורבות. שני הקווים של התיאור מסתמכים על אותה העובדה הבסיסית: מנועי המלצות מדרגים תוכן ומוצרים באמצעות נתונים התנהגותיים היסטוריים המשווים בין אוכלוסיות משתמשים גדולות, מעודן ללא הרף כאשר אינטראקציות חדשות מתרחשות.
שאלות
- האם Netflix משתמשת בגילי או במיני שלי כדי להמליץ על תוכניות?
- לא. מרכז הסיוע של Netflix קובע במפורש כי מערכת ההמלצות שלה אינה כוללת מידע דמוגרפי כמו גיל או מין; במקום זאת היא סומכת על היסטוריית צפייה, דירוגים, ודפוסים מ-חברים דומים.
- מה נחשב ל-"סימן" במערכת ההמלצות של YouTube?
- YouTube אומרת שהיא מעבדת יותר מ-80 מיליארד סימנים, כולל קליקים, זמן צפייה, לייקים, שיתופים, מנויים, ודירוגי סקר שביעות רצון של 1 עד 5 כוכבים, כאשר רק דירוגים של 4-5 כוכבים נחשבים לחשבון כ-"זמן צפייה בעל ערך."
- האם אני יכול לקבל גרסה ללא אישור של הזנת המלצות באיחוד האירופי?
- חוק השירותים הדיגיטליים של האיחוד האירופי (סעיף 38) דורש מ-הפלטפורמות המקוונות הגדולות ביותר להציע לפחות אפשרות המלצה אחת שאינה מבוססת על פרופיל, על פי DSA Observatory.
- מה מצאה ועדת הסחר הפדרלית לגבי שימוש חברות מדיה חברתית באלגוריתמים של בינה מלאכותית?
- דוח צוות ועדת הסחר הפדרלית בספטמבר 2024 מצא כי חברות הנזילו נתונים אישיים לתוך מערכות אוטומטיות, כולל בינה מלאכותית ואלגוריתמים, כאשר מעט או אפילו יכולת עזיבה של משתמש וביצוע ביקורת פנימי לא עקבי על פני תשע החברות שנבדקו.
- איך Amazon מחליטה אילו מוצרים להמליץ?
- על פי תיעוד AWS ל-Amazon Personalize, המלצות מופקות בעיקר מ-נתוני אינטראקציה של פריט - רשומות של משתמשים לוחצים, צופים או קונים פריטים - לעתים בשילוב עם תכונות של פריט או משתמש כמו ז'אנר או מחיר.
