Come gli algoritmi di raccomandazione dell'IA decidono cosa vedi e acquisti online

Quasi ogni grande piattaforma online ora decide cosa mostrare a ogni visitatore utilizzando un sistema di raccomandazione basato sull'IA. Questi sistemi determinano l'ordine della homepage di Netflix, il video successivo in coda su YouTube e i prodotti elencati sotto "i clienti hanno anche acquistato" su Amazon. Le aziende descrivono i meccanismi in modo diverso, ma l'approccio sottostante segue uno schema simile: raccogliere dati comportamentali, confrontarli con i dati di altri utenti e classificare i contenuti o i prodotti in base alla rilevanza prevista.

Come funzionano i sistemi, secondo le piattaforme stesse

Nel centro assistenza di Netflix si afferma che il suo sistema di raccomandazione valuta la cronologia di visualizzazione di un membro, come ha valutato altri titoli e modelli di altri membri con gusti simili – un metodo noto come filtro collaborativo. Tiene inoltre conto dei metadati dei contenuti come genere, attori e anno di uscita, oltre ai segnali contestuali inclusi l'ora del giorno, il tipo di dispositivo e la lingua preferita. Netflix afferma esplicitamente che il sistema non tiene conto delle informazioni demografiche come l'età o il sesso.

Il sito ufficiale "Come funziona YouTube" e il blog di YouTube affermano che il sistema di raccomandazione si basa su più di 80 miliardi di segnali, inclusa la cronologia di visualizzazione, la cronologia delle ricerche, gli abbonamenti, i "mi piace" e le risposte ai sondaggi sulla soddisfazione in cui gli utenti valutano i video da uno a cinque stelle. Solo le risposte a quattro e cinque stelle contano verso quello che YouTube chiama "tempo di visualizzazione apprezzato". L'azienda afferma che le raccomandazioni appaiono principalmente sulla homepage e nel pannello "Video successivo" e che per i contenuti di notizie e informativi mira a promuovere video da fonti che definisce autorevoli riducendo al contempo la visibilità dei contenuti ai margini, anche quando tali contenuti potrebbero altrimenti generare più clic.

La tecnologia di raccomandazione documentata pubblicamente di Amazon, Amazon Personalize, genera raccomandazioni principalmente da "dati di interazione degli articoli", cioè registrazioni di utenti che fanno clic, visualizzano o acquistano articoli in un catalogo. Secondo la documentazione AWS, il servizio può anche incorporare attributi degli articoli o dell'utente come genere o prezzo e supporta casi d'uso tra cui "i clienti che hanno visualizzato X hanno anche visualizzato", ranking di ricerca personalizzato e segmenti di marketing mirati.

Perché questo attrae lo scrutinio normativo

Nell'Unione Europea, il Digital Services Act impone obblighi specifici sui sistemi di raccomandazione. L'articolo 27 richiede alle piattaforme di spiegare, in linguaggio semplice, i parametri principali che i loro sistemi di raccomandazione utilizzano e di consentire agli utenti di regolare quelle impostazioni quando esistono più opzioni, secondo l'analisi legale dell'Osservatorio DSA, una rete di ricerca che traccia l'implementazione della legge. L'articolo 38 va oltre per le piattaforme più grandi, richiedendo almeno un'opzione di raccomandazione che non si basi sulla profilazione. L'Osservatorio DSA osserva che le piattaforme hanno interpretato le regole di divulgazione in modo incoerente in assenza di linee guida normative dettagliate, e che i sistemi ottimizzati principalmente per il coinvolgimento – clic, "mi piace", condivisioni e tempo di visualizzazione – possono creare rischi che vanno oltre il semplice fastidio dei consumatori.

Negli Stati Uniti, la Federal Trade Commission ha pubblicato un rapporto dello staff nel settembre 2024 in seguito a un'indagine pluriennale su nove aziende di social media e streaming video. Il rapporto ha concluso che queste aziende hanno inserito informazioni personali di utenti e non utenti in sistemi automatizzati, inclusi algoritmi e IA, mentre davano alle persone poco o nessuna possibilità di rinunciare al modo in cui i loro dati venivano utilizzati. L'agenzia ha anche riscontrato test interni incoerenti di questi sistemi tra le aziende. L'allora presidente della FTC Lina Khan ha dichiarato che le pratiche di dati sottostanti "possono mettere in pericolo la privacy delle persone, minacciare le loro libertà ed esporle a una serie di danni, dal furto di identità allo stalking". Il rapporto ha consigliato al Congresso di approvare una legislazione sulla privacy onnicomprensiva.

Cosa dicono le piattaforme su dati e limiti

Le domande aperte

Le piattaforme generalmente presentano la personalizzazione basata sul coinvolgimento come una comodità che aiuta gli utenti a trovare contenuti pertinenti più velocemente. I regolatori incentrati sul rapporto FTC e sul DSA dell'UE hanno inquadrato gli stessi meccanismi come una questione di trasparenza e governance dei dati, indicando il controllo limitato dell'utente su come vengono raccolti e riutilizzati i dati comportamentali, e alla supervisione incoerente dei sistemi automatizzati coinvolti. Entrambe le linee di descrizione si basano sullo stesso fatto sottostante: i motori di raccomandazione classificano i contenuti e i prodotti utilizzando dati comportamentali storici confrontati tra grandi popolazioni di utenti, raffinati continuamente quando si verificano nuove interazioni.