Como os algoritmos de recomendação de IA decidem o que você vê e compra on-line

Quase todas as principais plataformas on-line agora decidem o que mostrar para cada visitante usando um sistema de recomendação movido por IA. Esses sistemas determinam a ordem da página inicial do Netflix, o próximo vídeo enfileirado no YouTube e os produtos listados em "clientes também compraram" na Amazon. As empresas descrevem a mecânica de forma diferente, mas a abordagem subjacente segue um padrão semelhante: coletar dados comportamentais, compará-los com dados de outros usuários e classificar conteúdo ou produtos pela relevância prevista.

Como os sistemas funcionam, de acordo com as próprias plataformas

O centro de ajuda da Netflix afirma que seu sistema de recomendação avalia o histórico de visualização de um membro, como ele classificou outros títulos e padrões de outros membros com gostos semelhantes—um método conhecido como filtragem colaborativa. Também leva em conta metadados de conteúdo como gênero, atores e ano de lançamento, além de sinais contextuais incluindo hora do dia, tipo de dispositivo e idioma preferido. A Netflix afirma explicitamente que o sistema não leva em conta informações demográficas como idade ou gênero.

O site oficial "Como o YouTube funciona" do YouTube e seu blog afirmam que o sistema de recomendação se baseia em mais de 80 bilhões de sinais, incluindo histórico de visualização, histórico de pesquisa, inscrições, curtidas e respostas a pesquisas de satisfação onde os usuários classificam vídeos de um a cinco estrelas. Apenas as respostas de quatro e cinco estrelas contam para o que o YouTube chama de "tempo de visualização valorizado". A empresa diz que as recomendações aparecem principalmente na página inicial e no painel "Próximos", e que para tópicos de notícias e informativos o objetivo é promover vídeos do que define como fontes autorizadas, reduzindo a visibilidade de conteúdo duvidoso, mesmo quando esse conteúdo poderia gerar mais cliques.

A tecnologia de recomendação documentada publicamente da Amazon, Amazon Personalize, gera recomendações principalmente a partir de "dados de interação de itens", ou seja, registros de usuários clicando, visualizando ou comprando itens em um catálogo. De acordo com a documentação do AWS, o serviço também pode incorporar atributos de itens ou usuários, como gênero ou preço, e oferece suporte a casos de uso incluindo "clientes que visualizaram X também visualizaram", classificação de pesquisa personalizada e segmentos de marketing direcionado.

Por que isso está atraindo escrutínio regulatório

Na União Europeia, a Lei de Serviços Digitais impõe obrigações específicas aos sistemas de recomendação. O Artigo 27 exige que as plataformas expliquem, em linguagem simples, os principais parâmetros que seus sistemas de recomendação usam e permitam que os usuários ajustem essas configurações quando existirem várias opções, de acordo com análise legal do Observatório DSA, uma rede de pesquisa que acompanha a implementação da lei. O Artigo 38 vai mais longe para as maiores plataformas, exigindo pelo menos uma opção de recomendação que não se baseie em criação de perfil. O Observatório DSA observa que as plataformas interpretaram as regras de divulgação de forma inconsistente na ausência de orientação regulatória detalhada, e que sistemas otimizados principalmente para engajamento—cliques, curtidas, compartilhamentos e tempo de visualização—podem criar riscos que vão além do simples incômodo do consumidor.

Nos Estados Unidos, a Comissão Federal de Comércio publicou um relatório da equipe em setembro de 2024 após uma investigação de vários anos em nove empresas de mídia social e streaming de vídeo. O relatório concluiu que essas empresas alimentaram informações pessoais de usuários e não usuários em sistemas automatizados, incluindo algoritmos e IA, enquanto davam às pessoas pouca ou nenhuma capacidade de optar por não participar de como seus dados eram usados. A agência também descobriu testes internos inconsistentes desses sistemas nas empresas. A então presidente da FTC, Lina Khan, disse que as práticas de dados subjacentes "podem colocar em risco a privacidade das pessoas, ameaçar suas liberdades e expô-las a uma série de danos, desde roubo de identidade até assédio". O relatório recomendou que o Congresso aprovasse legislação abrangente de privacidade.

O que as plataformas dizem sobre dados e limites

As perguntas em aberto

As plataformas geralmente apresentam a personalização baseada em engajamento como uma conveniência que ajuda os usuários a encontrar conteúdo relevante mais rapidamente. Os reguladores focados no relatório da FTC e na DSA da UE enquadraram a mesma mecânica como uma questão de transparência e governança de dados, apontando para controle limitado do usuário sobre como os dados comportamentais são coletados e reutilizados, e supervisão inconsistente dos sistemas automatizados envolvidos. Ambas as linhas de descrição se baseiam no mesmo fato subjacente: os mecanismos de recomendação classificam conteúdo e produtos usando dados comportamentais históricos comparados em grandes populações de usuários, refinados continuamente à medida que novas interações ocorrem.