Cómo los algoritmos de recomendación de IA deciden qué ves y compras en línea

Casi todas las grandes plataformas en línea ahora deciden qué mostrar a cada visitante utilizando un sistema de recomendación impulsado por IA. Estos sistemas determinan el orden de una página de inicio de Netflix, el siguiente video en cola en YouTube y los productos listados en "los clientes también compraron" en Amazon. Las empresas describen la mecánica de manera diferente, pero el enfoque subyacente sigue un patrón similar: recopilar datos de comportamiento, compararlos con datos de otros usuarios y clasificar contenido o productos por relevancia predicha.

Cómo funcionan los sistemas, según las propias plataformas

El centro de ayuda de Netflix establece que su sistema de recomendación evalúa el historial de visualización de un miembro, cómo calificó otros títulos y patrones de otros miembros con gustos similares—un método conocido como filtrado colaborativo. También considera metadatos de contenido como género, actores y año de lanzamiento, más señales contextuales incluyendo hora del día, tipo de dispositivo e idioma preferido. Netflix dice explícitamente que el sistema no toma en cuenta información demográfica como la edad o el género.

El sitio "Cómo funciona YouTube" oficial de YouTube y su blog establecen que el sistema de recomendación se basa en más de 80 mil millones de señales, incluyendo historial de visualización, historial de búsqueda, suscripciones, "me gusta", y respuestas a encuestas de satisfacción donde los usuarios califican videos de uno a cinco estrellas. Solo las respuestas de cuatro y cinco estrellas cuentan hacia lo que YouTube llama "tiempo de visualización valorado". La empresa dice que las recomendaciones aparecen principalmente en la página de inicio y en el panel "Siguiente", y que para temas de noticias e informativos apunta a promover videos de lo que define como fuentes autorizadas mientras reduce la visibilidad del contenido dudoso, incluso cuando ese contenido podría de otro modo generar más clics.

La tecnología de recomendación documentada públicamente de Amazon, Amazon Personalize, genera recomendaciones principalmente a partir de "datos de interacción de elementos", es decir, registros de usuarios que hacen clic, ven o compran artículos en un catálogo. Según la documentación de AWS, el servicio también puede incorporar atributos de artículos o usuarios como género o precio, y respalda casos de uso incluyendo "los clientes que vieron X también vieron", clasificación de búsqueda personalizada, y segmentos de marketing dirigido.

Por qué esto está atrayendo escrutinio regulatorio

En la Unión Europea, la Ley de Servicios Digitales impone obligaciones específicas en los sistemas de recomendación. El Artículo 27 requiere que las plataformas expliquen, en lenguaje sencillo, los parámetros principales que utilizan sus sistemas de recomendación y permitan a los usuarios ajustar esas configuraciones cuando existan múltiples opciones, según análisis legal del Observatorio de DSA, una red de investigación que rastrea la implementación de la ley. El Artículo 38 va más allá para las plataformas más grandes, requiriendo al menos una opción de recomendación que no se base en la creación de perfiles. El Observatorio de DSA señala que las plataformas han interpretado las reglas de divulgación de manera inconsistente en ausencia de orientación regulatoria detallada, y que los sistemas optimizados principalmente para engagement—clics, me gusta, comparticiones y tiempo de visualización—pueden crear riesgos que van más allá de la simple molestia del consumidor.

En los Estados Unidos, la Comisión Federal de Comercio publicó un informe del personal en septiembre de 2024 después de una investigación de varios años en nueve empresas de redes sociales y transmisión de video. El informe concluyó que estas empresas alimentaron información personal de usuarios y no usuarios en sistemas automatizados, incluyendo algoritmos e IA, mientras daban a las personas poca o ninguna capacidad para optar por no participar en cómo se utilizaban sus datos. La agencia también encontró pruebas internas inconsistentes de estos sistemas en todas las empresas. La entonces Presidenta de la FTC, Lina Khan, dijo que las prácticas de datos subyacentes "pueden poner en peligro la privacidad de las personas, amenazar sus libertades y exponerlas a una serie de daños, desde el robo de identidad hasta el acoso". El informe recomendó que el Congreso aprobara legislación integral de privacidad.

Lo que las plataformas dicen sobre datos y límites

Las preguntas abiertas

Las plataformas generalmente presentan la personalización basada en engagement como una conveniencia que ayuda a los usuarios a encontrar contenido relevante más rápido. Los reguladores enfocados en el informe de la FTC y la DSA de la UE han enmarcar la misma mecánica como un problema de transparencia y gobernanza de datos, señalando control limitado del usuario sobre cómo se recopilan y reutilizan los datos de comportamiento, e supervisión inconsistente de los sistemas automatizados involucrados. Ambas líneas de descripción se basan en el mismo hecho subyacente: los motores de recomendación clasifican contenido y productos utilizando datos de comportamiento históricos comparados en grandes poblaciones de usuarios, refinados continuamente a medida que ocurren nuevas interacciones.