AI 추천 알고리즘이 온라인에서 무엇을 보고 무엇을 구매할지를 어떻게 결정하는가

거의 모든 주요 온라인 플랫폼은 이제 AI 기반의 추천 시스템을 사용하여 각 방문자에게 무엇을 표시할지 결정합니다. 이러한 시스템은 Netflix 홈페이지의 순서, YouTube에서 대기 중인 다음 비디오, 그리고 Amazon의 "고객도 구매한 항목"에 나열된 제품을 결정합니다. 기업들은 메커니즘을 다르게 설명하지만, 기본적인 접근 방식은 유사한 패턴을 따릅니다: 행동 데이터를 수집하고, 다른 사용자의 데이터와 비교하며, 예상 관련성에 따라 콘텐츠 또는 제품을 순위 매깁니다.

플랫폼 자체에 따른 시스템의 작동 방식

Netflix의 도움말 센터에는 그 추천 시스템이 회원의 시청 기록, 다른 제목에 대한 평가, 그리고 유사한 취향을 가진 다른 회원의 패턴(협업 필터링이라고 알려진 방법)을 평가한다고 명시되어 있습니다. 또한 장르, 배우, 출시 연도 등의 콘텐츠 메타데이터, 시간대, 디바이스 유형, 선호 언어 등의 맥락 신호도 고려합니다. Netflix는 시스템이 나이나 성별 같은 인구통계 정보를 고려하지 않는다고 명시적으로 밝힙니다.

YouTube의 공식 "YouTube의 작동 방식" 사이트와 그 블로그는 추천 시스템이 80억 개 이상의 신호(시청 기록, 검색 기록, 구독, 좋아요, 그리고 1~5 별점 만족도 조사 응답 포함)에서 도출된다고 명시합니다. 4별과 5별 응답만이 YouTube가 "가치 있는 시청 시간"이라고 부르는 것으로 기여합니다. 동사는 추천이 주로 홈페이지와 "다음" 패널에 나타나며, 뉴스 및 정보 주제의 경우 권위 있는 출처로 정의된 비디오를 홍보하면서 해당 콘텐츠가 다른 경우 더 많은 클릭을 생성할 수 있을 때에도 경계선상의/오정보 콘텐츠의 가시성을 줄이는 것을 목표로 한다고 명시합니다.

Amazon의 공개 문서 추천 기술 Amazon Personalize는 주로 "항목 상호작용 데이터"(사용자가 카탈로그의 항목을 클릭, 보기 또는 구매하는 기록)에서 생성됩니다. AWS 문서에 따르면, 이 서비스는 장르나 가격 같은 항목 또는 사용자 속성도 포함할 수 있으며, "X를 본 고객도 본" 항목, 개인화된 검색 순위 지정, 그리고 대상 마케팅 세그먼트를 포함한 사용 사례를 지원합니다.

이것이 규제 정밀조사를 받고 있는 이유

유럽 연합에서는 디지털 서비스법이 추천 시스템에 특정 의무를 부과합니다. 제27조는 플랫폼이 그 추천 시스템이 사용하는 주요 매개변수를 평이한 언어로 설명하고 여러 옵션이 존재하는 경우 사용자가 해당 설정을 조정할 수 있도록 해야 한다고 규정합니다. DSA 관측소의 법적 분석에 따르면, 제38조는 더 나아가 가장 큰 플랫폼의 경우, 프로파일링에 기반하지 않은 추천 옵션을 최소 하나 이상 제공하도록 요구합니다. DSA 관측소는 자세한 규제 지침이 없는 상황에서 플랫폼이 공개 규칙을 일관성 없게 해석하고 있으며, 주로 참여도(클릭, 좋아요, 공유 및 시청 시간)에 최적화된 시스템이 단순한 소비자 짜증을 넘어서는 위험을 만들 수 있다고 지적합니다.

미국에서는 연방무역위원회(FTC)가 9개의 소셜 미디어 및 비디오 스트리밍 회사에 대한 수 년에 걸친 조사 이후 2024년 9월에 직원 보고서를 발표했습니다. 보고서는 이러한 회사들이 사용자 및 비사용자 개인 정보를 자동화된 시스템(알고리즘 및 AI 포함)으로 유입했으며, 자신의 데이터가 어떻게 사용되는지에 대해 거의 또는 전혀 선택을 거부할 수 없다고 결론지었습니다. 기관은 또한 이러한 시스템의 불일치한 내부 테스트를 회사 전체에서 발견했습니다. 당시 FTC 의장 리나 칸은 기본 데이터 관행이 "사람들의 개인정보를 위험에 빠뜨리고, 그들의 자유를 위협하며, 신원 도용에서 스토킹에 이르는 다양한 피해로부터 그들을 노출시킬 수 있다"고 말했습니다. 보고서는 의회가 포괄적 개인정보 보호 법제를 통과시킬 것을 권고했습니다.

플랫폼이 데이터와 제한에 대해 무엇을 말하는가

미해결 질문

플랫폼은 일반적으로 참여도 기반 개인화를 사용자가 관련 콘텐츠를 더 빠르게 찾는 데 도움이 되는 편의성으로 제시합니다. FTC 보고서와 EU의 DSA에 초점을 맞춘 규제 당국은 동일한 메커니즘을 투명성 및 데이터 거버넌스 문제로 구성했으며, 행동 데이터가 수집되고 재사용되는 방식에 대한 사용자 제어가 제한적임을 지적하고, 관련 자동화된 시스템의 불일치한 감시를 지적합니다. 두 설명 모두 동일한 기본 사실에 의존합니다: 추천 엔진은 큰 사용자 집단 전체에서 비교된 역사적 행동 데이터를 사용하여 콘텐츠와 제품을 순위 매기며, 새로운 상호작용이 발생함에 따라 지속적으로 개선됩니다.