AIレコメンデーションアルゴリズムがあなたがオンラインで何を見て、何を買うかをどのように決定するのか

ほぼすべての主要なオンラインプラットフォームは、AI駆動型のレコメンデーションシステムを使用して、各訪問者に何を表示するかを決定するようになりました。これらのシステムは、Netflixのホームページの順序、YouTubeでキューに入っている次のビデオ、およびAmazonの「他のお客様も購入」の下にリストされている商品を決定します。企業はメカニズムについて異なる説明をしていますが、基本的なアプローチは同様のパターンに従っています：行動データを収集し、他のユーザーのデータと比較し、予測される関連性に基づいてコンテンツまたは商品をランク付けします。

プラットフォーム自体によると、システムはどのように機能するか

Netflixのヘルプセンターは、そのレコメンデーションシステムがメンバーの視聴履歴、他のタイトルへの評価、および類似した好みを持つ他のメンバーのパターン（協調フィルタリングとして知られている方法）を評価すると述べています。また、ジャンル、俳優、リリース年などのコンテンツメタデータ、時間帯、デバイスタイプ、優先言語などのコンテキストシグナルも考慮に入れます。Netflixは、システムが年齢や性別などのデモグラフィック情報を考慮していないことを明示的に述べています。

YouTubeの公式な「YouTubeの仕組み」サイトとそのブログは、レコメンデーションシステムが80億を超えるシグナル（視聴履歴、検索履歴、登録、高く評価、1～5つ星のユーザー評価を含む満足度調査への回答を含む）から引き出されていることを述べています。4つ星と5つ星の回答のみが、YouTubeが「価値のある視聴時間」と呼ぶものに貢献します。同社は、レコメンデーションはホームページと「次へ」パネルに主に表示され、ニュースと情報トピックについては、権威あるソースと定義されたビデオを促進しながら、その内容がそれ以外の場合はより多くのクリックを生成する可能性がある場合であっても、疑わしい/誤報コンテンツの可視性を低下させることを目指していると述べています。

Amazonの公開されているレコメンデーション技術「Amazon Personalize」は、主に「アイテム相互作用データ」（ユーザーがカタログ内のアイテムをクリック、表示、または購入する記録）から生成されます。AWSドキュメンテーションによれば、このサービスはジャンルや価格などのアイテムまたはユーザー属性も組み込むことができ、「Xを見た顧客も同様に見た」、パーソナライズされた検索ランキング、およびターゲット化されたマーケティングセグメントを含むユースケースをサポートしています。

これが規制精査を引き出している理由

欧州連合では、デジタルサービス法はレコメンダーシステムに特定の義務を課しています。記事27は、プラットフォームがレコメンダーシステムが使用する主要パラメータを平易な言語で説明し、複数のオプションが存在する場合にユーザーがそれらの設定を調整できるようにする必要があります。DSA Observatoryの法的分析によると、記事38はさらに大規模なプラットフォームの場合に進み、プロファイリングに基づかないレコメンダーオプションを少なくとも1つ必要とします。DSA Observatoryは、詳細な規制ガイダンスがない場合、プラットフォームが開示ルールを矛盾して解釈していることを指摘し、主にエンゲージメント（クリック、いいね、シェア、視聴時間）に最適化されたシステムが、単なる消費者の煩わしさを超えたリスクを生み出す可能性があることを指摘しています。

米国では、連邦取引委員会（FTC）は2024年9月に9つのソーシャルメディアおよびビデオストリーミング企業への複数年にわたる調査に続いて職員報告書を発表しました。報告書は、これらの企業がユーザーおよび非ユーザーの個人情報を自動化されたシステム（アルゴリズムとAIを含む）に供給していることを結論づけ、人々のデータがどのように使用されるかについてほとんどまたはまったくオプトアウトする能力を持たないと述べています。同機関はまた、これらのシステムの不一貫な内部テストを企業全体で発見しました。その当時のFTC議長リナ・カーンは、基本的なデータ慣行は「人々のプライバシーを危険にさらし、彼らの自由を脅かし、身元盗用からストーキングまで、多くの害から彼らを露出させることができる」と述べました。報告書は、議会が包括的なプライバシー法制を可決することを推奨しました。

プラットフォームがデータと制限について何を言っているか

未解決の質問

プラットフォームは一般的に、エンゲージメント上のパーソナライズを、ユーザーが関連するコンテンツをより速く見つけるのに役立つ利便性として提示しています。FTC報告書とEUのDSAに焦点を当てた規制当局は、同じメカニズムを透明性とデータガバナンスの問題として構成し、行動データがどのように収集および再利用されるかに対するユーザー制御が限定的であること、および関連する自動化システムの一貫性のない監視を指摘しています。両方の記述行は同じ基礎となる事実に依存しています：レコメンデーションエンジンは、大規模なユーザー人口全体で比較された履歴行動データを使用してコンテンツと商品をランク付けし、新しいインタラクションが発生するにつれて継続的に改善されます。