推奨アルゴリズムの仕組み：あなたのフィードを形作るAI

誰かがYouTube、TikTok、または類似のアプリを開くたびに、ソフトウェアは数千の可能なビデオ、曲、またはポストを数分の一秒でランク付けし、最初に表示するほんの一握りを決定する。これは推奨システムである：人が手動でブラウズするには大きすぎるカタログから、特定のユーザーが最も求める可能性のあるアイテムを予測するために設計されたアルゴリズムのセットである。

推奨エンジンの背後にある2つの基本的な考え方

NVIDIAの推奨システムに関する技術用語集によると、ほとんどのエンジンは2つの基本的なアプローチを組み合わせている。協調フィルタリングは、過去に類似した選択をした人々は将来も意見が一致する可能性があるという仮説に基づいており、システムは一致した行動パターンを持つユーザーを探し、それらの類似したユーザーが好きだったものを推奨する。一方、コンテンツベースのフィルタリングはアイテム自体の属性（ジャンル、俳優、オーディオ機能、タグ）を見て、ユーザーが既にエンゲージしたアイテムに類似したアイテムを提案する。

NVIDIAの用語集は、一部のプラットフォームで使用される3番目のレイヤーを追加している：デバイスタイプ、時間帯、場所などの状況の詳細を考慮するコンテキストフィルタリング。例として、Netflixがタイトルが視聴された国、デバイス、日付、時刻を視聴自体とともに重み付けする慣行を挙げている。

現代のシステムはますますこれらのアプローチを深層学習に置き換えたり補足したりしている。NVIDIAは、行列因数分解をマルチレイヤーニューラルネットワークと組み合わせて、ユーザーとアイテム間の非線形関係を捉えるニューラル協調フィルタリング、およびユーザーがものを視聴または聴く順序のパターンを学ぶために再帰ネットワークまたはTransformersを使用するシーケンスベースのモデルなどの手法を説明している。

プラットフォームが自身のアルゴリズムが最適化する対象について述べていること

企業はめったに完全なランキングコードを公開しないが、その背後にある目標とシグナルについて説明するところもある。TikTokのニュースルームは、その「For You」フィードが3つのシグナルカテゴリを使用してビデオをランク付けしていると述べている：ユーザーのインタラクション（いいね、シェア、フォロー、コメント、および人が作成するもの）、ビデオ情報（キャプション、サウンド、ハッシュタグ）およびデバイスまたはアカウント設定（言語、国、デバイスタイプ）。TikTokはこれらのシグナルが異なる重み付けがされていると述べている：ビデオを最後まで視聴するという強いシグナルは、他の視聴者と一般的な地理を共有するというような弱いシグナルよりも多くカウントされる。

TikTokは、フォロワー数とクリエイターの過去のハイパフォーマンスビデオの履歴が、特定のビデオが推奨されるかどうかの直接的な要因ではないと明確に述べている。同社はまた、意図的にユーザーの表明された関心の外のコンテンツを混ぜ、同じクリエイターまたは同じサウンドを使用するビデオを連続して表示しないことを意図していると述べており、これを狭いフィードに限定されるのではなく、人々に「新しいコンテンツカテゴリーを偶然に発見する追加の機会」を与える方法として説明している。

YouTubeの公式の「YouTubeの仕組み」サイトは、その推奨システムの目標を、視聴者のニーズを理解し、単に視聴時間を最大化するのではなく、彼らを後悔させない視聴体験を提供することとして描写している。推奨にフィードするインプットをリストアップしている：視聴行動と視聴履歴、いいね、嫌い、登録、直接フィードバックなどの明示的なエンゲージメント、チャンネルの評判と品質、および1人の人の履歴だけでなく、より広い視聴者の間のより広いトレンド。YouTubeは、推奨されたコンテンツが本当に高品質であるかどうかを確認するために、行動データを満足度調査および外部評価者チームで補足していると述べており、ニュース、金融、健康、科学などの機密の主題については、信頼できるソースに追加の重みを置いていると述べている。

なぜ2人は同じフィードを見ることはない

協調フィルタリングはユーザーの行動を他のユーザーと比較し、コンテンツフィルタリングはアイテムを人自身の履歴と比較するため、2つのアカウントも同じシグナルのミックスを持たない：異なる視聴履歴、異なるフォロー、異なるデバイスと場所。TikTokは、2人のユーザーも彼らの「For You」フィードで同じビデオの組み合わせを見ることはないと直接述べている。YouTubeとTikTokの両方はまた、システムがすべての新しいインタラクションで更新され続けると述べており、朝に観察されたフィードは、その間に視聴、スキップ、または「興味がない」とマークされたことに基づいて、夜までに既に異なって見える可能性がある。

これらのシステムは正確だと人々は考えるか？

人々が実際にどのようにアルゴリズム的パーソナライゼーションを知覚するかについての研究は、エンジニアリング文献より限定されている。2019年1月16日に公開されたピュー研究センターの調査は、Facebookユーザーに、プラットフォームが広告ターゲティングのために割り当てた関心とトレイトカテゴリについて質問した。調査がそれを指摘するまで、ユーザーの74％がこのトレイトリストが存在することを知らず、事前にそれを知っていたのはわずか12％であることを発見した。自分のカテゴリを見せられると、59％はラベルが自分の実生活の関心をかなり正確または非常に正確に反映していると述べ、27％は同意しなかった；51％は、それらを正確だと考えた場合でも、プラットフォームがそのようなリストをコンパイルすることに不快感を感じたと述べた。調査は、2018年9月4日から10月1日までの期間でポーリングされた、18歳以上の米国のFacebookユーザー963人をカバーしていた。

ユーザーはアルゴリズムに影響を与えたり制限したりできるか？

両社はユーザーに向けたコントロールについて説明している。YouTubeの公式ページは、ログインしたユーザーがいつでも検索と視聴履歴を一時停止、編集、または削除できることに注意しており、これは推奨システムが学ぶものに直接フィードされる。TikTokは、いいね、フォロー、コメント、ハッシュタグの探索、および明示的な「興味がない」タップすべてが将来の推奨を調整すると述べており、アカウントを初めて設定する際に人が選択できる関心カテゴリに加えて。