Почти каждая крупная онлайн-платформа теперь решает, что показать каждому посетителю, используя систему рекомендаций на основе AI. Эти системы определяют порядок домашней страницы Netflix, следующее видео в очереди на YouTube и товары, указанные в разделе "Клиенты также купили" на Amazon. Компании описывают механику по-разному, но основной подход следует схожей схеме: собирать данные о поведении, сравнивать их с данными других пользователей и ранжировать контент или товары по предсказанной релевантности.
Как работают системы, по словам самих платформ
В справочном центре Netflix говорится, что его система рекомендаций оценивает историю просмотра члена, то, как он оценил другие названия, и шаблоны других участников с похожими вкусами — метод, известный как совместная фильтрация. Она также учитывает метаданные контента, такие как жанр, актеры и год выпуска, а также контекстные сигналы, включая время суток, тип устройства и предпочитаемый язык. Netflix явно указывает, что система не учитывает демографическую информацию, такую как возраст или пол.
Официальный сайт YouTube "Как работает YouTube" и его блог указывают, что система рекомендаций опирается более чем на 80 миллиардов сигналов, включая историю просмотров, историю поисков, подписки, лайки и ответы на опросы об удовлетворении, где пользователи оценивают видео от одной до пяти звезд. Только ответы из четырех и пяти звезд считаются тем, что YouTube называет "ценным временем просмотра". Компания утверждает, что рекомендации появляются в основном на домашней странице и на панели "Далее", и что для новостей и информационных тем она стремится продвигать видео из того, что она определяет как авторитетные источники, при этом снижая видимость пограничного контента, даже если этот контент в противном случае мог бы генерировать больше кликов.
Общедоступная документированная технология рекомендаций Amazon, Amazon Personalize, генерирует рекомендации в основном на основе "данных взаимодействия с товарами", то есть записей пользователей, нажимающих, просматривающих или покупающих товары в каталоге. По документации AWS служба также может включать атрибуты товаров или пользователей, такие как жанр или цена, и поддерживает варианты использования, включая "клиенты, которые просмотрели X, также просмотрели", персонализированное ранжирование поиска и целевые маркетинговые сегменты.
Почему это привлекает внимание регуляторов
В Европейском союзе Закон о цифровых услугах налагает конкретные обязательства на системы рекомендаций. Статья 27 требует от платформ объяснять на простом языке основные параметры, которые используют их системы рекомендаций, и позволять пользователям корректировать эти параметры, когда существуют несколько вариантов, согласно юридическому анализу DSA Observatory, исследовательской сети, отслеживающей реализацию закона. Статья 38 идет дальше для крупнейших платформ, требуя хотя бы одного варианта рекомендаций, который не основан на профилировании. DSA Observatory отмечает, что платформы интерпретировали правила раскрытия информации непоследовательно при отсутствии подробного нормативного руководства, и что системы, оптимизированные в основном для взаимодействия — клики, лайки, поделиться и время просмотра — могут создавать риски, выходящие за рамки простого неудобства для потребителей.
В Соединенных Штатах Федеральная торговая комиссия опубликовала отчет персонала в сентябре 2024 года в результате многолетнего расследования девяти компаний социальных сетей и видеопотокового вещания. В отчете сделан вывод о том, что эти компании загружали личную информацию пользователей и не-пользователей в автоматизированные системы, включая алгоритмы и AI, при этом давая людям мало или никакой возможности отказаться от того, как их данные использовались. Агентство также обнаружило непоследовательное внутреннее тестирование этих систем в разных компаниях. Тогдашний председатель FTC Лина Хан сказала, что практика данных "может подвергнуть опасности приватность людей, угрожать их свободам и подвергнуть их множеству вредов, от кражи личности до преследования". В отчете рекомендовалось, чтобы Конгресс принял комплексное законодательство о защите данных.
Что говорят платформы о данных и ограничениях
Как три крупные платформы описывают входные данные своих рекомендаций| Платформа | Заявленные входные данные | Заявленные исключения или ограничения |
|---|
| Netflix | История просмотров, оценки, вкусы похожих членов, метаданные названий, время суток, устройство, язык | Не использует возраст или пол согласно справочному центру Netflix |
|---|
| YouTube | Клики, время просмотра, лайки/дизлайки, поделиться, подписки, рейтинги удовлетворения 1-5 звезд | Только рейтинги 4-5 звезд учитываются в "ценном времени просмотра"; демотирует пограничный/дезинформационный контент для новостных тем |
|---|
| Amazon (через Amazon Personalize) | Данные взаимодействия с товарами (клики, просмотры, покупки); дополнительно атрибуты товаров/пользователей, такие как жанр или цена | Документация AWS не описывает конкретный список исключений для личных атрибутов |
|---|
Открытые вопросы
Платформы обычно представляют персонализацию на основе взаимодействия как удобство, которое помогает пользователям находить релевантный контент быстрее. Регуляторы, сосредоточенные на отчете FTC и законе о цифровых услугах ЕС, рассматривают одну и ту же механику как проблему прозрачности и управления данными, указывая на ограниченный контроль пользователей над тем, как собираются и переиспользуются данные о поведении, и на непоследовательный надзор над задействованными автоматизированными системами. Обе линии описания опираются на один и тот же основной факт: механизмы рекомендаций ранжируют контент и товары, используя исторические данные о поведении, сравниваемые в больших популяциях пользователей, постоянно уточняемые по мере появления новых взаимодействий.
Этот материал подготовлен с помощью искусственного интеллекта и перед публикацией прошёл автоматическую проверку источников. Если вы заметили ошибку, запросите исправление. Запросить исправление или ответ · Как мы работаем
