Коллаборативная фильтрация
- Автор метода
- GroupLens; Sarwar et al. (item-based); Koren et al. (matrix factorization)
- Год
- 2001
- Тип
- Recommendation from user-item interactions
- Семейство
- Recommender systems
Этот текст переведён машинным способом и ещё не проверен. Читать оригинал на английском
Что он делает?
Коллаборативная фильтрация рекомендует элементы пользователю, используя предпочтения многих пользователей — «людям, которым понравилось то, что понравилось вам, понравилось и это».
Она обучается на разреженной матрице взаимодействий пользователя и элемента, находя либо похожих пользователей или элементы (методы соседства, формализованные Сарваром и др. в 2001 г.), либо путем факторизации матрицы на скрытые факторы пользователя и элемента (факторизация матрицы, популяризированная Кореном и др. после Netflix Prize).
Интуиция метода
Вам не нужно ничего знать о содержании элемента, чтобы рекомендовать его — только о том, как люди с ним взаимодействовали. Коллаборативная фильтрация использует закономерности в гигантской, в основном пустой таблице пользователей и элементов: если два пользователя одинаково оценили множество фильмов, то невидимые фавориты одного из них — хорошие ставки для другого (ориентированный на пользователя); если два элемента одинаково оцениваются разными пользователями, то понравившийся один предсказывает понравившийся другой (ориентированный на элемент). Факторизация матрицы идет глубже, объясняя каждую оценку как скалярное произведение короткого вектора «вкусов» пользователя и вектора «профиля» элемента, обученного для реконструкции известных оценок и предсказания недостающих.
История
Коллаборативная фильтрация возникла из проектов GroupLens и Tapestry в 1990-х годах. Сарвар, Карипис, Констан и Ридл (2001) формализовали масштабируемую коллаборативную фильтрацию, ориентированную на элементы, а Netflix Prize 2006–2009 гг. стимулировал методы факторизации матрицы на скрытых факторах, обобщенные во влиятельной статье Корена, Белла и Волински 2009 г. С тех пор область расширилась до неявной обратной связи, гибридных контентно-коллаборативных моделей и рекомендателей на основе глубокого обучения, но коллаборативная фильтрация на основе соседства и факторизации матрицы остается основополагающими методами.
Когда применять
Используйте коллаборативную фильтрацию для построения рекомендаций исключительно на основе данных о взаимодействиях — платформы электронной коммерции, стриминга, новостей и контента — когда у вас достаточно пользователей и взаимодействий для выявления общих закономерностей, и вы не хотите полагаться на содержание элементов. Методы соседства просты и интерпретируемы («потому что вам понравилось X»); факторизация матрицы лучше масштабируется, обрабатывает разреженность и обычно дает более точные предсказания. Ключевые ограничения: проблема холодного старта (новые пользователи/элементы без взаимодействий не могут быть учтены), разреженность и смещение в сторону популярности, а также необходимость в значительном объеме данных о взаимодействиях. Чистая коллаборативная фильтрация игнорирует атрибуты элементов/пользователей, поэтому ее часто комбинируют с признаками контента в гибридных рекомендателях; неявная обратная связь и рекомендатели на основе глубокого обучения расширяют ту же идею. Тесно связана с завершением матрицы и NMF.
Ограничения и замечания
- Холодный старт: невозможно давать рекомендации новым пользователям или элементам без взаимодействий.
- Чувствительность к разреженности и смещение в сторону популярных элементов.
- Игнорирует атрибуты элементов/пользователей (контент), в отличие от гибридных подходов.
- Требует значительного объема данных о взаимодействиях для эффективной работы.
Условия из источника не заменяют независимую научную проверку или валидацию аналитическим движком.
Сильные стороны
- Требуются только данные о взаимодействиях — никакого контента элементов или инжиниринга признаков.
- Улавливает тонкие, трудновыразимые закономерности вкусов, исходящие от толпы.
- Факторизация матрицы масштабируется до больших разреженных матриц и точно предсказывает.
- Методы соседства дают интерпретируемые объяснения «потому что вам понравилось…».
Применение
- Рекомендации продуктов в электронной коммерции.
- Рекомендации фильмов, музыки и видео на стриминговых платформах.
- Персонализация новостей и контента.
- Предложения друзей/связей в социальных сетях.
- Функции перекрестных продаж и «клиенты также купили».
Как это работает
Как это работает
Входные данные — это матрица взаимодействий пользователя и элемента (оценки или неявные взаимодействия: клики, покупки). Она чрезвычайно разрежена — большинство записей неизвестны — и задача состоит в том, чтобы предсказать недостающие записи (как пользователь оценил бы/понравился бы невидимый элемент), чтобы можно было рекомендовать топ-предсказания.
Формула
R \in \mathbb{R}^{u\times i}\ \text{(ratings/interactions, mostly missing)}Методы соседства вычисляют сходство между пользователями (или между элементами) на основе их перекрывающихся оценок, обычно с использованием косинусного сходства или корреляции Пирсона. Высокое сходство означает, что два пользователя разделяют вкусы, или два элемента привлекают одну и ту же аудиторию; эти сходства определяют предсказания.
Формула
\text{sim}(a,b) = \dfrac{\sum_k r_{ak} r_{bk}}{\sqrt{\sum r_{ak}^2}\sqrt{\sum r_{bk}^2}}\ (\text{cosine / Pearson})Коллаборативная фильтрация, ориентированная на элементы, предсказывает оценку пользователем элемента как средневзвешенное по сходству оценок этого пользователя на похожих элементах (ориентированный на пользователя делает аналогичное для похожих пользователей). Ориентированный на элементы обычно предпочтительнее в масштабе, поскольку сходства между элементами более стабильны и могут быть предварительно вычислены.
Формула
\hat r_{ui} = \dfrac{\sum_{j\in N(i)} \text{sim}(i,j)\, r_{uj}}{\sum_{j\in N(i)} |\text{sim}(i,j)|}Модели скрытых факторов факторизуют матрицу оценок на низкоранговые матрицы пользователей и элементов, так что каждая оценка аппроксимируется скалярным произведением вектора факторов пользователя и вектора факторов элемента. Факторы обучаются путем минимизации регуляризованной ошибки квадратов по наблюдаемым оценкам (с помощью SGD или чередующихся наименьших квадратов), и они захватывают скрытые измерения вкуса, лучше обобщая и хорошо обрабатывая разреженность.
Формула
\hat r_{ui} = p_u^\top q_i,\quad \min_{P,Q}\sum_{(u,i)\in\mathcal{K}} (r_{ui}-p_u^\top q_i)^2 + \lambda(\lVert p_u\rVert^2+\lVert q_i\rVert^2)Частые ошибки
- Игнорирование проблемы холодного старта при развертывании (новые элементы не получают никакого показа).
- Оценка только по ошибке рейтинга при игнорировании ранжирования/топ-N и смещения популярности.
- Использование коллаборативной фильтрации, ориентированной на пользователя, в масштабе, когда ориентированная на элемент или факторизация гораздо эффективнее.
- Утечка будущих взаимодействий в обучение при разделении данных (необходимо разделять по времени).
Часто задаваемые вопросы
В чем разница между коллаборативной фильтрацией, ориентированной на пользователя, и ориентированной на элемент?
Ориентированная на пользователя CF рекомендует элементы, понравившиеся пользователям, похожим на вас; ориентированная на элемент CF рекомендует элементы, похожие (по тому, как пользователи их оценили) на те, которые вы уже полюбили. Ориентированная на элемент обычно предпочтительнее в масштабе, поскольку сходства между элементами более стабильны во времени и могут быть предварительно вычислены офлайн.
Как факторизация матрицы улучшает методы соседства?
Она представляет пользователей и элементы короткими векторами скрытых факторов, обученными на данных, так что каждая оценка является их скалярным произведением. Это захватывает скрытые измерения вкуса, лучше обрабатывает разреженность, обобщает за пределами прямых соседей и обычно предсказывает точнее — именно поэтому она доминировала в решениях Netflix Prize.
Что такое проблема холодного старта?
Коллаборативная фильтрация полагается на прошлые взаимодействия, поэтому она не может давать хорошие рекомендации для совершенно новых пользователей или элементов, у которых их нет. Средства решения включают запрос начальных предпочтений, откат к популярности или гибридизацию с контентно-ориентированными признаками, которые не требуют истории взаимодействий.
Похожие методы
Источники
Sarwar, B., Karypis, G., Konstan, J., & Riedl, J. (2001). Item-based collaborative filtering recommendation algorithms. Proceedings of the 10th International Conference on World Wide Web, 285–295.
Открыть ссылку DOIСкопировано.Koren, Y., Bell, R., & Volinsky, C. (2009). Matrix factorization techniques for recommender systems. Computer, 42(8), 30–37.
Открыть ссылку DOIСкопировано.