OneRec论文解读

标题：OneRec

博主点评：这篇论文貌似是没有被录用，但直接商用了，着实厉害

代码地址：无

发表日期：2025-02-26

摘要：最近，基于生成检索的推荐系统（GR）已经成为一种有前景的范式，它以自回归的方式直接生成可解码视频。然而，大多数现代推荐系统采用检索和排名策略，其中生成模型在检索阶段仅作为选择器。在本文中，我们提出了OneRec，它用统一的生成模型取代了级联学习框架。据我们所知，这是第一个在现实世界场景中显著超越当前复杂和设计良好的推荐系统的端到端生成模型。具体来说，OneRec包括：1）编码器-解码器结构，对用户的历史行为序列进行编码，并逐步解码用户可能感兴趣的视频。我们采用稀疏专家混合（MoE）来扩展模型容量，而不会按比例增加计算FLOP。2）分段生成方法。与传统的下一个项目预测相比，我们提出了一种基于会话的生成方法，它比依赖于手工制作的规则来正确组合生成结果的逐点生成更优雅，上下文更连贯。3）迭代偏好对齐模块与直接偏好优化（DPO）相结合，以提高生成结果的质量。与NLP中的DPO不同，推荐系统通常只有一次机会显示每个用户的浏览请求的结果，因此无法同时获得阳性和阴性样本。为了解决这一局限性，我们设计了一个奖励模型来模拟用户生成，并根据推荐系统在线学习的属性定制采样策略。大量实验表明，有限数量的DPO样本可以对齐用户兴趣偏好，并显著提高生成结果的质量。我们在快手的主场景部署了OneRec，快手是一个拥有数亿日活跃用户的短视频推荐平台，观看时间增加了1.6%，这是一个实质性的改善。

论文地址：https://arxiv.org/abs/2502.18965