【RS】OneRec:生成式推荐模型如何通过会话式生成与偏好对齐重塑推荐系统
1. 传统推荐系统的痛点与生成式推荐的崛起
推荐系统发展至今已经历了从规则匹配到深度学习的多次迭代,但传统多阶段级联架构的局限性日益凸显。想象一下你去餐厅点餐的场景:服务员(召回阶段)先给你一本厚厚的菜单,助理厨师(粗排阶段)快速筛选出50道可能合你口味的菜,主厨(精排阶段)再从中挑出5道精心摆盘——这种流水线作业看似合理,实则存在致命缺陷。前序环节的误差会像多米诺骨牌一样传递,最终推荐结果的质量受制于最薄弱的那一环。
更麻烦的是,这种架构就像一支配合生疏的乐队——鼓手、吉他手、主唱各自为政,永远演奏不出和谐的旋律。2025年快手提出的OneRec框架,就像一位全能型音乐人,用生成式模型一次性完成从作曲到演奏的全流程。实际应用中,这种端到端方案在快手平台实现了1.6%的观看时长提升,相当于每天为用户节省数百万小时的无效浏览时间。
2. OneRec的核心技术解析
2.1 会话式生成:从单点预测到整体创作
传统推荐如同让画家一笔一划单独作画,而OneRec的会话式生成更像是泼墨山水——一次性勾勒整个推荐列表的气韵。具体实现上,模型会将用户最近观看的20个视频编码为"视频1[SEP]视频2[SEP]..."的token序列,通过Transformer编码器提取特征后,解码器会像写诗一样连续生成8-12个推荐视频的语义ID。
这种整体生成方式有个绝妙优势:当解码第三个视频时,模型已经"知道"后续要推荐的内容,可以主动避免重复。就像经验丰富的导游规划路线时,不会带你连续参观三个寺庙。实验数据显示,这种方式使推荐列表的多样性指标提升了23%,同时用户连续跳出的概率降低了17%。
2.2 混合专家架构:模型的"分科会诊"机制
OneRec的MoE设计堪称精妙——每个Transformer层的前馈网络被替换成128个专家网络,但每次推理只激活其中的2-3个。这就像医院的分科会诊:遇到骨科问题就请骨科专家,遇到眼科问题就找眼科大夫,既保证了专业度又节省了资源。
具体配置上,1B参数的模型实际激活参数仅230M,却能达到传统稠密模型3B参数的效果。在快手实际部署中,这种设计使得推理延迟控制在15ms以内,完全满足移动端实时推荐的需求。更妙的是,不同专家会自发形成专业分工:有些擅长识别宠物视频爱好者,有些专精美食类内容推荐。
2.3 迭代偏好对齐:让推荐学会"察言观色"
DPO模块是OneRec最富创意的设计之一。传统推荐系统像固执的大厨,永远按自己的理解做菜;而OneRec则像会观察客人表情的侍者——发现你皱眉就主动换菜。具体实现分为三步:
- 奖励模型训练:用多目标学习预测观看时长、点赞率等6个指标,最终融合成统一的P-Score
- 候选生成:通过beam search为每个用户生成512组推荐序列
- 偏好优化:选取P-Score最高和最低的序列组成训练对,通过对比学习微调模型
这种机制有个意想不到的好处:当平台想扶持三农内容时,只需调整奖励模型的权重,整个系统会在24小时内自适应调整推荐策略,不再需要传统的多模块协同调参。
3. 工业级落地实践与优化
3.1 语义ID的巧思:从海量视频到"摩斯密码"
面对快手上亿规模的视频库,OneRec设计了一套精妙的编码方案:先用多模态模型提取视频的1280维特征,通过三级残差量化压缩为3个token。这就像把每部电影压缩成"动作片-香港警匪-吴宇森"这样的标签组合。第一级token区分大类(如宠物/美食),第二级细化到子类(猫咪/狗狗),第三级定位具体内容(布偶猫护理)。
这种编码的妙处在于:当新视频上传时,即使没有历史行为数据,也能通过内容分析获得合理编码。上线后,新视频的冷启动曝光率提升了4倍,同时编码空间仅需维护256^3≈1600万种可能,而非传统的亿级ID表。
3.2 推理加速的魔法:计算复用的艺术
在批处理512个候选序列时,OneRec团队发现了个有趣现象:用户历史行为编码占总计算量的89%,但这部分其实可以共享。于是他们设计出"懒解码"机制——就像班级春游时,班长只需要说一次目的地,不需要对每个同学重复。
技术实现上,将用户历史编码缓存后,单个请求的计算量从18TFLOPs降至2TFLOPs。配合TensorRT优化,最终在NVIDIA L20显卡上实现了2800QPS的吞吐,推理MFU达到惊人的28.8%,是传统级联系统的15倍。
4. 生成式推荐的未来演进
当前OneRec正在向多模态融合方向发展,最新测试的OneRec-Think版本已经能理解这样的指令:"最近工作压力大,推荐些轻松又不低俗的内容"。模型会先推理出"轻松=萌宠+搞笑片段+自然风光",再生成具体推荐列表。虽然响应时间从15ms增加到300ms,但在私信等非即时场景已展现潜力。
另一个突破方向是实时学习——当用户突然连续点赞三个露营视频,系统会在下次推荐时就加入户外装备广告,而不需要传统的天级模型更新。这得益于在解码器加入了可微的实时特征通道,使模型能像人类一样"见机行事"。
更多推荐



所有评论(0)