研究UGC的物品冷启
- 小红书上用户新发布的笔记。
- B站上用户新上传的视频。
- 今日头条上作者新发布的文章。
为什么要特殊对待新笔记？
- 新笔记缺少与用户的交互，导致推荐的难度大、效果差。
- 扶持新发布、低曝光的笔记，可以增强作者发布意愿。
目标
- 精准推荐：克服冷启的困难，把新笔记推荐给合适的用户，不引起用户反感。
- 激励发布：流量向低曝光新笔记倾斜，激励作者发布
- 挖掘高潜：通过初期小流量的试探，找到高质量的笔记，给与流量倾斜·
8/31/2025About 2 min
Algorithm Summary
A summary of algorithms and data structures
Database Summary
A summary of database including SQL, NoSQL, and so on
TOEFL
A summary of TOEFL
GRE
A summary of GRE
基本思想
- 如果用户喜欢一篇笔记，那么他会喜欢内容相似的笔记。
- 事先训练一个神经网络，基于笔记的类目和图文内容，把笔记映射到向量。
- 对笔记向量做聚类，划分为1000 cluster,记录每个 cluster的中心方向。(k-means聚类，用余弦相似度。)
线上召回
- 给定用户ID,找到他的last-n交互的笔记列表，把这些笔记作为种子笔记。
- 把每篇种子笔记映射到向量，寻找最相似的cluster (知道了用户对哪些cluster感兴趣)
- 从每个cluster的笔记列表中，取回最新的m篇笔记。
- 最多取回mn篇新笔记。
8/31/2025About 2 min
- 如何计算两个用户的相似度？
- UserCF:两个用户有共同的兴趣点。
- Embedding：两个用户向量的cosine较大
Look-Alike人群扩散召回
- ,点击、点赞、收藏、转发一用户对笔记可能感兴趣。
- 把有交互的用户作为新笔记的种子用户。
- 用look-alike在相似用户中扩散。
8/31/2025Less than 1 minute
召回通道
- ItemCF召回（不适用)
- 双塔模型（改造后适用）
- 类目、关键词召回（适用）
- 聚类召回（适用）
- Look-Alike召回（适用）
ID Embedding
改进方案1：新笔记使用 default embeddingo
- 物品塔做ID embedding 时，让所有新笔记共享一个ID，而不是用自己真正的ID。
- Default embedding：共享的 ID 对应的 embedding向量。
- 到下次模型训练的时候，新笔记才有自己的ID embedding 向量。
8/31/2025About 1 min
扶持新笔记的目的
- 目的1：促进发布，增大内容池。
- ·新笔记获得的曝光越多，作者创作积极性越高。
- ·反映在发布渗透率、人均发布量。
- 目的2：挖掘优质笔记。
- ·做探索，让每篇新笔记都能获得足够曝光·
- ·挖掘的能力反映在高热笔记占比。
工业界的做法
- 假设推荐系统只分发年龄<30天的笔记。
- 假设采用自然分发，新笔记（年龄<24小时）的曝光占比为1/30。
- 扶持新笔记’让新笔记的曝光占比远大于1/30
8/31/2025About 3 min
代替简单全连接网络
Cross Layer
Skip Connection (Residual connection)
8/31/2025Less than 1 minute
现在用的已经不多
线性模型
- 有d个特征，记作x=[x1,…,xa]。
- 线性模型：
- 模型有个参数：和
- 预测是特征的加权和。（只有加，没有乘。)
8/31/2025Less than 1 minute
仅用于精排
Learning Hidden Unit Contributions (LHUC)
- LHUC起源于语音识别[1]。
- 快手将LHUC应用在推荐精排[2]，称作PPNet。
参考文献：
- Pawel Swietojanski,Jinyu Li,Steve Renals.Learning hidden unit contributions for unsupervised acoustic model adaptation.IEEE ACM Transactions on Audio, Speech,and Language Processing,2016.
- 快手落地万亿参数推荐精排模型，2021。链接：https://ai.51cto.com/art/202102/644214.html
8/31/2025Less than 1 minute
SENet
- Jie Hu,Li Shen,and Gang Sun.Squeeze-and-Excitation Networks.In CVPR,2018.
- Tongwen Huang,Zhiqi Zhang,and Junlin Zhang.FiBiNET:Combining Feature Importance and Bilinear feature Interaction for Click-Through Rate Prediction.In RecSys,2019.
8/31/2025Less than 1 minute
用户历史行为序列建模
引入就一定会涨指标
- LastN：用户最近的n次交互（点击、点赞等)的物品ID
- 对LastN物品ID做embedding，得到n个向量。
- 把几个向量取平均，作为用户的一种特征。
- 适用于召回双塔模型、粗排三塔模型、精排模型。
8/31/2025Less than 1 minute