AI

这部分是我对机器学习、语言模型、推荐系统与模型系统化落地的笔记整理。现在把入口改成了“先定位，再深入”的结构: 先知道每块在解决什么问题，再顺着阅读路径往下钻。

AI Knowledge Map

从基础模型到 LLM 系统，再到推荐链路

如果你是第一次进入这个 section，建议先看 Foundation 建立公共语言， 再根据兴趣进入 Generative Models 或 Recommender System。想补工程手感，可以穿插看 PyTorch 和 Search。

FoundationTransformerLLMMultimodalRecSysInference

Topic Map

Start here

Foundation

机器学习、深度学习、语言模型、强化学习与 PEFT 的基础主线。

Modeling

Generative Models

围绕训练、对齐、推理、多模态与应用，理解 LLM 系统是怎么跑起来的。

Production

Recommender System

从召回、粗排、精排到重排与指标，理解工业推荐链路的关键模块。

Hands-on

PyTorch

把模型概念变成代码实验，补 tensor、workflow、graph 等实践视角。

Adjacent system

Search

理解 query、retrieval、ranking，与推荐系统的边界和共通之处。

Recommended Paths

Path 1: Build the Core Mental Model

1. Linear Algebra / Probability
2. Deep Learning
3. Language Model
4. Transformer
5. Inference

Path 2: LLM and Multimodal

1. Fine-tuning
2. Alignment
3. Text Models
4. Multimodal
5. Application

Path 3: Recommendation Pipeline

1. Retrieval
2. Pre-Ranking
3. Ranking
4. Re-Ranking
5. Metrics / Cold Start

What Lives Where

• Foundation: 基础概念和核心模型，适合补齐术语、公式和架构图。
• Generative Models: 聚焦 LLM / diffusion / multimodal 的训练、推理与应用系统。
• Recommender System: 偏工业链路，适合带着业务目标理解建模和实验。
• PyTorch: 偏代码实践，适合把上面的概念转成实验与实现。
• Search: 偏分发系统，帮助把搜索和推荐放在一张图里理解。

Quick Links

• 经典结构: Transformer, CNN, RL
• LLM 系统: Fine-tuning, Alignment, KV Cache
• 多模态: Vision Encoder, MAE, LLaVA
• 推荐系统: DSSM, MMOE, Cold Start

References

• Papers with Code
• 顶会索引: ICLR, NeurIPS, CVPR, ICCV, ACL, ECCV