机器学习
从经典机器学习到深度学习,理论与实践并重。
Transformer 解读
- 概览
- 整体结构、数据流与实现思路
- Embedding 层
- Multi-Head Attention 层
- LayerNorm 层
- Encoder 组装
- Decoder 拼装
- Transformer 组装
- “预训练+微调”范式
- Transformers 快速入门
AI 基础理论
- 概览
- Transformer 架构
- KV Cache 与推理优化
- Mamba 与状态空间模型 (SSM)
- Mamba 模型
- 多模态 AI (Multimodal AI)
- 扩散模型 (Diffusion Models)
- 从规则到表示学习
- 信息检索基础
- 从 KV Cache 到 AI 内存系统:大模型推理架构的演进