斯坦福 CS336《Language Modeling from Scratch》这份免费 17 讲视频课程,教你成为 Architect,从零打造语言模型。| #教程
课程纯干货、无废话:数据收集与清洗(Lec 13-14)、构建 Transformer & MoE(Lec 3-4)、加速优化(Lec 5-8:GPU、内核、并行)、推理部署(Lec 10)、对齐与 RL(Lec 15-17)
主要内容:
- 数据收集与精炼,确保训练集高质量;
- 从头构建 Transformer 和 MoE 架构;
- 性能优化:GPU 编程、自定义内核、并行计算;
- 高效推理引擎,实现实时部署;
- 对齐训练与 RL,提升模型智能与安全性;
- 完整从零到一的语言模型开发流程。
适合有编程基础的学习者,自学即可上手,助力 AI 工程师转型高薪 Architect。