大模型算法工程师

从零预训练基座模型，再用指令微调和强化学习把它调成好用的助手。

平时做什么

• 清洗和配比训练数据
• 做指令微调和偏好优化
• 训练推理模型

学习路线：24 个技能

• 编程入门
• 微积分
• Python
• 线性代数
• 概率统计
• 最优化
• SQL
• NumPy
• 数据管道
• 机器学习
• 深度学习
• PyTorch
• 强化学习
• Transformer
• 从零实现 GPT
• Hugging Face
• 模型微调
• 预训练数据
• 指令微调
• RLHF 对齐
• 扩展规律
• 从零预训练
• 能力评测
• 推理强化学习

加分项

• 技术英语
• 模型蒸馏
• 深度学习系统
• 分布式训练
• 大模型训练框架

可以参考的开源项目

• OLMo
• Hugging Face TRL