关键知识
- 理解聊天模板与指令微调数据的格式要求
- 完成一次小模型的监督微调并用基准评估效果
- 了解 DPO 偏好对齐与普通微调的区别
前置知识
PyTorch 与 Transformer 基础。 访问说明:需能访问 Hugging Face;英文;训练建议使用 GPU。
建议练习
学完第一单元后,准备 20 条你所在领域的问答作为微调数据,检查它们是否符合课程要求的聊天模板格式;再写 5 道不在训练数据里的测试题,作为微调前后对比的固定题。
依据与出处
编辑整理,依据已获取的简介或片段。请结合原始资料核对技术细节。
上下文实操:让 AI 接着做项目,减少忘记约定和乱补信息
用一段会议记录建立工作记忆,练习筛选材料、保留冲突、换会话交接与输入预算,附完整提示和可运行预算示例。
打开站内手册 →来源与内容说明
Hugging Face · Hugging Face
保留作者与原始链接,第三方资料的权利属于原作者。
收录:2026年10月19日
核对原始资料待核验公开版本 1
适用范围:2026-10-09 核对:页面显示 1-4 单元(指令微调、评测、偏好对齐、VLM)已发布,RL 与合成数据单元标注计划中、未写年份;仓库 huggingface/smol-course 最近提交 2026-10-06(文档构建版本升级)。
人工核验:尚无核验记录