Andrej Karpathy:深入理解 ChatGPT 这类大模型(Deep Dive into LLMs like ChatGPT)
加载第三方播放器后,可在此观看视频。
播放器由视频平台提供。若无法播放、需要登录或网络不可达,可前往原站观看,也可以继续阅读中文导读或相关文字教程。观看不会自动标记课程完成。
关键知识
- 说清预训练、监督微调、强化学习三个阶段各自让模型学会了什么
- 用训练过程解释幻觉的来源,以及联网搜索等工具为什么能缓解它
- 理解分词如何影响模型在拼写、计数等任务上的表现
前置知识
无需编程;需要英文听力或借助自动字幕。 访问说明:视频在 YouTube,中国大陆需能访问 YouTube;英文讲解,可开自动字幕。
建议练习
第一次先看前 60 分钟(数据与分词部分),画一张“从网页文本到模型输入”的流程图;再让一个 AI 助手数一个长单词里某个字母出现的次数,用视频中讲的分词解释它为什么可能数错。
依据与出处
编辑整理,依据已获取的简介或片段。请结合原始资料核对技术细节。
上下文实操:让 AI 接着做项目,减少忘记约定和乱补信息
用一段会议记录建立工作记忆,练习筛选材料、保留冲突、换会话交接与输入预算,附完整提示和可运行预算示例。
打开站内手册 →来源与内容说明
Andrej Karpathy · Andrej Karpathy
保留作者与原始链接,第三方资料的权利属于原作者。
收录:2026年10月19日
核对原始资料待核验公开版本 1
适用范围:2026-10-09 核对:YouTube oEmbed 确认视频存在(作者 Andrej Karpathy);页面数据显示发布于 2025-02-05,时长约 3 小时 31 分。
人工核验:尚无核验记录