karpathy/makemore
打开原仓库 makemore
在一份语言模型脚本里,追踪训练、损失和采样。
进阶MIT学习估计 4–8 小时尚未记录
本次学习产物
给字符模型增加采样温度对照并记录结果。
开始前
Python;张量维度、训练集与验证集。
运行环境PyTorch;小模型可用 CPU,训练耗时依机器而异。
STEP 01 / 04
读懂源码
阅读 makemore.py 中的数据集、模型 forward 和 generate。先画出字符 ID 到下一个字符概率的流程。
从这两个入口读起
先在纸上画出输入 → 处理 → 输出,再用断点或日志验证调用顺序。记录你读到的函数名与行号,不要求通读整个仓库。
准备自己的源码副本
git clone https://github.com/karpathy/makemore.git
cd makemore
git checkout 988aa59e4d8fefa526d06f3b453ad116258398d4
git switch -c study/makemore在新的学习目录运行;固定提交用于对应源码导读,不承诺它是最新稳定发行版。
留下这一步的学习依据
访客手记仅保存在此浏览器;登录后可主动导入到账号,原件保留。清除浏览器数据前请导出。不保存密钥或敏感资料。
修订历史 0 版
保存会追加历史,保留之前的失败与修订依据;访客最多 50 版,不自动清理。
还没有保存记录。可以先记录一个问题,再慢慢修订。