ggml-org/llama.cpp
打开原仓库 llama.cpp
从 C++ 推理服务入口,理解模型加载、请求和资源约束。
深入MIT学习估计 6–10 小时尚未记录
本次学习产物
跟踪一个本地请求,并比较两组上下文参数。
开始前
C/C++、CMake、HTTP;了解 token。
运行环境C++ 工具链;模型内存与磁盘依权重而定;可先做无权重编译。
代码的 MIT 许可证不自动覆盖所有模型权重。编译命令以固定提交的 build.md 为准。
STEP 01 / 04
读懂源码
按 docs/build.md 选择本机后端,再从 tools/server/server.cpp 跟踪服务启动、上下文和路由注册。
从这两个入口读起
先在纸上画出输入 → 处理 → 输出,再用断点或日志验证调用顺序。记录你读到的函数名与行号,不要求通读整个仓库。
准备自己的源码副本
git clone https://github.com/ggml-org/llama.cpp.git
cd llama.cpp
git checkout e197cef4554d466e0becac20e453a355daba8e5d
git switch -c study/llama.cpp在新的学习目录运行;固定提交用于对应源码导读,不承诺它是最新稳定发行版。
留下这一步的学习依据
访客手记仅保存在此浏览器;登录后可主动导入到账号,原件保留。清除浏览器数据前请导出。不保存密钥或敏感资料。
修订历史 0 版
保存会追加历史,保留之前的失败与修订依据;访客最多 50 版,不自动清理。
还没有保存记录。可以先记录一个问题,再慢慢修订。