开源项目库/推理与语音
ggml-org/llama.cpp

llama.cpp

从 C++ 推理服务入口,理解模型加载、请求和资源约束。

深入MIT学习估计 6–10 小时尚未记录
打开原仓库
本次学习产物

跟踪一个本地请求,并比较两组上下文参数。

开始前

C/C++、CMake、HTTP;了解 token。

运行环境

C++ 工具链;模型内存与磁盘依权重而定;可先做无权重编译。

代码的 MIT 许可证不自动覆盖所有模型权重。编译命令以固定提交的 build.md 为准。

STEP 01 / 04

读懂源码

按 docs/build.md 选择本机后端,再从 tools/server/server.cpp 跟踪服务启动、上下文和路由注册。

从这两个入口读起

先在纸上画出输入 → 处理 → 输出,再用断点或日志验证调用顺序。记录你读到的函数名与行号,不要求通读整个仓库。

准备自己的源码副本

git clone https://github.com/ggml-org/llama.cpp.git
cd llama.cpp
git checkout e197cef4554d466e0becac20e453a355daba8e5d
git switch -c study/llama.cpp

在新的学习目录运行;固定提交用于对应源码导读,不承诺它是最新稳定发行版。

留下这一步的学习依据

访客手记仅保存在此浏览器;登录后可主动导入到账号,原件保留。清除浏览器数据前请导出。不保存密钥或敏感资料。

修订历史 0 版

保存会追加历史,保留之前的失败与修订依据;访客最多 50 版,不自动清理。

还没有保存记录。可以先记录一个问题,再慢慢修订。

本页为 AIScope 编写的学习导读,源码归原作者及贡献者所有。以固定提交中的许可证为准;模型、数据与依赖可能另有许可。本站不代运行源码,也不以自查记录判定已掌握。