llama.cpp
软件
推理
智能体
The C++ project that put LLMs on laptops — and invented GGUF.
您正在查看一条软件记录：AI 技术栈中的一款工具或平台——谁维护它、它运行在什么硬件上。
Georgi Gerganov's llama.cpp runs quantized open models on ordinary CPUs, Macs and small GPUs; its GGUF format became the standard for local model distribution. It is the foundation of the local-AI movement and the engine inside Ollama.
它如何与整个技术栈相连
本记录的关联链接一览——点击分组可直接跳转。
来源
记录审阅截至 2026-01-15 — 查看 方法论.