llama.cpp
Software
Inferentie
Actief
The C++ project that put LLMs on laptops — and invented GGUF.
U bekijkt een softwarerecord: een tool of platform in de AI-stack — wie het beheert en op welke hardware het draait.
Georgi Gerganov's llama.cpp runs quantized open models on ordinary CPUs, Macs and small GPUs; its GGUF format became the standard for local model distribution. It is the foundation of the local-AI movement and the engine inside Ollama.
Hoe dit aansluit op de rest van de stack
De koppelingen van dit record in één oogopslag — klik op een groep om er naartoe te springen.
Gerelateerd
Bronnen
Record beoordeeld per 2026-01-15 — bekijk Methodologie.