llama.cpp
Phần mềm
Suy luận (Inference)
Tác nhân
The C++ project that put LLMs on laptops — and invented GGUF.
Bạn đang xem hồ sơ phần mềm: một công cụ hoặc nền tảng trong hệ sinh thái AI — ai duy trì và nó chạy trên phần cứng nào.
Georgi Gerganov's llama.cpp runs quantized open models on ordinary CPUs, Macs and small GPUs; its GGUF format became the standard for local model distribution. It is the foundation of the local-AI movement and the engine inside Ollama.
Kết nối của mục này với phần còn lại của hệ thống
Các liên kết của hồ sơ này trong nháy mắt — nhấp vào một nhóm để chuyển đến nhóm đó.
Liên quan
Nguồn
Hồ sơ được xem xét tính đến 2026-01-15 — xem Phương pháp luận.