Groq LPU

Chip Bộ tăng tốc AI Vận chuyển

The deterministic inference engine famous for extreme tokens-per-second.

Bạn đang xem hồ sơ chip: bộ xử lý này là gì, các thông số kỹ thuật chính, ai thiết kế, ai sản xuất và cung cấp linh kiện, và nó được sử dụng ở đâu.

Groq's Language Processing Unit strips out caches and dynamic scheduling: the compiler knows exactly where every byte is every cycle, using 230 MB of on-chip SRAM at 80 TB/s. Made on GlobalFoundries 14 nm — proof that architecture, not process node, drives its speed — LPU racks serve open models at hundreds to thousands of tokens per second. Founded by TPU creator Jonathan Ross; valued in the billions on 2024–25 raises with a major Saudi deployment deal.

Thông số kỹ thuật & dữ liệu chính

Mỗi số liệu được gán nhãn theo cơ sở: thông số kỹ thuật từ nhà cung cấp, tuyên bố từ nhà cung cấp, đã được báo cáo, ước tính, hoặc chính thức. "Không được công bố công khai" có nghĩa đúng như vậy — chúng tôi không bao giờ bịa đặt số liệu.

Overview

Designer Groq

Architecture Tensor streaming, deterministic

Scale model Hundreds of chips pipelined per model; no HBM anywhereVendor spec

Manufacturing

Foundry / process GlobalFoundries 14 nmVendor spec

Bộ nhớ

On-chip memory 230 MB SRAM, ~80 TB/sVendor spec

Điện toán

INT8 750 TOPSVendor spec

Kết nối của mục này với phần còn lại của hệ thống

Các liên kết của hồ sơ này trong nháy mắt — nhấp vào một nhóm để chuyển đến nhóm đó.

Thiết kế bởi

Groq

Được sản xuất bởi

GlobalFoundries

Cạnh tranh với

NVIDIA H100 SambaNova SN40L

Liên quan

Inference

Nguồn

Groq ↗

Hồ sơ được xem xét tính đến 2026-01-15 — xem Phương pháp luận.