AI21 Jamba
The production hybrid: Mamba state-space layers + transformer attention.
Bạn đang xem hồ sơ mô hình AI: ai xây dựng, nó có thể làm gì, và phần cứng cũng như dữ liệu đằng sau nó.
Jamba (2024–25) interleaves Mamba SSM blocks with attention to cut memory and speed long contexts — the most prominent deployed challenge to pure transformer orthodoxy, shipped as open models up to ~400B total parameters.
Kết nối của mục này với phần còn lại của hệ thống
Các liên kết của hồ sơ này trong nháy mắt — nhấp vào một nhóm để chuyển đến nhóm đó.
Phát triển bởi
Dựa trên
Nguồn
Hồ sơ được xem xét tính đến 2026-01-15 — xem Phương pháp luận.