Software | AI Infrastructure Database

옵션

데이터 및 API

사이트 캐시 데이터에 대한 무료 읽기 전용 JSON 접근.

다크 모드

가이드 보기
칩, 데이터 센터, 모델 용어가 생소하신가요? 브라우징하면서 핵심 용어를 알기 쉽게 설명해 드립니다. 동일한 데이터에 도움말이 내장되어 있습니다.

전문가 보기
스택은 이미 알고 계시죠. 데이터만 제공합니다: 깔끔하고, 빠르고, 간결하게, 불필요한 설명 없이. 이것이 기본 보기입니다.

인터페이스 언어

현장 노트

하드웨어가 헤드라인을 장식하지만, 락인은 소프트웨어에서 발생한다. 여기의 한 플랫폼은 생긴 지 투표할 나이가 됐는데도 여전히 사람들이 구매하는 칩을 결정하고, 가장 최신 항목들은 생긴 지 2년도 안 됐지만 이미 에이전트 시대의 핵심 기반이 되고 있다.

이 세 가지부터 시작하세요

CU CUDA 20년에 걸쳐 쌓은 라이브러리 — 기술 업계에서 가장 깊은 해자. VL vLLM 세계 토큰의 상당 부분을 처리하는 오픈 엔진. MC Model Context Protocol (MCP) 에이전트 시대의 범용 포트, 1년 만에 업계 전반에 채택됨.

Compute platforms & kernels

5

CU CUDA NVIDIA's programming platform — the deepest moat in the industry. Active NC NCCL The collective-communications library every distributed training run calls. Active RO ROCm AMD's open-source answer to CUDA — the gap that narrowed at last. Active T( Triton (OpenAI) Python-level GPU kernels — the community's crowbar under the CUDA moat. Active X/ XLA / OpenXLA The compiler that makes TPUs programmable — now an open project. Active

학습 프레임워크

5

PY PyTorch The framework nearly every modern model is written in. Active DE DeepSpeed Microsoft's scaling toolkit — ZeRO sharding made huge models trainable. Active

JAX Composable function transforms — the framework Gemini is built with. Active MC Megatron-Core NVIDIA's reference recipe for trillion-parameter training. Active

TensorFlow The 2015 giant that industrialized deep learning — now in JAX's shadow. 유지 관리

Inference & serving

6

VL vLLM The open-source serving engine that made GPU inference efficient. Active OR ONNX Runtime The portable format for shipping models across hardware. Active OL Ollama One command to run an open model locally. Active SG SGLang The high-performance serving runtime born from RadixAttention research. Active TL TensorRT-LLM & Dynamo NVIDIA's tuned inference stack — peak tokens from its own silicon. Active LL llama.cpp The C++ project that put LLMs on laptops — and invented GGUF. Active

Orchestration & cluster management

3

Kubernetes The cloud's operating system, retrofitted for GPUs. Active RA Ray Distributed Python for the whole ML pipeline — Anyscale's engine. Active SL Slurm The HPC batch scheduler most big training runs still queue through. Active

Libraries, tooling & the agent layer

4

MC Model Context Protocol (MCP) The open standard connecting AI models to tools and data — USB-C for agents. Active HF Hugging Face Transformers The library that standardized how models are shared and loaded. Active L& LangChain & LangGraph The scaffolding layer of the agent era. Active W& Weights & Biases Experiment tracking for the training runs on this site — now CoreWeave-owned. Active