vllm docker 镜像搜索结果 | 轩辕镜像

让 AI 帮你使用轩辕镜像？ · 展开查看说明 · 点击收起说明

如果你使用 DeepSeek、元宝 AI、Copilot、ChatGPT 等 AI 工具，协助配置轩辕镜像、编写 docker pull 命令、修改 Docker Compose 镜像地址、配置镜像加速、排查镜像拉取失败、分析报错日志等问题，请先让 AI 阅读并遵守轩辕镜像的规则文档。

只需在 AI 对话中先发送下面这句话即可：

请先完整阅读并严格遵守以下文档中的全部规则与要求：

https://xuanyuan.cloud/agents.md

在未充分阅读并理解该文档前，不要生成任何命令、配置、修改建议、故障排查方案或技术回答。后续所有输出都必须严格以该文档中的规范为最高优先级执行。

查看 agents.md 用法指南与完整示范。国内用户首推元宝 AI、DeepSeek 的深度思考模式，不推荐豆包 AI；Cursor 等编辑器可在对话 @ 该链接，或加入 User Rules。若 AI 无法访问外链，可打开说明文档复制全文粘贴。文档会随站点更新，复制内容可能过期，建议定期检查。

架构筛选

vllm/vllm-openai

vLLM 高性能推理与服务镜像

290 次收藏1000万+ 次下载11 天前更新

vllm/vllm-tpu

vLLM 高性能推理与服务镜像

Repo for vLLM TPU images

3 次收藏10万+ 次下载11 天前更新

vllm/vllm-openai-cpu

vLLM 高性能推理与服务镜像

10万+ 次下载17 天前更新

vllm/vllm-openai-rocm

vLLM 高性能推理与服务镜像

5 次收藏10万+ 次下载11 天前更新

vllm/vllm-omni

vLLM 高性能推理与服务镜像

7 次收藏10万+ 次下载1 个月前更新

vllm/vllm-router

vLLM 高性能推理与服务镜像

1万+ 次下载11 天前更新

vllm/vllm-omni-rocm

vLLM 高性能推理与服务镜像

1 次收藏5.8千+ 次下载1 个月前更新

rocm/vllm

ROCm optimized vLLM docker containers for AMD GPUs.

28 次收藏10万+ 次下载1 个月前更新

vllm/vime

vLLM 高性能推理与服务镜像

694 次下载14 天前更新

intel/vllm

8 次收藏1万+ 次下载21 天前更新

vllm/vime-rocm

vLLM 高性能推理与服务镜像

39 次下载24 天前更新

lintoai/vllm

827 次下载12 天前更新

syntheticdreamlabs/vllm

syntheticdreamlabs

1万+ 次下载6 个月前更新

opea/vllm

Deploying and servicing VLLM models based on VLLM projects

1 次收藏1万+ 次下载10 个月前更新

vastai/vllm

3 次收藏10万+ 次下载15 天前更新

baseten/vllm

Base image for serving models with vLLM

1 次收藏1万+ 次下载2 个月前更新

dustynv/vllm

5 次收藏5万+ 次下载1 年前更新

rocm/vllm-ci

Repo host images for vllm-ci

5 次收藏100万+ 次下载11 天前更新

voipmonitor/vllm

2 次收藏1万+ 次下载13 天前更新

repne/vllm

vLLM for RTX 6000. github.com/voipmonitor/blackwell-llm-docker + github.com/repne/vllm

2.9千+ 次下载1 个月前更新

substratusai/vllm

1万+ 次下载1 年前更新

daehoyang/vllm

1万+ 次下载1 年前更新

apecloud/vllm

1 次收藏1万+ 次下载2 年前更新

apostacyh/vllm

The lmcache-integrated vllm engine

1 次收藏1.4千+ 次下载1 年前更新

llmsysbench/vllm

images for all vllm instances of llmsysbench

1.7千+ 次下载17 天前更新

ozziemoreno/vllm

Repository for testing my github action against vllm main repo

2.2千+ 次下载16 天前更新

robatvastai/vllm

9.8千+ 次下载15 天前更新

stepfun2025/vllm

1万+ 次下载10 个月前更新

yuanlabai/vllm

8.6千+ 次下载3 个月前更新

duobinji/vllm

899 次下载1 年前更新

moonshadow25/vllm

1 次收藏700 次下载7 个月前更新

dimaskiddo/vllm

Debian Based vLLM Image Repository

1.1千+ 次下载1 个月前更新

sushiqian/vllm

vllm inference framework

739 次下载30 天前更新

mitakad/vllm

vLLM Distributed Inference on Jetson Orin AGX-built by https://github.com/dusty-nv/jetson-containers

3 次收藏1.9千+ 次下载15 天前更新

wurstdeploy/vllm

test builds for cyril23's fork of https://github.com/vllm-project/vllm/

727 次下载1 年前更新

rocm/vllm-omni

repository for hosting vllm-omni images

10万+ 次下载11 天前更新

natecompiles/vllm

VLLM image compiles for older cuda versions.

781 次下载8 个月前更新

truefoundrycloud/vllm

truefoundrycloud

3.9千+ 次下载2 年前更新

lavd/vllm

4千+ 次下载1 个月前更新

truffeldev/vllm

3.6千+ 次下载2 个月前更新

embedl/vllm

DEPRECATED - Use https://github.com/embedl/flash-head instead (vllm plugin)

791 次下载4 个月前更新

amdsiloai/vllm

2.9千+ 次下载15 天前更新

shiftupaicom/vllm

3千+ 次下载1 个月前更新

vubutterflies/vllm

2.6千+ 次下载2 年前更新

uptospace/vllm

2.5千+ 次下载1 年前更新

joyai/vllm

All cutstom docker image for vLLM. Such as new CUDA version.

629 次下载1 年前更新

seemeai/vllm

1 次收藏2.3千+ 次下载13 天前更新

jhinnoai/vllm

233 次下载30 天前更新

narandill/vllm

2 次收藏2.2千+ 次下载1 个月前更新

foundationmodels/vllm

foundationmodels

2千+ 次下载2 年前更新

xingyaoww/vllm

v1.1 -> vllm==0.1.4, with CUDA>12 support; v1.0 -> vllm==0.1.3 (w/ issues)

368 次下载2 年前更新

cornserve/vllm

1.8千+ 次下载1 个月前更新

vito974/vllm

LLM inference server, based on vllm-project/vllm with Zyphra's patches applied on top.

1 次收藏374 次下载2 个月前更新

chethanumeshaplutoflume/vllm

chethanumeshaplutoflume

Docker image for a high-throughput and memory-efficient inference and serving engine for LLMs

1.7千+ 次下载2 年前更新

johncentml/vllm

1.8千+ 次下载22 天前更新

scalepointai/vllm

1.6千+ 次下载1 年前更新

ineil77/vllm

Modified vllm image for in-process usage.

336 次下载3 个月前更新

kovec/vllm

1.5千+ 次下载4 个月前更新

mlenergy/vllm

vLLM fork with per-token energy measurements

323 次下载1 年前更新

wjfwjf/vllm

1.4千+ 次下载1 年前更新

huaro/vllm

191 次下载2 年前更新

t9kpublic/vllm

1.3千+ 次下载8 个月前更新

rahulunair/vllm

Intel XPU vLLM image validated with TP=2

320 次下载14 天前更新

j3qmup5a/vllm

164 次下载1 年前更新

rgshaw2/vllm

1.3千+ 次下载10 个月前更新

danucore/vllm

1.3千+ 次下载3 个月前更新

dview/vllm

1.2千+ 次下载1 年前更新

ssadds/vllm

1.1千+ 次下载17 天前更新

shwars/vllm

1.1千+ 次下载2 年前更新

gjkarthik/vllm

1.1千+ 次下载3 个月前更新

chaojin0310/vllm

vllm extension based on vllm-0.2.7

155 次下载2 年前更新

dengcao/vllm

vLLM is a fast and easy-to-use library for LLM inference and serving. Originally developed...

402 次下载9 个月前更新

futureproofhomes/vllm

futureproofhomes

979 次下载8 个月前更新

1337kavin/vllm

990 次下载1 个月前更新

zitrone44/vllm

906 次下载1 个月前更新

hgfkeep/vllm

954 次下载2 年前更新

skandermoalla/vllm

1 次收藏948 次下载1 年前更新

madeby561/vllm

GLM-5.2 NVFP4 REAP vLLM: voipmonitor dark-devotion 2026-06-21 + MTP-draft DCP topk_scores_buffer pat

341 次下载26 天前更新

ericlewisplease/vllm

ericlewisplease

911 次下载7 个月前更新

aigmkt/vllm

852 次下载1 个月前更新

15five/vllm

111 次下载1 年前更新

getlilac/vllm

Lilac patched vLLM images

157 次下载24 天前更新

nenadzaric/vllm

766 次下载3 个月前更新

hyoon11/vllm

761 次下载1 年前更新

visvakula/vllm

745 次下载7 个月前更新

loopinnetwork/vllm

762 次下载2 个月前更新

sabreshao/vllm

714 次下载27 天前更新

yijun0404/vllm

746 次下载3 个月前更新

zhangy2259/vllm

692 次下载10 个月前更新

mercoeverai/vllm

722 次下载18 天前更新

ehuberf2ai/vllm

115 次下载1 年前更新

lflare/vllm

716 次下载3 个月前更新

mamontov/vllm

655 次下载10 个月前更新

anujn1/vllm

680 次下载2 年前更新

ddhmed/vllm

Runs Large Language Models on Local Machine by VLLM (Ubuntu amd64)

216 次下载3 个月前更新

openeulertest/vllm

639 次下载1 个月前更新

alabijesujoba/vllm

673 次下载1 个月前更新

meshive/vllm

638 次下载29 天前更新

benasd/vllm

609 次下载4 个月前更新

shadowaryan/vllm

fix vllm deployment

118 次下载2 年前更新

第 1 页

相关博客

VLLM Docker 容器化部署指南：在 NVIDIA Jetson 平台高效运行大语言模型推理服务

VLLM是一个高效的开源大语言模型（LLM）推理服务框架，通过创新的PagedAttention技术实现高吞吐量和低延迟的推理性能。本文介绍的`dustynv/vllm`镜像是针对NVIDIA Jetson平台优化的容器化版本，由[dustynv/jetson-containers](https://github.com/dustynv/jetson-containers)项目构建，专为边缘计算场景设计，支持在资源受限的嵌入式设备上部署高性能LLM推理服务。

Docker部署教程2025/12/2

vllm-openai Docker 部署全手册

从个人开发者测试开源大模型，到企业搭建私有推理服务，vllm-openai 都是高效且低成本的选择。本教程将从核心概念讲起，逐步覆盖 Docker 环境准备、镜像拉取、多场景部署、结果验证及问题排查，无论你是初学者还是高级工程师，都能照着步骤完成部署。

Docker部署教程2025/10/9

MinerU Docker 部署指南：PDF 结构化解析服务实践

MinerU 是一款面向开发者与科研用户的容器化应用，专为 vLLM 后端服务设计，提供高效的文档解析与处理能力。通过 Docker 容器化部署 MinerU，可以简化安装流程、确保环境一致性，并便于在不同环境中快速迁移和扩展。本指南将详细介绍 MinerU 的 Docker 容器化部署方案，包括环境准备、镜像拉取、容器部署、功能测试及生产环境配置建议，旨在帮助用户快速搭建稳定可靠的 MinerU 服务。

Docker部署教程2025/12/30

verl Docker 容器化部署手册

无论你是刚接触大模型工具的初学者，还是需要高效管理训练任务的高级工程师，本教程都将带你一步步完成 verlai/verl 镜像的 Docker 部署——从工具认知、环境搭建到多场景部署实践，每个步骤均配备完整命令与详细说明，确保照着做就能成。

Docker部署教程2025/10/8

相关命名空间

vLLM 高性能推理与服务镜像

vLLM 是面向大语言模型（LLM）推理与服务的高性能引擎项目，强调高吞吐、低延迟与显存高效利用，支持将模型以 OpenAI 兼容 API 形式对外提供服务，并覆盖 GPU/TPU 等多种硬件场景，适合构建生产级模型服务。