vllm-cpu docker 镜像搜索结果 | 轩辕镜像

让 AI 帮你使用轩辕镜像？ · 展开查看说明 · 点击收起说明

如果你使用 DeepSeek、元宝 AI、Copilot、ChatGPT 等 AI 工具，协助配置轩辕镜像、编写 docker pull 命令、修改 Docker Compose 镜像地址、配置镜像加速、排查镜像拉取失败、分析报错日志等问题，请先让 AI 阅读并遵守轩辕镜像的规则文档。

只需在 AI 对话中先发送下面这句话即可：

请先完整阅读并严格遵守以下文档中的全部规则与要求：

https://xuanyuan.cloud/agents.md

在未充分阅读并理解该文档前，不要生成任何命令、配置、修改建议、故障排查方案或技术回答。后续所有输出都必须严格以该文档中的规范为最高优先级执行。

查看 agents.md 用法指南与完整示范。国内用户首推元宝 AI、DeepSeek 的深度思考模式，不推荐豆包 AI；Cursor 等编辑器可在对话 @ 该链接，或加入 User Rules。若 AI 无法访问外链，可打开说明文档复制全文粘贴。文档会随站点更新，复制内容可能过期，建议定期检查。

架构筛选

openeuler/vllm-cpu

官方vLLM Ascend Docker镜像，基于openEuler构建，提供快速高效的LLM推理和服务能力，支持PagedAttention内存管理、连续批处理、多种量化技术及优化内核，适用于高性能语言模型部署。

5 次收藏5万+ 次下载8 天前更新

mekayelanik/vllm-cpu

vLLM CPU推理引擎 - 为Intel/AMD/ARM64处理器优化的Docker镜像，提供高效的大语言模型服务，支持OpenAI兼容API及多种CPU指令集优化。

1 次收藏1万+ 次下载7 天前更新

ashahba/vllm-cpu

该仓库包含vLLM项目的CPU镜像，基于vLLM仓库中的Dockerfile.cpu构建。

1 次收藏2.5千+ 次下载5 个月前更新

openeulertest/vllm-cpu

2.1千+ 次下载10 天前更新

emericocto/vllm-cpu

Docker image for vllm using CPU

1.3千+ 次下载11 个月前更新

thecmrfrd/vllm-cpu

The vLLM project compiled for CPU

1.2千+ 次下载1 年前更新

konstantinvernermaif/vllm-cpu

konstantinvernermaif

924 次下载1 年前更新

gabrielbico/vllm-cpu

934 次下载11 个月前更新

budstudio/vllm-cpu

818 次下载2 个月前更新

inteldpo/vllm-cpu

766 次下载1 年前更新

vllm/vllm-openai

vLLM 高性能推理与服务镜像

vllm/vllm-openai：vLLM 高性能大模型推理框架的官方 Docker 镜像，封装 OpenAI API 兼容的推理服务；支持 PagedAttention 与连续批处理，吞吐量可达传统引擎 10-24 倍；支持 50+ 开源模型与量化方案，适用开源模型部署、OpenAI 应用本地化与高并发生产场景。

291 次收藏1000万+ 次下载7 天前更新

cledge/vllm-cpu

https://github.com/vllm-project/vllm/blob/main/Dockerfile.cpu

430 次下载8 个月前更新

syaffers/vllm-cpu

CPU build of vLLM on Mac M3 Pro

307 次下载6 个月前更新

hsethuraman/vllm-cpu

329 次下载4 个月前更新

satendra/vllm-cpu

仅用于CPU环境的vLLM Docker镜像仓库，支持运行Hugging Face模型，提供便捷的模型部署和服务能力。

301 次下载1 年前更新

navchetna/vllm-cpu

223 次下载1 年前更新

amoyens1s/vllm-cpu

181 次下载11 个月前更新

sivanantha/vllm-cpu

175 次下载7 个月前更新

lpicode/vllm-cpu

Vllm running on cpu

173 次下载1 年前更新

dittops/vllm-cpu

171 次下载9 个月前更新

ceposta/vllm-cpu

188 次下载1 年前更新

oysterqaq/vllm-cpu

162 次下载10 个月前更新

dorukbu/vllm-cpu

185 次下载1 年前更新

sarthakd112/vllm-cpu

147 次下载1 年前更新

smartcommunitylab/vllm-cpu

smartcommunitylab

147 次下载8 个月前更新

ydcho0902/vllm-cpu

145 次下载2 年前更新

zhawottj/vllm-cpu

142 次下载1 年前更新

rtalaricw/vllm-cpu

141 次下载2 年前更新

matan77/vllm-cpu

vllm image for cpu based deplyment

137 次下载10 个月前更新

xukunliu/vllm-cpu

156 次下载1 年前更新

antoniosdim/vllm-cpu

154 次下载5 个月前更新

agervais/vllm-cpu

133 次下载1 年前更新

yylt/vllm-cpu

152 次下载1 年前更新

zhihang161013/vllm-cpu

129 次下载1 年前更新

minhnguyenvan95/vllm-cpu

minhnguyenvan95

vllm built for cpu

122 次下载1 年前更新

brathna123/vllm-cpu

120 次下载4 个月前更新

ihiverlet/vllm-cpu

132 次下载1 年前更新

alvinkimata/vllm-cpu

111 次下载1 年前更新

yuriichv/vllm-cpu

122 次下载1 年前更新

getsolo/vllm-cpu

105 次下载1 年前更新

daje0601/vllm-cpu

105 次下载1 年前更新

opencsghq/vllm-cpu

118 次下载1 年前更新

alemaizi/vllm-cpu

116 次下载1 年前更新

vijaygawate/vllm-cpu

116 次下载1 年前更新

lawr/vllm-cpu

114 次下载9 个月前更新

stpranjal/vllm-cpu

100 次下载1 年前更新

quilicam/vllm-cpu

113 次下载1 年前更新

abiyo27/vllm-cpu

98 次下载1 年前更新

patnaikshekhar/vllm-cpu

111 次下载1 年前更新

jiannhuei/vllm-cpu

111 次下载5 个月前更新

mhtrxz/vllm-cpu

97 次下载10 个月前更新

barbicanboost/vllm-cpu

96 次下载4 个月前更新

vllm/vllm-tpu

vLLM 高性能推理与服务镜像

vLLM框架在TPU上运行的Docker镜像仓库

3 次收藏10万+ 次下载7 天前更新

ctolon17/vllm-cpu

91 次下载6 个月前更新

zulfifazhar/vllm-cpu

在CPU上运行vLLM并提供OpenAI兼容API的Docker镜像，适用于原型开发、批量推理、CI检查及1B至3B参数的小型模型。

90 次下载9 个月前更新

moganthkumar/vllm-cpu

101 次下载9 个月前更新

rxs2367/vllm-cpu

100 次下载8 个月前更新

phuongkhpt/vllm-cpu

88 次下载7 个月前更新

rekasbe353/vllm-cpu

96 次下载1 年前更新

mzammouri/vllm-cpu

83 次下载2 年前更新

mjquinlan2000/vllm-cpu

92 次下载1 年前更新

vllm/vllm-omni

vLLM 高性能推理与服务镜像

7 次收藏10万+ 次下载14 天前更新

vllm/vllm-openai-rocm

vLLM 高性能推理与服务镜像

5 次收藏10万+ 次下载7 天前更新

hoipangg/vllm-cpu

74 次下载1 年前更新

vllm/vllm-openai-cpu

vLLM 高性能推理与服务镜像

10万+ 次下载7 天前更新

ufcgibm/vllm-cpu

70 次下载2 个月前更新

vinayk34/vllm-cpu

67 次下载8 个月前更新

nesemenpolkov/vllm-cpu

My build for vLLM cpu docker image for Ubuntu 22.04+.

65 次下载1 年前更新

purushothamkdr453/vllm-cpu

purushothamkdr453

73 次下载6 个月前更新

dexter369/vllm-cpu

72 次下载10 个月前更新

marianbasti/vllm-cpu

71 次下载1 年前更新

mwm5945/vllm-cpu

70 次下载1 年前更新

brunorodrigoss/vllm-cpu

62 次下载10 个月前更新

yangyaofei/vllm-cpu

61 次下载1 年前更新

vanshrana12/vllm-cpu

68 次下载1 年前更新

danielcalvo/vllm-cpu

67 次下载1 年前更新

tweijian/vllm-cpu

56 次下载1 年前更新

dsg22/vllm-cpu

56 次下载12 个月前更新

undivert/vllm-cpu

55 次下载1 年前更新

linek1/vllm-cpu

60 次下载10 个月前更新

outsoft/vllm-cpu

59 次下载1 年前更新

edlee123/vllm-cpu

51 次下载1 年前更新

shivbs/vllm-cpu

56 次下载1 年前更新

gwimm/vllm-cpu

55 次下载1 年前更新

yicyua01/vllm-cpu

53 次下载1 年前更新

gangyub/vllm-cpu

53 次下载1 年前更新

clemenskol/vllm-cpu

47 次下载2 年前更新

fabianbrash2/vllm-cpu

custom built vllm that runs on a CPU AVX512 instruction set required

51 次下载1 个月前更新

teamtricuss/vllm-cpu

50 次下载7 个月前更新

duynng/vllm-cpu

40 次下载10 个月前更新

vincentmin/vllm-cpu

35 次下载1 年前更新

vllm/vllm-router

vLLM 高性能推理与服务镜像

1万+ 次下载7 天前更新

vllm/vllm-omni-rocm

vLLM 高性能推理与服务镜像

1 次收藏6.1千+ 次下载1 个月前更新

twhite0/vllm-cpu

23 次下载1 年前更新

rocm/vllm-ci

该仓库用于托管vllm项目持续集成（CI）流程所需的镜像，旨在为vllm-ci相关的自动化构建、测试及部署环节提供稳定的镜像存储与管理支持，确保CI流程高效、可靠地运行，满足vllm项目在开发迭代过程中对集成环境的镜像需求，助力项目快速验证代码变更、保障软件质量。

5 次收藏100万+ 次下载7 天前更新

rocm/vllm-dev

rocm/vllm-dev是基于AMD ROCm平台的高性能大语言模型开发镜像，集成vllm框架与AMD GPU加速能力，专为开发者打造大语言模型部署、推理优化及二次开发环境。镜像预配置PyTorch、HIP等核心依赖，支持低延迟、高吞吐量的LLM推理，可快速进行模型加载、性能调优与多实例部署测试，助力开发者高效构建和调试大语言模型应用，充分发挥AMD GPU在AI计算中的算力优势。

19 次收藏100万+ 次下载7 天前更新

rocm/vllm

这是为AMD图形处理器（GPU）量身打造的、基于ROCm开源平台深度优化的vLLM Docker容器，其中vLLM作为高性能大语言模型服务库，可提供高效推理与服务能力，Docker容器则保障了部署的便捷性与环境一致性，整体方案旨在为AMD GPU用户提供兼顾性能与易用性的优化大语言模型运行环境。

28 次收藏10万+ 次下载2 个月前更新

openeulertest/vllm-cpu

2.1千+ 次下载10 天前更新

emericocto/vllm-cpu

Docker image for vllm using CPU

1.3千+ 次下载11 个月前更新

thecmrfrd/vllm-cpu

The vLLM project compiled for CPU

1.2千+ 次下载1 年前更新

第 1 页

相关博客

MinerU Docker 部署指南：PDF 结构化解析服务实践

MinerU 是一款面向开发者与科研用户的容器化应用，专为 vLLM 后端服务设计，提供高效的文档解析与处理能力。通过 Docker 容器化部署 MinerU，可以简化安装流程、确保环境一致性，并便于在不同环境中快速迁移和扩展。本指南将详细介绍 MinerU 的 Docker 容器化部署方案，包括环境准备、镜像拉取、容器部署、功能测试及生产环境配置建议，旨在帮助用户快速搭建稳定可靠的 MinerU 服务。

Docker部署教程2025/12/30

VLLM Docker 容器化部署指南：在 NVIDIA Jetson 平台高效运行大语言模型推理服务

VLLM是一个高效的开源大语言模型（LLM）推理服务框架，通过创新的PagedAttention技术实现高吞吐量和低延迟的推理性能。本文介绍的`dustynv/vllm`镜像是针对NVIDIA Jetson平台优化的容器化版本，由[dustynv/jetson-containers](https://github.com/dustynv/jetson-containers)项目构建，专为边缘计算场景设计，支持在资源受限的嵌入式设备上部署高性能LLM推理服务。

Docker部署教程2025/12/2

vllm-openai Docker 部署全手册

从个人开发者测试开源大模型，到企业搭建私有推理服务，vllm-openai 都是高效且低成本的选择。本教程将从核心概念讲起，逐步覆盖 Docker 环境准备、镜像拉取、多场景部署、结果验证及问题排查，无论你是初学者还是高级工程师，都能照着步骤完成部署。

Docker部署教程2025/10/9

verl Docker 容器化部署手册

无论你是刚接触大模型工具的初学者，还是需要高效管理训练任务的高级工程师，本教程都将带你一步步完成 verlai/verl 镜像的 Docker 部署——从工具认知、环境搭建到多场景部署实践，每个步骤均配备完整命令与详细说明，确保照着做就能成。

Docker部署教程2025/10/8