希望更新容器内的vllm以支持DeepSeek-OCR 和PaddleOCR

加速计算 DGX Spark / GB10 用户论坛
1

nvcr.io/nvidia/vllm:25.10-py3不支持DeepSeek-OCR 和PaddleOCR，vllm编译时只会下arm的，没有arm+cuda13.0组合，希望增加支持

2

你好，经过在Spark上实际测试，PaddleOCR目前在Spark只能通过CPU来运行，DeepSeekOCR+vLLM可以运行，但是有不少需要调整的配置，以下是详细配置，供参考 DeepSeek-OCR vLLM 加速部署指南