vLLM + Qwen3-32B-Base on NVIDIA GB10 (CUDA 13 / aarch64) 本文记录在 NVIDIA Spark（GB10）环境下，使用 CUDA 13 + aarch64 成功运行 vLLM + …

但是由于enforce-eger会牺牲很多，也可以尝试用 https://github.com/eugr/spark-vllm-docker eugr的docker,但是由于墙和docker源的问题，也会有很多问题需要离线下载再安装，都很麻烦…

我这边docker部署好了，已经可以跑模型了，而且不需要牺牲性能，docker确实好用， LLM-Security-testing-learning/spark-vllm-cuda13 at main · bazhahei123/LLM-Se…