vLLM 启动命令生成器

根据你的硬件和模型，一键生成可复制的 vLLM 启动命令。支持原生、Docker 和 docker-compose 三种格式。

1选择模型

2选择硬件

3调整参数

模型从预设库选择，或在下框输入自定义模型量化方式自定义模型路径（可选，覆盖上方选择） HuggingFace 模型 ID 或本地绝对路径

GPU 类型 GPU 数量显存利用率建议 0.85–0.9，生产环境不要超过 0.92

服务模型名上下文长度自动填入模型推荐值，可按需调低并发数数据类型 (dtype) KV Cache 数据类型端口主机

启用前缀缓存 --enable-prefix-caching，适合多轮对话

启用 Chunked Prefill --enable-chunked-prefill，提升吞吐

生成结果