Skip to content

LLM 部署

本目录包含 LLM 私有化部署相关文档。当前部署方案统一基于 GPUStack,详见子目录:

  • GPUStack 部署指南 — Ubuntu + Docker 部署、vLLM / llama.cpp 后端、集群与节点、量化、厂商模型、Agent 集成