Skip to content
Structure Docs
Main Navigation
首页
快速开始
产品中心
部署与运维
开发规范
开发环境
AI 工具
社区
GitHub
Appearance
Menu
Return to top
On this page
LLM 部署
本目录包含 LLM 私有化部署相关文档。当前部署方案统一基于
GPUStack
,详见子目录:
GPUStack 部署指南
— Ubuntu + Docker 部署、vLLM / llama.cpp 后端、集群与节点、量化、厂商模型、Agent 集成