选择适合 Open WebUI 的 VPS,首先要确定 AI 模型在哪里运行。Open WebUI 是一个自托管 AI 聊天界面,提供浏览器工作区、对话记录、文档工具和模型服务连接。将它部署在 VPS 上,可以跨设备访问同一个工作区,也便于管理小团队的访问权限。
使用云端 AI API 时,VPS 运行界面,模型提供商负责推理。使用 Ollama 和下载到本地的模型时,你的模型服务器需要承担计算、内存以及可能的 GPU 资源需求。仅仅安装聊天界面,并不能让小型服务器获得大型模型推理能力。
本文对比 LightNode、Hetzner、DigitalOcean、Vultr、Akamai Cloud 和 Contabo,并介绍 Docker 部署方法。先决定由谁运行推理,再比较 CPU、内存、存储、流量、恢复方案和单独计算的模型费用。
原创大约 23 分钟