選擇適合 Open WebUI 的 VPS,首先要確定 AI 模型在哪裡執行。Open WebUI 是一個自託管 AI 聊天介面,提供瀏覽器工作區、對話記錄、文件工具和模型服務連線。將它部署在 VPS 上,可以跨裝置存取同一個工作區,也便於管理小團隊的存取權限。
使用雲端 AI API 時,VPS 執行介面,模型提供商負責推理。使用 Ollama 和下載到本機的模型時,你的模型伺服器需要承擔計算、記憶體以及可能的 GPU 資源需求。僅僅安裝聊天介面,並不能讓小型伺服器獲得大型模型推理能力。
本文對比 LightNode、Hetzner、DigitalOcean、Vultr、Akamai Cloud 和 Contabo,並介紹 Docker 部署方法。先決定由誰執行推理,再比較 CPU、記憶體、儲存、流量、恢復方案和單獨計算的模型費用。
原創大约 24 分鐘