在 Kubernetes 上部署 llama3
Ollama 與 OpenWebUI 介紹———————Ollama 是一個運行大模型的工具，可以看成是大模型領域的 Docker，可以下載所需的大模型並暴露 API。OpenWebUI 是一個大模型的 Web UI 交互工具，支持 Ollama，即調用 Ollama 暴露的 API 實現與大模型交互：部署方案選型——OpenWebUI 的倉庫中自帶 Ollaw ⌘ Read more