Skip to main content

Kubernetes上部署大型语言模型的自动化工具,支持本地快速启动和运行

  1. Kubernetes上部署大型语言模型的自动化工具,支持本地快速启动和运行。支持CPU和GPU(尤其是NVIDIA和AMD)的稳定部署,但并非所有GPU都受支持

    Ollama Helm Chart | #工具