黑洞资源笔记
-
-
-
- GPUStack：开源GPU集群管理器，用于运行大型语言模型(LLM)，支持多种硬件平台，提供轻量Python包和OpenAI兼容API，简化用户和API密钥管理，实时监控GPU性能和利用率
-
-
-
- Kubernetes上部署大型语言模型的自动化工具，支持本地快速启动和运行。支持CPU和GPU（尤其是NVIDIA和AMD）的稳定部署，但并非所有GPU都受支持
Ollama Helm Chart | #工具 -
-
- Zenbase Core：生产环境中自动化的提示工程库，专为软件工程而设计，将斯坦福NLP的DSPy项目研究成果转化为实际工程需求，帮助开发者在生产环境中部署自动提示优化
-
- ASTRA.ai：无需编码知识的快速工作流构建器，支持多模态交互和高度可定制的扩展，使用直观
- Awesome-AI-Agents：由LLM驱动的自主Agent集合，涵盖任务解决、多智能体协作、社会模拟等项目，提供框架、基准评估和相关资源，推动AI代理技术的发展
-
-
-
