Agentic RAG 技术栈图谱,揭示构建智能代理系统的核心层级与关键组件:

Level 0 部署与基础设施
涵盖Groq、AWS、together.ai、Baseten、Modal、Fireworks AI、Replicate等,保障模型和系统的高效运行环境。

Level 1 评估与监控
LangSmith、MLflow、Weights & Biases、Hugging Face、Deepchecks、Fairlearn等,负责模型性能、偏差与安全性监测。

Level 2 基础模型
包括Claude 3.7 Sonnet、Mistral AI、Cohere、Gemini 2.5 Pro、LLAMA 4、GPT-4等,提供强大的语言理解和生成能力。

Level 3 编排框架
LangChain、DSPy、Microsoft AutoGen、Adaflow、LiteLLM、Ray、Haystack等,实现多模型、多任务的流程控制与协同。

Level 4 向量数据库
Milvus、Redis、Pinecone、Elasticsearch、Chroma、Vald等,负责高效存储与检索海量向量化信息。

Level 5 嵌入模型
Voyage AI、OpenAI、spaCy、FastText、Hugging Face、Cohere等,支持文本向量表示转换,为检索和推理提供基础。

Level 6 数据摄取与提取
Scrapy、Firecrawl、Docling、Llamaparse、Amazon Textract、Apache Tika等,完成多源数据采集与结构化处理。

Level 7 记忆与上下文管理
Letta、mem0、Zep、Chroma、Cognec、LangChain、LlamaIndex等,管理长期与短期记忆,提升对话连贯性。

Level 8 安全与治理
Langfuse、Arize、Evalverse、Helicone、Guardrails AI、HELM、AI Explainability 360、AI Fairness 360等,保障系统透明、公平与安全,防止滥用。

这套Agentic RAG技术栈不仅涵盖了从底层基础设施到高层治理的全流程,也体现了智能代理对性能、数据、记忆与安全的多维度要求。掌握这张图谱,是迈向智能代理实用化的关键。
 
 
Back to Top