• 系统化总结 AI agent 设计模式，涵盖决策、执行、环境交互及多 agent 协作。
• 聚焦 agent 的自主性与适应能力，提升模型的动态响应和任务完成效率。
• 案例驱动，结合前沿研究与实践，帮助开发者构建可扩展、高效的智能系统。
• 兼顾理论深度与工程实用，适合 AI 研发者、架构师及高级研究人员长期参考。
• 体现智能体从单纯语言模型向具备代理能力系统的转变，超越传统学术范式。
这本书极具前瞻性，适合想掌握 AI agent 最新设计策略的专业人士。
• Ollama 实质上是 llama.cpp 的封装，未跟进最新多 GPU 及 Tensor Parallelism 优化，导致多卡环境下严重拖慢整体性能。
• llama.cpp 适合 CPU 或单卡环境，支持 CPU offloading，适合 GPU 资源有限的用户，但不支持批量推理和多 GPU 并行，无法发挥多卡优势。
• vLLM 与 ExLlamaV2 均支持 Tensor Parallelism 和批量推理，能够将大型模型计算分摊到多张 GPU，实现显著加速，尤其适合 8+ 卡服务器。
• ExLlamaV2 独创 EXL2 量化算法，在显存受限时表现优异，兼顾速度与精度，适合高效批量推理。
• 作者自建 14 卡 RTX 3090 AI 服务器，实测 vLLM 和 ExLlamaV2 大幅领先 Ollama 和 llama.cpp，轻松处理数千异步请求，性能稳定且资源利用率高。
• Ollama 仅适合单卡、简单聊天模型，批量任务或复杂推理时极易卡顿，且环境配置和显存分配不合理，使用体验差。
• 推荐从源码级别理解推理引擎差异，避免被闭源工具锁定，提升本地 AI 服务稳定性和自主可控性。
多 GPU 服务器使用支持 Tensor Parallelism 的推理引擎是释放硬件潜力的关键，避免用不支持的工具造成资源浪费。
量化技术和模型架构深度结合，能在保持准确度的同时极大缩减显存和计算需求，提升整体效率。
彻底掌握推理引擎和硬件架构细节，远比盲目追随闭源产品更能保障长期技术优势和业务连续性。
