15:58 · Nov 28, 2024 · Thu × llm_client：一个用Rust开发的本地LLM接口工具，支持多平台(Mac/Windows/Linux)的CPU和GPU运行。特色是提供了级联提示工作流(Cascading Prompt Workflow)系统，能将LLM的概率性输出转换为确定性信号，大幅提高输出可靠性。支持自动构建、简单的模型预设、灵活的配置选项以及多种API集成 | #工具
