黑洞资源笔记
14:55 · Mar 10, 2025 · Mon
一个生产级的AI Agent管理与进化框架,能帮助你高效地创建、协同和进化AI Agents,解决复杂任务。
支持Agent间智能通信,可委托任务并协作解决问题;智能库支持语义搜索,通过OpenAI嵌入快速找到相关工具和Agent;提供多框架集成,无缝对接BeeAI、OpenAI等框架
Evolving Agents
|
#框架
框架
14:55 · Mar 10, 2025 · Mon
OpenManus-RL
:一个为LLM Agents开发的强化学习调优开源项目。核心价值在于通过RL优化提升LLM Agents的推理和决策能力。
支持多种推理模型,如Deepseek-R1和QwQ-32B;提供多种奖励策略和训练框架;持续更新,动态分享最新研究成果
14:43 · Mar 10, 2025 · Mon
Torch-TRTLLM
:让HuggingFace模型秒变TensorRT-LLM引擎的开源框架
单行命令即可完成模型转换,超低门槛;支持多种未被TensorRT-LLM原生支持的模型架构,如Helium;性能卓越,如Llama3.3-70B-Instruct模型在A100上达到1759.2 token/sec的吞吐量
14:42 · Mar 10, 2025 · Mon
autoMate
:AI驱动的本地自动化助手,用自然语言让电脑自动完成任务。
无代码自动化,只需用自然语言描述任务;支持主流大语言模型,兼容性强;本地部署,保护数据隐私
14:34 · Mar 10, 2025 · Mon
一个开源的全参数微调指南,提供了 DeepSeek V3/R1 671B 模型的训练和推理代码,和实践中的经验与结论。
支持671B超大规模模型的全参数微调;集成数据并行与序列并行,优化训练效率;提供从训练到推理的完整代码和实践经验总结
DeepSeek-V3/R1-617B 全参数微调指南
|
#指南
指南
14:29 · Mar 10, 2025 · Mon
mmgp
:为消费级Nvidia GPU用户优化内存管理,让最新开源前沿模型也能在低配显卡上流畅运行。
最低仅需6GB显存和24GB内存即可运行;提供5种配置文件,适配从低端到高端的硬件需求;支持智能模型加载/卸载与异步传输,提升运行效率
14:27 · Mar 10, 2025 · Mon
mcpadapt
:解锁650+ MCP服务器工具,无缝集成到你喜爱的Agent框架中。
支持多种Agent框架,如Smolagents和Langchain;提供快速接入MCP服务器的能力,无需复杂配置;持续更新,即将支持更多框架和功能
14:26 · Mar 10, 2025 · Mon
Sidekick
:一款原生macOS应用,本地运行的AI助手,无需额外软件,即可从你的文件、文件夹和网站中获取信息,所有对话本地完成,数据本地保存。
持多种推理模型,如QwQ-32B-Preview和DeepSeek-R1;代码解释器功能,通过执行代码提升数学和逻辑能力;本地优先,无需联网即可使用
Before
After
Home
Powered by
BroadcastChannel
&
Sepia