黑洞资源笔记
- Island AI:专为处理大型语言模型(LLM)结构化输出而设计的 TypeScript 工具包
-
- 黑马大模型更新了,买过的原链接获取
-
-
- 蓝点网:谷歌简化启用两步验证步骤 现在用户无需绑定手机号即可开启2FA
- Arduino Audio Tools:功能强大的音频处理库,适用于Arduino及其它平台,提供音频源、音频效果、编码器/解码器等多种音频处理功能
- tinyllm 是一个轻量级框架,用于大规模开发、调试和监控 LLM 和代理支持的应用程序。该库的主要目标是使代码尽可能简单和可读,同时允许用户在生产中创建复杂的代理或 LLM 工作流程。
Function及其流式等价物FunctionStream是tinylm 中的核心类。它们旨在标准化和控制 LLM、ToolStore 以及流模式和其他方式下可扩展生产使用的任何相关调用。
它提供了一种结构化方法来处理函数执行的各个方面,包括输入/输出验证、输出处理、错误处理、评估,同时保持代码可读。您可以在单个文件中创建一个具有自己的提示、LLM 模型和评估器的链。无需跳过许多类定义,也无需意大利面条式代码。任何其他库代理/链(langchain/llama-index...)也可以无缝导入为tinylm函数。
tinyllm | #框架