Skip to main content

黑洞资源笔记

黑洞资源笔记
黑洞资源笔记

  2. DingoDB：开源的分布式多模态向量数据库，支持在线强一致性、关系语义和向量语义，具有优秀的水平可扩展性和高可用性

  12. MAP-NEO: 完全开源的大型语言模型，提供预训练数据、数据处理流程、预训练脚本和对齐代码，支持中英文，性能与LLaMA2 7B相当

  18. APPL: 一种扩展Python的编程语言，旨在以自然、直观、方便和高效的方式在程序中利用大型语言模型（如GPT）

    主要特征
    通过与 Python 无缝集成实现可读性和可维护性：APPL 将自然语言提示无缝嵌入到 Python 程序中，保持提示的可读性，同时继承宿主编程语言的模块化、可重用性、动态性和生态系统。

    灵活及时的工程： 除了允许使用Python控制流和提示的模块化分解之外，APPL还提供提示编码助手，以模块化和可维护的方式促进提示编程。

    通过异步计算自动并行化：APPL 异步安排 LLM 调用，利用它们之间潜在的独立性来促进高效的并行化。这减轻了用户手动管理同步的负担，几乎不需要额外的工作。

    平滑的工具调用集成：APPL提供了直观的方法将Python函数转换为LLM可以调用的工具，使用户可以轻松地将现有的Python库和函数与LLM集成。

    跟踪和故障恢复： APPL 跟踪 LLM 调用的执行并支持从故障中恢复，这对于 LLM 编程范例中的调试和错误处理至关重要。

    更多功能： APPL 还为使用 的多个 LLM 后端提供统一的接口litellm，使用 的结构化生成instructor以及许多其他功能。

  20. Siri Ultra：快捷命令激活iPhone上的大模型进行对话与搜索

    Siri-Ultra是一个基于云的智能助手，可以在Cloudflare Workers上运行，并且可以与任何大型语言模型（LLM）配合使用。它利用了LLaMA 3模型，并且通过自定义函数调用来获取天气数据和在线搜索。这个项目允许用户通过Apple Shortcuts来使用Siri，从而消除了对专用硬件设备的需求。

    目标受众为希望在没有专用硬件的情况下使用智能助手的用户。Siri-Ultra通过提供一种灵活的、基于云的解决方案，满足了那些希望简化其技术栈并利用最新AI技术来增强个人效率的用户需求。

    使用场景示例：
    用户可以通过Siri-Ultra获取天气预报
    利用Siri-Ultra进行在线搜索查询
    通过Siri-Ultra快速获取日常信息，如新闻摘要或日程安排

    产品特色：
    支持自定义模型，API基础和系统提示
    使用Cloudflare Workers进行部署
    创建KV命名空间来存储对话数据
    通过API密钥进行身份验证和数据调用
    更新系统提示以适应不同的使用场景
    部署到Cloudflare后，可以通过Apple Shortcuts进行配置和使用

    使用教程：
    克隆仓库并导航到根目录
    运行npm install安装必要的依赖
    通过运行npx wrangler login来验证Cloudflare账户
    运行npx wrangler kv:namespace create chats创建KV命名空间并记下ID
    更新wrangler.toml文件，填入命名空间ID
    设置API密钥，包括GROQ或OpenAI API密钥，OpenWeather API密钥和SEARCH1API_KEY
    更新LLMs Vars，包括API_BASE和MODEL等
    运行npx wrangler deploy部署Worker
    使用提供的链接安装并配置Apple Shortcut