Skip to main content

黑洞资源笔记

黑洞资源笔记
黑洞资源笔记

  1. Neum AI：旨在通过语义向量技术构建一个全管道的数据平台Neum AI，以提高机器阅读理解模型对大规模数据的处理能力，内置多个数据源连接器如网站、数据库等，Embedding服务如OpenAI，以及向量存储如Weaviate。支持实时同步数据源，保证数据时效性。云版本提供完整的大规模分布式计算能力

  6. Typst：帮助用户更高效写论文的在线文档编辑器。| #编辑器

    Typst培训文档完善，上手成本低。用户在编写时可以实时预览排版效果，避免反复编辑排版错误。与LaTeX相比，Typst的错误提示更清晰易懂，减少解决问题难度。

    用户可以使用和定制各种模板，自动实现文档格式设置，大幅提高了写作效率。此外，团队成员可以同时共享文档进行实时协作。

    Typst采用人性化的代码语法编写公式，避免了LaTeX的难用性。支持本地编译，不保留用户数据，为用户提供更高选择性。

    Typst团队还将推出更多实用功能，比如HTML导出、拼写检查等，令产品持续优化。
    Typst- Compose papers faster.webm
    2.1 MB

  7. p5.brush.js：p5.brush.js是p5.js生态系统的一个多功能库，专为希望在生成艺术中探索自然纹理的艺术家、设计师和业余爱好者量身定制。该库扩展了 p5.js 的绘图功能，引入了丰富的工具集，允许创建动态和可定制的笔刷、矢量字段和填充模式。

    有了 p5.brush.js，你可以轻松配置和管理复杂的绘图系统，通过有机运动为草图注入生命力，并应用复杂的矢量场来控制笔触的流动和形式。该库在设计时考虑到了纹理质量，可能只适用于高分辨率的艺术作品，而不适用于实时交互式作品。

    无论你是想模拟自然媒体、创建图案背景还是设计复杂的粒子系统，p5.brush.js 都有能把你的设想变为现实的功能。API 简单明了且模块化，既能提供用于快速设置的高级功能，也能为高级用户提供深入的自定义选项。

    使用 p5.brush.js，充分发挥你的创意编码项目的潜力，让每一笔都充满可能性。
    teaser.gif
    13 MB

  8. TinyEngine：一个低代码引擎，基于这个引擎可以构建或者开发出不同领域的低代码平台。

    特性：
    跨端跨框架前端组件
    支持在线实时构建、支持二次开发或被集成
    直接生成可部署的源码，运行时无需引擎支撑
    允许接入第三方组件、允许定制扩展插件
    支持高代码与低代码，混合开发部署应用
    平台接入 AI 大模型能力，辅助开发者构建应用

  9. Magnific AI：基于生成式AI的图像超分辨率增强工具，不仅可以实现图片的分辨率提升，更可以依靠自然语言提示和“创意”滑块等控制参数，让AI主动增加和“猜想”更多细节信息。

    目前，Pro 计划的费用为 39 美元/月，Premium 计划的费用为 99 美元/月，Business 计划的费用为 299 美元/月。按年订阅时，可免费获得两个月的服务

  10. Nendo core：为开发人员设计的AI音频工具套件，提供了一个易于使用的、轻量的框架，集成了音频处理和库管理的基本要素，拥有可扩展的插件架构和不断增长的AI音频插件生态系统，涵盖了广泛的用例。

  13. 开源的基础模型能力评测框架，提供了一套轻量级、易于使用的评测体系，支持主流大模型的性能评估。

    其主要特点如下：

    轻量易用的评估框架：无缝设计，界面直观，依赖性极小，部署轻松，可扩展性极佳，适应多样化评估场景。

    评估方式灵活多样：支持统一提示模板，评估指标丰富，可个性化定制，满足特定需求。

    高效、快速的推理部署：支持torch、vLLM等多种模型部署策略，实现多实例部署，实现快速评估流程。

    公开透明的开源排行榜：维护开放、可追溯、可复制的评估排行榜，由社区更新驱动，以确保透明度和可信度。

    官方权威评测数据：采用广泛认可的官方评测集，确保评测的公平性和标准化，确保结果具有可比性和可重复性。

    全面而广泛的模型支持：为广泛的模型提供支持，包括来自 Huggingface 开源存储库的模型和个人训练的模型，确保全面的覆盖范围。

    UltraEval | #框架

  14. Poly：用Rust编写的GPU加速语言模型(LLM)服务器，可高效提供多个本地LLM模型的服务。

    主要提供：
    为多个本地 LLM 模型提供高性能、高效和可靠的服务
    可选择通过 CUDA 或 Metal 进行 GPU 加速
    可配置的 LLM 完成任务（提示、召回、停止令牌等）
    通过 HTTP SSE 流式传输完成响应，使用 WebSockets 聊天
    使用 JSON 模式对完成输出进行有偏差的采样
    使用向量数据库（内置文件或 Qdrant 等外部数据库）进行记忆检索
    接受 PDF 和 DOCX 文件并自动将其分块存储到内存中
    使用静态 API 密钥或 JWT 标记确保 API 安全
    简单、单一的二进制+配置文件服务器部署，可水平扩展

    附加功能：

    用于轻松测试和微调配置的 Web 客户端
    用于本地运行模型的单二进制跨平台桌面客户端

  15. 动手学大模型应用开发：旨在帮助小白开发者通过实践构建个人知识库助手，学习大模型应用开发的基础入门

    主要内容包括：

    大模型简介，何为大模型、大模型特点是什么、LangChain 是什么，针对小白开发者的简单介绍；
    如何调用大模型 API，本节介绍了国内外知名大模型产品 API 的多种调用方式，包括调用原生 API、封装为 LangChain LLM、封装为 Fastapi 等调用方式，同时将包括百度文心、讯飞星火、智谱AI等多种大模型 API 进行了统一形式封装；
    大模型开发流程及架构，大模型应用开发的基本流程、一般思想和本项目的架构分析；
    数据库搭建，不同类型知识库文档的加载、处理，向量数据库的搭建；
    Prompt 设计，如何设计 Prompt 来让大模型完成特定任务，Prompt Engineering 的原则和技巧有哪些；
    验证迭代，大模型开发如何实现验证迭代，一般的评估方法有什么；
    前后端开发，如何使用 Gradio、FastAPI 等框架快速开发大模型 Demo，展示应用能力。

  17. 为了让 AI 对话更具趣味性，GitHub 上一位开发者开源了「SillyTavern」。

    这是一个可以安装在电脑（和安卓手机）上的用户界面，让你可以与文本生成的人工智能互动，并与社区创建的角色聊天/玩角色扮演游戏。

    项目支持自定义扩展，目前包括以下此类功能：

    - 作者注释/角色偏见；
    - 角色情绪识别；
    - 聊天记录自动摘要；
    - 在聊天窗口发送图片，并由人工智能解释图片内容；
    - 文本图像生成；
    - 聊天信息的文字转语音。

    你可以用它来创建一个可交互的二次元 AI 妹子，并跟她进行实时交流，探索人物与剧情。

    开发者可以通过接入不同大语言模型的 API，在 Windows、macOS、Linux 系统上快速运行该应用。

    目前项目仍在持续迭代，未来将新增更多有趣的功能。

  18. modihand：独立部署，训练属于你的文本大模型

    只需要上传你的 json 数据集，然后在网页点几下，就可以训练属于你的文本大模型

    支持 Lora，Ptuning，Freeze 等多种微调训练方式；支持多个开源大模型作为基底，可以完整下载训练完的模型权重，自己部署，断网离线使用

  19. 12月1日之后，微软将向订阅了Microsoft 365的中国大陆的企业和教育机构免费提供Copilot功能。Copilot AI 模型支持联网获取数据。

    支持的许可证包括：

    Microsoft 365 E3
    Microsoft 365 E5
    Microsoft 365 Business Standard
    Microsoft 365 Business Premium
    Microsoft 365 A3
    Microsoft 365 A5