黑洞资源笔记
-
- Neum AI：旨在通过语义向量技术构建一个全管道的数据平台Neum AI，以提高机器阅读理解模型对大规模数据的处理能力，内置多个数据源连接器如网站、数据库等，Embedding服务如OpenAI，以及向量存储如Weaviate。支持实时同步数据源，保证数据时效性。云版本提供完整的大规模分布式计算能力
-
- SafetyBench：开源数据集，通过英文和中文11,435道多项选择题，分为7类涵盖安全隐患，以全面评估语言模型安全性能
-
- 自治数据库的研究与实践 | AIDB
-
- p5.brush.js：p5.brush.js是p5.js生态系统的一个多功能库，专为希望在生成艺术中探索自然纹理的艺术家、设计师和业余爱好者量身定制。该库扩展了 p5.js 的绘图功能，引入了丰富的工具集，允许创建动态和可定制的笔刷、矢量字段和填充模式。
有了 p5.brush.js，你可以轻松配置和管理复杂的绘图系统，通过有机运动为草图注入生命力，并应用复杂的矢量场来控制笔触的流动和形式。该库在设计时考虑到了纹理质量，可能只适用于高分辨率的艺术作品，而不适用于实时交互式作品。
无论你是想模拟自然媒体、创建图案背景还是设计复杂的粒子系统，p5.brush.js 都有能把你的设想变为现实的功能。API 简单明了且模块化，既能提供用于快速设置的高级功能，也能为高级用户提供深入的自定义选项。
使用 p5.brush.js，充分发挥你的创意编码项目的潜力，让每一笔都充满可能性。 - TinyEngine：一个低代码引擎，基于这个引擎可以构建或者开发出不同领域的低代码平台。
特性：
跨端跨框架前端组件
支持在线实时构建、支持二次开发或被集成
直接生成可部署的源码，运行时无需引擎支撑
允许接入第三方组件、允许定制扩展插件
支持高代码与低代码，混合开发部署应用
平台接入 AI 大模型能力，辅助开发者构建应用 - Magnific AI：基于生成式AI的图像超分辨率增强工具，不仅可以实现图片的分辨率提升，更可以依靠自然语言提示和“创意”滑块等控制参数，让AI主动增加和“猜想”更多细节信息。
目前，Pro 计划的费用为 39 美元/月，Premium 计划的费用为 99 美元/月，Business 计划的费用为 299 美元/月。按年订阅时，可免费获得两个月的服务 - Nendo core：为开发人员设计的AI音频工具套件，提供了一个易于使用的、轻量的框架，集成了音频处理和库管理的基本要素，拥有可扩展的插件架构和不断增长的AI音频插件生态系统，涵盖了广泛的用例。
- BrowserGPT：用自然语言控制浏览器，集成了OpenAI的GPT-4和Playwright库，实现了无缝浏览器导航，GPT-4生成代码片段，由Playwright执行以完成指定任务
- Stable Diffusion web UI with DirectML：基于Gradio库的Stable Diffusion的浏览器界面，提供了各种功能，包括文本到图像、图像到图像模式、生成高分辨率图像等
- 开源的基础模型能力评测框架，提供了一套轻量级、易于使用的评测体系，支持主流大模型的性能评估。
其主要特点如下：
轻量易用的评估框架：无缝设计，界面直观，依赖性极小，部署轻松，可扩展性极佳，适应多样化评估场景。
评估方式灵活多样：支持统一提示模板，评估指标丰富，可个性化定制，满足特定需求。
高效、快速的推理部署：支持torch、vLLM等多种模型部署策略，实现多实例部署，实现快速评估流程。
公开透明的开源排行榜：维护开放、可追溯、可复制的评估排行榜，由社区更新驱动，以确保透明度和可信度。
官方权威评测数据：采用广泛认可的官方评测集，确保评测的公平性和标准化，确保结果具有可比性和可重复性。
全面而广泛的模型支持：为广泛的模型提供支持，包括来自 Huggingface 开源存储库的模型和个人训练的模型，确保全面的覆盖范围。
UltraEval | #框架 - Poly：用Rust编写的GPU加速语言模型(LLM)服务器，可高效提供多个本地LLM模型的服务。
主要提供：
为多个本地 LLM 模型提供高性能、高效和可靠的服务
可选择通过 CUDA 或 Metal 进行 GPU 加速
可配置的 LLM 完成任务（提示、召回、停止令牌等）
通过 HTTP SSE 流式传输完成响应，使用 WebSockets 聊天
使用 JSON 模式对完成输出进行有偏差的采样
使用向量数据库（内置文件或 Qdrant 等外部数据库）进行记忆检索
接受 PDF 和 DOCX 文件并自动将其分块存储到内存中
使用静态 API 密钥或 JWT 标记确保 API 安全
简单、单一的二进制+配置文件服务器部署，可水平扩展
附加功能：
用于轻松测试和微调配置的 Web 客户端
用于本地运行模型的单二进制跨平台桌面客户端 - 动手学大模型应用开发：旨在帮助小白开发者通过实践构建个人知识库助手，学习大模型应用开发的基础入门
主要内容包括：
大模型简介，何为大模型、大模型特点是什么、LangChain 是什么，针对小白开发者的简单介绍；
如何调用大模型 API，本节介绍了国内外知名大模型产品 API 的多种调用方式，包括调用原生 API、封装为 LangChain LLM、封装为 Fastapi 等调用方式，同时将包括百度文心、讯飞星火、智谱AI等多种大模型 API 进行了统一形式封装；
大模型开发流程及架构，大模型应用开发的基本流程、一般思想和本项目的架构分析；
数据库搭建，不同类型知识库文档的加载、处理，向量数据库的搭建；
Prompt 设计，如何设计 Prompt 来让大模型完成特定任务，Prompt Engineering 的原则和技巧有哪些；
验证迭代，大模型开发如何实现验证迭代，一般的评估方法有什么；
前后端开发，如何使用 Gradio、FastAPI 等框架快速开发大模型 Demo，展示应用能力。 - 一份 macOS / iOS 远程使用 Windows 操作系统的笔记 | sspai
- 为了让 AI 对话更具趣味性，GitHub 上一位开发者开源了「SillyTavern」。
这是一个可以安装在电脑（和安卓手机）上的用户界面，让你可以与文本生成的人工智能互动，并与社区创建的角色聊天/玩角色扮演游戏。
项目支持自定义扩展，目前包括以下此类功能：
- 作者注释/角色偏见；
- 角色情绪识别；
- 聊天记录自动摘要；
- 在聊天窗口发送图片，并由人工智能解释图片内容；
- 文本图像生成；
- 聊天信息的文字转语音。
你可以用它来创建一个可交互的二次元 AI 妹子，并跟她进行实时交流，探索人物与剧情。
开发者可以通过接入不同大语言模型的 API，在 Windows、macOS、Linux 系统上快速运行该应用。
目前项目仍在持续迭代，未来将新增更多有趣的功能。 -
