Skip to main content

黑洞资源笔记

黑洞资源笔记
黑洞资源笔记

  1. 开发AI智能体经常需要搭建复杂环境，管理本地工作树、保持电脑常开、处理超时中断，还要手动协调文件操作、Shell命令和Git流程，开发效率低下且易出错。

    Open Agents 把智能体开发所需的一切整合到云端，提供了完整的后台编码代理平台。

    支持聊天驱动的编码代理、持久化沙箱VM、隔离文件系统和Git集成，还能自动提交PR、多模型路由、语音输入，甚至支持无限期运行的耐久工作流。

  2. 广告内容

    原价$20/月(≈140元)的ChatGPT Plus,现在超值 通道只要7元

    官方直充,自己账号绑定,享GPT-5.4全功能+联 网搜索+AI绘图+更多高级特性像比官网便宜一大截,但100%正版、非共享、非镜

    上千用户已稳稳用着,续费方便

    最后名额!即买即用

    https://shop.86gamestore.com/item/59

  3. 平时聊天记录散落在各种平台，想复刻自己的说话风格需要折腾数据清洗、模型微调、部署聊天机器人，步骤繁琐且技术门槛高。

    WeClone 提供从聊天记录到数字分身的一站式解决方案，让你轻松创建 AI 版的自己。

    支持 Telegram 等平台导出聊天数据（含图片），自动预处理、隐私过滤，用聊天记录微调大模型，捕捉你的独特语气、幽默和表达习惯，然后一键部署到聊天机器人。

    主要功能：

    - 支持 Telegram 聊天记录导出（文本+图片），自动数据清洗和隐私过滤；
    - 用聊天历史微调 LLM（如 Qwen2.5-VL-7B），完美复刻你的说话风格；
    - 一键部署到 Telegram、Discord、Slack 等聊天机器人平台；
    - 本地训练和自托管，数据全程隐私可控，支持 LoRA/QLoRA 高效微调；
    - 浏览器 Demo 测试 + API 服务，支持多 GPU 训练；
    - 自动处理链接、位置、文件等，支持图像模态数据。

    支持 Windows（推荐 WSL）、Linux、macOS，通过 uv/pnpm 快速安装依赖本地运行，适合个人和开发者使用。

  4. Apple Silicon 上跑大语言模型，MLX 框架速度总觉得不够快，speculative decoding 方案又非无损，精度和加速两难。

    dflash-mlx 带来 DFlash 无损推测解码，为 MLX 优化专属解决方案。

    基于 Block Diffusion 论文，一次生成 16 个 token 验证，结合自定义 Metal 内核实现 tape-replay rollback 和长上下文 JIT SDPA，Qwen3.5-9B 最高 4.1x 加速，接受率 89%+。

    主要功能：

    - 无损 DFlash 推测解码，支持 Qwen3.5 系列（4B/9B/27B/35B）；
    - 自动 draft 模型解析，无需手动指定；
    - 高精度 tape-replay rollback，保持长序列一致性；
    - 长上下文优化（N>=1024），自定义 Metal 注意力内核；
    - 流式输出，支持 CLI/Server 和 OpenAI 兼容客户端；
    - 基准测试工具，一键对比 baseline vs DFlash 加速比。

    pip install dflash-mlx 即装即用，完美适配 M 系列芯片，开发者/AI 爱好者必备。

  6. Caveman，一个 Claude Code 技能/插件和 Codex 插件，让Agent说话像原始人人——在保持完全技术准确性的同时，减少约 75% 的 token。

    Caveman 仅影响输出 token——思考/推理 token 不受影响。Caveman 不会让大脑变小。Caveman 只会让嘴巴变小。最大收益是可读性和速度，成本节省只是附加优势。

    2026 年 3 月发表的论文《Brevity Constraints Reverse Performance Hierarchies in Language Models》发现，将大型模型限制为简短回复在某些基准测试上的准确率提高了 26 个百分点，并完全颠倒了性能层级。冗长并不总是更好，有时少说话 = 更正确。| #插件

  8. xicilion 响马大佬的新项目boxsh，一个受限的 POSIX shell，支持并发 JSON 行 RPC 模式，基于 dash 0.5.12 构建。

    boxsh 被设计为可编程执行底层——一个可以通过简单 JSON 协议驱动的后端，适用于 AI 代理、构建系统或编排层，同时内置 Linux 命名空间隔离。其核心使用场景：

    AI 代理命令沙箱——为代理提供一个可以执行任意 shell 命令的工作环境，同时严格控制其可见和可修改的内容：仅挂载所需目录，阻止外发网络，隔离 PID 树。

    零成本目录分叉——将任何目录覆盖为写时复制工作区。代理可以自由读写；会话结束时检查上层差异，决定提交或丢弃——无需 git 索引，适用于任意目录。

    会话检查点与分支——冻结当前会话的上层，在其上叠加新覆盖层，从同一点向两个方向分支，并比较结果。也可以将上层归档以便长期存储。

    并行隔离工作者——在多个工作者间共享一个大型只读基础（如 node_modules 树、Python venv、编译后的 sysroot），每个工作者拥有独立可写上层，并发运行互不干扰。

    部署/迁移演练——在覆盖层上运行 make install、数据库迁移或包升级，精确检查上层文件变化，再决定是否真正应用更改。

  12. 把参数丢进硬盘：Gemma 4 的轻量化魔法 | 帖子

    提要：Gemma 4 E 系列模型通过 Per-Layer Embeddings 技术，将大量静态 Embedding 参数从显存移至磁盘。这种设计在不增加推理计算负担的前提下，极大地扩展了模型的知识容量。

    Gemma 4 的 E2B 和 E4B 模型里，那个“E”指代 Embedding，与 MoE 模型里的 Experts 完全是两码事。这套架构玩了个很聪明的“移花接木”。

    传统的 Transformer 在入口处用一个巨大的查找表。现在的 PLE 技术在每一层都塞进了更小的嵌入矩阵。这些参数虽然撑大了总参数量，却没增加计算成本。Embedding 本质上就是个查表过程，不需要 CUDA 内核去算矩阵乘法。

    既然是查表，那就没必要非得挤在 VRAM 里。Token ID 一定，直接从磁盘或 CPU 内存里把对应的向量捞出来就行。有网友通过 llama.cpp 的参数配置，成功把 Embedding 权重丢到了 CPU，让显存占用瞬间降了下来。

    这就像是给操作系统挂载了一个极其庞大的只读文件系统，虽然体积大，但它不参与指令流水线的实时运算，只有在需要时才触发一次磁盘 IO。

    这种“静态知识”的容量上限在哪？如果把所有智力都塞进查表里，模型会不会变成一个只会背书的死记硬背机器？