构建真正能落地的人工智能系统，远不止训练模型那么简单。哈佛大学开源教材《Machine Learning Systems》由Vijay Janapa Reddi教授主导，全面讲解从数据工程、系统设计到模型部署与运维的实战技巧，覆盖边缘计算到云端部署全流程。

这本教材不仅适合高校课程，也为AI工程师和研究者提供了系统化学习资源，包含详尽的理论、案例和动手实验。支持在线阅读、PDF和ePub下载，开源代码和工具链全部公开，助力全球AI教育普及。| #电子书

编码助手总是忘记上下文，任务杂乱无章？Beads 来帮你解决！

这是一个专为 AI 编码代理打造的轻量级「记忆系统」，用图形化的任务依赖链把工作像串珠子一样串起来，让智能体清晰追踪复杂任务流。

不仅支持多种依赖类型（阻塞、关联、父子、发现来源），还能自动检测「可做任务」，避免浪费时间做重复工作。数据文件纯文本存储于 git，天然支持分布式协作和离线使用，无服务器、无配置，让你和 AI 代理无缝同步项目进度。

只需一条命令安装，接入你的 AI 代理后，自动创建和管理任务，清晰掌控长远计划，告别记忆断层。无论是团队项目还是个人开发，都能提升效率和组织力。

主要亮点：
- AI 优先设计，支持智能代理自动发现、记录和管理任务
- 通过 git 分发的分布式任务数据库，离线也能用
- 支持阻塞、关联、父子、发现来源四种依赖关系
- 自动识别准备就绪任务，助力长任务规划
- JSONL 格式存储，便于审计与合并冲突智能解决
- 支持多项目隔离和扩展 SQLite 数据库

适合开发者、AI 研究者和任何想用智能代理辅助编码的人

Retrieval-Augmented Generation (RAG) Project：这份开源资源帮你从零开始全面掌握RAG（检索增强生成）技术，实用且系统。

主要内容涵盖：
- 查询构建：将自然语言转成结构化查询（SQL、Cypher、向量检索）
- 查询翻译：分解、重构输入，提升检索效果
- 路由选择：动态选库或嵌入上下文，精准定位答案
- 检索优化：多种重排序算法+实时数据接入，确保结果相关性
- 索引管理：多重表征嵌入、分层摘要、结构化搜索提升效率
- 生成环节：自研Self-RAG和RRR，实现推理与检索的迭代闭环

每个笔记本都有详细的实操指导，适合入门到进阶，支持多查询、多模态等高级用法。

如果你从事机器学习、LLM或AI代理，强烈推荐收藏并实践。本资源极大降低了构建复杂RAG应用的门槛，助你快速搭建高效智能系统。

RAG的核心难题不只是架构，更是优质数据的积累与语料空白的补充。未来，递归推理与动态语料更新将成为关键突破点。

Karpathy 最新项目震撼发布！不到 8000 行代码，完整实现了从训练到推理的 LLM 全流程，堪称开源界的宝藏 | nanochat

- 用 Rust 实现了高效的 tokenizer 训练
- 在 FineWeb 语料上预训练 Transformer LLM，并多维度评估核心指标
- 中期训练结合用户-助手对话、选择题、工具调用等多样任务
- 监督微调（SFT）后，模型在多项世界知识（ARC-E/C、MMLU）、数学（GSM8K）、代码（HumanEval）测试中表现优异
- 可选用“GRPO”算法进行强化学习（RL），提升数学题解答能力
- 轻量化推理引擎支持 KV 缓存、简单预填充/解码，集成 Python 沙箱工具，同时提供 CLI 和类 ChatGPT 网页 UI
- 生成统一的 Markdown 报告，方便总结、打分和游戏化体验

模型架构细节同样亮眼：
类似 LLaMA 的稠密 Transformer，采用 rotary 位置编码、QK 归一化、未绑定的嵌入/反嵌入层、ReLU² MLP，无偏置线性层，简洁高效；优化器结合 Muon 与 AdamW，推理中还用了 logit softcap 技巧。

如果你对从零开始训练、调优和部署大语言模型感兴趣，这个项目绝对值得深入研究。

Karpathy 用极简代码展现了训练大模型的全貌，突破了传统复杂框架的壁垒。Rust 的引入体现了追求高性能和安全的趋势，未来 LLM 生态或许会迎来更多类似轻量级、模块化的创新。

此外，项目中对多任务训练和强化学习的结合，展示了 LLM 在实用场景中持续迭代的可能路径。对开发者和研究者来说，这样的开源工具极大降低了门槛，有望催生更多定制化智能应用。

开源大模型学习门槛高？《开源大模型食用指南》帮你一步到位。| #指南

这个项目专为中国宝宝量身打造，基于Linux环境，涵盖从环境配置、本地部署，到全参数和LoRA微调，再到多模态大模型应用的全流程教程。支持ChatGLM、Qwen、InternLM、LLaMA等主流模型，让普通学生和研究者轻松上手开源大模型。

主要特色：

- 详细的Linux环境搭建指导，针对不同模型定制；
- 国内外热门开源LLM的部署与使用教程；
- 命令行调用、在线Demo、LangChain集成全覆盖；
- 支持全量微调与高效LoRA微调，适合进阶学习；
- 丰富案例，助你打造专属私域大模型。

无论你是大模型新手还是想深入微调的开发者，这里都是最实用的指南。

Nanonets-OCR2：颠覆传统OCR，智能将文档转为结构化Markdown

Nanonets推出的OCR2系列，是业内领先的图像转Markdown模型，不仅提取文本，更实现智能内容识别与语义标注，极大提升LLM后续处理效率。

核心亮点：
- LaTeX公式识别：自动区分行内与块状公式，精准转换为LaTeX格式。
- 智能图片描述：为无标题图片生成结构化描述，支持logo、图表、流程图等多种类型。
- 签名与水印提取：准确识别文档中的签名和水印，分别用专属标签隔离，方便法律与商务文件处理。
- 智能表单控件处理：将复选框和单选按钮标准化为Unicode符号（☐、☑️、☒），统一解析。
- 复杂表格与图表提取：支持复杂表格转Markdown和HTML，流程图和组织架构图转Mermaid代码。
- 多语言与手写文档：覆盖英语、中文、法语、西班牙语、日语等多语种，且对手写文档同样友好。
- 视觉问答（VQA）：能直接回答文档内问题，若无答案则回复“不提及”。

实用建议：
- 提升图片分辨率能显著提高准确率。
- 金融等复杂表格文档推荐使用专门优化的“Markdown (Financial Docs)”模式。
- 通过API、transformers库或vLLM均可灵活调用。