黑洞资源笔记
-
- Medis 是薄雾算法 Mist 的工程实践,其名取自 Mist 和 Redis
薄雾算法是一款性能强到令作者惊喜的全局唯一ID算法,作者将它与业内同样高性能的Redis和Golang结合到一起,碰撞出了 TPS 为 2.5w/sec 这样超高性能的工程。
有了 Mist 和 Medis,你就拥有了和美团 Leaf、微信 Seqsvr、百度 UIDGenerator 性能相当(甚至超过)的全局唯一 ID 服务了。相比复杂的 UIDGenerator 双 Buffer 优化和 Leaf-Snowflake,薄雾算法 Mist 简单太多了。
Medis 的高性能从何而来?
作为开发者,你一定想知道 Medis 这 2.5w/sec 的 TPS 到底从何而来。实际上这不仅是薄雾算法本身超高性能带来的结果,作者在设计上也做了很多尝试,例如:
使用 Channel 作为数据缓存,这个操作使得发号服务性能提升了 7 倍;
采用预存预取的策略保证 Channel 在大多数情况下都有值,从而能够迅速响应客户端发来的请求;
用 Gorouting 去执行耗费时间的预存预取操作,不会影响对客户端请求的响应;
采用 Lrange Ltrim 组合从 Redis 中批量取值,这比循环单次读取或者管道批量读取的效率更高;
写入 Redis 时采用管道批量写入,效率比循环单次写入更高;
Seqence 值的计算在预存前进行,这样就不会耽误对客户端请求的响应,虽然薄雾算法的性能是纳秒级别,但并发高的时候也造成一些性能损耗,放在预存时计算显然更香;
得益于 Golang Echo 框架和 Golang 本身的高性能,整套流程下来令人很满意,如果要追求极致性能,可以试试 Rust;
medis -
- 发现之前推送过这个
-
- 一张插画家Rod Hunt画的苹果总部Apple Park的插画
这张画里面有乔布斯、库克、史蒂夫沃兹尼亚克和乔尼艾夫,看看能不能找得着 -
- "最强AI绘图工具”的称号再次易主,这次还是 Google
之前有个直接叫板 Dalle2 的图像生成工具 imagen ,现在又出了一个更强,像素更高,细节更丰富的—— Parti ,最多能支持扩展到200亿个参数
imagen (论文地址) | Parti (论文地址) / GitHub repository | #工具 -
- 用Git/GitHub实现MLOps
本项目展示了如何在 Git/GitHub 中实现 MLOps。为了实现这一目标,该项目大量利用了诸如DVC、DVC Studio、DVCLive等工具——所有由iterative.ai、Google Drive、Jarvislabs.ai和HuggingFace Hub构建的产品。 - Rust写的高效搜索引擎
lnx 的构建是为了不重新发明轮子,它位于tokio-rs工作窃取运行时、超Web 框架与tantivy 搜索引擎的原始计算能力相结合的基础之上。
这使得 lnx 可以一次对数万个文档插入提供毫秒级索引(不再等待被索引的东西!),每个索引事务以及处理搜索的能力,就像它只是对哈希表的另一种查找一样
特征
*lnx 虽然非常新,但由于其所处的生态系统,它提供了广泛的功能。
*复杂查询解析器。
*容错模糊查询。
*容错快速模糊查询。(预先计算的拼写校正)
*More-Like-This 查询。
*按字段排序。
*快速索引。
*快速搜索。
*细粒度性能调整的几个选项。
*多个存储后端可用于测试和开发。
*基于权限的授权访问令牌。
Github | 官网 | #搜索引擎 -
-
-