黑洞资源笔记
16:31 · May 18, 2025 · Sun
Shallow Sim
:一个开源项目,用于模拟 DeepSeek-V3/R1 模型在不同硬件配置下的推理性能,特别关注不同 GPU 架构下的最优模型架构设计及 Scale-Up 和 Scale-Out 场景下的中心总线带宽要求。
支持多种GPU架构,精准分析模型性能;提供详细的性能对比报告,助力高效模型设计;可视化性能数据,直观展示不同配置下的推理效率
Home
Powered by
BroadcastChannel
&
Sepia