一款强大的工具,用于发现和可视化神经网络中的回路(circuits)和归因图。

支持跨层MLP转码器,能够精准定位模型内部的因果关系;提供交互式可视化界面,便于理解和标注特征;支持多种模型,包括Gemma和Llama,适用范围广泛

Circuit Tracer | #工具
 
 
Back to Top