openai/circuit_sparsity
Open-source release accompanying Gao et al. 2025
解决的问题
该项目提供工具以检查和可视化稀疏电路模型，帮助研究人员通过识别执行特定任务所需的最小组件（电路）来理解神经网络如何完成特定任务。
工作原理
该项目实现了用于推理的轻量级 GPT 架构以及基于 Streamlit 的仪表板。可视化工具从远程 blob 存储加载电路掩码、激活数据和重要性数据，允许用户交互式探索剪枝扫描和节点预算如何影响模型行为。
适用人群
对机制可解释性以及神经网络中稀疏电路研究感兴趣的科研人员和开发者。
主要亮点
- 使用 Plotly 渲染的图表的交互式 Streamlit 仪表板，用于电路探索。
- 针对 CPU/GPU 推理优化的轻量级 GPT 实现。
- 可访问一系列已发布的模型（包括
csp_yolo和csp_bridge变体）及剪枝扫描数据。 - 内置工具用于通过钩子记录激活数据并管理缓存的数据制品。
相关
- 项目
- 项目
- 项目
- 项目