openai/circuit_sparsity
Open-source release accompanying Gao et al. 2025
解決的問題
本專案提供工具以檢視和可視化稀疏電路模型，協助研究人員透過識別執行特定任務所需的最小元件（電路）來理解神經網路如何執行特定任務。
工作原理
專案實作了用於推論的輕量級 GPT 架構以及基於 Streamlit 的儀表板。視覺化工具從遠端 blob 儲存載入電路遮罩、激活資料與重要性資料，讓使用者能互動式探索剪枝掃描與節點預算如何影響模型行為。
適用對象
對機制可解釋性以及神經網路中稀疏電路研究感興趣的研究人員與開發者。
主要特色
- 使用 Plotly 渲染圖表的互動式 Streamlit 儀表板，可用於電路探索。
- 適用於 CPU/GPU 推論的輕量級 GPT 實作。
- 可存取一組已發布的模型（包含
csp_yolo和csp_bridge變體）及剪枝掃描資料。 - 內建工具可用於透過鈎子記錄激活資料並管理快取的資料製品。
相關
- 專案
- 專案
- 專案
- 專案