kennss/SiliconScope

解决的问题

SiliconScope 是一款适用于 Apple Silicon Mac 的系统监控工具，能够显示“活动监视器”等标准工具无法提供的深度硬件指标。它通过提供对神经网络引擎 (ANE)、媒体引擎和内存带宽的实时可见性，专门满足在设备上处理 AI 和媒体工作负载的开发人员的需求——这些是本地 LLM 和 AI 模型的主要瓶颈。

工作原理

该应用程序是一个原生的 SwiftUI 仪表板和菜单栏套件。它结合了公开和私有的 Apple API 来访问硬件数据，而无需 root (sudo) 权限：

• IOReport Framework：用于提取各域的功耗 (CPU、GPU、ANE、DRAM)、集群驻留率和内存带宽。
• SMC & HID：使用精心策划的各代 SMC FourCC 键和 HID 传感器映射表，为 E 核、P 核、GPU 和内存提供准确的各单元温度。
• Process Inspector：利用 proc_pid_rusage 来显示各进程的功耗、IPC，特别是神经网络引擎的内存占用。
• Fleet Management：可在其他 Mac 或 Linux/NVIDIA 机器上安装远程代理，通过 TLS 加密连接将指标（包括远程 Mac 的 ANE）流式传输到中央仪表板。

适用人群

• AI 开发人员：运行本地 LLM 或 CoreML 模型，且需要了解其工作负载是受限于计算、带宽还是受到热节流的人。
• 高级用户：想要一个详细、iStat 风格的菜单栏监控器，以获得深度硬件见解的 Mac 用户。
• Headless Mac/Linux 管理员：管理多台机器，并希望通过单一窗格全面掌握其 GPU 和 AI 加速器使用率的用户。

亮点

• ANE 与媒体引擎追踪：对 Apple 的 AI 和媒体加速器进行实时的功耗和带宽监控。
• Process Inspector：无需 sudo 的各进程指标，包括 P/E 核心分配、IPC 和神经网络引擎内存使用量。
• 录制与回放：类似 DVR 的功能，可将系统指标录制到 .ssrec 文件中，以供后续分析和审查。
• AI 工作负载分类器：自动识别系统是受限于带宽、计算还是受到热节流。
• 集群支持：支持对其他 Mac（包括 ANE）和 Linux/NVIDIA 机器（显示 VRAM 和 Ollama 模型）的远程监控。
• 菜单栏套件：为每个主要系统指标提供高度可自定义的 iStat 风格图标和下拉菜单。