SiliconScope

收录理由

在 Apple Silicon Mac 上跑本地模型的人，会看到比活动监视器更细的指标：神经引擎和媒体引擎的占用率，以及内存带宽与芯片上限的实时对比。按需基准测试会跑一段短生成任务，给出每个模型的每秒 token 数和每瓦 token 数，用来在自家硬件上对比模型，或者验证一次配置调整是否真的有效。工作负载分类器和每核心降频读数，能帮你理解为什么端侧生成比预期慢。4.0 版还能监控其他机器：在一台无头 Mac mini、一台跑着 Ollama 的 Linux GPU 机器或云实例上装个小代理，它们就会出现在同一个加密配对仪表盘里，远程 Mac 还能获得包括神经引擎在内的完整监控。名叫 Replay 的历史回放条让你拖动查看任意指标，看看长时间任务运行期间机器到底在做什么。