mlx-dspark

收录理由

mlx-dspark 把 DeepSeek 的 DSpark 和 z-lab 的 DFlash 两种投机解码草稿器移植到了 Apple Silicon 上，底层走 MLX。它最吸引人的地方是“无损”：目标模型会逐个验证生成的 token，所以解码速度能提上去，但输出和普通解码完全一致，一个字节都不差。对于跑 agent 循环或者对外提供响应、容不得质量波动的场景，这个保证本身就值得一试。它面向的是 Gemma-4、Qwen3、Muse-Glimmer、Nemotron 这类消费级尺寸的模型，使用方式也灵活——命令行、Python 脚本，或者起一个兼容 OpenAI 的服务器，接进 LM Studio 或其他本地工具都行。另外它还带基准测试模式，会在你自己的机器上实测，然后据此挑选草稿长度，而不是硬套一个默认值；想针对手头硬件做调优的话，这个功能挺实用。