whisper.cpp

收录理由

whisper.cpp 用纯 C/C++ 重写了 OpenAI 的 Whisper 语音识别模型，不依赖 Python 运行时，也没有沉重的第三方库，这让它特别适合嵌入到手机 App、桌面软件和边缘设备里，只要一个体积小巧的独立二进制文件就能跑起来。从树莓派到 iPhone，再到 x86 服务器，它都能顺畅运行，既支持纯 CPU 推理，也支持整数量化，还提供了 Metal、CUDA、Vulkan 和 ROCm 等 GPU 后端。项目自带 C 风格 API、内置语音活动检测，并附有现成的示例代码，想做一个离线语音助手的话，拿它当底座非常顺手。