kronk

收录理由

Kronk 是一个用 Go 编写的 SDK 和模型服务器，让你无需搭建 Python 推理栈就能在本地跑开源模型。它把 llama.cpp、whisper.cpp 和 stable-diffusion.cpp 封装成高层 API，覆盖文本、视觉、嵌入、重排序、语音转文字以及实验性的图像生成。服务器提供兼容 OpenAI 的聊天、嵌入、重排序和转录接口，也支持 Anthropic 的 Messages API，现有工具几乎不用改就能指向本地模型。自带的浏览器界面、模型管理，以及对 OpenWebUI、OpenCode 和 Claude Code 的集成，让它更像一个开箱即用的推理中心，而不是一个光秃秃的库。对想用单个二进制文件做本地或边缘部署的 Go 团队来说，自动下载原生库和模型文件这个设计很贴心。