deepseek-ocr.rs

收录理由

文档理解模型如DeepSeek-OCR通常依赖Python环境，但这个Rust引擎能直接在本地硬件上原生运行。它把三种OCR/VLM后端（DeepSeek-OCR、PaddleOCR-VL和DotsOCR）统一到一个命令行工具和一个兼容OpenAI的HTTP服务后面，既能在终端里批量处理文档，也能接入已经支持chat-completions接口的现有工具链。模型权重会自动从Hugging Face或ModelScope下载，每个模型还提供DSQ量化版本（Q4_K、Q6_K、Q8_0），内存占用可以压到16GB笔记本或纯CPU节点也能跑的程度。加速方面支持Apple Metal、实验性的CUDA和Intel MKL，README里也如实列出了各后端的内存需求，方便你按硬件条件做选择。如果你想要一个可嵌入的独立OCR服务，而不是部署一套Python环境，这些原生二进制和确定性的资源缓存能省去大量配置上的麻烦。