mlx-vlm

收录理由

在 Apple 芯片上做视觉语言模型相关工作的开发者，通常会被环境配置和模型适配折腾得够呛，这个包则把大部分麻烦都省掉了。它支持推理和微调，覆盖的模型范围很广，比如 LLaVA、PaliGemma、Pixtral、MiniCPM-V、Gemma，还有不少针对 OCR 的变体，使用方式也灵活，既有 Python API，也有命令行工具和 FastAPI 服务。真正让人眼前一亮的是那些实用功能：投机解码、多图对话、KV 缓存优化，以及每个模型单独提供的文档，里面写清了提示词格式和最佳实践，要把一个新模型迁移到 MLX 上时能省下不少时间。如果你想要不依赖云端的私有端侧多模态推理，或者需要在最终确定方案前先对多个模型做基准测试，这个项目提供的底层支撑相当扎实。