spiceai

收录理由

构建能基于自有数据回答问题的AI功能，往往需要自己动手拼接多种基础设施。Spice把这件事简化了：它是一个用Rust编写的轻量级运行时，以sidecar方式部署在应用旁边，直接对现有业务数据提供SQL查询、全文搜索和LLM推理服务。它不把数据复制到独立存储，而是跨实时数据源做联邦查询，一个便携二进制同时支持加速分析和本地模型推理。对于需要在生产数据上获得低延迟答案的智能体和应用来说，这很合适，也让搭建检索式原型变得轻松许多。