vespa

收录理由

Vespa 不只是向量索引，而是一个把搜索和机器学习推理合在一起的在线服务引擎。你可以把向量、张量、纯文本和结构化数据放进同一个数据源，一次查询就能同时做语义检索和关键词过滤。在响应阶段，它会在候选集上运行机器学习排序模型（包括 ONNX 模型），再对结果做分组和聚合，通常能在数据不断变化的情况下于 100 毫秒内返回结果。数据分布到多节点并自动再平衡，所以能支撑大型互联网产品的查询流量。整个系统作为一个应用包部署，更新时不会中断服务。如果你现在正把向量数据库和单独的排序服务拼在一起用，Vespa 已经内置了索引、查询接口和故障切换机制，开箱即用。