bolt

收录理由

在数据密集的机器学习工作中，存储和比较大量实数向量是常见瓶颈。Bolt 提供了一种压缩方案，能对大多数元素非零的向量做有损压缩，并直接在压缩表示上执行点积、平方距离和最近邻搜索，同时给出理论误差界，让使用者清楚精度上可能的损失。对于在纯 CPU 环境下做 kNN 或嵌入检索的团队，10 到 200 倍的空间或时间节省往往值得这点精度让步。仓库还附带 MADDNESS，一个面向加速神经网络推理的近似矩阵乘法算法，目前没有 Python 封装，源码中名为 mithral。整体更接近研究代码而非开箱即用的依赖，Bolt 的 Python 封装已出现无法构建的情况，使用前需自行评估。