search

收录理由

在 Go 生态里做语义搜索，通常要么外接一个独立的向量数据库，要么拼装各种客户端库，还得担心兼容性。这个库换了个思路，把嵌入生成和向量检索都塞进一个可嵌入的包里。它通过 llama.cpp 加载 GGUF 格式的 BERT 模型，在进程内直接算好向量，然后存进一个简单的索引，落盘后就能用暴力相似度查询。设计上很坦诚，目标就是十万条以内的数据集，靠 SIMD 优化的全量扫描，速度足够快，省去维护专用向量存储的麻烦。另外，它用 purego 而不是 cgo 来调用 llama.cpp，交叉编译和部署 Go 程序都省心不少；Windows 和 Linux 上还提供 Vulkan GPU 加速，需要更快计算时能派上用场。