swiss_army_llama

收录理由

这个项目把本地语义搜索这件事做得相当实用：文档和向量都留在自己的机器上，不必依赖外部服务。它用 FastAPI 把 llama.cpp 支持的嵌入模型封装成 REST 接口，能直接吃进 PDF（包括需要 OCR 的扫描件）、Word 文档，甚至音频文件也能先用 Whisper 转成文字再计算嵌入。算好的向量会存进 SQLite，下次遇到相同内容就直接取用，省去重复计算。检索部分基于 FAISS，当普通的余弦相似度不够精细时，还可以用 Kendall tau、Hoeffding's D 这类统计指标做二次筛选，让结果更有区分度。配套的 Swagger 界面和简单的 Docker 配置，让一个小团队也能快速搭起内部搜索工具，不用费太多集成功夫。代码本身也把文档导入、嵌入池化和向量检索的衔接讲得很清楚，适合当作参考来学习。